پاسخ کوتاه: تزریق پرامپت حملهای است که تلاش میکند دستورهای پنهان یا مخرب را وارد ورودی مدل کند و رفتار سیستم را تغییر دهد.
معادل انگلیسی: Prompt Injection
پرسشهای پرتکرار درباره تزریق پرامپت
تزریق پرامپت فقط در چتباتها رخ میدهد؟
خیر. هر سامانهای که خروجی مدل را به ابزار، داده یا اقدام متصل کند در معرض این ریسک است.
چطور کنترل میشود؟
با جداسازی داده از دستور، محدودکردن ابزارها، ثبت لاگ، ارزیابی و بازبینی انسانی.
تحلیلهای مرتبط در تکناو
- دفاع در برابر اکسپلویتهای چت ورودی: کاهش تزریق پرامپت در مهارتهای OpenClaw
- امنیت مدلهای زبانی: دفاع در برابر تزریق پرامپت غیرمستقیم