پاسخ کوتاه: توهم در هوش مصنوعی به پدیدهای گفته میشود که مدل زبانی اطلاعات نادرست، منابع ساختگی یا جزئیات خیالی را با لحنی کاملاً مطمئن تولید میکند. ریشه مشکل این است که مدل زبانی اساساً «محتملترین ادامه متن» را تولید میکند، نه لزوماً حقیقت را. توهم مهمترین مانع اعتماد به هوش مصنوعی در کاربردهای حساس مانند پزشکی، حقوق و روزنامهنگاری است و تکنیکهایی مانند RAG برای مهار آن به کار میروند.
معادل انگلیسی: AI Hallucination
پرسشهای پرتکرار درباره توهم هوش مصنوعی
چرا مدلهای زبانی توهم میزنند؟
چون هدف آموزش آنها پیشبینی محتملترین کلمه بعدی است، نه بازیابی حقیقت. وقتی مدل پاسخ را نمیداند، بهجای سکوت، متنی روان و باورپذیر اما ساختگی تولید میکند.
چگونه توهم را کاهش دهیم؟
اتصال مدل به منابع معتبر با RAG، درخواست ذکر منبع، پایینآوردن دمای تولید و راستیآزمایی خودکار پاسخها مؤثرترین روشها هستند؛ هیچکدام توهم را صفر نمیکنند.
آیا مدلهای جدیدتر کمتر توهم میزنند؟
بله، روند کلی نزولی است و بنچمارکهایی مخصوص سنجش توهم ساخته شدهاند، اما حتی بهترین مدلهای ۲۰۲۶ نیز در موضوعات کمداده — از جمله محتوای فارسی — همچنان دچار توهم میشوند.
تحلیلهای مرتبط در تکناو
- مسئولیت محصول و چتبات توهمزا: تهدید حقوقی جدید برای تجارت AI
- بنچمارک TekRAG فارسی: کدام مدل هوش مصنوعی کمتر توهم میزند؟ نتایج و رتبهبندی