توهم مدل چیست؟ تعریف و کاربرد

مدل زبانی برای ساخت متن محتمل آموزش دیده است، نه تضمین حقیقت. وقتی اطلاعات کافی ندارد ممکن است نام، عدد، منبع یا توضیحی بسازد که واقعی به نظر می‌رسد.

استفاده از منبع معتبر، RAG، درخواست ارجاع دقیق، محدودکردن دامنه پاسخ و بازبینی انسانی می‌تواند ریسک را کم کند، اما آن را کاملاً حذف نمی‌کند.

در پزشکی، حقوق، مالی و امنیت، خروجی مدل نباید بدون بررسی متخصص مبنای تصمیم نهایی قرار گیرد.