مدل زبانی جمله‌های محتمل می‌سازد، نه لزوماً درست. وقتی داده کافی ندارد، ممکن است منبع، عدد یا رویدادی را «بسازد». به این پدیده توهم می‌گویند.
راه‌های کاهش آن: استفاده از ابزارهایی که منبع می‌دهند (مثل Perplexity یا حالت جست‌وجوی ChatGPT)، دادن سند مرجع به مدل، و درخواست صریح «اگر مطمئن نیستی بگو».