Hallucination ב-LLMs היא כשהמודל ממציא מידע שלא קיים - URL לא קיים, ספר שלא נכתב, פונקציה ב-API שלא קיימת. הסיבה: LLM חוזה את המילה הבאה הסטטיסטית, לא חוקר עובדות. דרכים לצמצם: RAG (חיפוש במקור אמין), prompt engineering (drop hallucination explicit), validation אוטומטי, ו-citations.
מצב שבו מודל AI מייצר מידע שגוי בביטחון מלא. זה קורה כי המודל הוא סטטיסטי ולא עובדתי. הפתרון לרוב הוא שימוש ב-RAG.