RAG (Retrieval-Augmented Generation) היא טכניקה שבה LLM שולף מידע ממסד נתונים חיצוני לפני שהוא יוצר תשובה. השלבים: (1) המשתמש שואל, (2) המערכת מחפשת מסמכים רלוונטיים, (3) ה-LLM יוצר תשובה על בסיס המסמכים. RAG פותר 2 בעיות של LLM: הזיות וידע מיושן.
טכניקה המאפשרת ל-AI לענות על שאלות בהתבסס על המידע הספציפי של העסק שלכם, ולא רק על מה שלמד באימון הכללי. זהו הפתרון ל'הזיות' (Hallucinations) של מודלים.