Context Window הוא כמות הטקסט (במונחי tokens) ש-LLM יכול לקרוא ולזכור בשיחה אחת. Claude Sonnet 4: 200K tokens. Gemini 2.5: 2M tokens. GPT-4.1: 1M tokens. ככל שה-context גדול יותר, ה-LLM יכול לעבד מסמכים ארוכים יותר, codebases שלמים, או שיחות מתמשכות בלי לאבד מידע.
כמות המידע (בטוקנים) שמודל AI 'זוכר' ורואה בכל רגע נתון. חלון הקשר גדול יותר מאפשר למודל לקרוא ספרים שלמים, קוד ארוך, או היסטוריית צ'אט מלאה ולענות במדויק.
המודל לא רואה את מה שנחתך, בדרך כלל מתחילת השיחה. זה נראה כמו שכחה פתאומית של הוראות שניתנו קודם, וזו הסיבה השכיחה לתשובות שסותרות הנחיה מוקדמת.
לא. חלון גדול עולה יותר ולעיתים מדלל את תשומת הלב על פני יותר טקסט. לרוב עדיף להעביר פחות מידע ורלוונטי יותר מאשר להעמיס הכול.
מפצלים ומאחזרים רק את הקטעים הרלוונטיים לשאלה במקום להזין את המסמך כולו. זה גם זול יותר וגם מדויק יותר.
קטגוריה: AI & Automation