ניהול ידע בארגון עם סוכני AI: מי מוחק עובדה שהתיישנה

שיחת ייעוץ בוואטסאפ

התשובה הקצרה

עובדה שהתיישנה במאגר הידע של החברה נמחקת רק כשיש לה בעלים בשם ותאריך בדיקה. ההמלצה שלנו לניהול ידע בארגון שעובד עם סוכני AI: לכל עובדה רגישה יש אדם שאחראי עליה, מקור שאפשר לבדוק מולו ותאריך שבו היא נבדקת שוב. הסוכן יכול לסמן עובדה חשודה, ואדם מחליט אם היא יוצאת.


למה עובדה ישנה מסוכנת יותר כשסוכן קורא אותה

עובד ותיק שנתקל במחיר ישן במסמך יודע לפעמים שהוא השתנה. סוכן AI לא יודע. הוא מצטט את מה שמצא, באותו ביטחון שבו הוא מצטט עובדה נכונה.

OWASP, שמפרסם את רשימת הסיכונים המוכרת ליישומי מודלי שפה, מגדיר Misinformation כמידע שגוי או מטעה שנראה אמין. בין הדרכים להתמודד עם זה הוא ממליץ לשלוף מידע ממקורות מאומתים (RAG), ולהוסיף פיקוח ובדיקה של אדם, במיוחד במידע קריטי או רגיש.

הקריאה שלנו: שליפה מהמקור של החברה פותרת חלק מהבעיה, כי הסוכן עונה מהעובדות שלכם ולא ממה שהמודל זוכר. אבל היא גם מעבירה את האחריות אליכם. אם המקור ישן, התשובה ישנה, והיא נשמעת בדיוק כמו תשובה נכונה.


שלוש דרכים שבהן עובדה מתיישנת

מה קרה דוגמה למה קשה לתפוס
העובדה השתנתה מחיר או תנאי תשלום עודכנו העדכון נכנס למקום אחד ולא לשאר
העובדה הוחלפה נוהל חדש נכתב לצד הישן שתי הגרסאות נשארות, והסוכן מוצא את זו שהגיע אליה קודם
העובדה נעלמה שירות ירד, איש קשר עזב אף אחד לא כותב משהו חדש, ולכן שום דבר לא מזכיר לבדוק

השורה השלישית היא הקשה ביותר. מידע חדש נכנס כי מישהו צריך אותו. מידע שכבר לא נכון נשאר, כי אף אחד לא נדרש להוציא אותו. זו גם הסיבה שבמדריך להפעלת חברה על סוכני AI הבעלים של כל תחום עובדות אחראי גם על המחיקה, ולא רק על ההוספה.


כרטיס לכל עובדה רגישה

לא כל משפט במאגר צריך כרטיס. עובדה רגישה היא כזו שטעות בה מגיעה ללקוח, לכסף או להתחייבות: מחיר, תנאי, זמן אספקה, מה מותר להבטיח, מי אחראי על מה. לכל אחת מהן אנחנו ממליצים על השדות האלה:

שדה מה כותבים למה זה חשוב
הערך העובדה עצמה, בניסוח אחד ניסוח אחד מונע גרסאות סותרות
הבעלים אדם בשם, לא מחלקה מחלקה לא מוחקת עובדות, אנשים מוחקים
המקור איפה בודקים שהיא עדיין נכונה: מחירון, חוזה, דף באתר, החלטה בלי מקור אין מול מה לבדוק
נבדק לאחרונה תאריך עובדה בלי תאריך נראית עדכנית תמיד
מחליפה את איזו עובדה ישנה היא החליפה, אם בכלל כך הישנה יוצאת באותו רגע שהחדשה נכנסת

לוח בדיקה לפי סוג עובדה

זו נקודת הפתיחה שאנחנו ממליצים עליה. כל חברה מתאימה את הקצב לקצב שבו הדברים אצלה באמת משתנים.

סוג העובדה מתי בודקים מי הבעלים
מחירים ותנאים בכל שינוי שאושר, ובנוסף בדיקה חודשית מול המקור מי שמאשר מחירים
נהלים פנימיים כשהנוהל מתעדכן, ובדיקה רבעונית בעל הנוהל
מוצרים ושירותים כשמשהו נוסף או יורד בעל המוצר
אנשים ותפקידים כשמישהו מחליף תפקיד או עוזב משאבי אנוש או המנהל הישיר
עובדות מבחוץ (חוק, תנאי ספק) לפי תאריך הבדיקה שבכרטיס, ומול המקור הרשמי מי שאחראי על התחום בחברה

הבדיקה הכי חשובה היא זו שקשורה לאירוע ולא ללוח השנה. כשמחיר מאושר, אותו אישור מעדכן גם את המאגר. כשעובד עוזב, הסרת ההרשאות שלו כוללת גם את העובדות שבהן הוא מופיע כבעלים.


מי מוחק: הסוכן מסמן, אדם מחליט

אפשר לתת לסוכן לנקות את המאגר בעצמו, ואנחנו ממליצים שלא. סוכן שמוחק לבד יכול למחוק עובדה נכונה שנראתה לו סותרת, או להשאיר את הגרסה הלא נכונה מבין שתיים. טעות כזו נכנסת למקור שכל שאר הסוכנים עובדים ממנו.

החלוקה שעובדת:

זה אותו עיקרון שכתבנו עליו במפת ההרשאות לסוכני AI: כתיבה למאגר העובדות היא הרשאה של הבעלים, לא של הסוכן.


מוחקים או מעבירים לארכיון

עובדה שיצאה מתוקף לא צריכה להיעלם לגמרי. אנחנו ממליצים להעביר אותה לארכיון עם תאריך סיום: הסוכנים לא קוראים ממנו, אבל אפשר לבדוק בדיעבד מה נאמר ללקוח בתקופה מסוימת, למשל כשלקוח שואל למה קיבל מחיר אחר בחודש שעבר.

המאגר הפעיל מחזיק רק את מה שנכון היום. הארכיון מחזיק את ההיסטוריה. כשהשניים מעורבבים, הסוכן ימצא בסוף את הגרסה הישנה.


איך יודעים שהבעיה כבר קיימת אצלכם


מאיפה מתחילים

  1. בוחרים את העובדות הרגישות. מחירים, תנאים, התחייבויות ללקוח ואנשי קשר, לפני כל השאר.
  2. פותחים כרטיס לכל אחת. ערך, בעלים, מקור, תאריך בדיקה ומה היא מחליפה.
  3. מחברים את העדכון לאירועים. אישור מחיר, נוהל חדש ועזיבת עובד מעדכנים את המאגר באותו צעד.
  4. נותנים לסוכן לסמן ולא למחוק. והבעלים עוברים על הסימונים בקצב קבוע.

ההחלטות האלה, מי הבעלים, מה נחשב רגיש ומה מחכה לאישור, הן חלק מליווי הטמעת AI ואוטומציה לארגונים שאנחנו נותנים לחברות בישראל. אם אתם רוצים לראות איפה החברה עומדת היום, בדיקת המוכנות ל-AI היא נקודת התחלה טובה. את הבנייה עצמה עושות Elya Studio או VibeScale.

לשיחה עם הצוות בוואטסאפ