איך לשמור על AI מדויק: מעקות בטיחות והערכה

לשמור על AI מדויק זה לא למצוא מודל חכם יותר - זה לבנות סביבו מעקות בטיחות ולהעריך אותו כמו שהייתם מעריכים עובד חדש. המהלכים המרכזיים פשוטים: לעגן את התשובות של ה-AI בנתונים האמיתיים שלכם במקום בזיכרון שלו, לשמור אדם בלולאה לכל דבר שחשוב, לבדוק אותו על דוגמאות אמיתיות לפני שבוטחים, ולנטר אותו אחרי ההשקה. תעשו את ארבעת הדברים האלה ותהפכו כלי מרשים-אך-לא-אמין לחלק אמין בעסק שלכם.

הסיבה שזה חשוב היא ש-AI ממציא דברים בביטחון. מודל שפה ייתן לכם תשובה שוטפת וסמכותית גם כשהוא טועה, והביטחון הזה הוא בדיוק מה שמרמה אנשים. אני בונה יכולות AI לעסקים קטנים, וההבדל בין פרויקט שעובד לבין כזה שגורם בעיות בשקט הוא כמעט תמיד מעקות הבטיחות וההערכה סביב המודל, לא המודל עצמו. במדריך הזה אפרוש את כל תוכנית הפעולה במונחים פשוטים.

למה AI טועה: הזיות

הדבר הראשון להבין הוא למה AI לא מדויק, כי הפתרון נובע מהסיבה. מודל שפה גדול לא מחפש דברים - הוא חוזה טקסט סביר על בסיס דפוסים שלמד. רוב הזמן החיזוי הזה נכון ושימושי. אבל כשהוא לא יודע משהו, הוא לא אומר "אני לא יודע"; הוא מייצר תשובה שנשמעת סבירה בכל זאת. זה נקרא הזיה, וזו בעיית הדיוק המרכזית.

האנלוגיה שאני משתמש בה: AI שמהזה הוא כמו עובד חדש בטוח בעצמו שמעדיף לתת לכם תשובה שגויה חלקה מאשר להודות שהוא לא בטוח. הפלט נראה מלוטש בדיוק כמו תשובה נכונה, וזה מה שהופך אותו למסוכן. אי אפשר לדעת מהטון אם הוא צודק. אני מעמיק במצב הכשל הזה ואיך לזהות אותו באיך להימנע מטעויות והזיות של AI; כאן אני מתמקד במערכות ששומרות עליו בשליטה.

עיגון: תנו ל-AI את העובדות האמיתיות שלכם

הטכניקה היחידה היעילה ביותר לדיוק היא עיגון: במקום לבקש מה-AI לענות מזיכרון האימון שלו, אתם מזינים לו את העובדות הרלוונטיות ומבקשים שיענה רק לפיהן. אם לקוח שואל על מדיניות ההחזרות שלכם, אתם לא מקווים שה-AI זוכר - אתם נותנים לו את טקסט המדיניות האמיתי ומבקשים שיענה לפיו.

הדרך הנפוצה לעשות זאת בקנה מידה נקראת RAG (יצירה מועשרת באחזור). זה נשמע טכני, אבל הרעיון פשוט: כששאלה מגיעה, המערכת קודם מאחזרת את המסמכים הרלוונטיים ממאגר הידע שלכם, ואז מוסרת אותם ל-AI שיענה לפיהם. ה-AI הופך לקורא חכם של התוכן המהימן שלכם במקום מנחש שעובד מזיכרון.

עיגון חותך הזיות באופן דרמטי כי ה-AI כבר לא ממציא - הוא מסכם ומסביר עובדות שסיפקתם. הוא גם נותן לכם בונוס ענק: ה-AI יכול לצטט את המקור שלו, כך שאדם יכול לבדוק את התשובה מול המקור. כל AI עסקי רציני שעונה על שאלות עובדתיות צריך להיות מעוגן בנתונים האמיתיים שלכם. אם הוא עונה מזיכרון גולמי, דיוק הוא הטלת מטבע על כל דבר שספציפי לכם.

אדם בלולאה: רשת הביטחון

עיגון מצמצם טעויות אבל לעולם לא מבטל אותן, אז העמוד השני הוא שמירת אדם בלולאה. זה פשוט אומר שאדם בודק או מאשר את הפלט של ה-AI לפני שיש לו השלכות אמיתיות. הטריק הוא ליישם זאת בפרופורציה לסיכון, לא בכל מקום.

העיקרון: הפכו את הניסוח לאוטומטי, השאירו את האדם על ההחלטה. ככל שהאמון נבנה ויש לכם ראיות שה-AI מתפקד היטב במשימה, אפשר להרפות מהפיקוח על החלקים בסיכון נמוך. אבל כל דבר בלתי הפיך או בעל סיכון גבוה שומר אדם בלולאה ללא הגבלת זמן. זו אותה משמעת ששומרת על סוכני AI בטוחים, נושא שאני מכסה במה זה סוכן AI.

הערכה: בדקו לפני שבוטחים

הנה השלב שרוב העסקים מדלגים עליו, והוא זה שמפריד AI אמין מתקווה. לפני שאתם משחררים יכולת AI, אתם מעריכים אותה - בודקים אותה על דוגמאות אמיתיות ומודדים כמה פעמים היא צודקת. זה פשוט בקרת איכות ל-AI, וזה לא אופציונלי.

הגרסה המעשית לעסק קטן לא צריכה כלים מפוארים:

1. בנו מערך בדיקה. אספו עשרים עד חמישים דוגמאות אמיתיות של המשימה - שאלות לקוחות אמיתיות, מסמכים אמיתיים, קלטים אמיתיים - יחד עם התשובה הנכונה לכל אחת.
2. הריצו את ה-AI מולן. העבירו כל דוגמה דרך ה-AI ותעדו מה הוא מייצר.
3. נקדו את התוצאות. סמנו כל אחת כנכונה, שגויה, או גבולית. עכשיו יש לכם מספר דיוק אמיתי במקום תחושה.
4. תקנו ובדקו שוב. התאימו את הפרומפט, את נתוני העיגון, או את מעקות הבטיחות, ואז הריצו את אותו מערך בדיקה שוב וראו אם הניקוד השתפר.

ריצות הבדיקה האלה נקראות לעתים קרובות evals. המטרה היא להפוך את הדיוק למדיד ולחזרתי. כשמישהו שואל "האם ה-AI טוב מספיק?", אתם רוצים לענות "הוא צדק ב-47 מתוך 50 במערך הבדיקה האמיתי שלנו", לא "זה נראה בסדר כשניסיתי". וחשוב מאוד, אתם מריצים מחדש את ה-evals בכל פעם שאתם משנים את הפרומפט או מחליפים מודל, כי שינוי שעוזר למקרה אחד יכול לשבור בשקט מקרה אחר.

ניטור: דיוק הוא לא דבר חד-פעמי

לעבור את ה-evals בהשקה הוא לא קו הסיום. קלטים אמיתיים נודדים עם הזמן, מודלים מתעדכנים, ומקרי קצה שמעולם לא בדקתם יגיעו. אז העמוד הרביעי הוא ניטור ה-AI ב-production.

• תעדו הכל. שמרו רישום של מה ה-AI נשאל ומה הוא ענה, כדי שתוכלו לבדוק איכות ולחקור תלונות.
• שימו לב לאותות כשל. עקבו אחר מתי משתמשים מתקנים את ה-AI, מסלימים לאדם, או נוטשים שיחה. אלה האזהרות המוקדמות שלכם.
• דגמו ובדקו. קראו מדי פעם אצווה אקראית של אינטראקציות אמיתיות כדי לתפוס נדידה איטית שאחרת הייתם מפספסים.
• החזיקו מתג כיבוי. תוכלו לכבות יכולת AI או ליפול חזרה לאדם במהירות אם הדיוק יורד. אף פעם אל תשיקו משהו שאתם לא יכולים למשוך חזרה.

ניטור הוא מה שתופס את הבעיה לפני שהלקוחות שלכם תופסים. AI שהיה מדויק בהשקה יכול להידרדר בשקט, ובלי ניטור אתם מגלים את זה רק מלקוח מתוסכל או טעות יקרה.

תוכנית הדיוק במבט מהיר

יחד, ארבעת העמודים האלה הם כל המשמעת של שמירה על AI אמין. אף אחד מהם אינו אופציונלי לכל דבר שחשוב.

1. עגנו אותו - הזינו ל-AI את העובדות האמיתיות שלכם ובקשו שיצטט מקורות, במקום לענות מזיכרון.
2. שמרו אדם בלולאה - בפרופורציה לסיכון, עם אישור נדרש לכל דבר בלתי הפיך.
3. העריכו לפני שבוטחים - בדקו על דוגמאות אמיתיות, נקדו את התוצאות, ובדקו שוב אחרי כל שינוי.
4. נטרו אחרי ההשקה - תעדו, שימו לב לאותות כשל, דגמו אינטראקציות, והחזיקו מתג כיבוי.

המסגור הכן: דיוק AI הוא בעיית הנדסה ותהליך, לא תכונת קסם של המודל. העסקים שנכווים מתייחסים למודל כאילו הוא תמיד צודק. אלה שמצליחים בונים את מעקות הבטיחות האלה סביבו ומתייחסים לדיוק כמשהו שמודדים ומתחזקים, בדיוק כמו כל חלק אחר בבקרת איכות. זה מתחבר היטב גם לאבטחת AI - הרבה מעקות בטיחות ששומרים על AI מדויק גם שומרים עליו בטוח, כפי שאני מכסה בprompt injection ואבטחת AI.

אם אתם רוצים יכולת AI שמספיק מדויקת כדי לבטוח בה בעבודה אמיתית, קבעו שיחה וספרו לי את המשימה. אעזור לכם לעגן אותה, לקבוע את רמת הפיקוח האנושי הנכונה, ולהכניס הערכה למקום כדי שתדעו שהיא עובדת לפני שתסתמכו עליה. אפשר גם להגיע אליי דרך טופס יצירת הקשר, או לקרוא עוד על בחירת כלים בחוכמה בכלי AI שכל עסק קטן צריך להכיר.