איך להימנע משגיאות והזיות של AI בעסק

בפעם הראשונה שכלי AI נתן לי בביטחון עובדה שהתבררה כמומצאת לחלוטין, כמעט לא תפסתי את זה. היא לא הייתה מסויגת, לא סומנה כניחוש - היא פשוט ישבה שם בפרוזה נקייה ומקצועית, נשמעת בדיוק באותה ודאות כמו הדברים סביבה שהיו נכונים. זה העניין עם שגיאות AI: הן לא נראות כמו שגיאות. במדריך הזה אסביר במונחים פשוטים למה AI ממציא דברים, איך לתפוס אותו לפני שזה עולה ביוקר, הרגלי ה-prompt שמפחיתים טעויות, והמקומות בעסק שבהם אסור לסמוך עליו בעיניים עצומות. בלי ז'רגון, רק הגרסה המעשית.

מה זה באמת הזיות AI

הזיית AI היא כשכלי כמו ChatGPT או Claude מצהיר משהו שקרי כאילו היה נכון. לא שגיאת הקלדה, לא אי-הבנה של השאלה, אלא תשובה בטוחה, שוטפת ושגויה. הוא עלול להמציא סטטיסטיקה, לצטט מחקר שלא קיים, להמציא פיצ'ר שאין בתוכנה, או לציין מחיר שלא נקבע מעולם. המילה "הזיה" קצת דרמטית, אבל ההתנהגות אמיתית והיא הסיכון הגדול ביותר בשימוש ב-AI לעסקים.

הנה למה זה קורה, בלי הבלגן הטכני. הכלים האלה לא בודקים דברים כמו שרגילים לדמיין. בליבה שלהם הם חוזים את המילים הבאות הסבירות ביותר על סמך דפוסים בכל מה שאומנו עליו. רוב הזמן, התשובה הסבירה ביותר היא גם הנכונה, ולכן הם כל כך שימושיים. אבל כשהם לא באמת יודעים משהו, הם לא עוצרים ואומרים זאת. הם מייצרים את התשובה שנשמעת הכי סבירה בכל זאת, כי לייצר טקסט שוטף זה מה שהם עושים. התוצאה היא משפט שנקרא בצורה מושלמת ובמקרה שקרי. ה-AI לא משקר, אין לו מושג של שקר. הוא ממלא פער במשהו שמתאים לצורה של תשובה.

החלק המסוכן הוא הביטחון. מומחה אנושי שאינו בטוח בדרך כלל נשמע לא בטוח. AI לא. הוא מספק ניחוש באותו טון יציב וסמכותי כמו עובדה, וזו בדיוק הסיבה שכל כך הרבה אנשים נכווים.

למה זה חשוב יותר לעסק

בשימוש יומיומי, המלצה שגויה על סרט לא מזיקה. בעסק, שגיאת AI יכולה להיות מחיר שגוי שצוטט ללקוח, סעיף משפטי מומצא בחוזה, סטטיסטיקה בדויה בהצעה, או תשובה שגויה בביטחון שהצ'אטבוט נותן ללקוח בחצות. העלות אינה הטעות של ה-AI, היא מה שעושים איתה לפני שמישהו בודק. כל המיומנות היא לבנות הרגל של תפיסת אלה לפני שהם יוצאים החוצה.

איך לתפוס שגיאות AI לפני שהן עולות ביוקר

לא צריך להיות טכני כדי לתפוס הזיות. צריך כמה הרגלים פשוטים.

• מאמתים כל דבר ספציפי ובדיק. מספרים, שמות, תאריכים, סטטיסטיקות, ציטוטים, מקורות, מחירים, טענות משפטיות או רפואיות. אם זו עובדה קשיחה, כדאי לאשר אותה ממקור אמיתי לפני שמשתמשים בה. התשובות השוטפות ביותר הן המסוכנות ביותר.
• כדאי להיות חשדניים כלפי ביטחון מושלם בנושאי נישה. ככל שהנושא אפל יותר או עדכני יותר, כך סביר יותר שהתשובה מומצאת. AI חזק בדברים נפוצים ומתועדים היטב, וחלש בספציפי ובחדש.
• מבקשים שיציג את המקורות שלו - ואז בודקים אותם בפועל. AI יכול להמציא ציטוטים וקישורים שנראים אמיתיים. כל מקור שהוא מציין הוא קצה חוט לאימות, לא הוכחה.
• מצליבים בין כלים. שואלים את אותה שאלה עובדתית בשני כלי AI שונים. אם הם חלוקים, לפחות אחד טועה - וזה הסימן לחפור.
• סומכים עליו יותר לצורה, פחות לעובדות. AI מצוין במבנה, ניסוח, סיכום ושכתוב של דברים שכבר ידועים. הוא הכי פחות אמין כשמסתמכים עליו לספק עובדות שאי אפשר לבדוק בעצמאות.

הרגלי prompt שמפחיתים טעויות

הרבה הזיות מוזמנות על ידי prompts עצלים. האופן שבו שואלים משנה כמה סביר לקבל תשובה מומצאת. ההרגלים האלה באמת חותכים את שיעור הטעויות.

• נותנים לו את העובדות במקום לבקש אותן. כשמדביקים את המחירון האמיתי ומבקשים שיכתוב את ההצעה, אין לו מה להמציא. כשמבקשים שינחש מה כנראה המחירים, הוא ינחש. כדאי לספק את חומר המקור בכל פעם שאפשר.
• נותנים לו אישור מפורש לומר ״אני לא יודע״. ברירת המחדל של מודלים היא לייצר תשובה. אפשר לבקש מהם לא לעשות כך.
• מבקשים שיפריד עובדות מהנחות. זה חושף בדיוק איפה הוא על קרקע מוצקה ואיפה הוא מנחש.
• מבקשים את ההיגיון, לא רק את התשובה. כשאפשר לראות איך הגיע לשם, צעד מומצא הופך לגלוי.

הנה הוראה בודדת שאפשר להוסיף כמעט לכל prompt עובדתי ושמפחיתה הזיות באופן משמעותי:

ענה תוך שימוש רק במה שאתה בטוח בו. אם אינך בטוח בעובדה, מספר או מקור, אמור "אני לא בטוח" במקום לנחש. בסוף, רשום כל דבר בתשובה שכדאי לאמת באופן עצמאי לפני הסתמכות עליו.

המשפט האחרון הוא הגיבור השקט. כשמבקשים מה-AI למסור רשימת אימות של הטענות הכי רעועות שלו, הוא הופך מיודע-כל בטוח לעוזר ישר יותר. זה אותו עיקרון שמאחורי כתיבת הוראות טובות בכלל, שאותו אני מכסה לעומק באיך לכתוב prompts טובים ל-AI לעסק.

דוגמה מעובדת

נניח שהשאלה היא: "מהן דרישות שמירת הנתונים לעסקים קטנים במדינה שלי?" prompt חשוף עלול להחזיר פסקה נקייה שנשמעת רשמית עם משכים ספציפיים ומספרי סעיפים, חלקם עלולים להיות מומצאים או מיושנים. כדאי לשאול אותו בדרך הטובה יותר: מדביקים כל טקסט רגולציה שיש, מוסיפים את ההוראה למעלה, ומבקשים שיסמן מה לאמת. במקום ודאות שקרית, מקבלים משהו כמו: "על סמך הטקסט שסיפקת, השמירה היא X. אני לא בטוח לגבי מספרי הקנסות או אם זו הגרסה האחרונה; כדאי לאמת אלה מול המקור הרשמי." אותו כלי, פלט בטוח בהרבה, כי השאלה השתנתה.

איפה לסמוך על AI, ואיפה לעולם לא

הדרך החכמה ביותר להשתמש ב-AI היא לדעת לאילו עבודות הוא אמין ולאילו לא. הטבלה הזו היא המודל המנטלי שאני משתמש בו.

הדפוס פשוט. AI אמין מאוד לעבודה עם מידע שמוזן לו, או לשיקול דעת שמיושם בעצמאות - ולא אמין כמקור לעובדות שאי אפשר לבדוק. כשמשתמשים בו בצד הנכון של הקו הזה, הוא כמעט אף פעם לא כווה.

בונים הרגל אימות פשוט

לא צריך מסמך מדיניות. צריך רפלקס אחד: לפני שזה יוצא, מה כאן עובדה בדיקה - ואם כן, האם אומתה? כדאי להריץ את השאלה הזו על כל פלט AI שנוגע בלקוח, חוזה, מחיר או טענה ציבורית. לקטגוריות ברמת סיכון גבוהה בטבלה, מוסיפים אישור אנושי שאינו ה-AI. ההרגל הבודד הזה הוא ההבדל בין AI שהוא מכפיל כוח לבין AI שהוא נטל.

זה גם עוזר לזכור למה הכלי מיועד. AI מצדיק את עצמו בנפח ובניסוח - העבודה החוזרת שבה מי שמשתמש בו נשאר השופט. הצד של הפרטיות חשוב גם כן, כי הדרך הבטוחה ביותר להימנע מטעויות מסוימות היא לא להזין נתונים רגישים לכלי מלכתחילה, שאותו אני מכסה בהאם בטוח להעלות מידע עסקי ל-ChatGPT. ואם מחליטים אילו משימות למסור ל-AI בכלל, כלי ה-AI שכל עסק קטן צריך הם מפת התחלה הגיונית.

השורה התחתונה הכנה

הזיות AI אינן תקלה שאפשר לנסח החוצה לחלוטין. הן תכונה קבועה של איך הכלים האלה עובדים, והמטרה אינה לבטל אותן אלא לנהל אותן. כדאי להתייחס ל-AI כעוזר זוטר מהיר ובלתי נלאה שמבריק בניסוח ונורא בלהודות כשהוא לא יודע משהו. לעולם לא היינו נותנים לאדם כזה לשלוח הצעה או לחתום על חוזה בלי לבדוק את העבודה שלו, ואותו הדבר נכון ל-AI. מאמתים את העובדות, שומרים אדם על ההחלטות ברמת סיכון גבוהה, ומקבלים כמעט את כל המהירות עם כמעט אפס מהסיכון.

אם משתמשים ב-AI לרוחב העסק ורוצים שהגבולות הבטוחים יהיו בנויים פנימה ולא מושארים לזיכרון, עם אימות ואישור אנושי במקומות הנכונים, זה סוג המערכת שאני עוזר לבנות. קובעים שיחה ומספרים לי איפה מסתמכים על AI היום, או יוצרים קשר דרך טופס יצירת הקשר. ואם עדיף להתחיל במיפוי אילו עבודות חוזרות בטוח להפוך לאוטומטיות קודם, כדאי לקרוא אוטומציה עסקית לעסק קטן.