מה זה Fine-Tuning (כיוונון עדין)? מדריך פשוט לבעלי עסקים

כיוונון עדין הוא התהליך שבו לוקחים מודל AI קיים וממשיכים לאמן אותו על דוגמאות משלכם, כך שילמד להתנהג בצורה מסוימת - הטון שלכם, הפורמט, סגנון התשובות - כברירת מחדל. מודל הבסיס כבר מבין שפה ויש לו ידע כללי; הכיוונון מכוונן אותו עם מאות או אלפי זוגות קלט-פלט עד שההתנהגות הרצויה נהיית טבע שני עבורו. אפשר לחשוב על זה כמו שליחת עובד מוכשר לקורס הכשרה ממוקד על הדרך הספציפית שבה העסק שלכם עושה דבר אחד.

כיוונון עדין נשמע כמו הדרך הברורה מאליה "להפוך את ה-AI לשלנו", וזה מה שרוב בעלי העסקים פונים אליו ראשון. ברוב המקרים זה המהלך הראשון הלא נכון. במדריך הזה נגדיר מה כיוונון עדין באמת, נסביר במה הוא שונה משתי החלופות הזולות יותר - פרומפטינג ו-RAG - נפרט מה כל אחת עולה, ונעזור לשפוט את המקרים הנדירים שבהם כיוונון עדין אכן מצדיק את עצמו.

מה זה כיוונון עדין, בשפה פשוטה

מודל שפה גדול כמו זה שמאחורי ChatGPT אומן על כמות עצומה של טקסט כללי. מהקופסה הוא גנרליסט: כותב, מסכם, עונה כמעט בכל נושא - אבל בקול גנרי ובלי שום ידע ספציפי על העסק שלכם. כיוונון עדין לוקח את הגנרליסט הזה וממשיך לאמן אותו על קבוצת דוגמאות אצורה שלכם, ומכוונן את התנהגות ברירת המחדל שלו לכיוון הרצוי.

מילת המפתח היא התנהגות, לא ידע. כיוונון עדין מצוין בללמד מודל סגנון עקבי, טון או פורמט פלט - תמיד תגיב במבנה הזה, תמיד השתמש בקול הזה, תמיד סווג פניות לקטגוריות המדויקות האלה. הוא גרוע בללמד את המודל עובדות חדשות שמשתנות לעתים קרובות, כמו המחירים הנוכחיים שלכם או המלאי של השבוע. הנחה נפוצה היא שכיוונון עדין הוא איך "נותנים ל-AI את הנתונים שלנו" - בדרך כלל זה לא נכון. העבודה הזו שייכת ל-RAG, שמוסבר למטה.

שלוש הדרכים להתאים מודל AI

כדי להבין איפה כיוונון עדין משתלב, צריך לראות אותו לצד שתי החלופות. כמעט כל שאלת התאמת AI מסתכמת בבחירה בין שלוש אלה.

הסדר חשוב - מנסים מלמעלה למטה, לא מלמטה למעלה.

פרומפטינג - נקודת ההתחלה הנכונה, כמעט תמיד

האפשרות הזולה והמהירה ביותר היא פשוט לכתוב הוראות טובות יותר, המיומנות שמכוסה במדריך על הנדסת פרומפטים. רוב ההתנהגויות שרוצים לכוונן עבורן - טון, פורמט, תפקיד - אפשר להשיג עם פרומפט בנוי היטב תוך דקות, בלי שום עלות אימון. ההערכה שלי היא שהרוב הגדול של בקשות "אנחנו צריכים כיוונון עדין" נפתרות כאן בפועל.

RAG - כשה-AI צריך את הידע שלכם

אם הצורך האמיתי הוא שה-AI יענה תוך שימוש במידע הספציפי שלכם - מדיניות, מסמכי מוצר, פניות קודמות - זה לא כיוונון עדין, זה RAG. RAG מחפש את החלקים הרלוונטיים של התוכן שלכם ברגע השאלה ומוסר אותם למודל לענות מהם, בדרך כלל באמצעות מסד נתונים וקטורי. חשוב לציין שאפשר לעדכן את התוכן הזה בכל עת בלי לאמן מחדש. כשצריך ש"ה-AI ידע את הדברים שלנו", RAG הוא כמעט תמיד התשובה הנכונה.

כיוונון עדין - האפשרות המתמחה

כיוונון עדין מצדיק את מקומו כשצריך סגנון או פורמט מאוד עקבי, בנפח גבוה, שפרומפטינג לבדו לא יכול לספק באמינות - וההתנהגות יציבה מספיק כדי ששווה לקבע אותה. הוא היקר ביותר, האיטי ביותר להקמה, והקשה ביותר לשינוי, כי לשנות אותו אומר לאמן מחדש שוב.

מה כיוונון עדין באמת עולה

המחיר של כיוונון עדין הוא לא רק חשבון המחשוב. העלות האמיתית נמצאת בחלקים שאנשים שוכחים.

• הכנת נתונים. צריך קבוצה נקייה ואצורה של דוגמאות באיכות גבוהה - לעתים קרובות מאות עד אלפי זוגות קלט-פלט. בניית וניקוי מערך הנתונים הזה היא בדרך כלל העלות הגדולה ביותר, ונתונים גרועים מייצרים מודל גרוע יותר מאשר בלי כיוונון בכלל.
• אימון ואיטרציה. כיוונון עדין לעתים רחוקות הוא עניין חד-פעמי. מאמנים, בודקים, מוצאים בעיות, מתקנים את הנתונים, ומאמנים שוב - כל מחזור עולה זמן וכסף.
• תחזוקה. מודל מכוונן קפוא ברגע האימון. כשהצרכים משתנים, או כשמשתחרר מודל בסיס טוב יותר, ייתכן שצריך לחזור ולעשות את העבודה מחדש. פרומפט או הגדרת RAG, לעומת זאת, מתעדכנים מיד.

זו הסיבה שברוב המקרים כדאי להתחיל מהאפשרויות הזולות. הן פותרות את הבעיה הרבה יותר פעמים ממה שמצפים, ושומרות על המערכת גמישה במקום לנעול התנהגות לתוך מודל יקר וקפוא.

מתי כיוונון עדין באמת כדאי?

כיוונון עדין משתלם בקבוצה צרה של מקרים. שווה לשקול אותו כשכל אלה נכונים:

1. צריך התנהגות מאוד ספציפית ועקבית - טון מדויק, פורמט פלט מוגדר, או סיווג מתמחה - שפרומפטינג לבדו לא מגיע אליו באמינות אפילו אחרי מאמץ רציני.
2. הנפח גבוה. מריצים את אותה משימה אלפי פעמים, כך שמודל יעיל ועקבי יותר מחזיר את ההשקעה הראשונית.
3. ההתנהגות יציבה. הדבר שמקבעים לא משתנה לעתים קרובות, ולא צריך לאמן מחדש כל הזמן.
4. כבר ניסינו פרומפטינג ו-RAG. הם הגיעו קרוב אבל לא כל הדרך, ויש פער ברור ומדוד שכיוונון עדין הוא הכלי הנכון לסגור.

אם אפילו אחד מאלה חסר, פרומפטינג או RAG הם כמעט בוודאות הבחירה הטובה יותר. הטעות הנפוצה ביותר שרואים היא עסק שמוציא כסף אמיתי על כיוונון עדין כדי לפתור בעיה שפרומפט טוב יותר או הגדרת RAG פשוטה היו פותרים באחר צהריים בשבריר מהעלות.

אם מנסים להחליט בין כיוונון עדין, RAG ופרומפטינג לפרויקט AI, אפשר לקבוע שיחה ולתאר מה מנסים להשיג. אגיד בכנות איזה משלושת אלה באמת מתאים - ומניסיוני זה בדרך כלל לא כיוונון עדין - ובערך מה נדרש. אפשר גם לפנות דרך טופס יצירת הקשר.