בן רוטנברג, יועץ Gen AI שעבד עם יותר מ-80 ארגונים בתהליכי הטמעה, שיתף תצפית שמשלבת הומור עם לקח רציני. פלטפורמת Opal של גוגל, כלי AI פנימי של החברה, הפסיקה לעבוד כי לא עודכנה ממודל שגוגל עצמה הפסיקה לתמוך בו. ההודעה שקיבלה גוגל מגוגל: "Please update your code to use a newer model."
מה בדיוק קרה עם Opal?
Opal היא פלטפורמת AI פנימית של גוגל לבניית אפליקציות ושיפור זרימות עבודה. כמו כל מערכת שנבנית על מודל שפה, גם Opal תלויה בגרסה מסוימת של מודל כדי לפעול. כשגוגל הפסיקה לתמוך במודל שעליו רצה Opal, הפלטפורמה פשוט קרסה, ושלחה לצוות הרלוונטי את ההודעה הסטנדרטית שגוגל שולחת לכל מפתח שמשתמש במודל ישן.
הפרדוקס ברור: החברה שמייצרת את המודלים שכחה לעדכן את אחד מהכלים שלה עצמה. זוהי לא ביקורת על גוגל, אלא תמונה של מציאות שכולם חשופים אליה.
למה זה קורה גם לארגונים מתקדמים?
בארגונים רבים, הרגע שבו מפרסים AI agent נתפס כסיום הפרויקט. הצוות השיק, הסוכן עובד, הכול בסדר. אבל AI agents אינם כלי סטטי שמותקן פעם אחת ונשכח. הם תלויים בשרשרת שלמה של תלויות, כולל גרסאות מודל, API endpoints, הרשאות ופרמטרים שמשתנים עם הזמן.
כשאחד מהרכיבים הזה משתנה, הסוכן עלול להפסיק לעבוד בלי התראה מוקדמת. ארגונים שלא בנו תהליך תחזוקה שוטפת מגלים זאת בדרך הקשה.
מה ניתן לעשות בפועל?
הגישה הנכונה היא לבנות תשתית ניהול מחזור חיים לצד פריסת ה-agents עצמם. זה כולל תיעוד מלא של כל הסוכנים הפעילים עם גרסאות המודל שהם מריצים, מעקב אחרי הודעות deprecation מהספקים, ובדיקות תקופתיות שמוודאות שהסוכן עדיין עובד כמצופה.
ארגונים שעובדים עם מספר AI agents בו זמנית נדרשים לחשוב על ניהול זה כעל תחום עצמאי, ולא כמשימה שמוסיפים בשוליים.
מה הלקח הרחב יותר?
הסיפור של Opal מלמד שה"מלכודת" שרוטנברג מתאר אינה נחלתם של ארגונים חסרי ניסיון. היא אוניברסלית. כל מי שבנה AI agent יודע שהוא עלול להפסיק לעבוד ממגוון סיבות שאין שליטה עליהן.
ארגונים שמבינים שהטמעת AI היא תהליך מתמשך ולא מיזם חד-פעמי נמצאים בעמדה טובה יותר לנהל את הסיכונים האלה. ורוטנברג, שמלווה ארגונים תעשייתיים ומסורתיים בהטמעה, מכיר היטב את עלות הפספוס.