ד"ר אלישע רוזנצוויג, חוקר ב-Dicta ואחד הקולות הביקורתיים בשיח הישראלי על AI, מציג תמונת מצב שאולי לא שמעתם בכותרות: הטוקנים של ה-LLM הולכים להתייקר, והסיבות עמוקות יותר ממה שנדמה. בניתוח שפרסם לאחרונה, הוא מציע גם זווית אופטימית ושוברת קונצנזוס על מה שהשינוי הזה יאפשר בשוק העבודה.

למה מחירי הטוקנים הולכים לעלות?

הביקוש לשימוש במודלי שפה גדולים גדל מהר בהרבה מהיכולת של החברות לספק אותו. רוזנצוויג מסביר שחברות כמו Anthropic ו-OpenAI נשענו עד היום על כספי משקיעים, ותמחרו שירותים מתחת לעלות כדי לבנות שוק. עכשיו, עם ההכנות להנפקה, שלב ההסבסדה מתקרב לסיומו.

סימנים ראשונים כבר גלויים לעין: אנתרופיק החלה לחסום כלים מצד שלישי מגישה לשירותיה בקנה מידה רחב, ואותות על שינויי תמחור נשלחים לשוק. הסיבות לכך מצטברות: האטה בבניית datacenters חדשים, מחסור עולמי בצ'יפים, ועליית מחירי RAM.

הכלכלה הנסתרת של תמחור AI

כמו סטרטאפים רבים בשלב צמיחה, חברות ה-AI בחרו ביודעין לתמחר מוצרים בזול כדי לייצר ביקוש. רוזנצוויג מדגיש שמי שנשא בעלות הזו היה הון הסיכון, לא הלקוחות. בנוסף, בניית דאטה סנטר בסדר גודל של גיגה-וואט שנדרש לעמוד בביקוש הנוכחי לוקחת 3-4 שנים מייזום ועד פתיחה.

הדאטה סנטרים שמשרתים כיום את עומסי ה-AI לא תוכננו במקור לכך. האופטימיות היתרה לגבי ייזום מרכזי נתונים שהייתה בשנים האחרונות כבר מתמתנת, ולכן הצד ההיצע לא צפוי לגדול מהר מספיק.

מה קורה כשטוקן הופך למשאב יקר?

כשעלות הטוקן עולה, ארגונים יצטרכו לתעדף. רוזנצוויג מסביר שלא כל משימה שווה את עלות הטוקנים, ולכן חברות יסיטו את ה-AI למקומות שבהם יש לו יתרון מובנה על פני אדם. בשאר המקומות, אנשים יחזרו לקודד.

זה לא בהכרח שינוי גרוע. כשעלות השימוש ב-AI נהיית אמיתית, החשיבה על ROI נכנסת למשוואה ואיכות ההחלטות לגבי מה לאוטמט עולה.

ג'וניורים בתעשייה: מה צפוי?

אחת ההשלכות שרוזנצוויג מדגיש היא ההזדמנות שנפתחת מחדש עבור מפתחים בתחילת דרכם. כשטוקנים יקרים, לא כלכלי לתת לכלי AI לפתור בעיות קטנות שאפשר לתת לג'וניור לפתור בעצמו. ההעדפה האוטומטית ל-AI תאלץ להתאזן מול שיקולי עלות.

ארגונים שוויתרו לחלוטין על קריאת קוד וכתיבתו לטובת כלים אוטומטיים יתקלו בבעיות תחזוקה שקשה להתמודד איתן בלי ידע בסיסי. הכישורים שנרכשים דרך כתיבת קוד ידנית שומרים על ערכם גם בעידן ה-agentic.

הזווית האופטימית

רוזנצוויג מציין שהיה מעדיף לראות את שוק העבודה מתייצב בגלל הבנה עמוקה של ערך הקידוד, לא בגלל שיקולי עלות. אבל הוא מקבל את הגרסה הכלכלית בשתי ידיים. האטה זמנית באימוץ קידוד agentic תאפשר לאבק לשקוע, תיצור הזדמנות לניהול ידע טוב יותר, ותפתח דלתות לדור הבא של מפתחים.