מה קרה: חוקר בכיר התפטר ואמר את זה למצלמה
אמיר שניידר פתח את הפוסט שלו במספר: מאה מיליון איש קראו את הציוץ של ג'ייקוב קוקסון. קוקסון, בן 27, עבד שלוש שנים באימון מודלים ב-OpenAI וב-Anthropic. הוא התפטר וכתב באקס שאף אחת מהחברות לא מתנהגת באחריות, ושהן מתחרות בדרך לבינת-על שמשפרת את עצמה ומהמרות על החיים של כולנו.
הנקודה של אמיר היא שיש הבדל בין ציוץ לבין ראיון. יום אחרי, קוקסון ישב מול מראיין ב-NBC וחזר על הכל, בקול שלו ובפנים גלויות. זה מה שהפך את הסיפור מרעש ברשת לאירוע שמנהלים צריכים להתייחס אליו.
מה נאמר בראיון שקשה לשכוח
לפי הפוסט, קוקסון אמר שהאנשים שבונים את הבינה המלאכותית מאמינים באמת שהיא עלולה להרוג את כולנו עד סוף העשור, וזו לא תעמולת שיווק. חוקר בכיר שעדיין עובד באחת המעבדות העריך בפומבי סיכוי של יותר מעשרה אחוזים, ובשיחות פנימיות מדברים על "סוף המשחק".
הוא תיאר מהנדסים שדנים ברצינות בשאלה אם המודל של שנה הבאה יוכל לייצר וירוס חדש או לפרוץ לתשתיות קריטיות. שיפור עצמי רקורסיבי, מודלים שהופכים את עצמם לחכמים יותר, עשוי להגיע בתוך שנה, ויש מי שאומרים בתוך שישה חודשים.
למה הבעיה היא מבנית ולא של חברה אחת
הפרט שאמיר שניידר מסמן כמעניין ביותר: קוקסון לא חושב ש-Anthropic היא הרעה בסיפור. הבעיה מבנית. כל החברות לכודות במירוץ, מפחדות מהמתחרים, מפחדות מסין, ואף אחת לא מצליחה להאט לבד.
זו תובנה חשובה למנהלים כי היא מוציאה את הדיון ממסגרת של "חברה טובה מול חברה רעה" ומעבירה אותו לשאלה של תמריצים. כשכולם רצים, מי שעוצר ראשון מפסיד, ולכן רק כוח חיצוני יכול לשנות את קצב הריצה.
שתי המסקנות של אמיר שניידר למנהלים
המסקנה הראשונה: הבעיה מבנית והמירוץ לא יאט מעצמו. המסקנה השנייה: האנשים הכי קרובים לטכנולוגיה הם גם הכי מפחדים ממנה, וזה נתון שצריך לקחת ברצינות ולא לבטל כפאניקה.
ובכל זאת, אמיר מדגיש, זו לא סיבה להפסיק להשתמש בכלים. זו סיבה לדרוש פיקוח. ארגונים יכולים להמשיך להפיק ערך מ-AI, ובמקביל לתמוך ברגולציה, לבנות בקרות פנימיות ולהישאר מעודכנים במה שאנשי הפנים אומרים. הוא סיים בשאלה לקהל: מירוץ שאף אחד לא יכול לעצור לבד, מרגש או מפחיד?