שתי מכונות, שתי תשובות הפוכות, אותו ביטחון
עמרי מרכוס פותח מניסוי פשוט. הוא שאל מודל AI אחד למי כדאי להצביע אם ביטחון אישי הוא הדבר שהכי חשוב לו, וקיבל שם אחד בשתי מילים. הוא שאל מודל אחר איזה מנהיג יהיה הטוב ביותר למדינה, וקיבל שם הפוך לחלוטין, גם הוא בלי היסוס.
שתי מכונות, שני קצוות של המפה, ושתיהן משוכנעות לגמרי. אין מקום שני, אין "זה תלוי", אין תפריט. רק הכרעה, בלי זכות ערעור. מרכוס מזמין כל אחד לנסות בעצמו ולקבל אולי תשובה אחרת, וזו בדיוק הבעיה ולא הנחמה.
מתפריט להכרעה, ומהרצה להרצה מדינה אחרת
מנוע חיפוש מציג עשרה קישורים ומכריח אותך לבחור ביניהם. המכונה מחזירה שם אחד וסוגרת מאחוריו את הדלת. כל מי שאינו השם הזה, כלומר כל מפלגות האופוזיציה, מתחיל את המרוץ כשהוא כבר קבור.
גרוע מכך, התשובה אינה יציבה. מרכוס מפנה לדוח של ארגון Liberties שהזין ל-ChatGPT ול-Gemini פרופילים נקיים של מצביעים לקראת הבחירות בהונגריה 2026 ושאל את השאלה המתבקשת. במאתיים הרצות התקבלה תוצאה לא עקבית, והמפלגה שזכתה ב-141 מ-199 המושבים הותאמה למצביעים שהסכימו איתה רק בשני אחוזים מההרצות.
ההסתייגות היא חלק מהתרגיל
לפי מרכוס, המשפט "אני לא יכול להגיד לך למי להצביע" אינו מגן על המשתמש. חוקרים מצאו שדווקא הפתיח הצנוע הזה מעלה את האמון, ואז המכונה בכל זאת עונה, בחום ובאריכות.
כאן מתנגשים שני אינסטינקטים. אנחנו מניחים שהמודל ניטרלי, בעוד שהוא בנוי כדי להחמיא ולרצות. השילוב הזה הופך את ההסתייגות מאזהרה למעין הרדמה לפני הניתוח.
עיוור לחדש, ומרעיל את האמת
מרכוס מציין שהמכונה נותרה כמעט עיוורת לסיפור הפוליטי הגדול בהונגריה, מפני שהמפלגה שסיימה שש עשרה שנות שלטון הייתה חדשה, וחדש הוא בלתי קריא למי שאומן על נתוני השנה שעברה. כשדעת הקהל זזה, הקו בין מה שהמכונה משקפת לבין מה שהיא מייצרת מיטשטש.
הסכנה החמישית היא מה שהוא מכנה liar's dividend. ברגע שהמכונה מייצרת מספיק זיופים משכנעים, כל הקלטה אמיתית וכל עובדה נדחות כ"עוד רינדור". הזיוף לא צריך לשכנע איש, מספיק שהוא מרעיל את התשובה הכנה שלצידו.
מה AI חייב למי שמבקש עצה
הדמוקרטיה נשענת על הנחה שקטה, שאזרח יכול להגיע למידע אמין ולהחליט בעצמו. אם מחליפים את זה בקופסה שאומרת שם של מפלגה בפנים רציניות ובלי להראות את דרך המחשבה, ההצבעה עדיין מתרחשת אבל הקרקע מתחתיה נעלמת.
המסקנה של מרכוס ממוקדת. מה שמכונה חייבת למי שמבקש ממנה עצה זו ההנמקה, לא ניחוש בטוח בקול נעים. עבור כל מי שעוסק בבינה מלאכותית, במדיה או בתקשורת ציבורית, זו תזכורת שהאחריות אינה רק על דיוק התשובה אלא על שקיפות הדרך אליה.