מה הדגים עמרי מרכוס על גבולות האמפתיה של AI?
בהרצאה בכנס של מכון הטכנולוגי חולון בחן עמרי מרכוס את השאלה עד היכן מגיעה האמפתיה שבינה מלאכותית מסוגלת לייצר. הוא לא הסתפק בתאוריה אלא ערך הדגמה חיה מול הקהל, בעזרת מחולל וידאו.
מרכוס תיאר את התוצאה כמטרידה אף יותר משציפה. ההדגמה נועדה להראות שכלי AI יכול להפיק מסר בטון תקין לחלוטין, ועדיין להחטיא את הרובד הרגשי שהמסר אמור לגעת בו.
מה היה הפרומפט שחשף את הפער?
הפרומפט שהודגם ביקש תסריט קצר לסרטון הדרכה ארגוני באווטאר וידאו, המיועד לעובדים שנשארו בחברה אחרי גל פיטורים ורה-ארגון. המטרה שהוגדרה הייתה בניית חוסן ארגוני, עידוד אמפתיה ושמירה על פרודוקטיביות, בטון מכיל ומשפחתי.
בין נקודות החובה שהוגדרו היו הכרה בקושי הרגשי, נתון על כך שגישה חיובית מעלה פרודוקטיביות, ושלושה צעדים פרקטיים לשגרה. דווקא הניסיון לעטוף רגע כואב באריזה חיובית ומלוטשת הוא שחשף כמה מהר אמפתיה סינתטית מאבדת אמינות.
למה מצב של אחרי פיטורים מחדד את הבעיה?
רגע שאחרי פיטורים הוא מהמצבים הרגישים ביותר בארגון. עובדים שנשארו נושאים חוסר ודאות, ולעיתים גם אשמה, ומצפים לתקשורת כנה. כשמסר מנסה לייצר תחושת משפחתיות בדיוק כשהאמון שברירי, כל צליל מלאכותי בולט מיד.
כאן נמצא הגבול שמרכוס מצביע עליו. AI יודע לחקות את הצורה של אמפתיה, את המילים הנכונות ואת הטון המקצועי, אבל הוא לא נושא את הכוונה האנושית שמאחוריהן. הפער בין הצורה לכוונה הוא מה שגורם לתוצאה להישמע מנוכרת.
מה מחלקות HR צריכות לקחת מההדגמה?
המסר המעשי אינו לוותר על AI, אלא לדעת היכן להשתמש בו. הכלי מצוין להפקת טיוטות, לארגון מבנה ולניסוח ראשוני, אבל בתקשורת טעונה רגשית הוא זקוק לשיקול דעת אנושי שמגשר בין הנוסח לבין הכוונה.
הקריאה של מרכוס לתייג אנשי HR משקפת בדיוק את זה. עבור מי שמנסח מסרים פנימיים בזמנים קשים, ההדגמה היא תזכורת ש-AI צריך להיות עוזר בתהליך, ולא הקול שמדבר במקום האדם ברגעים שבהם אמון הוא הכול.