ד"ר לימור זיו, מייסדת חברת Humane AI ומרצה בתחום ה-AI האחראי, השתתפה לאחרונה במושב "דאטה ובחירות" בכנס "עושים תקשורת. בינינו לבינה" של בית הספר לתקשורת של אוניברסיטת רייכמן. הדברים שעלו שם נשארים איתה, ויש סיבה לכך.
שני כוחות שפועלים ביחד: הצפה ודיוק
הבחירות הקרובות, כמו כל בחירות שיתקיימו מעכשיו, יתנהלו תחת הגיון של בינה מלאכותית. זיו מזהה שני כוחות שפועלים במקביל ובכיוונים שונים לכאורה, אבל מנצלים את אותה נקודת תורפה.
הכוח הראשון הוא הצפה: פיד שמתמלא בתוכן שחלקו אוטנטי וחלקו מגונרט על ידי AI, עד שכבר אי אפשר לדעת מה מה. הכוח השני הוא דיוק: כלים שמכירים אותנו טוב, יודעים את הנטיות שלנו, את הנקודות הרגישות שלנו, ומדברים אלינו בדיוק בשפה שאנחנו מגיבים אליה.
למה שני הכוחות יחד כל כך בעייתיים
ההצפה מחישה את יכולת שיקול הדעת שלנו. אי אפשר לסנן כמויות כאלה של מידע ולהישאר מרוכזים לאורך זמן. ובדיוק כשאנחנו עייפים, כשיכולת הסינון שלנו נחלשת, הדיוק נכנס. מסרים שנבנו במיוחד בשבילנו מגיעים ברגע שבו אנחנו הכי פתוחים להשפעה.
מה זה אומר לגבי האחריות שלנו
זיו לא מסתפקת בתיאור הבעיה. הדיון שהתקיים בכנס, שאסף חוקרים, פעילים ואנשי תקשורת, מעיד על כך שהמודעות לנושא גוברת. המקום שבו אנשים מתכנסים לחשוב יחד על ההשלכות של AI על החברה הוא חלק קריטי מהמענה, לפחות כצעד ראשון.