מה בעצם קורה כשאנחנו קוראים תשובה של AI
רודריגו גונזלס, מייסד Neewz.ai, מתאר רגע שכולנו מכירים. חיפוש בגוגל שנגמר בקריאת התשובה שהמערכת ייצרה, בלי לפתוח אף מקור. מהיר, נוח, טוב מספיק.
מה שקורה מתחת לפני השטח פחות נוח. התשובה נשענת על מידע שפורסם ברשת, וחלק גדל והולך מהמידע הזה נוצר בעצמו על ידי בינה מלאכותית. AI מייצר תוכן, התוכן מתפרסם, מנועי החיפוש מאנדקסים אותו, ו-AI קורא אותו כדי לייצר את התשובה הבאה.
למה לופ סגור הוא בעיה עסקית ולא רק פילוסופית
ברגע שהמידע ניזון מעצמו, כל טעות שנכנסת למערכת מקבלת חיים ארוכים. אין נקודת עצירה שבה מישהו חוזר למקור ובודק, כי המקור עצמו כבר אינו זמין בשרשרת.
לארגונים זה מתורגם לסיכון קונקרטי. החלטות מתקבלות על בסיס תשובות שנראות מוסמכות, ואי אפשר לשחזר על מה הן מבוססות. זה בדיוק סוג הסיכון שקשה לזהות מראש וקל לזהות בדיעבד.
ההשערה של גונזלס לגבי ערך התוכן האנושי
האינטואיציה שלו הפוכה למה שאפשר לצפות. הוא מעריך שערך התוכן האנושי יעלה ולא יירד. בעולם שבו ייצור תוכן הוא כמעט חינם, מה שהופך להיות יקר הוא ההוכחה שמשהו נוצר על ידי אדם אמיתי, במקום אמיתי, ברגע אמיתי.
לפי הניסוח שלו, האתגר יפסיק להיות ייצור של עוד מידע. הוא יהיה איתור האות האנושי בתוך אוקיינוס של מידע סינתטי, וארגון שלו, אימות שלו והבנה שלו.
מה לעשות עם זה מחר בבוקר
הצעד המעשי הראשון הוא לתעד מקור. כל תוכן שיוצא מהארגון צריך לשאת מידע על מי אמר, מתי ובאיזה הקשר. זה נשמע בירוקרטי עד שמגיע הרגע שבו צריך להוכיח משהו.
הצעד השני הוא להעדיף עומק שאין לו תחליף סינתטי. ראיון, נתון ראשוני, ניסיון שדה ומקרה בוחן אמיתי אינם ניתנים לייצור אוטומטי, ולכן הם בדיוק מה שיישאר בעל ערך.