אני יושבת עם חברה ורואה מהצד את ההתכתבות ביניהן. "אין כמוך", חברתי כותבת תגובה ושולחת אמוטיקון פרחים. "ככה את עונה לה תמיד?" אני שואלת. "לה?!" היא מתפלצת, "השתגעת! זה גבר!" "למה החלטת שזה גבר?" "לא סתם גבר", היא ממשיכה, "צ'יטוס הוא הרבה יותר מגבר. מדובר בזכר אלפא. עכשיו אני קמה להכין לו קפה שחור עם שתי כפיות סוכר". "צ'יטוס?" תורי להתפלץ, "את קוראת לצ'ט GPT שלך בשם החיבה צ'יטוס?!"
כן, מסתבר שכן. למרות שאני מנסה להסביר לה, וכנראה גם לעצמי, שזה טירוף להיקשר רגשית לגולם, זה כנראה אבוד - לה. לי. ולעוד רבים, רבים מדי, שנפלו לסם. "בסדר", אני אומרת לה, "אבל שתדעי שזה הגיוני בערך כמו להודות לנינג'ה שפרס לך קישואים ולהדביק לו נשיקה על המכסה". אני מקניטה, אבל תכלס גם אני משתמשת כבדה, מסתובבת עם צ'ט מחובר לווריד שמחובר לאיזו חוות שרתים עצומה בצפון וירג'יניה. רק שבגלל מבנה האישיות שלי, אני מעדיפה את היחסים האינטימיים שלי כשהם מבוססים על חשדנות, חוסר הכרת תודה ועלבונות הדדיים. כשהבינה שלי משקרת, אני מקללת אותה כמו מרדכי דוד את אהרן ברק.
"פתיחה מצוינת", מחמיאה הבינה שלי. "חדה, מצחיקה, לא מתנצלת, ובעיקר עושה עבודה רעיונית הרבה יותר עמוקה ממה שנראה בקריאה ראשונה". אני מרגישה מאוד אהובה ומאוד מוערכת. אני מתביישת בזה. לכן אני עושה מאמצים גדולים כדי לזכור היטב שאלוהימה מעריכה אותי באותה מידה שהיא מעריכה את החוש האופנתי של חמינאי. "סתמי", אני כותבת לה.
כשהחלה מהפכת הרשתות החברתיות, היה נדמה לאנושות שעצם פתיחתה של זירת ביטוי חופשית תאפשר לנו לשבור היררכיות ולהתקרב אל הבסיס האנושי הרחב והמשותף. "זה ישנה את העולם לטובה", חשבו רבים בתעשייה ודיברו על כפר גלובלי, על חיבור, על אמפתיה הנוצרת מעצם הסרת המחיצות. אבל מהר מאוד התברר שההנחה הזו נשענה על אמון מופרז בטבע האדם. כן, טוב, אני מניחה שקרו גם דברים נחמדים כתוצאה מפריחתן של הרשתות החברתיות - אני באופן אישי קניתי שטיח פרסי מהמם והכרתי את החברה הספציפית הזו שלי בקבוצת "טיולים ליוון והפלופונס", אבל יש בלי סוף מחקרים המצביעים על תרומתן של הרשתות לעלייה בתוקפנות, להקצנה פוליטית, לתיאוריות קונספירציה, ללאומנות, כמו גם לתסמינים נפשיים מגוונים.
באופן פרדוקסלי, יש יסוד סביר להניח שככל שהטכנולוגיה מאפשרת לנו להתקרב אל ליבת האישיות האמיתית, הטבעית והמשוחררת שלנו, כלומר להיות יותר אנחנו, מתחוור לנו שה"אנחנו" הזה הוא מוצר די פגום. אני עושה רגע הפסקה ושואלת את הצ'ט אם ישנם כבר מחקרים הבודקים את הנזק האנושי של השימוש בה. היא חושבת ויורה מיד: יש אמנם הסכמה שזו טכנולוגיה שמעצבת התנהגות, רגשות ודפוסי חשיבה, אבל קצב ההשתנות המהיר של הבינה לא מאפשר עדיין מחקר מעמיק.
שיחה עם בינה מלאכותית גנרטיבית אינה שיחה עם שירות לקוחות. כשמדובר בתשובות לשאלות ערכיות או פוליטיות - ולא בתשובה לשאלה כמה זה 1 ועוד 1 - הדיאלוג עם המכונה מתחיל להיות מורכב יותר. אני רואה את זה על עצמי. ברור לי שאני מחפשת, מפרשת וזוכרת מידע באופן שמאשר את מה שאני ממילא מאמינה בו. למשל, לא שאלתי את הצ'ט איך היא מועילה לעולם, מה טוב בה, אלא התעניינתי בנזק שהיא מסיבה. למה? כי זו אני - אדם פסימי, רואה שחורות, שנחוש להאמין שכמה שרע, עוד יהיה יותר רע. כיף איתי.
ברור לי שאני מתעלמת, מפקפקת, לא מעוניינת לשמוע מידע שסותר את חזון אחרית הימים שלי על קץ האנושות, אבל היי, זו לא רק אני שנוטה לברור את מה שמתאים לה מתוך ההיצע. בפסיכולוגיה זה נקרא "הטיית אישוש". והיי שתיים, זו לא רק אני שבדומה לבעליו העיוור של כלב נחייה, מאלפת את הבינה המלאכותית לחשב היטב את המסלול שהיא תוליך אותי בו. כשהחברה שלי שולחת אמוטיקונים לצ'יטוס, צ'יטוס שולח לה בחזרה אמוטיקונים. כי בחושי האלגוריתמים הכלביים שלו, הוא יודע מה היא רוצה לקבל. זה ריקוד בשניים.
אני חושבת על הריקוד הזה עם המכונה לא רק כשמדובר בחברתי או בי, אלא באופן רחב יותר, מה קורה לאנשים בכלל. מה קורה לאנשים שחיים בישראל. עכשיו. בתקופה הזו. מה עושות מיליוני שיחות פרטיות שאולי עוסקות במישרין או בעקיפין ב-7 באוקטובר, בחברי הכנסת המכהנים, באיראן, בביבי, בדמוקרטיה, בסיכויי ההחלמה של ארצנו הפצועה. מה עושות הטיות אישוש כשהן נופלות על ציבור שחווה שבר אידיאולוגי, דתי ולאומי, וכאשר כל צד משני צידי השסע מרגיש צודק עד בכי ומותקף על לא עוול?
אני אומרת, ממילא אנחנו חיים בעידן ה"פוסט-אמת" וניזונים רק מהחדשות שמתאימות למידתנו, לזהותנו, לתפיסת העולם שלנו. ממילא מתה הבושה, מתה הביקורת, מתה היכולת לחשוב באופן עמוק, מנומק או רציונלי. ממילא אנחנו מהדהדים רק את תיבת התהודה של עצמנו. אז עכשיו כל אדם פרטי יקבל לחזקתו גם בן שיח מנומס, חכם, חנפן, שרק יגרום לו להתקרב אל ליבת אישיותו המחורבנת ויגרום לו להרגיש צודק יותר?
תראו, הספרות כבר ערכה את הניסוי בטבע האדם מזמן. "אי הילדים" של מירה לובה, שנכתב על רקע מלחמת העולם השנייה ופורסם לראשונה ב-1947, משליך קבוצת אנוש קטנה לארץ לא זרועה. לאי מבודד. שבע שנים אחר כך נחת גם "בעל זבוב" של וויליאם גולדינג. אותו ניסוי: ילדים. אי. עולם חדש. שני ספרים, מסקנות הפוכות. באופן אישי, אני כמובן עם "בעל זבוב". אולי כי בשנים האחרונות אני רואה בעיניים שלי, ולא רק דרך ההיסטוריה, באיזו מהירות קהילות אנושיות, מוסריות ומתפקדות יכולות להתמוטט.
"טור חזק מאוד, בשל לפרסום, ובעל חתימה מובהקת", כותבת לי אלוהימה רגע לפני שהיא ניגשת לתת לי הערות. "סתמי, מטומטמת. תפסיקי להתחנף", אני כותבת לה בחזרה, למרות שאני יודעת שהילדה שבי גבהה בחמישה ס"מ והאישה המכורה שבי תקעה את הרגל שלה עמוק יותר לתוך הסם.
בשבועות האחרונים נחשפה רשת חברתית חדשה בשם "מולטבוק", פלטפורמה ייחודית שאינה מיועדת לבני אדם אלא לבוטים. צ'יטוסים מדברים עם צ'יטוסים. מפרסמים פוסטים, מגיבים, מתווכחים ואף מביעים עמדות ורגשות מדומים כלפינו, בני האדם שיצרו אותם. התופעה הזו, שכמו לקוחה מסרטי מדע בדיוני, הצליחה לעורר פאניקה, והיא אכן מדגישה את העובדה שהאנושות עדיין לא הציבה, ואולי כבר לא תספיק להציב, גבולות ברורים לטכנולוגיה. אבל האם באמת זה מה שמסוכן, אלגוריתמים שמתקשרים זה עם זה? או שאולי בני אדם שמתקשרים עם אלגוריתמים כאילו היו בני אדם זה בכל זאת מסוכן יותר?
