בלילה השלישי של הטילים התעוררתי, לא מהאזעקה אלא מרטט של הנייד. הבית היה שקט, הרחוב היה שקט, אבל בפיד כבר היתה מלחמה. סרטון ממקום הנפילה של הטיל האחרון שנפל, תמונות מטהרן, פוסט זועם על "הבוגדים מבפנים", עוד סרטון AI של ביבי וטראמפ רכובים על אריה שואג. בלי לשים לב, ישבתי באמצע המיטה בחושך, עם דופק מואץ, כאילו עוד רגע מישהו דופק לי בדלת.
רק אחרי כמה דקות הבנתי מה קורה. הגוף שלי מגיב למסך בדיוק כמו שהוא מגיב לאזעקה. אותה קפיצה בלב, אותו לחץ בחזה, אותו דחף לבדוק שוב ושוב אם משהו השתנה. יש חזית. יש עורף. ויש עוד מקום אחד שנכבש בשקט. הפיד.
מה שאני מנסה להבין כאן הוא מה קורה לנו כששדה הקרב העיקרי עובר פנימה, אל תוך מערכת העצבים, ומתודלק על ידי אלגוריתם שלא יודע מה טוב לנו, אלא רק מה מדליק אותנו הכי מהר.
דופק מואץ, אפס אזעקות
האלגוריתם לא רק מלחיץ. הוא מאמן את מערכת העצבים שלנו לחיות במצב אזעקה קבוע. כשהמוח מקבל תכנים קיצוניים שוב ושוב בקצב גבוה, הוא משנה את עצמו בהתאם. חוקרים קוראים לזה נוירופלסטיות של חירום (סליחה על המונח המפוצץ, אני מבטיחה להשתדל לא להשתמש בו שוב). בעברית פשוטה: המוח לומד שהעולם תמיד על סף פיצוץ. כל פעם שאנחנו פותחים את המסך ומקבלים עוד זוועה, עוד בגידה, עוד "תראו מה הם עשו לנו", המוח רושם לעצמו: ככה העולם נראה. המלחמה יכולה להיגמר מחר בבוקר. הנוירונים שלנו ימשיכו להתנהג כאילו היא עדיין כאן.
זה לא העם. זו גרסה דיגיטלית שלו
פעם, כדי לדעת מה אנשים חושבים, היינו יוצאים מהבית. שם, בקפה, במכולת, בסלון של יום שישי. היינו מקבלים מושג מה עובר לאנשים בראש. היה לזה מקום פיזי. היום רובנו פוגשים אותם בפיד. גוללים ואומרים לעצמנו: כן, זה מה שהמדינה חושבת. אבל מה שאנחנו רואים זה לא מה שהמדינה חושבת. זה מה שמודל ממוחשב בחר להראות לנו כי זה מה שישאיר אותנו על המסך עוד חצי דקה. לא "קולות" העם. אלא גרסת AI של העם שעברה אופטימיזציה.
זו תובנה לא מובנת מאליה: הרגע שבו אנחנו מפסיקים לאסוף את המידע על מה שאנשים סביבנו חושבים ומרגישים ומתחילים לתת תוקף רק למידע שמגיע אלינו מהפיד, זה הרגע שבו "העם" עצמו הופך למוצר אלגוריתמי. אנחנו לא פוגשים את הישראלים, אלא את גרסת ה-Engagement שלהם. את הפוסט הכי קיצוני של השכן, לא את השיחה השקטה שלו עם הילדה. את הסרטון הכועס של החייל שפרק עול והחליט להפר פקודה, לא את ההיסוס והפחד שנחתכו בעריכה. "העם" שאנחנו צורכים הוא עם אחרי סינון לטובת מה שמצית אותנו הכי מהר.
כשכעס שווה כסף
בזמן מלחמה, האלגוריתם הזה הופך בלי כוונה למגבר של חרדה, קוטביות ונקמנות. הוא מתוגמל על כעס, הלם ופחד, כי אלה רגשות שמייצרים מעורבות. מי שכבר כועס על הממשלה יקבל עוד ועוד "הוכחות" שהכול מושחת ובוגדני. מי שמרגיש שהעולם כולו נגדנו יראה עוד ועוד סרטונים של הפגנות אנטי-ישראליות. מי שמחזיק שנאה עיוורת לצד השני יחיה בתוך זרם אינסופי של תכנים שמחזקים את התחושה ש"אי אפשר לדבר איתם בכלל". לא צריך קונספירציה. מספיק מודל שמבין היטב מה גורם לנו להישאר.
פיד הטיקטוק
זה מה שקורה למבוגרים. אצל בני הנוער זה נראה אחרת לגמרי. הם לא מקבלים פיד פוליטי. הם לא מתווכחים על ימין ושמאל. האלגוריתם שלהם לא מתעסק בממשלה או בהפגנות. הוא מתעסק בקצה של הרגשות. הוא פשוט מנדנד אותם בין בכי לצחוק, בין זוועה להקלה, בין טראומה למם, שוב ושוב ושוב, בלי שהם בוחרים בזה ובלי שהם שמים לב.
בני הנוער שלנו צופים בכל הסרט הזה מהמושבים הראשונים. חוקרים שעקבו אחרי דפוסי הומור מלחמתי ברשתות זיהו תבנית שחוזרת על עצמה בעקביות מטרידה מאוד: סרטון על מטוסי קרב שמיירטים מטרות, ואז מם עם חתול, ואז תיעוד מבניין שקורס, ואז בדיחה כלשהי על פיצה עם שוקולד, ואז שוב בניין שקורס, ואז שוב חתול. נדנדה רגשית שמנוהלת בקצב של פס ייצור בטירוף.
כשנערה בת חמש עשרה יושבת אחרי חדשות קשות ומחליטה, לבד, מתוך הבטן, שהיא לוקחת את הכאב הזה ומחלצת ממנו את מה שמצחיק, זה שריר שהיא מפעילה כתגובה הגנתית. אבל הנערה הזו לא מפעילה כלום. מה שמפעיל אותה זה אלגוריתם שנהיה מתוחכם בצורה חסרת תקדים
ויש בזה משהו שעובד. כשנערה בת חמש עשרה יושבת אחרי חדשות קשות ומחליטה, לבד, מתוך הבטן, שהיא לוקחת את הכאב הזה ומחלצת ממנו את מה שמצחיק, זה שריר שהיא מפעילה כתגובה הגנתית. אבל הנערה הזו לא מפעילה כלום. מה שמפעיל אותה זה אלגוריתם שנהיה מתוחכם בצורה חסרת תקדים. מערכת שלמדה לזהות בדיוק מתי לשלב הקלה אחרי כאב, מתי להציף רגש ומתי לשחרר. המנדט היחיד של המערכת, המטרה היחידה לקיומה, היא שהעיניים של הילדה יישארו על המסך עוד שלושים שניות. ועוד שלושים. ועוד. לא כי מישהו בטיקטוק דואג לבריאות הנפש שלה. כי המודל למד שבכי ואז הקלה ואז בכי שווה engagement, ו-engagement שווה כסף.
כל התזמורת הרגשית הזו מנוגנת מבחוץ. והמנצח, שיש לו גישה לכל פיסת מידע שאפשר לדעת על הילדה שלכם, באיזו שעה היא גוללת, מה גורם לה לעצור, מה גורם לה לדלג. הוא יודע הכל. הוא רק לא יודע דבר אחד הכי חשוב ומשמעותי: מי היא בכלל.
פיד אחד, מיליון מלחמות
נחזור לפיד מבוגרים. בועות של מידע הופכות לשבטים רגשיים. האלגוריתם מחלק אותנו פחות לפי ימין ושמאל, ויותר לפי טמפרטורה פנימית: שבט החרדה, שבט הנקמה, שבט הניתוק. לכל שבט כזה יש פיד משלו, מלחמה משלו, "עם ישראל" משלו. כשהמלחמה נגמרת על המפה, היא ממשיכה לרוץ בתוך הראש לפי הפס קול שהפיד בחר עבורנו.
קרן שחרלכבות את האוטו-פליי, להתחיל משם
אפשר וצריך לדבר על רגולציה ועל אחריות של חברות טכנולוגיה. אבל אני לא בטוחה שאפשר או נכון, לחכות למחוקק או לסן פרנסיסקו. יש לנו, כמשתמשים וכהורים, קצת יותר כוח ממה שאנחנו חושבים. לדבר עם ילדים ובני נוער לא רק על "מה ראיתם", אלא גם על "למה דווקא זה הופיע לכם". להסביר שהמנגנון מאחורי הפיד לא יודע מה טוב להם, אלא מה עובד עליהם. לייצר גם לעצמנו הרגלים קטנים של התנגדות: לכבות אוטו-פליי, לא לגלול בלילה אחרי אזעקה, לבחור במודע מקורות מידע פחות רגשיים כשאנחנו מרגישים שהלב כבר לא עומד בזה.
כשתסתיים המלחמה, הנערה בת החמש עשרה תפתח את הטלפון והאלגוריתם יתאים את עצמו תוך אלפית שנייה. במקום סרטוני מלחמה וממים, הוא יציף אותה בתכנים על חרדה חברתית, על דיאטות, על בנות שנראות טוב יותר ממנה. כי המלחמה אולי נגמרה, אבל העיניים שלה עדיין שוות כסף.
קרן שחר, מרצה ומדריכה לשימוש בבינה מלאכותית
