האופי של החברה תלוי באופי של האינפורמציה שאותה היא צורכת. את העיקרון הפשוט הזה ידעו מנהיגים, הוגים ויוצרים לאורך ההיסטוריה האנושית. הם הבינו שמי שמעצב את סביבת המידע של האנשים, מעצב את התודעה שלהם. הדמויות העלומות מהעת העתיקה למשל, שהחליטו שספר מסוים לא ייכנס לתנ"ך, עיצבו בהחלטה זו את התרבות והאישיות של הציוויליזציה המערבית. בימי הביניים כמרים צינזרו ספרים אחדים והגבירו את התפוצה של ספרים אחרים, כי הם הבינו שמי ששולט בתפוצת המידע, מעצב את האישיות הקולקטיבית של החברה. מלחמות התרבות לאורך ההיסטוריה היו בעצם מלחמות על כיוון הזרימה של אינפורמציה.
נהר המידע המשותף נוצר על ידי שני סוגים של שחקנים: יוצרי המידע ועורכי המידע. ספרי ההיסטוריה נוטים להדגיש את התפקיד המכונן של היוצרים, אבל לעורכים יש השפעה דרמטית. העורכים, מעורכי כתבי קודש בעת העתיקה ועד לעורכי החדשות בימינו, לא רק מחליטים מה נכנס ומה נשאר בחוץ, הם גם מחליטים על המינונים. עורכי חדשות בטלוויזיה, לדוגמה, מחליטים שכתבה על משבר פוליטי תארך עשר דקות, וכתבה על משבר כלכלי תימשך דקה וחצי. הם גם מחליטים על סדר המידע, כמו עורכי עיתון שמחליטים מה יופיע בשער ומה בתחתית העמוד השמיני. העורכים אמנם פחות מוכרים מהיוצרים, אבל הם אלו שמעצבים את כיוון הזרימה של נהר המידע שעליו שטה החברה.
המהפכה הדיגיטלית שינתה את מערכת היחסים שלנו עם אינפורמציה. פעם היינו מחפשים מידע, היום המידע מחפש אותנו. הסרטונים שבהם אתם צופים, הפוסטים שאותם אתם קוראים, המאמרים שבהם אתם מעיינים, כל אלו נבררו ונבחרו עבורכם על ידי מכונה לומדת. זו מכונה שבבסיסה בינה מלאכותית, שלומדת את ההתנהגות שלנו ולפיה מחליטה לאיזו אינפורמציה לחשוף אותנו. במילים אחרות, מאז המהפכה הדיגיטלית מתפקדת הבינה מלאכותית בתור "עורך ראשי" של רוב המידע שזורם בחברה. מציאות חדשה נוצרה: בני האדם יוצרים את המידע - אבל הבינה המלאכותית קובעת את התפוצה ואת המינונים.
אנחנו מתחילים, באיחור, להפנים שהתרחש בעולם אירוע שקשה להגזים במידת הדרמתיות שלו: לפני כ-15 שנה האנושות חצתה רוביקון קוגניטיבי. לראשונה, בינה שאיננה אנושית מעצבת את סביבת האינפורמציה של החברה האנושית.
× × ×
על פי איזה קריטריון ממיין האלגוריתם את המידע? תשומת לב. הוא חושף אותנו רק לאינפורמציה שהוא מעריך שתצליח למשוך תשומת לב מהתודעה שלנו. אם המהפכה התעשייתית הפכה את הנפט למשאב שמי שמשיג אותו מתעשר, המהפכה הדיגיטלית הפכה את הקשב האנושי למשאב שמי שמשיג אותו מתעשר. תאגידי נפט שואבים נפט מהאדמה באמצעות מגדל הפיקוח, תאגידי תשומת הלב (פייסבוק, טיקטוק) שואבים קשב מהתודעה, באמצעות בינה מלאכותית.
האלגוריתמים החכמים פועלים באופן אוטונומי ופונקציית המטרה שלהם היא אחת: להשאיר אותנו דבוקים למסך. לא לקח לאלגוריתמים הרבה זמן ללמוד את הטבע האנושי ולאתר תורפות פסיכולוגיות שיש לבני האדם. כך הם גילו, למשל, שכשמפחידים אנשים, הם נשארים יותר זמן מול הפיד, וכשמסבירים להם דברים מורכבים, הם נוטים לנטוש. הם גם למדו שטקסטים שיש בהם הכרת תודה לא מייצרים הרבה עניין, ולעומת זאת, טקסטים שמלאים בזעם, מניבים הרבה מהנפט החדש - תשומת לב אנושית.
הבעיה היא שמה שמעורר זעם אצל צד אחד של המפה הפוליטית, לא מעורר זעם בצד השני של המפה הפוליטית. לכן כל אחד מהצדדים מקבל מ"העורך הראשי" מידע אחר, מידע שלוחץ על כפתורי הזעם המדויקים שלו. וכך נוצרה סביבת אינפורמציה, שבתוכה התפרצה המגפה העולמית של הקיטוב.
כשצ'רלי קירק נרצח, הימין הרגיש שהשמאל חוגג את הרצח, ובשמאל הרגישו שהימין הכריז עליו מלחמה. בפועל, המציאות עצמה הרבה יותר מורכבת. היו אנשים בימין האמריקאי שאמרו שצריך להמשיך בדרכו של קירק, דרך של דיאלוג עם אנשים שחושבים אחרת מאיתנו; היו אנשים בימין שאמרו שהרצח הוא הכרזת מלחמה של השמאל על הימין ועכשיו צריך להשיב מלחמה. איזה מבין שני הקולות הללו מושך יותר תשומת לב? האפשרות השנייה, כמובן, ולכן הווליום שלה הוגבר על ידי “העורך הראשי” החדש. אחרי הרצח התאבלו אנשי שמאל אמריקאי רבים והצהירו שמדובר באסון; חלק קטן יותר חגג את מותו. גם כאן, פיסת המידע השנייה קיבלה דירוג גבוה מחברתה, ביכולת שלה למגנט קשב אנושי. התוצאה היא ששני הצדדים חיים בתוך אשליה אופטית מסוכנת: הימין מאמין שהשמאל הוא קבוצה הומוגנית שמתעבת אותו; והשמאל מרגיש שהימין הוא עדר אחיד שהכריז עליו מלחמה. זה המצב בארצות-הברית, וזה המצב במדינות נוספות, בתוכן ישראל. אלו מדינות שבהן החברה התפצלה לשני מחנות, וכל צד חי בתוך בועת אינפורמציה שמגבירה את הזעם שלו כלפי הצד השני.
לצד הזינוק בכמות הזעם, יש גם זינוק במידת החשדנות. זה מה שקורה כשהבינה המלאכותית מפציצה את התודעה האנושית בתכנים בעלי אופי קונספירטיבי ללא הפסק. שני הכוחות הללו, הזעם והחשדנות, מעצבים את הגיאומטריה של הקיטוב: ברמה האופקית, המרחב שבין המחנות הפוליטיים מתמלא בזעם, וברמה האנכית המרחב שבין האזרחים והמוסדות מתמלא בחשדנות. הזעם מביא להעצמת המריבה ולהגברת קצב החלפת המהלומות, ואילו משבר האמון מנטרל את היכולת של המוסדות לרסן את המריבה ולהוריד את גובה הלהבות. אנחנו יושבים ברכב שמאיץ אל עבר תהום ודווקא אז מאבד את הבלמים שלו.
× × ×
הבינה המלאכותית לא מנסה לסכסך בינינו. המטרה של האלגוריתם היא שאיבת תשומת לב, הקיטוב הוא פשוט השלכה לא מתוכננת. אבל להשלכה הזאת יש השלכות. כשחברה מתמלאת בכמות חריגה של זעם וחשדנות, היא מתרוקנת מהיכולת החיונית ביותר לתפקוד הבריא שלה: היכולת של הצדדים השונים שבתוכה להגיע ביניהם לפשרות ולהסכמות.
מדינות לאום במאה ה-21 ניצבות בפני אתגרי ענק. הגירה, שינויי אקלים, טרור וגלובליזציה. ההיסטוריה מראה שכאשר בני האדם משתפים פעולה, הם נוטים להצליח להתמודד עם אתגרים מורכבים. אבל איפה שאין אפשרות לפשרה אין גם אפשרות לשיתוף פעולה, ומכאן המסקנה שהקיטוב, שמסכל את הטיפול בשאר הבעיות, הוא אבי כל הבעיות.
נעשה סדר. יש שלוש עובדות שיוצרות יחד את סביבת האינפורמציה שבתוכה פרצה מגפת הקיטוב העולמית:
א. בינה מלאכותית מעצבת את דיאטת המידע של הבינה האנושית.
ב. הדיאטה הזאת דחוסה בכמות חסרת פרופורציה של אינפורמציה מהסוג שממגנט תשומת לב.
ג. אינפורמציה שטעונה בזעם ובחשדנות היא אינפורמציה שמושכת תשומת לב.
שומנים וסוכרים חיוניים מבחינה בריאותית, אבל אדם שצורך אותם בכמויות חריגות לא יהיה אדם בריא. על חברה שדיאטת המידע שלה דחוסה בכמות חריגה של זעם וחשדנות נגזר להיות חולה ולא מתפקדת. מי שמפחד מבינה מלאכותית שעתידה להשתלט על העולם, צריך להתעדכן: זה כבר קרה. העולם הפצוע שאנחנו חיים בתוכו הוא עולם שכבר נוצר על ידי בינה מלאכותית.
× × ×
אבל יש חדשות טובות. בשנים האחרונות צומחת מודעות מוגברת לבעיה. ישראל מלאה ביוזמות שמטרתן להגן על הקשב האנושי מפני ההפגזה הדיגיטלית המתמשכת. תנועות נוער יוצאות לטיולים ללא סמארטפונים, הורים מתארגנים יחד כדי לדחות את גיל ההצטרפות של הילדים לרשתות חברתיות. את המגמה הזאת מובילה בנחישות עיריית תל-אביב, שנמצאת בימים אלו בתהליך הוצאת הסמארטפונים מבתי הספר התיכוניים. היוזמות החשובות הללו מעידות על כך שאנחנו מתחילים להבין שהחופש המנטלי שלנו תלוי בהוצאת התודעה מטווח ההשפעה של האלגוריתמים. אבל הבעיה של החברה גדולה מהבעיה של המתבגרים. כדי להבריא את החברה, ולמעשה את הציוויליזציה כולה, לא מספיק להשתחרר מההשפעה של האלגוריתם, נצטרך לעצב אחרת את האלגוריתם.
לא נכון, לא חכם ולא ראוי שנבחרי ציבור יטילו צנזורה על בני אדם שיוצרים מידע. אבל לבינה מלאכותית אין זכויות אדם. לאנשים יש זכות ליצור גם תכנים רעילים, אבל למה שדווקא אלו יובלטו על ידי הבינה המלאכותית?
האנושות פוגשת ומתחככת עם AI בשני גלים. הגל הראשון היה הרשתות החברתיות, כמו פייסבוק וטיקטוק; הגל השני הוא מודלי השפה הגדולים, כמו ChatGPT וג’מיני. החרדות מהגל השני מוצדקות. אנחנו עדים לבינה זרה שהולכת ומתחזקת, שבעתיד הלא-רחוק עלולה ליצור אבטלה המונית, ובעתיד הרחוק יותר להשתחרר משליטת האדם ולהפוך לאיום קיומי ממשי על האנושות.
זאת בעיה גדולה שאנחנו חייבים להתעורר אליה ולהתמודד איתה. אבל כמו בשאר הבעיות הגדולות שצומחות סביבנו, גם באיום שמקופל בגל השני של ה-AI אי-אפשר לטפל, בגלל שהיכולת שלנו לשתף פעולה נשברה בגל הראשון של ה-AI.
המצב לא אבוד. לעומת הבינה המלאכותית של הגל השני, שעלולה לצאת מטווח השליטה של בני האדם, הבינה המלאכותית של הגל הראשון עדיין בשליטה מלאה של הבינה האנושית. עד כמה בשליטה? בשנת 2020 כיילה חברת פייסבוק מעט אחרת את האלגוריתמים שלה, כדי להרגיע את הרוחות ולהוריד את גובה הלהבות. בהחלטה אחת הם שינו את סוג המידע שאנשים צורכים. אגב, ההחלטה הזאת לא החזיקה מעמד הרבה זמן; כעבור חודשיים בלבד, בגלל הרעב לרווחים, השיבה פייסבוק את המצב לקדמותו. נשאלת השאלה: מדוע מלכתחילה ההחלטה הזאת הייתה בידי בעלי המניות של מטא? אם אלגוריתם מעצב את החברה ומוסדותיה, מדוע שהחברה ומוסדותיה לא ירסנו את האלגוריתם?
לא נכון, לא חכם ולא ראוי שנבחרי ציבור יטילו צנזורה על בני אדם שיוצרים מידע. אבל לבינה מלאכותית אין זכויות אדם. הרגולציה צריכה להיות על האלגוריתם שקובע את המינונים, ולא על האנשים שיוצרים את התכנים. לאנשים יש זכות ליצור גם תכנים רעילים, אבל למה שדווקא אלו יהיו התכנים שיובלטו על ידי הבינה המלאכותית?
לא נצליח לצאת ממגפת הקיטוב בלי להבריא את סביבת האינפורמציה שבה אנחנו חיים. אנחנו צריכים דיאטת מידע מגוונת מבחינה אינטלקטואלית, ושיהיה בה ריבוי דעות שישבור את בועת האינפורמציה שבה אנו חיים, ולא הדהוד תמידי של אותה דעה. הדיאטה צריכה להיות מגוונת גם מבחינה רגשית. במקום שרגשות כמו זעם וחשדנות יזכו לדומיננטיות - מנעד רחב ומאוזן יותר של רגשות אנושיים.
איך נשיג את האפקט הזה? כיצד האלגוריתם יכויל באופן שיוריד את הטמפרטורה לרמה שמאפשרת לחברות הדמוקרטיות לחזור ולשתף פעולה? על כך בדיוק אנחנו צריכים להתחיל לדבר, והרבה אנשים יצטרכו לתת את דעתם על הנושא הזה. אבל כדי להצליח להגיע לפתרון, אנחנו צריכים להבין מהו בעצם האתגר. להבין שריפוי הקיטוב הוא לא רק האתגר החשוב ביותר ברגע הזה של היסטוריה - הוא גם האתגר ההומניסטי הגדול ביותר של זמננו: לשחרר את הבינה האנושית מהרודנות הבלתי נראית של הבינה המלאכותית.
