יש משהו מפתה ברעיון של מנהיג שלא משקר. בעיקר למי שכבר התעייף מלהבין מי עובד עליו ואיך. מנהיג שלא מסתבך בפרשות שחיתות, ושלא מבטיח הרים וגבעות לפני הבחירות רק כדי להיעלם מיד אחרי סגירת הקלפיות.
ייאוש בבלקן
ממשלת אלבניה, לא בדיוק המגדלור הדמוקרטי הראשון שעולה לראש, חשבה בדיוק על זה כשהחליטה למנות "שרה" מבוססת בינה מלאכותית שתפקח על מכרזים ציבוריים. זה לא הגיע מאהבת טכנולוגיה, וגם לא מפנטזיה להיות "סטארט-אפ ניישן" של הבלקן. זה הגיע ממקום של ייאוש. כשאתה טובע בביצה של נפוטיזם, שוחד וקומבינות, אפילו מחשב מנוכר מתחיל להיראות כמו פתרון עם מצפון.
אלבניה היא אמנם לא ישראל, ופיילוט במכרזים זה לא כמו להחליף שלטון, אבל איכשהו, הראש בורח מיד לירושלים. דמיינו את בניין הכנסת. המליאה ריקה. במקום 120 נבחרים שרבים על תשומת הלב שלנו בטוויטר, יושב שרת אחד גדול, קריר ומזמזם בשקט, שמחליט את כל ההחלטות הכי חשובות על החיים שלנו לפי הנתונים שהוזנו לו.
זו כבר ממש לא שאלה של מדע בדיוני או פרק של "מראה שחורה". בזמן שאנחנו עדיין תקועים בוויכוחים על הרפורמה או על מי יישב בוועדה לבחירת שופטים, המציאות הזו דוהרת אלינו מהר יותר ממה שאתם חושבים.
בואו נלך עם הפנטזיה הזו עד הסוף. מה יקרה במדינה שבה לא יהיו שליטים והכל ייקבע על ידי בינה מלאכותית? איזה מין משטר יצמח פה? דמוקרטיה? תיאוקרטיה? אנרכיה?
התפוח המורעל של הדמוקרטיה
יש מי שתקרא לזה "דמוקרטיה משופרת". קחו למשל את המודל שמציעה ד"ר ליאת לביא, לפטר את כל חברי הכנסת ולהחליף אותם במיליוני סוכני בינה מלאכותית.
על הנייר זה נשמע כמו הפנטזיה האולטימטיבית: במקום ללכת לקלפי פעם בארבע שנים (או חמישה חודשים) ולבחור במישהו שישכח אתכם רגע אחרי, תקבלו בוט אישי. הוא יכיר אתכם יותר טוב מאמא שלכם. הוא ידע מה אתם חושבים על תחבורה ציבורית בשבת, על המצב הביטחוני, על מחירי הדיור. על דת, ביטחון ומדינה. הוא ידע עליכם הכל. הוא יהיה אתם.
זהו בעצם "התפוח המורעל" של העידן החדש: הוא נראה מושלם, וזו בדיוק הבעיה. כי על מי נצעק כשמשהו ישתבש? הרי הדמוקרטיה מבוססת על היכולת שלנו לקלל את המצב, להפגין, ולהרגיש שיש לנו את הכוח להעיף את מי שפישל בבחירות הבאות
וכשתעלה הצעת חוק, הוא יקרא את כל ה-300 עמודים של האותיות הקטנות בשבריר שנייה, ויצביע בול כמו שהייתם מצביעים אם היה לכם כוח לקרוא את זה.
זהו בעצם "התפוח המורעל" של העידן החדש: הוא נראה מושלם, וזו בדיוק הבעיה. כי על מי נצעק כשמשהו ישתבש? הרי הדמוקרטיה מבוססת על היכולת שלנו לקלל את המצב, להפגין, ולהרגיש שיש לנו את הכוח להעיף את מי שפישל בבחירות הבאות.
איזה מין משטר יצמח פה?
אז דמוקרטיה זה לא, גם לא תאוקרטיה. למרות שמהצד של האזרח, הדמיון די מטריד. אבל כאן ההבדל הוא במקור הסמכות, בהחלפת המסתורין האלוהי באטימות האלגוריתמית. בשני המקרים, ההחלטה מגיעה ממקום שאין לנו גישה אליו, ממקום שאנחנו הקטנים לא מסוגלים להבין. אבל בתיאוקרטיה קלאסית יש אנשי דת שמפרשים את דבר האל. אפשר להתווכח עם הפרשנות (נניח). פה אין פרשנות. יש פלט מחשב.
וגם למונרכיה זה לא דומה. החולשה האמיתית של השיטה היא שהמלך מגיע מהמין האנושי עם אגו ענק ושיקול דעת מצומצם. חולשות, פילגשים, והנטייה להשתגע עם הזמן. בינה מלאכותית לעומת זאת, היא פשוט עושה מה שאמרו לה. אז גם מונרכיה לא תהיה כאן.
אולי זו בכלל אנרכיה? לרגע זה עשוי להישמע כמו החלום הליברטריאני: עולם ללא שליטים, ללא פוליטיקאים, שוק חופשי של רעיונות המנוהל על ידי "היד הנעלמה" של הטכנולוגיה. אבל אנרכיה משמעה היעדר סמכות. כאן אנחנו מקבלים את ההיפך הגמור: סמכות מוחלטת, אובססיבית, שנמצאת בכל מקום. באנרכיה יש כאוס; כאן יש סדר מופתי, מצמית. נסו להתווכח עם רמזור חכם שהחליט שלא מגיע לכם לעבור, או עם חשבון בנק שננעל אוטומטית.
אז מה נשאר? משהו חדש לגמרי: אלגוקרטיה
מה שנשאר הוא מודל שלטוני חסר תקדים, שלטון האלגוריתם: אלגוקרטיה. השחיתות שברחנו ממנה באלבניה? היא לא נעלמה. היא פשוט עברה דירה, מהלשכה של השר לחדר השרתים. וזה הרגע שבו הדיסטופיה מתחילה באמת. השחיתות האנושית, הגלויה והמרושלת, מוחלפת ב'הלבנת הטיות', עוולות חברתיות שמקבלות חותמת כשרות מתמטית. ההבדל המהותי הוא שבמקום שומרי סף ועיתונות נושכת, אנחנו מקבלים אלגוריתם אטום. קופסה שחורה. השקט יהיה מופתי, כי אי אפשר לערער על קוד שאיש אינו מבין.
המכונה תהיה עיוורת למושגים כמו חמלה או צדק חברתי; היא תראה רק מקסום רווחים ויעילות תפעולית. במציאות כזו, אנחנו כבר לא אזרחים בעלי זכויות, אלא שורות קוד במערכת הפעלה שאי אפשר לכבות.
קרן שחרתסתכלו על הכנסת שלנו, עם כל הגועל נפש שלפעמים צף שם. שני ח"כים צורחים אחד על השני בוועדת הכספים. זה אולי מכוער, אולי לא יעיל, אבל זה אנושי. בתוך הצעקות האלה יש פחד מהבוחרים, יש אפילו רגש. בסוף מתפשרים על איזה אמצע עקום שמאפשר לחיים להימשך.
לשמור על הגורם האנושי
אנחנו עומדים עכשיו מול צומת, והבעיה היא שהנתיב המסוכן נראה כל כך נוח. נתיב שבו אנחנו הופכים לצרכנים פסיביים של החלטות מכונה. אנחנו נקריב את החירות שלנו על מזבח הנוחות והיעילות.
הנתיב השני הרבה יותר קשה. הוא דורש מאיתנו להפסיק להיות עצלנים. להשתמש ב-AI לא כדי להחליף אותנו, אלא כדי לעזור לנו להיות אזרחים טובים יותר. להשתמש בטכנולוגיה כדי לחשוף שחיתות, לא כדי להחביא אותה מאחורי אלגוריתם. כי אם נוותר על הזכות שלנו לטעות ולהחליט, נגלה יום אחד שבנינו לעצמנו אלים חדשים, ושהפכנו לברגים קטנים במכונה.
קרן שחר היא מדריכה לשימוש בבינה מלאכותית יוצרת
