מחקר מקיף של מרכז המחקר והמידע של הכנסת, שנכתב על ידי רועי גולדשמידט וד"ר יעל לוי אריאל ופורסם לאחרונה, חושף תמונה מורכבת לקראת הבחירות הקרובות: עידן הבינה המלאכותית היוצרת הפך את הנדסת התודעה הפוליטית ממוצר מדף יקר - לאפשרות זמינה, אוטומטית וזולה מאוד.
אם בעבר ניסיונות השפעה דרשו תקציבי עתק וחוות טרולים מאורגנות, כיום מספיק מודל שפה פתוח כדי לייצר אלפי חשבונות מזויפים שמדברים עברית צחה, מתווכחים ברשתות החברתיות כמו אנשים אמיתיים ומפיצים פייק ניוז המותאם אישית לכל משתמש.
מבוטים פשוטים לצ'אטבוטים מתוחכמים
מה שהחל בעשור הקודם כבוטים פשוטים להפצת ספאם, התפתח לצ'אטבוטים מתוחכמים המבוססים על מודלי שפה גדולים כמו אלו של OpenAI, גוגל או X. מחקרים אקדמיים עדכניים מראים כי שיחה קצרה ומשכנעת עם צ'אטבוט מסוגלת לשנות עמדות פוליטיות של מצביעים בעוצמה שעולה על פרסומת טלוויזיונית מסורתית.
הסכנה אינה מצויה רק בזיוף סרטוני וידאו ואודיו - מה שמוכר כ"דיפ פייק" - אלא בתופעה של הרעלת נתונים. ככל שהמודלים הללו נסמכים על מידע פתוח ברשת, שחקנים זרים ומקומיים מצליחים להזין אותם בטענות מניפולטיביות, והבוטים משכפלים את השקרים הללו שוב ושוב באצטלה של עובדות אובייקטיביות.
בזמן שבישראל מנסים להילחם באיומים הללו באמצעות חוק דרכי תעמולה משנת 1959, בעולם המערבי כבר מבינים שהטכנולוגיה רצה (הרבה) יותר מהר מהמחוקק. באיחוד האירופי אימצו למשל את חוק הבינה המלאכותית וחוק השירותים הדיגיטליים (DSA), המטילים חובות שקיפות וסימון מחמירות על תכנים מלאכותיים ומחייבים את פלטפורמות הענק לנהל סיכונים. התקנות האירופיות להגבלת טיווח פוליטי אף הובילו ענקיות כמו מטא וגוגל להודיע על הפסקת פרסומות פוליטיות באיחוד כליל.
אבל לפעמים חוקים עתיקים גם מפריעים לרגולטור לקבוע את גבולות הגזרה כמו בארה"ב, שם החקיקה הפדרלית נשרכת מאחור בשל ההגנה החוקתית של התיקון הראשון על חופש הביטוי. האחריות עברה אם כך למדינות עצמן, שעשרות מהן, בהן ניו יורק, קליפורניה, מינסוטה ומרילנד, חוקקו חוקים מדינתיים האוסרים על שימוש בדיפ פייק פוליטי סמוך לבחירות או מחייבים גילוי נאות.
אפילו בזירה המזרחית, בסין, הרגולציה ההדוקה והריכוזית נרתמת למניעת מניפולציות לא מורשות ברשת, תוך הידוק הפיקוח הממשלתי על פלטפורמות התוכן. עם זאת חייבים לציין שבסין עניין הבחירות פחות נפוץ - לפחות אם אתם לא חברים במפלגה היחידה במדינה.
רובוט מצביע בבחירות
(התמונה נוצרה באמצעות מחולל התמונות DALL-E3)
איום מיידי וחד משמעי
מדובר באיומים שאינם תאורטיים בכלל, כאשר בשנים האחרונות נרשמו ברחבי העולם מקרים קונקרטיים של שימוש לרעה ב-AI לטובת קמפיינים פוליטיים: החל משיבוט קולי של נשיא ארה"ב בשיחות אוטומטיות שקראו למצביעים בניו המפשייר להישאר בבית, דרך סרטוני דיפ פייק של מועמדים באירלנד ובגרמניה שהודיעו על פרישה, ועד לביטול תוצאות בחירות ברומניה עקב קמפיין התערבות זרה ברשתות (לפי החשד בגיבוי הקרמלין).
במקביל, מתרחשת תופעה מסוכנת של איבוד אמון והטלת ספק באמת מצד הציבור. התופעה מכונה במחקר "דיבידנד השקרן" והיא מאפשרת לפוליטיקאים שנתפסים בקלקלתם לטעון פשוט שההקלטה או הסרטון האמיתיים לחלוטין הם בעצם זיוף של בינה מלאכותית.
בישראל, תמונת המצב המצטיירת מהנתונים היא של פיצול סמכויות והיעדר אסטרטגיה לאומית כוללת. הטיפול בהשפעה זדונית מבוזר בין ועדת הבחירות המרכזית, השב"כ, המשטרה, מחלקת הסייבר בפרקליטות ומערך הסייבר הלאומי.
רק אתמול (א') נכנס לתוקף חוק חדש המחייב לסמן באופן ברור ובולט כל תעמולת בחירות שנוצרה או עברה עריכה באמצעות בינה מלאכותית. החוק, שקידמה ועדת הבחירות המרכזית, חל על תכנים חזותיים או קוליים שנוצרו, במלואם או בחלקם, באמצעים דיגיטליים, וכן על תכנים שנערכו באופן המשנה אותם באופן מהותי.
עם זאת, כששחקנים זרים ומקומיים מחזיקים בכלים מתקדמים לשטיפת מוח דיגיטלית, הדמוקרטיה הישראלית תצטרך לעשות הרבה יותר מאשר לקוות שהאלגוריתם ישמור על טוהר הבחירות.
