השבוע נכנסו לתוקף כללים חדשים המחייבים לסמן תעמולת בחירות שנוצרה או נערכה באופן מהותי באמצעות בינה מלאכותית. זהו הסדר חשוב וראוי. לא צריך לזלזל בו, אך גם לא לחגוג את יום ניצחון האדם על המכונה.
לראשונה, החוק הישראלי מכיר בכך שהיכולת לדעת אם מה שאנחנו רואים ושומעים אכן התרחש היא תנאי לבחירות חופשיות. תעמולה המציגה דמות או אירוע כאילו תועדו במציאות, אף שלא תועדו כך, תחויב בגילוי. החוק יקשה על מפלגות לפרסם סרטון שבו מועמד אומר דברים שלא אמר, או להפיץ הקלטה מזויפת בלי להודיע לציבור שמדובר ביצירה.
הסרטון שפרסם נתניהו נגד יו”ר מפלגת “ישר”
זהו הישג. אבל אסור להתבלבל בינו לבין הגנה רחבה על הבחירות מפני בינה מלאכותית. החוק אינו אוסר לייצר דיפ פייק, הוא רק מחייב לסמן אותו. הוא לא יעצור פייקים, ולא ימנע שימוש בתמונות, בסרטונים ובקולות שנוצרו באמצעות בינה מלאכותית כדי להפיץ שנאה, פחד והסתה.
לא חוצים את הרף הפלילי, בכוונה
רוב התעמולה הרעילה מהונדסת כך שלא תחצה את הרף הפלילי. אפשר לייצר תמונה שקרית, לסמן אותה כנדרש ולהפיץ אותה למיליונים. הסימון אינו מנטרל את המסר או את השלכותיו. דוגמה אכזרית לכך ניתנה בבחירות 2019: תחת הכותרת הצינית "טוהר הבחירות" הפעיל הליכוד מבצע להצבת מצלמות בקלפיות ביישובים ערביים.
פרסום המבצע יצר פחד, ולאחר הבחירות החברה שהפעילה אותו מטעם הליכוד התגאתה בכך שהצבת המשקיפים תרמה לירידת שיעור ההצבעה בחברה הערבית אל מתחת ל-50%. דיכוי הצבעה, בלי דיפ פייק אחד.
המקרה הזה מלמד ששיבוש בחירות אינו מסתכם בזיוף פתק בקלפי. הוא נעשה באמצעות הפחדה, התססה ופגיעה באמון בהליך. לפעמים המטרה היא להניע המונים לקלפי מתוך כעס; לפעמים לגרום להם לא להגיע כלל.
הבינה המלאכותית לא המציאה את השיטות האלה. היא הופכת אותן למהירות, זולות ומדויקות הרבה יותר. הבעיה הגדולה אינה הסרטון הבודד, אלא היכולת להקים מכונת קמפיין עצומה. כלי בינה מלאכותית מאפשרים לייצר בתוך דקות מאות גרסאות של אותו מסר לקהלים שונים, ולהתאים לכל קבוצה את השפה, האיום והרגש שיעבדו עליה.
הבעיה הגדולה אינה הסרטון המזויף הבודד, אלא היכולת להקים מכונת קמפיין עצומה
אפשר להפעיל אלפי ניסויים במקביל, לגלות איזה מסר מעורר יותר כעס, איזה פחד גורם לשיתוף ואיזו האשמה גורמת לאנשים להישאר בבית ביום הבחירות. אפשר לנתח מידע אישי והתנהגותי, כולל מידע גנוב, ולזהות היכן אנחנו מתלבטים ואיך אפשר לדחוף אותנו לכיוון הרצוי.
אפילו בדיונים על החוק הזה הזהיר ממלא מקום מנכ"ל ועדת הבחירות, דין ליבנה, מפני ניתוח השיחות והמידע שלנו לצורך תעמולה ממוקדת. אלא שהאבחנה הזאת לא קיבלה מענה בהסדר שנחקק. החוק מתמקד בייצוג מזויף של המציאות. הוא אינו מסדיר במפורש שימוש בבינה מלאכותית לניתוח אוכלוסיות, לבניית פרופילים, להתאמת מסרים או להפעלת קמפיינים אישיים ומניפולטיביים.
אין בו חובה להודיע לבוחר שהמסר נוצר במיוחד עבורו על בסיס מידע שנאסף עליו, ואין מאגר ציבורי של גרסאות הקמפיין וקהלי היעד. הדין מחייב לזהות את הגורם הפוליטי שמאחורי התעמולה, אך אינו מחייב לגלות שה"אזרח" שמנהל איתנו שיחת שכנוע הוא למעשה בוט או מערכת בינה מלאכותית.
במילים אחרות, החוק מסמן את התמונה. הוא אינו חושף את הקמפיין שמאחוריה. זה ההבדל בין רגולציה על מדיה לבין הגנה על דמוקרטיה. כאשר כל קבוצה מקבלת קמפיין מותאם אישית, הציבור, התקשורת וגופי הפיקוח אינם יכולים לראות את התמונה המלאה. אי אפשר להפריך מסר שלא ידענו שנשלח, ואי אפשר לנהל שיחה דמוקרטית משותפת כאשר כל אזרח חי בתוך מערכת שכנוע פרטית.
הבינה המלאכותית לא המציאה את הזיוף, היא פשוט הפכה אותו לקל מאי פעם
(Getty Images)
להבין כיצד פועלת מניפולציה
הפתרון חייב להתחיל באוריינות: לא לחפש שש אצבעות בתמונה, אלא להבין כיצד פועלת מניפולציה ואיך מייצרים בהלה, קונצנזוס מזויף והתחזות למקור סמכות. בפינלנד אוריינות מדיה משולבת בחינוך מגיל צעיר; בישראל צריך להתחיל במהלך "חיסון" ציבורי רב־לשוני שיחשוף מראש את השיטות והנרטיבים הצפויים.
נדרשת גם שקיפות על הקמפיין כולו. כמו באיחוד האירופי, יש לחייב פרסום פוליטי ממוקד לחשוף מי עומד מאחוריו, למי הוא מכוון ובאילו שיטות טרגוט נעשה שימוש. בישראל נדרש מאגר ציבורי של גרסאות הקמפיין וקהלי היעד. אזרח צריך לדעת לא רק שהתמונה נוצרה ב-AI, אלא גם מדוע דווקא הוא רואה אותה.
לבסוף, יש להטיל אחריות מערכתית על הפלטפורמות: צוותי בטיחות בעברית ובערבית, זיהוי פעילות מתואמת וגישה לחוקרים בזמן אמת. יש לחייב בוטים וסוכני בינה מלאכותית להזדהות בשיחה פוליטית, ולהקים מנגנון חירום עצמאי שיזהה קמפיינים מתואמים ויתריע לציבור.
החוק שנכנס לתוקף הוא צעד ראשון וראוי. הוא קובע שמפלגה אינה יכולה להציג בדיה דיגיטלית כמציאות בלי לגלות זאת. אבל הוא נכתב לעולם שבו הבעיה היא תוכן מזויף. אנחנו כבר חיים בעולם שבו הבעיה היא מערכת השפעה שלמה. החוק החדש מסמן את הדיפ פייק. עכשיו צריך לחשוף את המכונה שמפעילה אותו.
אחיה שץ הוא מייסד ארגון פייק ריפורטר, שנלחם בהפצת דיסאינפורמציה ברשת.
