לידיעת הקוראת שרה נתניהו: ניו יורק בדרך לאיסור מוחלט על שימוש בתמונות וסרטונים של דמויות פוליטיות שנוצרו או עובדו בבינה מלאכותית - כולל ריטוש כבד - במהלך שלושת החודשים שלפני הבחירות.
אחרי שראש העיר החדש זוהראן ממדאני הותקף במהלך מערכת הבחירות האחרונה בקמפיין ויראלי שנוי במחלוקת, הודיעה מושלת המדינה, קאת'י הוקול, כי תבקש מהמחוקקים לאשר חקיקה שתאסור כל הפצה של תכנים ויזואליים שעברו עיוות או יצירה מחדש באמצעים דיגיטליים מתקדמים, ללא הסכמת המצולמים.
מדובר באחת ההצעות המחמירות מסוגן בארה"ב: לא עוד חובת גילוי או דרישה לסימון, אלא איסור גורף שאמור לבלום את תופעת הדיפ פייק, שהפכה למרכיב שגרתי ובלתי מבוקר במערכות בחירות בעידן ה-AI.
היוזמה כוללת גם סעיף נלווה, לפיו תיאסר הפצה מכוונת של כל מידע שקרי בנוגע לבחירות עצמן, כמו מועד ההצבעה, שיעורי ההצבעה, תנאי ההשתתפות, והפרתו תיחשב עילה לתביעה אזרחית מצד מועמדים או בוחרים.
אם תאושר, הצעת החוק צפויה להציב תקדים משפטי בארצות הברית ולהפוך את ניו יורק לאחת הזירות הראשונות שאוכפת חקיקה על פייק ניוז ותוכן פוליטי מזויף.
יותר מדי "תקריות" עם דיפ פייק
המהלך מגיע בעקבות שורת תקריות שבהן נעשה שימוש בבינה מלאכותית בקמפיינים מקומיים, ובראשן סרטון שהופץ בשוגג בקמפיין של אנדרו קואומו במהלך המרוץ האחרון לראשות העיר. הסרטון, שנוצר באמצעות AI, הציגו את היריב אז ממדאני כשהוא אוכל בעזרת הידיים, בליווי קריינות שמציגה את תומכיו כעבריינים סדרתיים: סוחרי סמים, נהגים שיכורים, גברים מכים וגנבים.
באחת הסצנות נראה גבר שחור חובש כאפייה כשהוא יוצא מחנות עם שקית גנובה, ובאחרת נטען כי בעידן ממדאני המוסלמי כראש עיר ״כשהאישה שלך תקבל מכות - לא תצטרך יותר להתמודד עם שוטר מעיק”. הסרטון הסתיים בתמונה של ניו יורק בוערת, רפרנס לאסון התאומים וקישור מרומז בינו לטרור.
בעקבות הסערה הציבורית, קמפיין קואמו הסיר את הסרטון, טען להגנתו כי מדובר בטיוטה לא מאושרת שהועלתה בטעות, וכי הקומיקאי שיצר אותה פעל ללא אישור משפטי. אך הביקורת סביב המסרים האסלאמופוביים והסטריאוטיפים לא שככה - ויש שיגידו שעלתה לקואומו בבחירות.
אחרי ניצחונו של ממדאני, המושלת הוקול מיהרה להבהיר כי התופעה דורשת תגובה מחמירה. "קל היום יותר מאי פעם להפיץ דיסאינפורמציה ברגעים קריטיים שיכולים להכריע בחירות", הצהירה. "עכשיו הזמן לפעול ולהגן על הדמוקרטיה שלנו - או להסתכן במדרון חלקלק".
חקיקה מחמירה
עד כה, 26 מדינות בארה"ב חוקקו חוקים שמטילים מגבלות כלשהן על שימוש בדיפ פייק פוליטי, אך רובן מסתפקות בדרישות סימון או באיסורים אמורפיים למדי. ההצעה של הוקול יוצאת דופן: היא משלבת איסור הפצה מוחלט, מסגרת זמנים מוגדרת, והענקת זכות תביעה לנפגעים.
ניו יורק עצמה העבירה בשנה שעברה חוק שמחייב לציין גילוי נאות כאשר נעשה שימוש ב-AI בפרסומות פוליטיות, אך החוק המוצע כעת נועד להרחיב את ההגנה ולא לאפשר הפצה כלל, גם לא עם גילוי - מהלך שעשוי להפוך מודל רגולטורי גם לשאר המדינות.
הצעת החוק עוד תלויה באישור המחוקקים הדמוקרטים באספה הכללית ובסנאט המדינתי, אבל להוקול יש רקורד של הצלחות חקיקה בתחום ה-AI: רק לפני חודשיים חתמה על חוק שמסדיר שימוש בטכנולוגיה בתעשיית הסרטים, ובעבר דחפה לתקנות שמחייבות פלטפורמות לצמצם חשיפה של קטינים לתוכן פוגעני.
מצד שני, היו גם הצעות שלה שנחלשו או נבלמו בלחץ ענקיות הטכנולוגיה, ולא מן הנמנע שגם הפעם אלו ינסו להשפיע על הנוסח הסופי של החוק. נזכיר כי רק לאחרונה נחשף כי מטא לא רק שלא פועלת לעצור באופן אפקטיבי את גל הונאות הדיפ פייק ששוטף את פייסבוק ואינסטגרם שבבעלותה, אלא היא גם מרוויחה מכך.
5 צפייה בגלריה
מימין: אילון מאסק, ג'ף בזוס ומארק צוקרברג. ענקיות הטק צפויות להערים קשיים
(צילום: AP/Julia Demaree Nikhinson)
מה נחשב כ"תוכן אסור"?
השאלה מה ייחשב "תוכן אסור" תעמוד ככל הנראה במרכז הוויכוח המשפטי סביב החוק החדש: האם מדובר רק בתכנים שנוצרו מאפס בבינה מלאכותית, או שגם ריטוש עמוק של צילום קיים - כמו עיוות הבעות פנים, שינוי גוון עור או מניפולציות סאונד - ייחשב להפרה אם נעשה באמצעות כלים מבוססי למידת מכונה?
הניסוח הסופי של החוק טרם פורסם, אך לפי מקורות משפטיים במדינה, הכוונה היא לכלול גם ריטוש שגרתי שמבוסס על כלים אוטומטיים חכמים, כל עוד מדובר ב"שיבוש מהותי של המציאות".
מהו ״שיבוש מהותי״? בישראל, למשל, מתנהלים בימים אלה דיונים משפטיים קדחתניים בין לשכת העיתונות הממשלתית ללשכת ראש הממשלה, בעקבות הפצה שיטתית של תמונות רשמיות שעברו ריטוש כבד לשם שיפור הופעתה של רעיית רה"מ, שרה נתניהו.
5 צפייה בגלריה
מימין: התמונה המרוטשת של נתניהו. משמאל: התמונה המקורית
(צילום: עמוס בן גרשום, לע״מ, איתמר אייכנר)
התמונות, שצולמו על ידי צלמי לע"מ אך נערכו לאחר מכן, עוררו מחאה מצד אנשי מקצוע ואף הובילו להתייעצות משפטית מול משרד המשפטים. בתגובה לביקורת, החלה לשכת נתניהו לציין קרדיט לצילומים גם על שמה של שרה עצמה - לצד שמות הצלמים הממשלתיים - פתרון עקיף שלדברי גורמים בלשכה נועד להסדיר את מעורבותה בעריכה מבלי להודות בכך במפורש.
במקרים אחרים אף פורסמו תמונות שסומנו כ"תוכן שנוצר באמצעות AI", מה שעורר אי-נוחות נוספת בקרב צלמים ודוברים בשירות הציבורי. עם זאת נכון לעכשיו, אין בישראל מנגנון חקיקתי שמסדיר את הנושא, והשאלות האתיות והמשפטיות נותרות פתוחות.
