תמונות פורנוגרפיות מזויפות של הזמרת טיילור סוויפט שנוצרו באמצעות בינה מלאכותית מציפות את הרשתות החברתיות בימים האחרונים, באחד המקרים הבולטים ביותר של שימוש לרעה בטכנולוגיית בינה מלאכותית יוצרת (GenAI) שהפכה בשנה האחרונה למיינסטרים.
התמונות של סוויפט הופצו לראשונה בקבוצת טלגרם שמוקדשת ליצירת תמונות פורנוגרפיות מזויפות של נשים באמצעות AI, ומשם הגיעו ל-X (טוויטר לשעבר). מדובר בשתי רשתות חברתיות שידועות בגישה מקילה לבקרה על תכנים בעייתיים.
אחת התמונות המזויפות נצפתה כ-47 מיליון פעמים בשבוע שעבר לפני ש-X הסירה את החשבון שפרסם אותה ביום חמישי. עם זאת, מכיוון שבאינטרנט אי אפשר באמת להעלים מידע לאחר שהופץ, התמונות עדיין זמינות לצפייה.
מעריציה של הזמרת, המכונים "סוויפטיז", התגייסו להגן עליה והציפו את X בתמונות לגיטימיות שלה, בניסיון "לדלל" את התמונות הפורנוגרפיות שלה. זה לא ממש עזר: בסוף השבוע, בצעד חריג, ביטלה X את האפשרות לחפש את שמה של הזמרת המפורסמת בפלטפורמה בניסיון לחסום את האפשרות לצפות בתמונות הפורנוגרפיות. אבל גם המהלך הזה התגלה כלא ממש אפקטיבי - מבדיקה שלנו עולה כי אפשר לעקוף את החסימה באמצעות שינוי קל של מילות החיפוש.
סוויפט עצמה לא הגיבה באופן ישיר לפרשה, אבל לפי דיווחים היא "זועמת" ושוקלת לנקוט הליכים משפטיים נגד אתרים שהעלו את התמונות. "דבר אחד ברור: התמונות המזויפות האלה שנוצרו על ידי בינה מלאכותית הן פוגעניות, נצלניות ונוצרו ללא הידיעה או ההסכמה של טיילור", אמר ל"דיילי מייל" גורם שמקורב לזמרת. הגורם מתח ביקורת על X ואמר ש"מזעזע שפלטפורמת מדיה חברתית בכלל אפשרה להעלות את התמונות".
ריפרש
בין הטיות להזיות: הצד האפל של הבינה המלאכותית / עם רוית דותן
52:28
הפרשה עוררה סערה כל כך גדולה בארה"ב בימים האחרונים, שהדיה הגיעו עד לבית הלבן. "זה מאוד מדאיג", אמרה דוברת הבית הלבן קארין ז'אן-פייר בסוף השבוע, "ולכן, אנחנו הולכים לעשות מה שנוכל כדי להתמודד עם הסוגיה הזאת".
ז'אן-פייר קראה לקונגרס ליזום חקיקה בנושא והפצירה ברשתות החברתיות לנקוט פעולה: "בזמן שחברות המדיה החברתית מקבלות את ההחלטות העצמאיות שלהן לגבי ניהול תוכן, אנחנו מאמינים שיש להן תפקיד חשוב באכיפה של החוקים שלהן כדי למנוע הפצה של מידע שגוי ושל תמונות אינטימיות של אנשים אמיתיים שנוצרו ללא הסכמתם".
"מה שקרה לסוויפט לא חדש"
גם בגבעת הקפיטול התייחסו לפרשה. ג'ו מורל, חבר קונגרס מהמפלגה הדמוקרטית, שבשנה שעברה הגיש הצעת חוק שמטרתה להפוך הפצה של תמונות מסוג זה לעבירה פדרלית, אמר כי הפצת התמונות המזויפות של סוויפט היא "מזעזעת" והוסיף: "זה קורה לנשים בכל מקום, בכל יום".
הסנאטור הדמוקרטי מארק וורנר, יו"ר ועדת המודיעין של הסנאט, אמר: "הזהרתי שוב ושוב שבינה מלאכותית יכולה לשמש ליצירת תמונות אינטימיות ללא הסכמה". חברת הקונגרס הדמוקרטית איבט קלארק הוסיפה כי ההתקדמות הטכנולוגיות של הבינה המלאכותית רק הפכה את היצירה של תמונות פורנוגרפיות מזויפות לקלה וזולה יותר: "מה שקרה לטיילור סוויפט הוא לא חדש".
יצירה של תמונות פורנוגרפיות של נשים באמצעות AI היא אכן לא דבר חדש. השחקנית סקרלט ג'והנסון, למשל, דיברה בגלוי על ההתמודדות שלה עם תופעת ה"דיפ פייק" (תמונות שנוצרו באמצעות AI) כבר לפני חמש שנים. אבל אם בעבר נדרש ידע טכנולוגי מסוים בשביל ליצור תמונות וסרטונים כאלה, היום אפשר ליצור אותם בלי שום ידע באמצעות כלים ושירותים שזמינים ברשת לכל משתמש. לפי דוח שפרסמה חברת המחקר גרפיקה בחודש שעבר, יותר מ-24 מיליון משתמשים ביקרו בספטמבר באתרים שמאפשרים להעלות תמונות של נשים ולגרום להן להיראות כאילו הצטלמו בעירום.
גם מחוללי תמונות (מודלים של text-to-image) שהפכו לפופולריים מאוד בשנתיים האחרונות יכולים לשמש ליצירת תמונות פורנוגרפיות. אומנם לרוב הכלים האלה יש אמצעי בטיחות שאמורים למנוע שימוש לרעה, אך משתמשים מיומנים יודעים לנסח פרומפטים (פקודות טקסטואליות) מתוחכמים כדי לעקוף את הכללים האלה ולגרום למודלים לעשות כרצונם.
קבוצת הטלגרם שבה הופצו התמונות של סוויפט לראשונה, למשל, ממליצה להשתמש בכלי של מיקרוסופט שנקרא Designer ומבוסס על DALL-E3 של OpenAI, אם כי לא ברור אם זה אכן הכלי ששימש ליצירת התמונות המזויפות של סוויפט.
מנכ"ל מיקרוסופט, סאטיה נאדלה, התייחס לסוגיה בריאיון לרשת NBC ואמר כי הפצת התמונות הפורנוגרפיות של סוויפט היא "מטרידה ונוראית". "אני חושב שהאחריות שלנו היא להציב אמצעי בטיחות סביב הטכנולוגיה הזאת כדי שיהיה יותר תוכן בטוח", אמר נאדלה, "יש עוד הרבה דברים לעשות והרבה דברים שנעשים בתחום הזה". הוא הוסיף כי מדובר בסוגיה חברתית עולמית שרשויות אכיפת החוק וחברות הטכנולוגיה צריכות להתמודד איתה במשותף.
