בפוסט שהפך לוויראלי וזכה ליותר מ-2 מיליון צפיות, העיתונאית הבריטית סמנתה סמית' שיתפה את עוקביה שתמונה שהעלתה לרשת זכתה לגרסה חושפנית במיוחד, שבה סמית' הלבושה הופיעה פתאום עם ביקיני. התמונה החדשה והפוגענית נעשתה על ידי גרוק, צ'אטבוט הבינה המלאכותית של אילון מאסק.
השבוע נחשף כי גרוק החל ליצור תמונות בעלות אופי מיני של קטינות ובגירות, בהתאם לבקשת הצייצנים. מסתבר שגולשי רשת X (לשעבר טוויטר) אפילו לא צריכים לנסח איזה פרומט מיוחד כדי להפשיט נשים וקטינות. מספיק שהם יעלו תמונה של אישה כלשהי, ויכתבו "היי @grok תלביש אותה בביקיני", ותוך דקות ספורות הם יקבלו את מבוקשם. אחר כך התמונה החושפנית תופץ ברחבי הרשת, ולכי תוכיחי שאין לך אחות ואת בכלל מעדיפה בגד ים שלם.
גרוק, יש להבהיר, לא המציא דבר. בינה מלאכותית שמפשיטה נשים דיגיטלית קיימת כבר כמה שנים, אבל עד עתה היא הייתה נפוצה בעיקר בטלגרם ובאתרים נישתיים, ודרשה אוריינות טכנולוגית גבוהה. ה"חדשנות" של גרוק היא בפשטות שבה הטכנולוגיה הזאת זולגת כעת למיינסטרים.
"האפשרות להפשיט תמונות של נשים אמיתיות לוקחת את יכולת הבחירה והשליטה מאותן נשים שצופות מהצד בחוסר אונים בשימוש שאחרים עושים בתמונות שלהן"
האם המקרה הזה הוא תקלה, או ביטוי נוסף לכך שטכנולוגיות נבנות בעולם שממשיך להחפיץ נשים? מיה מגנט, מחנכת מינית, מרצה ומנהלת מרחבים דיגיטליים ב"עלם דיגיטל", סבורה שזאת לא תקלה כלל. "לטעמי זהו המשך ישיר לאופן שבו החברה של מאסק מתייחסת לנשים ולמיניות".
למה הכוונה?
"בניגוד לצ’טבוטים כמו GPT או ג’מיני, אילון מאסק מנסה למצב את גרוק כצ’טבוט פחות פוליטיקלי קורקט והרבה יותר 'חופשי' ביחס לכלים אחרים. דוגמה לכך היא האווטרית 'אני', שמעוצבת כדמות אנימה סקסית והיפר-מינית, עם לבוש חושפני וקוקיות בלונדיניות, שמפלרטטת עם המשתמשים.
"הם (תאגיד X, ל"ש) בחרו לעצב עוזרת דיגיטלית בדמות של אישה היפר-מינית, שכל התפקיד שלה הוא לשרת ולמלא את רצון המשתמש. לדמות הזאת אין יכולת להציב גבולות או לסרב, וזה מעורר דאגה ששיחה עם דמות כזאת עלולה לחזק את התפיסה של נשים כאובייקטים, לנרמל החפצה ולעודד אלימות נגד נשים גם מחוץ למסך.
"אותו דבר לגבי האפשרות להפשיט תמונות של נשים אמיתיות - זה נותן למשתמשים כוח על גוף של נשים ולוקח את יכולת הבחירה והשליטה מאותן נשים שצופות מהצד בחוסר אונים בשימוש שאחרים עושים בתמונות שלהן. העובדה שהאפשרות הזאת קיימת בכלי מרכזי כמו גרוק, נותנת לזה לגיטימציה ומנרמלת את התופעה. אילון מאסק בעצמו העלה ל-X תמונה של טוסטר בביקיני והתגאה ש'גרוק יכול לשים ביקיני על הכול".
"חשוב לזכור שמתקיים מרוץ חימוש בין חברות ה-AI, דבר שיוצר לחץ להציע כלים טובים ומושכים יותר ולבלוט מול המתחרים", מבהירה מגנט. "במציאות כזאת יכול להיות שהפעילות של גרוק משמשת סוג של 'בדיקת מים' עבור חברות AI אחרות, כדי לראות מה הציבור מוכן לקבל או רוצה לקבל. כבר ראינו לפני כמה חודשים שסם אלטמן, מנכ"ל OpenAI, צייץ ב־X שבקרוב תהיה למבוגרים גישה לגרסה פחות מוגבלת של GPT, שתאפשר גם תכנים ארוטיים".
"אנשים לא תמיד מבינים שפגיעה ברשת היא פגיעה מינית לכל דבר. כאשר מדובר ביצירה של תמונות מיניות מזויפות עם בינה מלאכותית, הבלבול גדל עוד יותר"
האם יש בכלל אפשרות אמיתית להגן על נשים וקטינות במרחבים שבהם הדימוי שלהן עלול להיות מעובד, ממוין ומופץ ללא שליטה?
"מחנכות מיניות שאני מדברת איתן מספרות שהיום כמעט בכל בית ספר שבו הן מבקרות, עולה מקרה של דיפ-פייק שהופץ בקרב התלמידים. זאת כבר לא תופעה חריגה, אלא ממש חלק מהמציאות היומיומית של בני נוער ברשת.
"חשוב לציין שבמקרה של פגיעות בקטינים ברשת, רוב הפוגעים הם קטינים בעצמם. זה מדגיש עד כמה דחופה העבודה של העלאת המודעות בקרב הורים, אנשי מקצוע ותלמידים, וכמה חשוב לחנך לאוריינות דיגיטלית ולמיניות בריאה, ולתת כלים להורים ואנשי מקצוע כדי לעצור את מעגל הפגיעה ולמנוע יצירה והפצה של דיפ-פייק.
"לצערי, אי אפשר למנוע מקרים כאלה ב־100%, אבל אפשר לצמצם משמעותית את היקף הפגיעה. נכון שגם אם כלים ליצירת דיפ־פייק ייאסרו לשימוש, תמיד יהיו דרכים לעקוף את האיסור, אבל ברור שככל שהטכנולוגיה פחות זמינה, היא תהיה נפוצה פחות.
"בישראל קיים גם מה שמכונה 'חוק הסרטונים', האוסר על 'פרסום תצלום, סרט או הקלטה של אדם, המתמקד במיניותו, בנסיבות שבהן הפרסום עלול להשפיל את האדם או לבזותו, ולא ניתנה הסכמתו לפרסום'. על פי מוקד 105, גם יצירה והפצה של תמונות או סרטוני עירום באמצעות בינה מלאכותית מהוות עבירה על החוק, ובמקרה של הפצה של דיפ-פייק יש מה לעשות - במקרים של פגיעה בקטינים ניתן לפנות למוקד 105. בגירים יכולים לפנות לאיגוד האינטרנט הישראלי או לעמותת 'מאאת' החוקרת עבירות מין ברשת, ובנוסף, אפשר לפנות ישירות לאתרים שבהם הופצו התכנים ולדרוש את ההסרה שלהם, וגם להגיש תלונה במשטרה או תביעה אזרחית.
"הבעיה היא שאנשים לא תמיד מבינים שפגיעה ברשת היא פגיעה מינית לכל דבר. כאשר מדובר ביצירה של תמונות מיניות מזויפות עם בינה מלאכותית, הבלבול גדל עוד יותר. חוסר ההכרה בפגיעה כפגיעה מינית יכול לעכב או למנוע את זה שהנפגע.ת יקבלו מענה, מה שעלול להעמיק את הנזק".
מה המשמעות מבחינה טראומה?
"דמייני נערה שמתעוררת בבוקר ומגלה שידיד לקח תמונה שלה מאינסטגרם, ובעזרת בינה מלאכותית יצר תמונת עירום מזויפת שלה והפיץ אותה לאחרים. הוא גרם לזה שיסתכלו עליה בצורה מינית, שידמיינו את גופה, ושישוו בין הגוף האמיתי שלה לבין גוף מזויף שלא שייך לה. זה לוקח ממנה את השליטה על הגוף והדימוי שלה, מפר גבולות של פרטיות והסכמה.
"תחשבי כמה בושה, השפלה ופגיעה יכול להיות שהיא מרגישה. זה שהתמונה 'מזויפת', לא מקטין את הפגיעה. זה מדגיש עד כמה קל היום לנקוט באלימות אפילו בלי מגע פיזי, ועד כמה הנזק יכול להיות ממשי ומתמשך.
"אני עובדת בעלם דיגיטל, אנחנו מסייעים לבני נוער וצעירים במצוקה ברשת. אחד הפרויקטים שלנו הוא מרכז טיפול מקוון, שפועל בשותפות עם הקרן לילדים ונוער בסיכון של הקרנות של ביטוח לאומי ועם מוקד 105. במרכז אנחנו מטפלים בנערים ובנערות שעברו פגיעה ברשת כמו הפצת סרטונים, חרם ברשת, שיימינג, סחיטה מינית, הפצת תמונות מיניות ועוד. מוקד 105 מפנים אלינו מקרים ואנחנו מספקים לנפגעים מפגשים עם אנשי טיפול דרך זום.
"דמייני נערה שמתעוררת בבוקר ומגלה שידיד לקח תמונה שלה מאינסטגרם, ובעזרת בינה מלאכותית יצר תמונת עירום מזויפת שלה והפיץ אותה לאחרים. הוא גרם לזה שיסתכלו עליה בצורה מינית, שידמיינו את גופה, ושישוו בין הגוף האמיתי שלה לבין גוף מזויף שלא שייך לה. זה לוקח ממנה את השליטה על הגוף והדימוי שלה ומפר גבולות של פרטיות והסכמה"
"בני ובנות הנוער המגיעים למרכז הטיפול המקוון משתפים הרבה פעמים בתחושה שהסביבה לא מבינה את עוצמת הפגיעה שהם חוו, וזה יוצר תחושת בידוד, כאילו שאף אחד לא מבין באמת את ההשפלה, החרדה והבושה שהם חווים. אבל פגיעה ברשת היא פגיעה לכל דבר ועניין.
"במרכז הטיפול המקוון אנו ממש רואים מקרוב עד כמה פגיעות ברשת משפיעות על חיי היומיום של צעירים. אנחנו פוגשים ירידה ביכולת התפקוד, קושי לחזור למסגרת הלימודית, נסיגה חברתית וצמצום מעגלים חברתיים, הפרעות שינה, דיכאון, חרדה ותחושת בדידות עמוקה. בגלל זה חשוב מאוד להכיר בחומרה של הפגיעה, ולנרמל את התחושות של הנפגעת או הנפגע ולא להגיד דברים כמו "זה בכלל לא דומה לך", "זאת רק תמונה", "זה סתם מזויף" וכו'.
אז מה את מציעה לעשות?
"הניסיון שלנו מלמד שככל שמתערבים רגשית סמוך יותר לאירוע הפגיעה, כך ניתן להפחית באופן משמעותי את עוצמת הסימפטומים, לאפשר חזרה מהירה יותר לשגרה ולחזק את תחושת המסוגלות. במקרים של פגיעה ברשת - ככל שהתוכן נשאר זמן רב יותר ברשת, כך גדל הסיכון להחמרת הפגיעה, גם בגלל משום שהוא יכול להגיע לקהל רחב יותר ולייצר תגובות נוספות שמעצימות את הנזק".
מה המשמעות של הסכמה בעידן שבו תמונה תמימה עלולה להפוך לאובייקט מיני באמצעות AI?
"העובדה שפגיעות מיניות קיימות בעולם היא לא סיבה לוותר על שיח ההסכמה, להפך. דווקא בתקופה שבה אנשים יכולים להשתמש בטכנולוגיה כדי ליצור תמונות עירום של אחרים בלי ההסכמה שלהם, צריך באופן דחוף להרחיב ולהעמיק עוד יותר את השיח על הסכמה, גבולות, רצון, אינטימיות וכבוד הדדי כבר מגיל צעיר. זה הבסיס להבנה של מיניות בריאה, של ההשלכות הרגשיות והחברתיות של פגיעה מינית, ושל האחריות שיש לנו כלפי אחרים.
"זאת הזדמנות חשובה לאנשי ונשות חינוך, מטפלות, מחנכות מיניות והורים לעצור ולדבר על תופעת הדיפ-פייק מבחינה ערכית וחינוכית. על המשמעות של שימוש בתמונה של אדם בלי הסכמתו, ועל זה שיצירה של תמונת עירום היא פגיעה, גם כשמדובר בתמונה מזויפת, וגם כשהדבר נעשה 'בצחוק', מסקרנות או בלי כוונה לפגוע".
