הצ'אטבוט גרוק (Grok) של חברת xAI שבבעלותו של אילון מאסק ממשיך להיות "הילד הרע" של פלטפורמות הבינה המלאכותית היוצרת: תכונה חדשה שהשיקה החברה בשבוע שעבר, המאפשרת למשתמשי הרשת החברתית X (טוויטר לשעבר) לערוך מיידית ובקלות כל תמונה קיימת מבלי להזדקק לאישור בעל הזכויות, עוררה גל של תמונות ברשת, שבהן הופשטו אנשים מבגדיהם באמצעותה, כמובן ללא הסכמתם או הסכמת יוצר התמונה.
מדובר בהליך פשוט להפליא: בעת ריחוף עכבר מעל תמונה המופיעה ב-X, מופיע סמל "עריכת תמונה", ולחיצה עליו פותחת תיבת טקסט לתיאור השינויים הנדרשים. על-פי מגזין The Verge, לא רק שיוצר התמונה לא מקבל התראה על עריכת התמונה, אלא שזו גם יכולה להתקרב באופן מטריד למדי לתמונת עירום מפורשת (אם כי לא עירום מלא).
זאת אגב, אף שרשמית, מדיניות השימוש של xAI אוסרת על הצגת "דמויות של אנשים בצורה פורנוגרפית". כמה צלמים כבר הודיעו בעקבות זאת, כי יפסיקו להעלות תמונות ל-X ויעזבו את הפלטפורמה.
גם נשים וילדים
בימים האחרונים הוצפה רשת X בתמונות נשים וילדים, וכמובן מנהיגים עולמיים וסלבריטאים, בשלבים שונים של התערטלות או במצבים מיניים אחרים. דימויים מיניים מפורשים שנוצרו על ידי בינה מלאכותית עשויים להיחשב בלתי חוקיים לפי החוק האמריקאי.
מי שעודד את הגל החדש הוא אילון מאסק עצמו, שביקש מגרוק להחליף תמונה של השחקן בן אפלק בתמונה של עצמו לבוש ביקיני ופרסם אותה ב-X. ימים לאחר מכן, ז'קט העור של קים ג'ונג און מצפון קוריאה הוחלף בביקיני ספגטי רב-צבעוני, ולרשת עלו גם תמונות של נשיא ארה"ב דונלד טראמפ ושל הפוליטיקאית הבריטית פריטי פאטל בבגדי ים.
בתגובה לגל תמונות הביקיני שלו, פרסם מאסק תמונה של טוסטר בביקיני עם הכיתוב "גרוק יכול לשים ביקיני על הכל". אבל אף שחלק מהתמונות נועדו לשמש כבדיחות, אחרות נועדו בבירור ליצור דימויים כמעט פורנוגרפיים - כשגרוק מקבל הוראות ספציפיות להשתמש בסגנונות ביקיני זעירים במיוחד, או להסיר שמלות וחצאיות לחלוטין, גם של ילדים ופעוטות.
לפי חברת קופליקס (Copyleaks) הישראלית, שעוסקת באימות מקוריות של קבצי מדיה מכל סוג, המגמה החלה מיד עם שחרור תכונת העריכה החדשה, כאשר יוצרי תכנים למבוגרים ביקשו מגרוק ליצור עבורם דימויים מיניים של עצמם כצורת שיווק ב-X.
בשלב הבא החלו יוצרי התוכן להוציא הנחיות דומות גם לגבי נשים המופיעות בתמונות של משתמשים אחרים, כאשר תמונות הדיפ-פייק החושפניות מצאו את מקומן במהירות בערוצים שונים ב-X.
בינתיים, לפי הדיווח, משתמש אחד ב-X הצליח לגרום לצ'אטבוט לפרסם התנצלות על "אירוע שכלל תמונת בינה מלאכותית של שתי נערות צעירות (בגילי 16-12) בלבוש מיני", וכינה זאת "כישלון באמצעי הגנה, שייתכן שהפר את מדיניות xAI ואת החוק האמריקאי".
למשתמש אחר הציע גרוק לדווח על כך ל-FBI, וציין כי הוא "מתקן בדחיפות" את "הליקויים באמצעי ההגנה". לבקשת סוכנות רויטרס לתגובה אמיתית, הגיבה החברה בשלוש מילים בלבד: "שקרים של תקשורת מסורתית".
ככלל, לעומת מחוללי הווידאו Veo של גוגל ו"סורה" (Sora) של OpenAI, המציבים מגבלות משמעותיות ליצירת תוכן מיני או אלים, מוצרי הבינה המלאכותית של מאסק משווקים באופן בולט כמיניים מאוד.
בין השאר, למשל, מציעה xAI "מצב ליווי" - אווטארים מונפשים, שנועדו להפוך את השיחות ל"אנושיות יותר". אחת הדמויות הללו היא דמות אנימה בשם אנני הכוללת "מערכת אהבה" מובנית, שבה בשלב מסוים לובשת אנני בגד שחור שקוף ומנהלת דיאלוגים פרובוקטיביים.
