עברייני ה-AI כבר לא מוגנים מהחוק: לפי דיווח של אתר 404, הבולשת הפדרלית בארה"ב (ה-FBI) הוציאה בימים האחרונים צו חיפוש לחברת X בדרישה לקבל מידע על פרומפטים שהוזנו לגרוק (Grok), זאת לאחר שעל פי החשד משתמש יצר באמצעות הצ'אטבוט יותר מ-200 סרטונים מיניים מזויפים של אישה אותה הכיר בחיים האמיתיים.
מהמסמכים שהוגשו לבית המשפט על ידי ה-FBI עולה כי הנאשם, סיימון טאק, ניהל מסע הטרדות ואיומים ממושך נגד האישה ובעלה. טאק הכיר את האישה במכון כושר בו השניים נהגו להתאמן, החל להתכתב איתה ואף צילם אותה בחשאי בזמן האימונים.
בחודשים האחרונים, כך נטען במסמכים, טאק הזעיק לשווא כוחות חירום לביתם של בני הזוג, שלח תלונות אנונימיות למעסיק של הבעל ובהן טען כי הוא מתעלל בילדים ומכור לסמים, התחזה אליו ושלח לו איומים בירי המוני והתאבדות. טאק אף פנה לבית לוויות וטען כי הבעל "עומד למות בקרוב".
צו חיפוש לגרוק
ומסע הנקמה של טאק לא נעצר שם. בחודש ינואר האחרון הוציאה ה-FBI צו חיפוש לשיחותיו של טאק עם גרוק, זאת לאחר שטאק "הזין פרומפטים בצ'אטבוט אשר יצרו לא פחות מ-200 סרטונים פורנוגרפיים של אישה שנראתה דומה מאוד במראה שלה לקורבן". עוד נטען כי טאק השתמש בגרוק כדי לנסח תלונה נגד בעלה של האישה, שהוגשה לחברה שבה הוא עובד.
מעניין לציין שלמרות שהמעשים המתוארים בתצהיר קיצוניים ומזעזעים, הם אינם חריגים במיוחד ביחס לתיקי הטרדה חמורים אחרים. מה שכן בולט וחריג במקרה הזה הוא שהרשויות בארה"ב החלו להתייחס לשיחות עם צ'אטבוטים מבוססי AI כמקור פוטנציאלי לראיות, ולא פחות מכך - ש-X משתפת פעולה עם הדרישות ומעבירה את המידע.
אך למרות שיתוף הפעולה של X, אי אפשר להתעלם מתפקידה של החברה בפרשה, שכן הכלי שלה הוא זה שאפשר לטאק לייצר מאות סרטונים פורנוגרפיים ללא הסכמתה של הקורבן.
גל תביעות וחקירות
גרוק וחברת X שבבעלותו של אילון מאסק עומדים כזכור בימים אלו במרכזו של גל תביעות וחקירות עולמי, בטענה כי מנגנוני הסינון והפיקוח של הכלי כשלו במניעת יצירת תכנים מיניים לא חוקיים או פוגעניים.
מלזיה ואינדונזיה היו המדינות הראשונות שהחליטו לחסום את גרוק כליל בתחילת חודש ינואר, בטענה כי הבקרות הקיימות בו כיום אינן מונעות יצירה והפצה של תוכן מיני מזויף, במיוחד של נשים וקטינים.
ביקורת חריפה נגד גרוק נשמעת גם בהודו ובמדינות האיחוד האירופי, וכן בבריטניה ובצרפת. ארגון הפיקוח העצמאי על בטיחות הרשת הבריטי OFCOM הודיע כי פתח בחקירה נגד X בעקבות הדימויים המיניים המתפרסמים בחסותה בגרוק - במטרה לקבוע האם החברה הפרה את חובתה להגן על אזרחי בריטניה מפני תוכן בלתי חוקי.
בעקבות פניית חברי פרלמנט צרפתיים, גם משרד התובע הציבורי בפריז הודיע כי יחקור את התפשטות הדיפ פייק המיני המפורש שנוצר בפלטפורמה. יחידת פשעי הסייבר הצרפתית כבר חוקרת חשדות נגד X, בין השאר על הפצת הצהרות אנטישמיות והכחשת שואה דרך גרוק.
וגם בישראל גרוק עומד על המוקד - בחודש שעבר הוגשה לבית המשפט המחוזי בתל אביב בקשה לאישור תובענה ייצוגית נגד X ו-xAI. המבקשת, אזרחית ישראלית ובעלת חשבון משתמש פעיל בפלטפורמת X, טוענת כי גרוק מאפשר למשתמשים לערוך בקלות כל תמונה קיימת ולהפוך אותה לדימוי בעל אופי מיני, כגון "הפשטה" דיגיטלית והלבשה בבגדי ים או בהלבשה תחתונה.
