חברת הבינה המלאכותית xAI של אילון מאסק הגישה תביעה משפטית נגד אחד ממשתמשי צ'אטבוט ה-AI שלה, גרוק (Grok), בטענה כי עקף את מנגנוני ההגנה של המערכת כדי לייצר תמונות עירום מזויפות (דיפ-פייק) ותוכן מיני פוגעני, הכולל חומרים המערבים קטינים. התביעה הוגשה נגד טרי ויין הארווד, תושב דרום קרוליינה בן 67, שכבר נעצר מוקדם יותר השנה בחשד לעבירות ניצול מיני של ילדים. לפי כתב התביעה, הארווד ניסח פרומפטים מטעים ומתוחכמים במטרה לעקוף במכוון את מנגנוני הבטיחות המובנים של גרוק, והשתמש בכלי כדי להפוך תמונות תמימות לחומרים מיניים בוטים ללא ידיעתם או הסכמתם של המצולמים.
גרוק חופשי אבל מאשימים את המשתמש
(Shutterstock, רויטרס)
הצעד המשפטי האגרסיבי של xAI נתפס בענף הטכנולוגיה העולמי כניסיון ברור להסטת האשמה והאחריות המשפטית מהחברה עצמה וממנגנוני הבטיחות הרעועים שלה אל עבר המשתמשים. החברה מנסה לאותת כי היא תפעל ביד קשה נגד מי שמפר את תנאי השימוש ומדיניות השימוש ההוגן שלה, זאת במקום להודות בכשלים המובנים של המערכת, אשר זכו לביקורת בינלאומית נוקבת בחודשים האחרונים.
חשיפת הפרשה הנוכחית מגיעה על רקע גל תביעות רחב היקף וחקירות רגולטוריות נגד אימפריית הטכנולוגיה של מאסק. רק לאחרונה הגישה עיריית בולטימור תביעה נגד xAI, בטענה כי הצ'אטבוט גרוק הפר את חוקי הגנת הצרכן המקומיים וייצר מיליוני תמונות מיניות מזויפות, חלקן הגדול של קטינים, תוך ניצול תכונה שזכתה לכינוי "מצב חריף" (Spicy Mode).
במקביל, קבוצה של נערות ונשים הגישו תביעה ייצוגית נגד החברה ונגד חברת סטאביליטי AI (Stability AI), לאחר שתמונות הילדות שלהן נשאבו מהרשת והפכו לחומרים פורנוגרפיים. אפילו אשלי סט. קלייר, אם אחד מילדיו של מאסק, הגישה תביעה נגד החברה לאחר שגילתה כי משתמשים הפכו תמונות שלה מגיל 14 למצבים מיניים בוטים באמצעות המערכת.
המשבר הנוכחי מעמיד את xAI בעמדת נחיתות מובהקת מול המתחרות הגדולות בשוק הבינה המלאכותית היוצרת. בעוד שחברות כמו OpenAI עם מודל DALL-E, גוגל עם מערכת Imagen ומיקרוסופט מיישמות מנגנוני סינון קשיחים ואגרסיביים כבר בשלב הזנת הפרומפט ומונעות כמעט לחלוטין יצירת דמויות של אנשים אמיתיים או תכנים בעלי אופי מיני, המדיניות ה"חופשית" והאנטי-ממסדית שמאסק קידם בגרוק הפכה את הפלטפורמה לכר פורה עבור גורמים עברייניים.
הרגולטורים בבריטניה, באיחוד האירופי, ביפן ובמדינות נוספות באסיה כבר פתחו בחקירות רשמיות, מה שאילץ את הרשת החברתית X לחסום חלק מהאפשרויות ולשנות את הכללים, אך מבקרים טוענים כי מדובר בבקרת נזקים מאוחרת מדי. הקלות שבה ניתן כיום להנדס תודעה ולפגוע בפרטיות העלתה את הדיון הציבורי על גבולות האחריות של מפתחי הטכנולוגיה מול אחריות המשתמש הקצה, שאלה משפטית ומוסרית שצפויה להכריע את עתיד ענף ה-AI כולו בשנים הקרובות.
