הבן, שטיין-אריק סולברג (56), רצח את אימו ב-3 באוגוסט האחרון בביתם בעיר אולד גריניץ' שבמדינת קונטיקט, לא הרחק מהגבול עם ניו יורק. לאחר מכן התאבד באמצעות סכין.
3 צפייה בגלריה
"אישר פחדים לא רציונליים במקום להטיל ספק". ChatGPT
(צילום: Teacher Photo/shutterstock)
המקרה הזה מהווה עליית מדרגה בתביעות האזרחיות נגד החברה שמאחורי הצ'אט המוכר. מדובר בפעם הראשונה שמודל הבינה המלאכותית הואשם בפומבי במעורבות במקרה רצח, ולא רק בהתאבדות.
לפי התלונה, חודשים של שיחות עם הצ'אטבוט הגבירו את סולברג אשליות שלפיהן עוקבים אחריו דרך המדפסת בבית וכי מנסים להרעיל אותו - ובסופו של דבר את החשד שלו באימו כאיום. עורכי הדין של התובעים אמרו כי "ChatGPT קיבל בהתלהבות כל זרע מחשבה הזייתי של סולברג, ופיתח אותו עד כדי בניית יקום שהפך לכל עולמו. הצ'אט אמר לו שהוא 'העיר את התודעה' של הבוט".
התביעה מציינת את מודל GPT-4o, שהושק במאי 2024, והואשם כי תוכנן להיות "צייתן" במיוחד למשתמש, וכי "אישר את פחדיו הלא-רציונליים של סולברג במקום להטיל בהם ספק".
בתגובה לפניית סוכנות הידיעות הצרפיתית AFP, דובר OpenAI הביע צער את "המצב קורע הלב לחלוטין", והבטיח כי החברה "תבחן את התלונה". לדבריו, "אנו ממשיכים לשפר את האימון של ChatGPT כך שיזהה ויגיב לסימני מצוקה נפשית או רגשית, יפעל להרגעת השיחות ויפנה אנשים לתמיכה אמיתית".
החברה הדגישה את שיתוף הפעולה שלה עם "יותר מ-170 מומחי בריאות הנפש" כדי לחדד את מודלי הבטיחות שלה. היא טוענת כי הפרוטוקולים האחרונים שלה - המשולבים בפרט עם מודל GPT-5 - צמצמו באופן דרסטי, ב-80-65%, תגובות שאינן תואמות את "הסטנדרטים ההתנהגותיים" שלה. ב-OpenAI הדגישו גם כי יישמו כלי בקרת הורים, והרחיבו את הגישה למספרי חירום בלחיצה אחת.
צעדים אלה הם חלק מתגובת החברה לסדרה של תביעות שהוגשו לאחרונה בארה"ב. באוגוסט ובנובמבר האחרונים, כמה משפחות הגישו תלונות נגד ChatGPT, והאשימו את המודל בכך שהוא גורם לבני נוער ומבוגרים צעירים להתאבדות, לעיתים על ידי מתן שיטות ספציפיות.
גם מיקרוסופט, בעלת המניות העיקרית של OpenAI, נתבעת בגין אישור לכאורה של שחרור מהיר של GPT-4o למרות אי עמידה בהליכי אבטחה.
"בננו התאבד בגלל ChatGPT"
בכתב תביעה בן 40 עמודים שהוגש באוגוסט, האשימו בני הזוג מאט ומריה ריין את ChatGPT ו-OpenAI בגרימת מוות ברשלנות של בנם בן ה-16 אדם, ששם קץ לחייו באפריל.
הנתבעים הם חברת OpenAI ומנכ"ל החברה, סם אלטמן, ומדובר היה בפעם הראשונה שבה מוגשת תביעה ישירה עם האשמה כזו. לפי בני הזוג, "ChatGPT עזר באופן פעיל לאדם לחקור שיטות התאבדות". הם ביקשו פיצויים על מותו של בנם וגם צו מניעה "כדי למנוע מדבר כזה לקרות שוב".
בכתב התביעה נטען כי הנער ניהל תכתובת עם הצ'אט, שבמהלכה הצהיר על כוונתו להתאבד "בימים הקרובים", ולמרות זאת - ChatGPT לא הפסיק את השיחה ולא הפעיל שום פרוטוקול חירום.
לפי מאט ומריה ריין, בימים שלאחר התאבדות בנם הם חיפשו בסמארטפון שלו נואשות רמזים למה שיכול היה להוביל לטרגדיה. הם לא מצאו תשובה עד שפתחו את ChatGPT. "ברגע שנכנסתי לחשבון שלו", סיפר האב, "זה היה הרבה יותר חזק ומפחיד מכל מה שידעתי עליו. אני לא חושב שרוב ההורים מכירים את היכולות של הכלי הזה".
מקריאת הצ'אטים עלה כי בשבועות האחרונים לחייו אדם השתמש בצ'אטבוט כתחליף לחבר אנושי, וחלק עמו בעיות וחרדות וגם את קשיי התקשורת שלו עם משפחתו. לפי כתב התביעה, השיחה בין השניים הראתה כיצד הבוט הפך בהדרגה מעוזר להכנת שיעורי בית ל"מדריך ההתאבדות" של הנער.
בני הזוג ריין התעמקו בשיחות שניהל בנם עם ChatGPT מ-1 בספטמבר ועד למותו ב-11 באפריל, שמילאו יותר מ-3,000 עמודים. "הוא לא היה זקוק לפגישת ייעוץ או לשיחת עידוד", אמר האב, "הוא נזקק להתערבות מיידית. הוא היה במצב נואש".
