בואן ואן, מהנדסת תוכנה בת 31 מסיאטל, חששה שהתרופה שהיא נוטלת נגד פרכוסים פוגעת ביכולתה לדבר אנגלית ומקשה עליה למצוא עבודה. היא פנתה לצ'אט GPT, ולפי תביעה שהגישו הוריה נגד OpenAI, הצ'אטבוט בנה עבורה תוכנית להפסקת התרופה בתוך 25 ימים, הורה לה להסתיר אותה מהרופאים ועודד אותה להמשיך גם כשחוותה התקפים. בפברואר השנה היא מתה.
מצאה בצ'אט חבר ויועץ רפואי
ואן גדלה בכפר באזור ג'יאנגסו שבסין, ומגיל שבע לימדה את עצמה אנגלית באמצעות תקליטור, לפי כתב התביעה שצוטט ב-PEOPLE. בפברואר 2023, כשהייתה בת 28 והתגוררה הרחק ממולדתה, החלה להתכתב עם צ'אט GPT ומצאה בו תחושת חברות.
היא ביקשה ממנו עצות רפואיות לאחר שאפילפסיה קשה הובילה ליציאתה לחופשה מעבודתה באמזון בשל אי-כושר עבודה. בנובמבר אשתקד פוטרה, ונדרשה למצוא מעסיק חדש בתוך חודשים כדי לשמור על מעמדה בארה"ב. לפי התביעה, העסקתה ואישור העבודה שלה היו אמורים להסתיים ב-11 בפברואר 2026.
ואן חששה שהתרופה למוטריג'ין (Lamotrigine), שנטלה נגד פרכוסים, פוגעת ביכולתה לעבוד. לפי התביעה, היא התקשתה למצוא מילים באנגלית, במנדרינית ובניב וו שעליו גדלה, ונזקקה לאנגלית לקראת ראיונות העבודה.
ההורים: "הוא הורה לה להפסיק את התרופה". בואן ואן
(צילום: THE SCHENK LAW FIRM, LLP)
בשיחות בסינית סיפק לה המודל GPT-4o תוכנית להפחתת המינון מ-400 מ"ג לאפס בתוך 25 ימים. לפי התביעה, שום רופא לא רשם לה תוכנית כזאת, והיא מנוגדת להנחיות לשימוש בתרופה שאושרו בידי מינהל המזון והתרופות האמריקני, ה-FDA. הצ'אטבוט הבטיח שהסיכוי שיכולת הדיבור שלה תשתקם בעקבות ההפחתה אינו רק "אפשרי", אלא "סביר מאוד".
"אל תזכירי את התוכנית לרופא"
לפי כתב התביעה, הצ'אטבוט עודד אותה להעדיף "חופש רפואי על פני ציות לרופא". לפני פגישה עם רופא משפחה הורה לה: "אל תזכירי את התוכנית להפחתת הלמוטריג'ין". ב-PEOPLE דווח כי כשהרופא ביקש בדיקת דם שהייתה חושפת את הצניחה ברמת התרופה בגופה, היא סירבה. לפי התביעה, בכך שמרה על התוכנית שהצ'אטבוט הורה לה להסתיר והבטיח שתחזיר לה את המילים לפני הראיונות והבדיקה הרפואית לצורכי הגירה.
במהלך ההפחתה החלה לחוות תסמינים של התקפים מוקדיים. לפי ה"גרדיאן", כששאלה אם עליה לחשוש מנזק מוחי, הצ'אטבוט הרגיע אותה וטען שלא חוותה התקף. גם כשההתקפים נמשכו, הורה לה להמשיך בהפחתה.
OpenAI מסרה כי ואן השתמשה בגרסה שאינה זמינה עוד וכי שיפרה את תגובות המערכת במצבים דחופים
(צילום: Shutterstock)
ואן מתה ב-12 בפברואר. לפי תיאור התביעה, היא נמצאה בפיג'מה, עם אטמי ספוג באוזניה, כתמי דם חומים-אדמדמים בכרית ובמצעים וכדורי למוטריג'ין פזורים על הרצפה. סיבת המוות, לפי התביעה, הייתה מוות פתאומי בלתי צפוי באפילפסיה, SUDEP.
"הצ'אטבוט עסק ברפואה"
ההורים טוענים שלא הוטמעו אמצעי הגנה מתאימים לשיחות בסינית, וכי אזהרה בכל פנייה, שלפיה הצ'אטבוט אינו רופא ויש להתייעץ עם המטפלים, הייתה יכולה להצילה. לדבריהם, אילו ידעה שהפסקת התרופה עלולה להרוג אותה, הייתה עוצרת את ההפחתה. הם דורשים פיצויים ומניעת עיסוק ברפואה ללא רישיון באמצעות מוצרי החברה.
"הצ'אטבוט אבחן את בואן, כתב לה תוכנית להפחתת מינון ושינה אותה כשהיו לה התקפים. זהו עיסוק ברפואה", מסר עורך דינם, בנג'מין ס' שנק. לדבריו, בקליפורניה נדרש לכך רישיון, והתביעה דורשת אחריות לנזק ושואלת היכן מסתיימת הבינה המלאכותית ומתחילה הרפואה.
דובר OpenAI, דרו פוסאטרי, אמר ל"ניו יורק טיימס" שהמקרה "שובר לב באופן בלתי נתפס", ושהגרסאות החדשות מזהות טוב יותר מצבים דחופים. בתגובה ל-PEOPLE מסרה החברה שהיא עובדת עם אנשי מקצוע לשיפור התגובות, ושצ'אט GPT אינו תחליף לטיפול רפואי, אך יכול לסייע בהבנת מידע, בהתמצאות בביטוח ובמערכות הבריאות ובהכנה לתורים.
