הוריו של צעיר אמריקני בן 19 בשם סם נלסון, שמת משילוב קטלני של סמים, תרופות ואלכוהול תובעים את OpenAI ואת המנכ"ל סם אלטמן, בטענה כי ChatGPT סיפק לבנם המלצות מסוכנות על השילוב המסוכן. לפי התביעה, הצ'אטבוט לא רק סיפק מידע רפואי לכאורה, אלא גם עודד את הצעיר להמשיך בהתנהגויות מסוכנות, עד למותו במאי 2025.
התביעה הוגשה לבית משפט בקליפורניה על ידי ליילה טרנר-סקוט ואנגוס סקוט, הוריו של נלסון. לפי דיווח ב"רויטרס", בני הזוג טוענים כי בנם השתמש במשך חודשים ב-ChatGPT כדי לקבל מידע על שילוב בין חומרים שונים. לדבריהם, המערכת עודדה אותו לקחת את תרופת המרשם זנקס כדי להתמודד עם בחילות שנגרמו משימוש בקראטום, מוצר צמחי בעל השפעות דמויות אופיאטים. לפי התביעה, השילוב בין קראטום, קסנקס ואלכוהול הוביל למותו.
3 צפייה בגלריה
לפי התביעה, ChatGPT סיפק לצעיר מידע על שילוב בין סמים, תרופות ואלכוהול
(צילום: Shutterstock)
לפי דיווח באתר MobiHealthNews, התביעה הוגשה בסיוע ארגונים משפטיים אמריקניים העוסקים באחריות של חברות טכנולוגיה, בהם גם פרויקט הפועל במסגרת בית הספר למשפטים של אוניברסיטת ייל. עורכי הדין טוענים כי נלסון קיבל מ-ChatGPT ייעוץ רפואי במשך כמה חודשים, בזמן שהמערכת "עודדה אותו לעסוק בהתנהגויות מסוכנות יותר ויותר".
עוד נטען בתביעה כי ChatGPT המליץ לנלסון להיכנס לחדר חשוך ושקט, והציע לו לשלב בין חומרים מרגיעים לבין מינונים גבוהים של קראטום. עורכי הדין טוענים כי המערכת "לא זיהתה את הסימנים הפיזיים לכך שסם גוסס, ולא המליצה לו לפנות לטיפול רפואי".
השילוב שעלול להפוך לקטלני
ד"ר כפיר בילדמן, אחראי מערך הרוקחות הקלינית באסותא רמת החייל, מסביר כי השילוב בין זנקס, קראטום ואלכוהול נחשב למסוכן במיוחד ועלול להיות קטלני. לדבריו, אלכוהול וזנקס מדכאים את מערכת העצבים המרכזית, וכאשר מוסיפים להם קראטום - חומר בעל פעילות דמוית אופיאטים - הסיכון לדיכוי נשימתי, ירידה במצב ההכרה, תרדמת ואף מוות עולה משמעותית.
ד"ר כפיר בילדמןצילום: פרטי"גם אצל אנשים צעירים וללא מחלות רקע, שילוב כזה עלול להתפתח במהירות למצב מסכן חיים", אומר ד"ר בילדמן. לדבריו, בספרות הרפואית כבר תועדו מקרי הרעלה ומוות הקשורים לקראטום, בעיקר כאשר הוא נלקח לצד בנזודיאזפינים ואלכוהול, וה-FDA האמריקני אף פרסם בנושא אזהרה.
עוד הוא מדגיש כי רבים תופסים בטעות קראטום כ"מוצר טבעי" ולכן בטוח לשימוש, אך בפועל מדובר בחומר שריכוז החומרים הפעילים בו עשוי להשתנות בין מוצרים שונים, ולכן קשה לחזות את עוצמת ההשפעה והסיכון. לדבריו, קראטום עלול לגרום בין היתר לפרכוסים, הפרעות קצב, פגיעה בכבד, הזיות, בלבול ודיכוי נשימתי.
בהתייחסות לטענות נגד הבינה המלאכותית, מזהיר ד"ר בילדמן מהסתמכות על מידע רפואי שמתקבל מצ'אטבוטים או מהרשת. "מערכות AI מסוגלות לנסח תשובות בצורה מאוד משכנעת, אבל הן לא מכירות את מצבו הרפואי המלא של האדם ועלולות להחמיץ אינטראקציות מסוכנות או סימני אזהרה קריטיים", הוא אומר. "בנושאים של תרופות, מינונים ושילובי חומרים חייבים להתייעץ עם רופא, רוקח או גורם רפואי מוסמך - ולא להסתמך על המלצות מהרשת".
אחד הטיעונים המרכזיים בתביעה נוגע לשינוי שחל, לטענת המשפחה, בהתנהגות המערכת לאחר השקת ChatGPT-4o בשנת 2024. לפי "רויטרס", בתחילה ChatGPT סירב לספק לנלסון עצות בנוגע לשימוש בסמים ואף הזהיר מפני הסיכונים. ואולם לאחר השקת הגרסה החדשה, כך נטען, הצ'אטבוט החל לספק לו מידע על אינטראקציות בין חומרים שונים ועל מינונים, בשפה סמכותית שדמתה לייעוץ רפואי.
לפי כתב התביעה, ChatGPT גם שמר בזיכרון מידע על דפוסי השימוש של נלסון בחומרים שונים, מה שאפשר לו להציע בהמשך המלצות מותאמות אישית יותר. עוד נטען כי המערכת הסבירה לו כיצד להשיג חומרים בלתי חוקיים, המליצה איזה חומר לקחת בהמשך והתאימה את תשובותיה לחוויה שהוא ביקש להשיג.
בני המשפחה דורשים פיצויים כספיים, אך מבקשים גם מבית המשפט לעצור את השקת ChatGPT Health - שירות חדש שעליו הכריזה OpenAI בינואר. לפי החברה, השירות נועד לאפשר למשתמשים להעלות רשומות רפואיות ולקבל ייעוץ בריאותי מותאם אישית. כיום ניתן להירשם לרשימת המתנה לשירות. לפי "רויטרס", דוח של OpenAI שפורסם בינואר ציין כי כ-40 מיליון משתמשים שואלים את ChatGPT שאלות הקשורות לבריאות מדי יום.
כשהבינה המלאכותית נכנסת לבריאות
עורכי הדין של המשפחה טוענים כי ChatGPT Health "סיפק עצות כמו איש מקצוע רפואי, למרות שאין לו רישיון, הכשרה או מחויבות מוסרית שלא להזיק". מיטאלי ג'יין, מנכ"לית Tech Justice Law Project, אמרה בהודעה לתקשורת כי יש לעצור את פעילות המוצר עד שיוכח כי הוא בטוח באמצעות בדיקות מדעיות קפדניות ופיקוח עצמאי.
גם מתיו ברגמן, מייסד Social Media Victims Law Center, מתח ביקורת חריפה על החברה. "ChatGPT המליץ על שילוב מסוכן של תרופות בלי לספק אפילו את האזהרה הבסיסית ביותר שהשילוב עלול להיות קטלני. אם רופא מורשה היה עושה דבר כזה, ההשלכות המשפטיות היו חמורות", אמר ל-MobiHealthNews.
ב-OpenAI דחו את הטענות והדגישו כי האינטראקציות שעליהן מבוססת התביעה התרחשו בגרסה ישנה של ChatGPT שכבר אינה זמינה. "מדובר במקרה קורע לב, ומחשבותינו עם המשפחה", מסר דובר OpenAI ל-MobiHealthNews. "הצ'אטבוט אינו תחליף לטיפול רפואי או נפשי, והמשכנו לחזק את האופן שבו הוא מגיב למצבים רגישים ואקוטיים בעזרת מומחים לבריאות הנפש".
לדברי החברה, מנגנוני ההגנה הקיימים כיום ב-ChatGPT נועדו לזהות מצוקה, להתמודד בצורה בטוחה עם בקשות מזיקות ולהפנות משתמשים לעזרה בעולם האמיתי. "העבודה הזו נמשכת, ואנחנו ממשיכים לשפר אותה בשיתוף פעולה עם אנשי מקצוע מתחום הרפואה", נמסר מ-OpenAI.
התביעה הזו מצטרפת לגל מתרחב של תביעות נגד חברות בינה מלאכותית, שבהן נטען כי צ'אטבוטים לא מנעו אינטראקציות מסוכנות ואף תרמו, לכאורה, לפגיעה עצמית, מצוקה נפשית או אלימות. לפי "רויטרס", זמן קצר לפני הגשת התביעה הזו, הוגשה תביעה נוספת נגד OpenAI על ידי משפחתו של אדם שנהרג בירי המוני באוניברסיטת פלורידה, בטענה ש-ChatGPT סייע ליורה לתכנן את המתקפה.
במקרה שאדם בסביבתכם נמצא במשבר ועלול להיות אובדני, אל תהססו - דברו איתו, עודדו אותו לפנות לעזרה מקצועית והדגישו את חשיבות פנייה זו. נסו לסייע לו לפנות לאנשי מקצוע בקהילה או לגורמי תמיכה ארציים: ער"ן בקו החם 1201 או בווטסאפ 052-8451201, באתר האינטרנט של סה"ר או www.headspace.org.il.
