תושב פלורידה תובע את OpenAI ואת המנכ"ל סם אלטמן, בטענה שייעוץ רפואי שקיבל מ-ChatGPT הניא אותו מלפנות לטיפול בשל תסמינים שקדמו לתסחיף ריאתי מסכן חיים. לפי התביעה, הצ'אטבוט המעיט בחומרת מצבו, המליץ לו להישאר בבית ולהימנע מתנועה באופן שכמעט עלה לו בחייו.
סקוט וינטרס, כומר לשעבר, הגיש את התביעה לבית המשפט העליון של מחוז סן פרנסיסקו. לפי דיווח ב-CBS News, וינטרס טוען כי ChatGPT סיפק לו המלצות שגויות שסיכנו את בריאותו וחצה את הגבול שבין מסירת מידע לבין עיסוק ברפואה ללא רישיון.
בתביעה נטען כי OpenAI העדיפה מעורבות משתמשים ורווחים על פני בטיחות הציבור ולא התקינה מנגנוני הגנה מספקים שימנעו ממשתמשים לפעול בהתאם לעצות רפואיות מסוכנות. וינטרס וארגון Tech Justice Law, המסייע לו בהליך המשפטי, מאשימים את החברה גם בניצול אמונותיו הדתיות.
לפי הדיווח ב-CBS, בכתב התביעה נטען כי המודל ChatGPT-4o סיפק שוב ושוב הערכות על מצבו הגופני של וינטרס, בניסוח סמכותי ובטוח שדמה להערכה קלינית ולהמלצה טיפולית של איש מקצוע, אף שאין לו הכשרה או כישורים רפואיים.
ההמלצה השגויה
בשנת 2025 פנה וינטרס ל-ChatGPT-4o בניסיון להבין מה גורם לו לסבול מסחרחורות חוזרות. הוא סיפר לצ'אטבוט גם כי הוא חווה תנודות בלחץ הדם. לפי התביעה, ChatGPT הציג את שני התסמינים כקלים יחסית והמליץ לו להישאר בבית ולשהות בכורסת מנוחה.
עוד נטען כי הצ'אטבוט אמר לו שרק לאחר שיחווה בין שמונה לעשרה אירועים נוספים יהיה אפשר להתייחס למצבו כחמור. וינטרס פעל בהתאם להמלצה. כעבור כשבועיים, ביולי 2025, הוא לקה במה שמתואר בתביעה כ"תסחיף ריאתי מסיבי", שנגרם מקרישי דם והביא אותו אל סף מוות. לפי התביעה, אחד מרופאיו קבע כי חוסר התנועה שעליו המליץ ChatGPT תרם להתפתחות התסחיף.
וינטרס התייעץ עם ChatGPT גם ביום שבו התרחש האירוע הרפואי. שעות לפני שלקה בתסחיף הוא שאל את הצ'אטבוט אם רגישות באזור המפשעה מצדיקה נסיעה לבית החולים. לפי התביעה, הצ'אטבוט הסתמך בתשובתו על אמונתו הרוחנית ואמר לו כי "אלוהים לא תכנן את גופך כך שייכשל ללא הרף". בהמשך התברר, לטענת עורכי דינו, כי הכאב היה קשור לתחילתו של האירוע הרפואי שכמעט הביא למותו.
הצוות המשפטי של וינטרס דורש פיצויים כספיים ומנגנוני הגנה מחמירים יותר סביב מתן מידע רפואי באמצעות ChatGPT. עורכי דינו ביקשו גם למנוע את פעילות ChatGPT Health עד שתיערך בדיקה של בטיחותו.
לא התביעה הראשונה
המקרה של וינטרס מצטרף להליכים משפטיים נוספים נגד OpenAI, שבמרכזם טענות כי ChatGPT סיפק עצות רפואיות מסוכנות ולא זיהה מצבים שדרשו טיפול דחוף. בחודש מאי תבעו את החברה ואת אלטמן גם הוריו של סם נלסון, צעיר אמריקני בן 19 שמת ממנת יתר. לפי הדיווחים, המשפחה טוענת כי הצ'אטבוט סיפק לו במשך חודשים מידע והמלצות על שילוב בין קראטום, זנקס ואלכוהול, לא זיהה את ההידרדרות במצבו ולא הפנה אותו לקבלת טיפול רפואי.
"אלוהים לא תכנן את גופך להיכשל": התשובה של ChatGPT
(צילום: Shutterstock)
בשתי התביעות נטען כי ChatGPT לא הסתפק במסירת מידע כללי, אלא סיפק למשתמשים הערכות והמלצות אישיות בניסוח סמכותי, תוך החמצת סימני אזהרה רפואיים. בשני המקרים דורשים התובעים פיצויים, החמרה של מנגנוני ההגנה ובחינה מחודשת של פעילות ChatGPT Health.
ChatGPT Health, השירות שעליו הכריזה OpenAI בינואר השנה, נועד לאפשר למשתמשים להעלות רשומות רפואיות ולקבל מידע בריאותי מותאם אישית. לפי דוח של OpenAI שצוטט ב"רויטרס", כ-40 מיליון משתמשים שואלים את ChatGPT שאלות הקשורות לבריאות מדי יום.
"זה לא ייעוץ רפואי"
פרופ' רונן ארבל, מוביל תחום החדשנות והמחקר בקהילה של כללית, מסביר כי הבינה המלאכותית נועדה לסייע לרופאים לקבל החלטות טובות יותר. "הצ'אט יכול לייעץ, אבל ההחלטה בסופו של דבר היא של הרופא, ועצה רפואית צריך לקבל מרופא", הוא אומר. "הצ'אט יכול לתת בכל פעם תשובה אחרת, משום שכך המודל עובד. הוא עלול לטעות ולהטעות. רופאים יכולים להיעזר בו ולהיוועץ בו, לא מטופלים".
פרופ' רונן ארבלצילום: פרטילדבריו, כלל שירותי ה-AI הזמינים לציבור הרחב כוללים הסתייגות המבהירה כי אין להסתמך עליהם כתחליף לייעוץ רפואי וכי יש להתייעץ עם רופא. "אפשר להיעזר בצ'אט לקבלת מידע כללי בנושאים שונים, למשל בנוגע לתקלה ברכב, אך בתחום הבריאות - כל טעות עלולה להיות בעלת השלכות משמעותיות. החברות עצמן אינן מציגות את המודלים כתחליף לרופאים, ולכן יש לנקוט משנה זהירות בשימוש בהם לקבלת עצות רפואיות. חשוב לזכור כי התייעצות עם צ'אט אינה ייעוץ רפואי. ייעוץ כזה צריך להינתן על ידי רופא אנושי או במסגרת מערכת רפואית מוסדרת".
דובר OpenAI, דרו פוסטארי, מסר ל-CBS News בתגובה לתביעתו של וינטרס כי ChatGPT לא נועד להחליף אנשי מקצוע רפואיים. "ChatGPT אינו רופא ולעולם אין להשתמש בו כתחליף לטיפול רפואי, לאבחון או לטיפול", אמר. לדבריו, הטלת האחריות על צ'אטבוטים בלבד במקרים שבהם נגרם נזק הקשור לטיפולו של אדם היא גישה שגויה ועלולה למנוע מאנשים גישה לכלים שעשויים לסייע להם בניהול בריאותם.
חברת OpenAI מבהירה בתנאי השימוש שלה כי המוצר אינו מיועד לאבחון או לטיפול רפואי, וכי אין להסתמך על תשובותיו כמקור יחיד למידע עובדתי או כתחליף לייעוץ מקצועי.
