בעוד הממשל האמריקני מנסה לקדם את חזון "להפוך את אמריקה לבריאה שוב" (MAHA), נראה כי הטכנולוגיה המלווה את המיזם מספקת בעיקר כאבי ראש פוליטיים. תקרית מביכה במיוחד נרשמה השבוע כאשר כלי הבינה המלאכותית של המיזם, המזוהה עם שר הבריאות המיועד רוברט פ. קנדי ג'וניור, סיפק למשתמשים המלצות תזונתיות תמוהות, ובהן ההצעה להחדיר מוצרי מזון מסוימים דרך פי הטבעת כדי "למקסם את ספיגת הערכים התזונתיים".
התקרית, שדווחה בהרחבה בכלי תקשורת בארה"ב ובבריטניה, היא רק קצה הקרחון בשורה של תקלות טכניות ומקצועיות המלוות את הדו"ח הרשמי של ועדת MAHA. הדו"ח, שהוצג כ"סטנדרט הזהב" של המדע המודרני, התגלה כרווי בטעויות מביכות שנובעות, כך על פי מומחים, משימוש רשלני בבינה מלאכותית (Generative AI).
מדע בדיוני בדו"ח ממשלתי
בדיקה שנערכה על ידי גופי תקשורת מובילים, בהם ה"גרדיאן" הבריטי ו-NOTUS האמריקני, העלתה כי הדו"ח של קנדי ג'וניור כולל הפניות למחקרים רפואיים שפשוט אינם קיימים. לפחות שבעה מקורות מדעיים שצוטטו בדו"ח התגלו כ"הזיות" טיפוסיות של מודלי שפה עם שמות של חוקרים לא קיימים ומחקרים שנשמעים אמינים אך שמעולם לא נכתבו.
גם כשהבינה המלאכותית לא המציאה, היא עדיין טעתה. חוקרים ששמם שורבב לדו"ח הביעו תדהמה, אפידמיולוגים ורופאי ילדים ציינו כי המסקנות המיוחסות להם בטקסט הממשלתי הפוכות לחלוטין מתוצאות מחקריהם בפועל. בתגובה לביקורת, בבית הלבן ניסו להמעיט בערך התקלה וכינו אותה "בעיית פורמט", אך הדו"ח עודכן בחשאי וההפניות הפיקטיביות הוסרו מהגרסה המקוונת.
מודל לא רציני
חשוב לציין שגם ענקיות הטק מפתחות מודלים לרופאים אך בניגוד לצ'אטבוטים כלליים, המודלים של גוגל ומיקרוסופט (בשיתוף OpenAI) עוברים הכשרה על בסיסי נתונים רפואיים מאומתים ועומדים במבחני הרישוי הרפואי של ארה"ב (USMLE) בציון של מעל 85%. ההבדל המרכזי נעוץ ב"מעקות בטיחות" (Guardrails) – מנגנוני סינון שמונעים מהמערכת לספק עצות כאילו-מדעיות או מסוכנות, אלמנט שנראה כי נעדר לחלוטין מהפלטפורמה של קנדי (שעל פי הדיווחים מבוססת על גרוק של xAI).
עם זאת, פריצת הדרך של מודלי השפה הגדולים (LLM) בשנת 2022 הביאה עמה דמוקרטיזציה (שיש שיאמרו) מדאיגה של הייעוץ הרפואי. אם בעבר רק רופאים ניגשו למערכות מומחה, היום כל אדם יכול לקבל "דיאגנוזה" מהסמארטפון. המקרה של MAHA מדגיש את הסכנה הטמונה בשילוב שבין פוליטיקה, אידיאולוגיה רפואית שנויה במחלוקת וטכנולוגיה שטרם הבשילה.
בעולם שבו סין משקיעה מיליארדים בבינה מלאכותית לניהול בתי חולים ואירופה מחוקקת חוקי רגולציה נוקשים על AI (ה-AI Act), ארה"ב מוצאת את עצמה במבוכה דיפלומטית ומקצועית. כאשר שר בריאות מקדם נתונים פיקטיביים המיוצרים על ידי מכונה, האמון הציבורי במערכת הבריאות נמצא בסכנה ממשית. הטכנולוגיה שנועדה "להבריא את אמריקה" זקוקה בעצמה לטיפול דחוף, ובעיקר לבקרה אנושית מקצועית שתמנע מהזיות דיגיטליות להפוך למדיניות לאומית.
