כשרבקה גרין הגיעה לפגישה הראשונה שלה עם אורולוגית והתבקשה להסכים לכך שמערכת בינה מלאכותית תתעד את השיחה, היא השיבה בחיוב ללא היסוס. לדבריה, היא לא רצתה להצטייר כמטופלת שמקשה על הרופאה או גוזלת עוד מזמנה. רק מאוחר יותר גילתה כי לתיק הרפואי שלה נכנסה טענה שקרית וחמורה: שהיא צורכת פטריות פסיכדליות.
גרין גילתה את הטעות לאחר שעברה במרץ ניתוח לטיפול באבנים בכליות, וקראה את המכתב שנשלח בעקבותיו מהמומחית לרופא המשפחה שלה. במכתב נכתב כי היא נוטלת מנות זעירות של פטריות פסיכדליות, וכי הדבר עשוי להסביר דימום קודם באזור הכליות. "הייתי המומה ובכיתי. מעולם לא השתמשתי בפטריות בחיי", סיפרה גרין לרשת ABC האוסטרלית. לדבריה, הכנסת מידע שאין לו כל בסיס למסמך רפואי רשמי הייתה מפחידה במיוחד בשל ההשלכות האפשריות: היא קיבלה באותה תקופה פיצויים בעקבות פגיעה בעבודה, וחששה שאזכור של שימוש בסמים בלתי חוקיים ישפיע על עניינה.
גלריה
תמלול שיחות עם רופא בידי AI הפך לאתגר שבצדו יתרונות רבים וגם סיכונים. אילוסטרציה
(צילום: shutterstock)
מעבר לפגיעה האפשרית בזכויותיה, תיארה גרין תחושה של טיפול מנוכר ולא אישי. לדבריה, דווקא בתקופה שבה הייתה פגיעה ונזקקה לטיפול, היא לא הרגישה שהרופאה מכירה אותה או מודעת מספיק למצבה.
בעקבות תלונתה, שלחה האורולוגית לגרין מכתב התנצלות ותיקנה את ההתכתבות הרפואית. הרופאה כתבה כי היא מתייחסת ברצינות לדיוק התיעוד, אך לא הצליחה לקבוע כיצד נכנסה הטענה על הפטריות למסמך - ולדבריה, נראה שמקורה בטעות בתהליך ההכתבה או התמלול. היא הוסיפה כי תבחן מחדש את אופן השימוש בבינה מלאכותית במרפאתה, אך לא השיבה לשאלות ABC בנוגע לשינויים שבוצעו בעקבות המקרה.
גרין אמרה כי היא חשה בת מזל שזיהתה את השגיאה, וחששה שמטופלים אחרים לא יבחינו בטעויות העלולות להשפיע על בריאותם, על עבודתם או על הביטוח שלהם. לדבריה, בדיקה של המכתב לפני שליחתו הייתה מאפשרת לתקן את המידע השגוי בזמן. "אני אוהבת בינה מלאכותית, אבל המרכיב החיוני הוא האדם", אמרה, והוסיפה כי בעיניה הכשל נבע בעיקר מהיעדר מעורבות אנושית.
כשה-AI מייחס אבחנה לשד הלא נכון
מתעדים רפואיים מבוססי בינה מלאכותית, המכונים AI Scribes, מאזינים לשיחה בין הרופא למטופל, מתמללים אותה ומעבדים את התוכן למסמך רפואי מובנה. בהתאם למערכת, התוצר עשוי להיות סיכום ביקור, מכתב הפניה, מכתב שחרור, או רשומה המיועדת להיכנס ישירות לתיק הרפואי. השימוש בהם מתרחב במהירות: בסקר מקוון שערך הקולג' המלכותי האוסטרלי לרופאי משפחה בנובמבר 2025, 40% מהמשיבים אמרו שהם משתמשים בקביעות במתעדי AI, לעומת 22% בלבד בסקר שנערך באוגוסט 2024.
היתרון ברור: במקום להקליד לאורך הפגישה או להשלים מסמכים לאחר שעות העבודה, הרופא יכול לכאורה להקדיש יותר תשומת לב למטופל. מחקר שפורסם בכתב העת JAMA Network Open וכלל 263 רופאים ואנשי מקצוע רפואיים בשש מערכות בריאות בארצות הברית, מצא כי לאחר 30 ימי שימוש במתעד AI, שיעור השחיקה שדווח בידי המשתתפים ירד מ-51.9% ל-38.8%. המשתתפים דיווחו גם על ירידה בעומס הקוגניטיבי ועל יכולת טובה יותר להתמקד במטופלים. עם זאת, מדובר במחקר שהשווה נתונים לפני ואחרי בלבד, ללא קבוצת ביקורת, שהתבסס בחלקו הגדול על דיווח עצמי.
במקום להקליד לאורך הפגישה, הרופא יכול לכאורה להקדיש יותר תשומת לב למטופל. אילוסטרציה
(צילום: shutterstock)
לצד היתרונות, המערכות עלולות להשמיט מידע, לייחס דברים לדובר הלא נכון, לבלבל בין מונחים רפואיים או להוסיף פרטים שכלל לא נאמרו. דוח שפרסם ביולי האחרון ארגון זכויות הפרט Digital Rights Watch הביא, בין היתר, מקרה שבו מערכת ציינה את השד הלא נכון אצל מטופלת עם סרטן השד, ומקרה נוסף שבו נרשמה למטופל אבחנה של אפילפסיה שלא הייתה לו.
ד"ר אליזבת דוויני, מנכ"לית פורום צרכני הבריאות של אוסטרליה, אמרה כי מטופלים מגלים לעיתים טעויות כאלה במקרה, ולאחר מכן מתקשים לברר מהיכן הגיע המידע וכיצד ניתן למחוק או לתקן אותו. לדבריה, קיים גם חשש שעם הזמן יפתחו הרופאים אמון מופרז בתוצרים: בתחילת השימוש הם עשויים לבדוק כל מסמך בקפידה, ובהמשך להסתפק בקריאה שטחית מתוך הנחה שהמערכת מדייקת.
גם הביצועים בין המערכות השונות אינם אחידים. מחקר אוסטרלי שפורסם באפריל השווה ארבע מערכות מסחריות לתיעוד שכתבו רופאים בארבע פגישות מדומות. מערכות ה-AI השיגו ציונים דומים ולעיתים גבוהים יותר, אך ההבדל הכולל לא היה מובהק סטטיסטית, ואחת המערכות נטתה להפיק יותר מידע שלא הופיע בשיחה בפועל. החוקרים הדגישו כי המדגם היה קטן, וכי נדרשת בחינה נוספת בתנאי אמת.
האם המטופלים באמת יכולים לסרב?
סוגיה נוספת היא האופן שבו מתקבלת הסכמת המטופלים. Digital Rights Watch מצא כי בחלק מהמרפאות ההודעה על השימוש ב-AI הופיעה רק בשלט בחדר ההמתנה, ובאחרות שולבה ההסכמה בטופס המקוון לקביעת התור. לפי הדוח, היו גם מטופלים שנאמר להם כי אם אינם מסכימים לשימוש במערכת, יהיה עליהם לפנות למטפל אחר.
הארגון בחן את מדיניות הפרטיות של 60 ספקי שירותי בריאות באוסטרליה שזוהו כמשתמשים במתעדי AI. רק ארבעה מהם הסבירו במדיניות הפרטיות שלהם כי נעשה שימוש במערכות כאלה. מעבר לשאלת הפרטיות, עצם הידיעה שמערכת חיצונית מאזינה לשיחה עלולה להשפיע על המידע שהמטופל מוכן למסור - חשש משמעותי במיוחד בפגישות העוסקות בבריאות הנפש, באלימות במשפחה, בבריאות מינית או בשימוש בסמים.
איך הסתננה פטריית הזיה לתיק הרפואי? תשאלו את ה-AI
(צילום: shutterstock)
הנחיות רשות הפיקוח על מקצועות הבריאות באוסטרליה, AHPRA, קובעות כי האחריות נשארת בכל מקרה בידי המטפל. רופאים נדרשים לקבל הסכמה מדעת, להפעיל שיקול דעת אנושי, ולבדוק את הדיוק והרלוונטיות של כל מסמך שנוצר באמצעות AI לפני שהוא נשמר או נשלח.
גם מבחינה רגולטורית נותר שטח אפור. באוסטרליה, מערכת שמיועדת לתמלול ולסיכום בלבד אינה נחשבת בדרך כלל למכשיר רפואי. לעומת זאת, אם היא מנתחת את השיחה או מוסיפה אבחנה, בדיקה או המלצה טיפולית שלא נאמרו בידי הרופא, היא עשויה להיחשב מכשיר רפואי, ולחייב אישור של TGA, הרשות האוסטרלית למוצרים רפואיים. הרשות בוחנת כעת את המערכות המשווקות במדינה, ואת האפשרות שכמה מהן מציעות בפועל יכולות החורגות מתמלול בלבד, ללא האישורים המתאימים.
ובישראל? הכלים כבר נבחנים
המקרה של גרין ממחיש את הסיכון שבהכנסת מידע שנוצר באמצעות בינה מלאכותית לתיק הרפואי ללא בקרה מספקת. אלא שלדברי פרופ' רן בליצר, סמנכ"ל וראש מערך החדשנות בשירותי בריאות כללית, לצד הכשלים חשוב להבין גם את הסיבה לאימוץ המהיר של הטכנולוגיה. "ראשית, צריך לומר שהשימוש במתמללים אוטומטיים בחדר הרופא הופך יותר ויותר להיות שגרה בארצות הברית ובמדינות נוספות", הוא אומר. "חברות מובילות בעולם הצליחו להגיע לרמת איכות ודיוק שמאפשרת בסך הכול תמלול איכותי ברוב גדול של המקרים - ופה הדגש הוא על השפה האנגלית".
פרופ' רן בליצרצילום: טל שחרגם פרופ' בליצר מסכים כי היתרון המרכזי של המערכות הוא האפשרות להפחית את העומס המנהלי המוטל על הרופא, ולשנות את אופי המפגש עם המטופל. "ההבטחה הגלומה במתמלל האוטומטי היא גם שחרור המטפל מהמקלדת, היכולת לנהל שיח חופשי עם מטופל בלי הפרעות, והיכולת למצות את כל מה שנאמר לתוך הרשומה הרפואית בלי צורך לזכור מה נאמר".
פרופ' רן בליצר: "השימוש במתמללים אוטומטיים בחדר הרופא הופך יותר ויותר להיות שגרה בארצות הברית ובמדינות נוספות. חברות מובילות הצליחו להגיע לרמת איכות ודיוק שמאפשרת תמלול איכותי ברוב גדול של המקרים"
עם זאת, בישראל התעכבה הטמעת המערכות בשל הקושי לתמלל באופן מדויק שיחה חופשית וז'רגון רפואי בעברית. לדברי פרופ' בליצר, כיום כבר קיימים כלים המסוגלים לבצע את המשימה, וכמה מהם נמצאים בשלבי בחינה והתנסות במערכות בריאות שונות - ובהן גם מרפאות הקהילה ובתי החולים של כללית. אלא שגם מערכת טובה אינה מדייקת תמיד. פרופ' בליצר מחלק את הכשלים האפשריים לשלושה סוגים: השמטת מידע שנאמר בשיחה; הוספת מידע שלא נאמר, תופעה המכונה לעיתים "הזיה"; והחלפת פרט נכון בפרט שגוי - למשל מספר, מינון או צד בגוף.
"כל כלי שמתבסס על בינה מלאכותית יטעה בשיעור מסוים", הוא מדגיש. לכן, לדבריו, השימוש במערכות האלה מטיל על הרופא אחריות לבדוק ידנית כל סיכום לפני הכנסתו לתיק. אלא שהבדיקה עצמה אינה משימה פשוטה: כאשר רובו המכריע של הטקסט נראה תקין, קל להחמיץ פרט בודד שהושמט, הוחלף או נוסף. "תחשוב כמה בלשות וכמה ריכוז צריך כדי לחפש את המחט בערמת השחת, כשברוב המקרים אין מחט", הוא אומר.
מי אחראי לבצע את תהליך הבדיקה וההערכה?
(צילום: shutterstock)
מכאן עולות שאלות שטרם קיבלו מענה מלא: מהו שיעור הטעויות של כל מערכת, מה חומרתן, מי אמור לבדוק את הכלי לפני הטמעתו, ומי אחראי לנטר אותו לאחר שנכנס לשימוש. לדברי פרופ' בליצר, גם הרגולטורים במדינות המערב מתקשים להתמודד עם האתגר, שכן בניגוד לתרופה שאפשר לבחון ולאשר בתהליך מוגדר, מערכות AI משתנות לאורך זמן, וביצועיהן עשויים להיות שונים בין מוסד רפואי אחד למשנהו. "השאלות האלה נכונות לא רק לכלים מסוג מתמלל, אלא לכל מערכות ה-AI שנכנסות לתוך ארגוני הבריאות. עולה השאלה מי אחראי לבצע עליהן את תהליך הבדיקה וההערכה - שהן גם בטוחות, גם אחראיות, וגם ששיעורי הטעויות שלהן קבילים בהתאם למקרה".
גם הרגולטורים, הוא אומר, עדיין מתקשים להדביק את קצב ההתפתחות. "זה לא כמו שמאשרים, למשל, תרופות - שאתה מאשר פעם אחת וזה עובד בכל מקום אותו דבר. ברגולציה של הכלים האלה יש הרבה מאוד דינמיות והרבה מאוד הבדלים מאתר יישום אחד לשני, ולכן קשה מאוד לאשר את זה באופן מרכזי".
לצד זאת, הוא מציין כי כדי להתמודד עם הפער פיתחה כללית מסגרת בשם Optica, לבחינה ולניטור של כלי AI. "יצרנו תהליך ארגוני שבו כל מוצר AI שנכנס לשירותי בריאות כללית עובר צ'ק ליסט של עד 77 סעיפים, שמוודאים את כל ההיבטים - את הבטיחות, את שמירת הפרטיות, את רמת הדיוק, ואת הניטור המתמשך של המוצר לאורך שנים, מכיוון שהוא עשוי להשתנות", הוא אומר. "ארגון הבריאות העולמי ציין לאחרונה את Optica כאחת המסגרות המובילות שבהן מערכות בריאות יכולות להיעזר לצורך הערכה והטמעה אחראית של פתרונות בינה מלאכותית".
