ועדת הבריאות של הכנסת דנה היום (ג') בשימוש של רופאים בכלים מבוססי בינה מלאכותית. בדיון התברר שאין די נתונים בנושא. משרד הבריאות לא מכיר מקרים חריגים שנובעים משימוש ב-AI, אך מודה שאין לו תקציב לטפל בסוגיה בצורה משמעותית. נציגי קופות החולים וההסתדרות הרפואית הזהירו מפני רגולציית יתר כתוצאה מניסיון להסדיר את השימוש בכלים אלו והפצירו לשמור על מרחב תמרון שיאפשר לרופאים להבין טוב יותר את השימוש בכלים המודרניים.
הדיון התקיים לבקשתם של חברי הכנסת מתן כהנא (המחנה הממלכתי) ויעקב אשר (יהדות התורה), ולאחר פנייתו של יו"ר ארגון "למענכם", הרב יוסי ערבליך, לשר הבריאות ח"כ אוריאל בוסו. ערבליך העיד על מקרים רבים שהגיעו לפתחו של סיכון חיי חולים בעקבות השימוש בבינה המלאכותית. בדיון הועלה חשש בעיקר לגבי שימוש בכלים פתוחים כמו צ'אט GPT ולא בכלים ייעודיים כמו מכשור רפואי מבוסס בינה מלאכותית, שעליו יש כיום רגולציה, ונדרש אישור מסודר ממשרד הבריאות בהכנסתו לשימוש.
מ"מ יו"ר הוועדה ח"כ רון כץ (יש עתיד) אמר בפתחו של הדיון כי "למרות הרצון להתייעל, והרצון והפיתוי ללכת צעד קדימה, אם יש אחוז קטן לטעות שתפגע בבריאותו של אדם, חייבים להרים את הדגל".
2 צפייה בגלריה
"לא צריך להגיע למצב של רגולציית יתר". הפוטנציאל והסכנות בשימוש בכלי AI ברפואה
(צילום: shutterstock)
יו"ר הלשכה לאתיקה בהסתדרות הרפואית בישראל, ד"ר יוסף ולפיש, עדכן בדיון כי הלשכה עובדת בימים אלה על נייר עמדה וכללי שימוש נכונים ב-AI מבחינה מוסרית לרופאים בישראל. הוא טען כי לצד הבעיות האתיות, "צריך לראות שלא מפסידים בגלל הפחד מטכנולוגיה חדשה". במענה לשאלת יו"ר הוועדה אם הרופאים מיידעים את המטופלים על השימוש בכלים אלה, ענה ד"ר ולפיש כי לרופא יש חובה אתית להסביר למטופל את ההחלטות שלו, שנגזרת גם מחוק זכויות החולה.
נציגת משרד הבריאות אמרה כאמור שלא ידוע להם על מקרים חריגים שאירעו בעקבות שימוש של רופאים בכלי בינה מלאכותית. "יכול להיות שיש מקרים שאנחנו לא מכירים, אבל מהבדיקה שלנו לא קרה אירוע כזה", אמרה לירון זהר, סגנית ראש החטיבה הטכנולוגית במשרד הבריאות. לדבריה, מנכ"ל משרד הבריאות שם את נושא הבינה המלאכותית בראש סדר העדיפויות, והמשרד מקדם גם הטמעה של בינה מלאכותית בעבודת המשרד, לשיפור השירות שניתן לציבור. "הקמנו קבוצת עבודה שמרכזת חטיבות משמעותיות שקשורות להטמעת בינה מלאכותית, אך התקציב היא סוגיה מאתגרת. וכרגע אין תקציב ייעודי", הודתה.
לירון זהר ממשרד הבריאות: "לצד החשש של הכנסת שינויים, חשוב לקדם את הנושא שיש בו המון רווחים ופוטנציאל עצום. משרד הבריאות נמצא בקבוצות עבודה בינלאומיות, וכל העולם מתמודד עם הסוגיות הללו. בחודשיים הקרובים נצא במהלך שיעזור לנו להגדיר את גבולות הגזרה"
"לצד החשש של הכנסת שינויים, חשוב לקדם את הנושא שיש בו המון רווחים ופוטנציאל עצום, בטח למערכת הבריאות", הוסיפה זהר. היא ציינה שיש מהלכים שמתגבשים בהם תוכנית לאומית בתחום, שעבורה מקווה משרד הבריאות לגייס תקציב ייעודי. זהר הדגישה כי "משרד הבריאות נמצא בקבוצות עבודה בינלאומיות, וכל העולם מתמודד עם הסוגיות הללו. בחודשיים הקרובים נצא במהלך שיעזור לנו להגדיר את גבולות הגזרה", אמרה. היא הדגישה באשר לשימוש בכלים פתוחים, כי הדבר החשוב ביותר הוא חינוך הצוותים למגבלות, לצד הפוטנציאל.
אדם ערוץ, מנהל הגנת מידע וסייבר בלאומית שירותי בריאות, ציין כי בהחלט נדרשת הסדרה בתחום. "זה תחום פרוץ, וצריך להסתכל על הרשות להגנת הפרטיות ומשרד המשפטים ומה הם עושים בנושא, אבל לא צריך להגיע למצב של רגולציית יתר, כדי לא ליצור סרבול שימנע את הקדמה".
"הכשרת הרופא מלמדת אותו להיות ביקורתי"
ערוץ הסביר כי בלאומית עובדים עם כלי AI פנימיים, ויש שליטה על המידע. כמו כן אמר שהם לא מאפשרים להעלות קבצים או להוריד קבצים מכלים אלה. הוא ציין שבלאומית מפתחים כלי מבוסס בינה מלאכותית בתחום בריאות הנפש: לאחר אישור מהמטופל, תתבצע הקלטה של השיחה עצמה, וללא פרטים מזהים השיחה תועבר לכלי AI שיבצע תמצות וסיכום של המפגש.
באשר למגבלות, ציין ערוץ כי בינה מלאכותית "יוצרת הסתמכות מקצועית, שלעיתים גורמת גם לפגיעה מקצועית וזה חשש מהותי מאוד". חשש משמעותי עוד יותר לדבריו הוא השמירה על פרטיות המטופלים בשימוש בכלים אלה. "חברות AI רבות פרוצות מבחינת מדיניות הפרטיות ומה שהן עושות עם המידע, חלקן מוכרות אותו או לא מגנות עליו כמו שצריך". לכן התריע מפני העלאת תיקים רפואיים לכלים של AI ללא בקרה.
ד"ר לילך צולר מכללית: "העולם הוא מרחב פתוח, ולפני הצ'אט היה את גוגל וכלים אחרים שאנחנו כרופאים השתמשנו בהם, אבל ידענו שאי אפשר להשתמש בהם כפי שהם. הכשרת הרופא מלמדת אותו להיות ביקורתי, לקרוא מאמרים ולהטיל ספק"
ד"ר לילך צולר, ראש אגף טכנולוגיות רפואיות ובריאות דיגיטלית בחטיבת בתי החולים בכללית, הבהירה בדיון כי בישראל קיימת רגולציה בשימוש במכשור רפואי או תוכנות המבוססות בינה מלאכותית וייעודיות לטיפול רפואי. "אנחנו לא נמצאים בעולם כאוטי, בעולם הבריאות הנושא יותר מוסדר, למרות שזה חדש לכולנו", אמרה. באשר לשימוש בכלים פתוחים, כמו צ'אט GPT, טענה כי "העולם הוא מרחב פתוח, ולפני הצ'אט היה את גוגל וכלים אחרים שאנחנו כרופאים השתמשנו בהם, אבל ידענו שאי אפשר להשתמש בהם כפי שהם. הכשרת הרופא מלמדת אותו להיות ביקורתי, לקרוא מאמרים ולהטיל ספק". ד"ר צולר הדגישה כי "צריך את מרחב התמרון ללמוד את הכלים החדשים, לפני שתהיה רגולציה מכבידה שעלולה לפגוע ביכולות של ישראל כמדינה מובילה".
יו"ר ומייסד "למענכם", יוסי ערבליךאשר רוכברגר מהפורום לקידום בריאות לאנשים עם מוגבלויות, בית איזי שפירא, ציין מקרה אישי, שמדגיש כיצד יכולה הבינה המלאכותית לסייע למטופלים. "לאשתי התגלתה לפני כמה שנים תסמונת נדירה, שבארץ יש 50 אנשים עם אותה תסמונת", סיפר בדיון. "ממחקר אמפירי של ביקורים אצל הרופאים, לפחות 50% מהם לא שמעו על התסמונת והשפעותיה. אני בטוח שבמקרה כזה, שימוש בבינה מלאכותית, עם המידע והמחקרים שיש עליה בעולם, יכול לעזור לרופא ממוצע להבין מה קורה ואיזה טיפול מיטבי אשתי צריכה". לדבריו יש למצוא את האיזון בין היתרונות בשימוש, לסכנות הקיימות.
חשש מ"הזיות" של AI
פרופ' יוסף פרס, נשיא ארגון "למענכם", המעניק ייעוץ רפואי לחולים ולבני משפחותיהם ללא תמורה, ולשעבר מנהל המרכז הרפואי שניידר, אמר כי לארגון הגיעו באחרונה פניות של מטופלים בנושא. "אם כל אחד מאיתנו ישלח שאלה בצ'אט, חצי מאיתנו יקבלו תשובות שונות", אמר. הוא הדגיש כי יש הבדל באבחנות רפואיות כשמדובר בילד או מבוגר, או במטופלים עם מחלות רקע ולכן יש צורך תמידי במעקב רופא. "אני לא ממליץ להגביל מאוד שימוש בבינה מלאכותית, כי זו קדמה טכנולוגית, אבל צריכים להגביל ולבדוק את הרופאים, שרופא לא יוכל לכתוב מכתב שחרור או המלצות לפי מה שממליץ הצ'אט".
ד"ר גדי נוימן, סגן נשיא ארגון "למענכם", ולשעבר סגן מנהל המרכז הרפואי בילינסון, הוסיף כי בינה מלאכותית היא כלי עזר חשוב ומרכזי, שמתבסס על אוסף נתונים גדול. "בזה גדולתה של הבינה המלאכותית אך גם חסרונה. ולכן היא לוקה לעיתים ב'הזיות', כלומר ממציאה עובדות ונתונים שלא היו". ד"ר נוימן הסביר כי כלים אלה מכילים מידע חסר או חלקי, שיכול בהקשר רפואי, דווקא לפגוע באוכלוסיות שונות מבחינה אתנית, אוכלוסיות שוליים שמגיעות לטיפול. עוד אמר כי היעדר רגולציה יוביל למצב שבעתיד בית המשפט יהיה זה שצריך לקבוע אם הטכנולוגיה שעליה התבסס הרופא הייתה נכונה.
מ"מ יו"ר הועדה, ח"כ רון כץ, הפציר לפתח כלי AI ישראלי שאותו כינה ה-waze של מערכת הבריאות. "אם נדע לפתח כלי ייעודי רפואי על סמך מידע של מיליוני תיקים רפואיים, זה יוכל להיות הכלי הכי יעיל וחזק בעולם והכי רווחי. כלי שידע לשלם מיסים למדינת ישראל. אנחנו עלולים לפספס את זה, ואז נשתמש בכלים שפיתחו במדינות אחרות".
לנוכח העובדה שבקופות החולים ומשרד הבריאות אין נתונים על היקף השימוש של רופאים בכלים מבוססי בינה מלאכותית, ביקש היו"ר ממשרד הבריאות לערוך סקר אנונימי בנושא, שיבחן גם אם מיידעים את המטופלים על השימוש בכלים אלה. כמו כן, ביקש ממשרד הבריאות להקים צוות עבודה, בשיתוף הלשכה לאתיקה של הסתדרות הרופאים והסתדרות האחים והאחיות, שתקבע כלים מנחים לשימוש בבינה מלאכותית על ידי צוותים רפואיים, וכן המלצות לרגולציה מאפשרת בתחום. הוועדה ביקשה לקבל את התייחסות משרד הבריאות לפעולות שנעשו בתוך חודש.
