כנס AI Week שנערך באוניברסיטת תל אביב בשבוע שעבר זכה להיענות מפתיעה עם אלפי משתתפים בקהל וכמה מהשמות הבולטים בעולם הבינה המלאכותית על הפודיום וכורסאות הפאנלים. אולי זה לא צריך להפתיע. ישראל הולכת ובונה לעצמה מוניטין בתחום הבינה המלאכותית, שמזכיר את תחום הסייבר.

אמרת בינה מלאכותית, עדיין לא אמרת כלום. בינה מלאכותית הוא שם כללי לשורה של טכנולוגיות שבהן יכולות המחשב עולות על אלו של האדם, כמו למשל ראיית מחשב, עיבוד נתוני עתק (ביג דאטה) וחילוץ תובנות ותחזיות, איתור משמעות של דיבור או טקסט, יצירת מציאות סינתטית אלטרנטיבית ועוד. למעשה קשה למצוא חברות הייטק ישראליות שלא מציינות בינה מלאכותית כחלק מהעיסוק שלהן. ובמרבית המקרים זה גם נכון.
לא ברור אם הבינה המלאכותית עושה רק טוב לבני האדם. היכולות המתפתחות מטרידות מאוד, בעיקר בתחום צבירת הידע והסכנות לפרטיות ולחירות. מה שמעלה גבוה לסדר היום שאלות של אתיקה והגינות. אבל מה אלה לעומת הדאגה לשימוש בבינה מלאכותית ככלי נשק, והמרוץ המסחרר על ההגמוניה בתחום בין ארה"ב וסין, שכולל השקעות של מאות מיליוני דולרים וגיוס מדענים וחברות פרטיות למערכה.
כדי לשוחח על כמה מהנושאים האלה נפגשנו עם שלושה ממשתתפי כנס AI Week, מנהלים בכירים בתחום וגם מומחים לבינה מלאכותית ומדע הנתונים. פרופ' אלעד חזן הוא מנהל מעבדת המחקר Google AI באוניברסיטת פרינסטון בארה"ב, ביחד עם פרופ' יורם זינגר. השניים פיתחו אלגוריתם אופטימיזציה לאימון רשתות נוירונים שהקנה להם שם עולמי. לפני כן חזן היה בין מייסדי חברת In8, שפתחה בינה מלאכותית לרובוטיקה ולמכוניות אוטונומיות ונרכשה על ידי גוגל.
שיחה על בינה מלאכותיתשיחה על בינה מלאכותית
שיחה על בינה מלאכותית
(צילום: דרור סיתהכל)
ד"ר קירה רדינסקי, כיום יו"ר Diagnostic Robotics שמפתחת בינה מלאכותית למערכת הבריאות, הייתה עד לאחרונה המדענית הראשית של eBay ישראל. לפני כן הקימה את חברת SalesPredict שנרכשה על ידי איביי. לפני כן עבדה במו"פ במיקרוסופט ישראל ופיתחה מערכת לחיזוי תופעות עולמיות על סמך רשתות חברתיות.
ד"ר אמיתי ערמון, מדען הנתונים הראשי (CDS) לתחום הבינה המלאכותית באינטל, עומד בראש קבוצת הבינה המלאכותית של אינטל בישראל, שבה כ-200 חוקרים ומפתחים. לפני כן היה בין מייסדי חברת TakaDu שפיתחה טכנולוגיה לניטור מערכות מים עירוניות וחוקר אורח במעבדה הלאומית Los Alamos בארה"ב.
ספרו לי על משהו מעניין שעשיתם בחודש האחרון?
חזן: "אני תמיד מתרגש ממחקר ועכשיו אנחנו עובדים על בינה מלאכותית בתחום הבקרה, שאינו נפוץ. מצאנו דרך להכניס שיטות של למידת מכונה לתחום הרובוטיקה ואני מאוד מתרגש מזה. אם אתה רוצה לשלוח אות למכונית אוטונומית כדי שתבחר במסלול הכי אמין ויעיל אז למידת מכונה מאפשרת להתגבר על הפרעות ורעשים וזה מאוד חשוב לנהיגה אוטונומית".
שיחה על בינה מלאכותיתשיחה על בינה מלאכותית
פרופ' חזן. יש מחקר שאפשר לעשות רק בחברות גדולות
(צילום: דרור סיתהכל)
רדינסקי: "החברה שלנו מנסה לצמצם עומסים בתורים בבתי חולים ואנחנו רצים עם ניסויים כבר מספר שנים. מה שמרגש אותי הוא כל ניסוי קליני, שקצת מתחיל להצליח. כשאני רואה במיון שהמערכת הצליחה לזהות מחלה מסוכנת לפני שהרופא או האחות נגשו אל המטופל, אז זה מרגש. פתאום את רואה שההסתברויות שהמערכת צופה, יש להן קשר למציאות, והמערכת על סמך התלונות הראשוניות יודעת לצפות את המחלה ולתעדף פציינטים דחופים בצורה טובה".
פרופ' ערמון: "הייתה השנה פריצת דרך גדולה ודרמטית בתחום עיבוד השפה, שאת התוצאות שלה אנחנו עוד לא יודעים לחזות. לפני שבע שנים הייתה פריצה בעיבוד תמונה והיום אנחנו רואים את התוצאה בדברים כמו דיפ פייק ומכוניות אוטונומיות שייסעו בתל אביב ב-2022"
ערמון: "אנחנו מכניסים בינה מלאכותית למעבדים כך שהמחשבים לומדים את אופן השימוש במחשב ומתאימים את עצמם. אנחנו גם הופכים את המכונות במפעל למכונות חכמות, שמתאימות את תהליך הייצור לכל שבב. גם המפעל עצמו הופך חכם, לומד את ההיסטוריה של המכונות ומטפל בהן בצורה מותאמת אישית".
איפה היית אומר שנמצאת חזית המחקר בתחום בינה מלאכותית בתעשייה?
ערמון: "אני חושב שיש פוטנציאל עצום בבינה המלאכותית בתעשייה. כל ארגון מייצר המון דאטה וצריך לשמור ולארגן את הנתונים בצורה נכונה ואז להוציא תובנות, גם כדי לעשות מכונות חכמות יותר וגם כדי להעצים אנשים בצורה מאוד חזקה. הייתה השנה פריצת דרך גדולה ודרמטית בתחום עיבוד השפה, שאת התוצאות שלה אנחנו עוד לא יודעים לחזות. לפני שבע שנים הייתה פריצה בעיבוד תמונה והיום אנחנו רואים את התוצאה בדברים כמו דיפ פייק ומכוניות אוטונומיות שייסעו בתל אביב ב-2022".
שיחה על בינה מלאכותיתשיחה על בינה מלאכותית
ד"ר קירה רדינסקי. להכניס יכולות אנושיות ללמידת מכונה
(צילום: דרור סיתהכל)
איפה נמצאת חזית המחקר בתחום השימוש בבינה המלאכותית לחיזוי תופעות?
רדינסקי: "נתחיל מתקרת הזכוכית: לא הכל אפשר לחזות. אני מאמינה שניתן לחזות דברים שיש להם תבניות. הבינה המלאכותית כיום הצטמצמה לתחום לימוד המכונה, שמחפש סטיסטטית דברים. אין מספיק הבנה איך להכניס בלימוד מכונה ידע עולם מיוחד לכל תחום. אני מאמינה בהכנסת היכולות האנושיות והמדעיות ללימוד המכונה. התפרסמו מאמרים שהראו שלימוד המכונה מפלה לרעה שחורים. זה קרה כי האלגוריתמים שיחזרו את ההטיה שאנשים עשו. אנחנו רוצים לעשות תיקון עולם ואני מאמינה בלמידת מכונה מוסברת. אם הרופא יראה מדוע המערכת חושבת שלמטופל יש דלקת ריאות, אז אנחנו נותנים לאתיות, שגדלנו עליה בתור אנשים להיכנס למשחק. את האתיות אנחנו עוד לא יודעים איך להכניס לבינה המלאכותית אבל המכונה משקפת לרופא את הצעתה ואז נכנסת האתיות בשלב קבלת ההחלטה".
ערמון: "אני רוצה לחזק את הדברים של קירה: יש פה אלמנט של רטרו. כל התחום של AI התחיל ממערכות מומחה, חוקים שרופאים היו מכניסים למערכת. אחרי זה עברו ללמוד מביג דאטה ועכשיו אנחנו מבינים, שצריך לחבר את שני הדברים ביחד".
שיחה על בינה מלאכותיתשיחה על בינה מלאכותית
ד"ר ערמון. מקום מרכזי לאתיקה בבינה מלאכותית
(צילום: דרור סיתהכל)
חזן: "אני גם אוסיף על מה שקירה אמרה: יש שני אתגרים לבינה מלאכותית כיום. האחד הוא הזרקת ידע. כיום אנחנו לא יודעים להזריק ידע למכונה וכל הלמידה היא מתוך דוגמאות, למידה אינדוקטיבית. אין לנו מכונות שיכולות להתמודד עם למידה דדוקטיבית, כמו שאדם מסתכל על תופעות טבע ומסיק את חוקי ניוטון. האתגר השני הוא מתן הסברים. המכונה יודעת לתת חיזוי אבל לא להסביר למה היא חזתה. לא ברור אגב אם בני אדם יודעים לתת הסבר למה שעשו. הרופא יכול להגיד: 'זה נראה לי כמו סרטן, תחושת בטן'".
ערמון: "אנשים גם פחות סובלניים לטעויות של מכונה. אם הרופא התבלבל בין חיידק לוירוס אז אתה מבין שהוא חשב שצריך אנטיביוטיקה ליתר ביטחון. אבל אם מכונה עושה טעות, אפילו על תופעה עם סיכוי נדיר, אתה לא תהיה סובלני לטעות כזו".
המערכות של גוגל וחברות אחרות צוברות הרבה מאוד מידע על בני אדם. איפה עומדת חזית הפיתוח בתחום הידע על בני אדם?
חזן: "זו שאלת מוקש... אני אבהיר שאני מדבר בשם עצמי ובשם אוניברסיטת פרינסטון אבל לא בשם חברת גוגל. תחום מדעי ההתנהגות הוא תחום מחקר ותיק וככל שיש יותר מידע על בני אדם, בטח ברשתות החברתיות, אז ניתן לחזות התנהגות. שימוש מעניין הוא למשל בתחום הדייטינג, השידוך, ומתברר שסיכויי השרידות של זוגות שנפגשו באמצעות מערכות כאלה גבוהים פי כמה מזוגות אחרים.
"אנחנו עוסקים אימון יותר מהיר של רשתות נוירונים, טכנולוגיה עיקרית בתחום עיבוד תמונה, וכמו שאמר אמיתי, גם בעיבוד שפה הייתה פריצת דרך משמעותית. שתי אלה הן פריצות הדרך הגדולות ביותר שנראו אי פעם, והן קורות בחברות הענקיות האלה. יש מצב עגום, שחוקרים באקדמיה לא יכולים לעשות את זה כי אין להם נגישות לענן נתונים כזה גדול, שקיים אולי באינטל, בגוגל או בפייסבוק".
ד"ר רדינסקי: "מדען לא צריך לחשוב תמיד על כל השימושים. בשביל זה יש רגולציה. אנחנו חייבם להיות מסוגלים לקדם את המדע ואת האנושות קדימה, תוך שמירה על אתיות והוגנות"
איפה אתם רואים את הבינה המלאכותית תורמת לרווחת האנושות?
רדינסקי: "באמצעות בינה מלאכותית אנחנו מנסים לסייע בפתרון בעיית התורים במיון. עד 2030 יהיו 3.7 מיליארד אנשים בלי גישה לרפואה ראשונית. כבר היום מחכים 3.6 שעות בממוצע במיון ובסין מחכים 8 שעות. אז בינה מלאכותית יכולה לתת תמיכה בהחלטות, וגם אחידות של הטיפול בין המרכז לפריפריה. עם זה צריך לזכור שיש פער גדול מאוד בין ההסתברויות שהבינה המלאכותית מוציאה לבין ההמלצה הנכונה וצריך להתייחס לזה בצניעות ולא לצפות שבינה מלאכותית תפתור את כל הבעיות בבת אחת".
חזן: "פרוייקט שיצא מגוגל לאחרונה מזהה מחלות על סמך צילום רשתית העין, שכל אדם יכול לצלם בטלפון שלו. אני מעורב אישית בפרויקט לחיזוי שיטפונות בהודו, שמציל חיי אדם".
ערמון: "אנחנו עשינו פרויקט של ניטור חולי פרקינסון באמצעות שעון חכם על היד שלהם, שאיפשר לחברות תרופות בניסויים קליניים לדעת איזה מינון תרופה עובד יותר טוב. במובילאיי אנחנו אוספים נתונים מהרכב לצורך יישומי ערים חכמות: לדעת איפה יש בעיות, תאונות וכו'. יש גם פוטנציאל עצום בתחומי החינוך, למשל מערכת שמראה למורה אם התלמיד מבין את החומר על סמך הבעות הפנים שלו".
מצד שני, צבירת נתונים על אנשים עלולה לאפשר לשלוט באנשים. לא מדאיג אתכם שמישהו יקח דבר שאתם מפתחים וישתמש בזה לרעה?
רדינסקי: "מדען לא צריך לחשוב תמיד על כל השימושים. בשביל זה יש רגולציה. אנחנו חייבם להיות מסוגלים לקדם את המדע ואת האנושות קדימה, תוך שמירה על אתיות והוגנות. אבל זה לא צריך לעצור את הקידמה. אם אתה לא חולק את הנתונים שלך, אתה עלול לגרום לאירוע הטרור הבא כי לא הצלחנו לזהות אנומליות בפעילות.
פרופ' חזן: "שימוש מעניין הוא למשל בתחום הדייטינג, השידוך, ומתברר שסיכויי השרידות של זוגות שנפגשו באמצעות מערכות כאלה גבוהים פי כמה מזוגות אחרים"
"האובר-הייפ שעושים לבינה מלאכותית מפריע ביישומים אסטרטגים, שאם לא מפתחים אותם, מאוד ברור מה יהיה הנזק. לדוגמה בתי חולים עם מונופול על המידע על החולים, שעושה סטגנציה מבחינה מחקרית לכל העולם. דוגמה אחרת היא המונופול של גוגל על החיפושים שאנשים עושים, ואין שום דרך להתחרות בהם. מדברים על מונופול כלכליים אבל לא על מונופול מידע, שבסוף מונע קידמה". ערמון: "כשהולכים לכנסים מרכזיים בתחום, הנושא של אתיקה מקבל במה מאוד מרכזית בשנים האחרונות. גם אצלנו באינטל חושבים איך לא לעשות משהו שאנשים ייפגעו. כשיש מודעות, כמו שקירה אמרה, הטכנולוגיה תשמש לצדדים החיוביים. אני חושב שיש ערך מאוד גדול שדווקא בתחומים הבעייתיים כמו דיפ פייק, מדענים יעסקו ויפרסמו את העבודות שלהם, כי כל עוד זה במחשכים אתה לא יודע איך להתמודד עם זה".
מי יותר מסוכן לדעתכם בשימוש בבינה מלאכותית, חברת מסחריות או ממשלות?
חזן: "אובמה אמר שהמצב בעולם כיום הוא הכי טוב שהיה אי פעם והסיבה היא קידמה. אז לא צריך צריך לפחד מהקידמה אבל כמובן להיות מודע לסכנות. עושה רושם שיש בעיה פוליטית בעולם בהקשר למהפיכת המידע, והממשלה הסינית או הממשלה הטורקית מצליחות לשלוט באוכלוסיה באמצעות הרשתות החברתיות וכאן יש סכנה לחופש".
רדינסקי: "אני חושבת שממשלות שלטו באנשים מזה מאות שנים, ולכם השאלה היא אם זה קל יותר עכשיו. זו שאלה מעניינת לחקור. כי מצד שני לאנשים יש יותר נגישות למידע אז זה קשה יותר. על כל קידמה שתבוא יהיה ניסיון להשתמש בה לאו דווקא לצרכים הנכונים".
חזן: "יש משהו יוצא דופן שלא ראיתי בעבר, תחומי מחקר שניתן לעשות אותם רק בחברות הגדולות והם תחומי מחקר מובילים בבינה מלאכותית. באופטימיזציה, בשפה טבעית, בעיבוד תמונה, אתה רואה תוצאות רק בסקאלות מאוד גדולות שיש רק בחברות הגדולות".
שיחה על בינה מלאכותיתשיחה על בינה מלאכותית
שיחה על בינה מלאכותית
(צילום: דרור סיתהכל)
ואז חברה כמו גוגל או חברות אחרות, לוקחות פרופסורים מובילים בתחומם, ומגייסת אותם לצרכים המסחריים שלה
חזן: "יש כאלה טענות, למשל על מחסור בכוח אדם בתחומים האלה ואחד הפתרונות של החברות זה פשוט לקנות פרופסורים: 'בוא תעבוד אצלנו, תתפטר מהאוניברסיטה שלך'. זה גרם למחסור באקדמיה וזה בעייתי מהרבה בחינות כי אתה גם רוצה להמשיך לחנך את דור העתיד".
רדינסקי: "הבעייה היא איך אנחנו מושכים בחזרה את הטאלנטים לארץ. בגלל שיש כל כך מעט ממנו, אז הם לא יחזרו לאקדמיה, הם יחזרו לחברות הגדולות, ולאו דווקא בארץ".
חזן: "אני חושב ששיתוף פעולה בין האקדמיה לתעשייה הוא דבר מאוד חיובי. יש כמובן בעיות פה ושם אבל המודל, שבו חברי סגל כן תורמים מזמנם כדי להשתתף בתעשייה ובחברות סטארט-אפ הוא טוב. הדוגמה הטובה ביותר היא פרופ' אמנון שעשוע שהקים את מובילאיי ונתן תרומה אדירה גם למדינת ישראל וגם לעולם".
פרסום ראשוני: 20:08 , 25.11.19