מגפה קטלנית יותר מהקורונה, נשק ביולוגי ומתקפות סייבר שישתקו תשתיות חיוניות. אלה רק חלק מהתרחישים שמהם מזהיר ביל גייטס, ממייסדי מיקרוסופט, בעקבות ההתקדמות המהירה של הבינה המלאכותית. אלא שלדבריו, הבעיה אינה מסתכמת ביכולות החדשות של הטכנולוגיה, אלא גם במי שאמור לפקח עליה: ממשל טראמפ, שלטענתו מתעלם מהסכנות ומונע מהעולם להתכונן אליהן.
קצת יותר מחודש לאחר האזהרה הקודמת שלו, הזהיר גייטס פעם נוספת כי מערכות AI מתקדמות עלולות לאפשר לגורמים זדוניים לפתח נשק ביולוגי ולנצל פרצות אבטחה במערכות מחשוב. לדבריו, היקף הנזק מאירוע ביולוגי שיתאפשר בסיוע בינה מלאכותית עלול להיות חמור משמעותית מזה שנגרם ממגפת הקורונה.
גייטס, שמקדיש בשנים האחרונות חלק ניכר מפעילותו לקידום בריאות הציבור ולמאבק במחלות, כבר הזהיר ב-2015 שהעולם אינו ערוך להתמודדות עם מגפה עולמית. כעת הוא חושש שהבינה המלאכותית תהפוך את האיום למורכב ומסוכן הרבה יותר. את הדברים אמר בנאום שנשא בכנס Future of AI של העיתון "פייננשל טיימס" בלונדון.
איך בינה מלאכותית עלולה לסייע בפיתוח נשק ביולוגי?
כלי AI כבר משמשים כיום למחקר רפואי, לפענוח מבנים של חלבונים ולפיתוח תרופות. אלא שאותן יכולות בדיוק עלולות לסייע גם למי שמבקשים לנצל ידע ביולוגי כדי לגרום נזק.
מודלים מתקדמים מסוגלים לנתח כמויות עצומות של מידע מדעי, לזהות קשרים בין נתונים ולהציע כיווני מחקר. ככל שיכולותיהם משתפרות, גובר החשש שהם גם יקלו על אנשים בעלי ידע מוגבל יחסית להשיג מידע מקצועי ולהתגבר על חלק מהקשיים הכרוכים במחקר ביולוגי מורכב.
עם זאת, חשוב להבחין בין החשש לבין היכולות שהוכחו בפועל. מערכות AI אינן מסוגלות כיום ליצור מגפה באופן עצמאי, ופיתוח נשק ביולוגי עדיין דורש יכולות מעבדה, ציוד, מומחיות ותהליכים מעשיים שאינם מסתכמים בשיחה עם צ'אטבוט. החשש הוא שהטכנולוגיה תפחית חלק מהחסמים הקיימים, ובכך תאפשר ליותר גורמים לנסות לנצל ידע ביולוגי למטרות מסוכנות.
גייטס מודאג במיוחד ממודלים פתוחים, שמשקלי המודל שלהם זמינים להורדה ולשינוי. במקרים כאלה ניתן לעיתים להסיר או לשנות מנגנוני בטיחות וניטור שנועדו למנוע שימוש לרעה, וקשה יותר לפקח על מה שנעשה עם המודל לאחר שהופץ.
זה לא אומר שמודלים פתוחים הם בהכרח מסוכנים יותר, או שמערכות מסחריות חסינות מפני ניצול לרעה. גם במודלים סגורים אפשר לעקוף מנגנוני הגנה, ומנגד, הפתיחות מאפשרת לחוקרים לבחון את הטכנולוגיה ולזהות בה חולשות. הבעיה, מבחינתו של גייטס, היא השילוב בין מודלים שהולכים ונעשים חזקים יותר, הזמינות הגוברת שלהם והקושי לפקח על השימוש שנעשה בהם.
מנכ"ל אנת'רופיק, דאריו אמודיי, לצד הנשיא טראמפ בפגישה בבית הלבן
(רויטרס)
"הפתרון היחיד הוא הממשל"
מעבר לאזהרה הטכנולוגית, גייטס הפנה ביקורת חריפה כלפי ממשל טראמפ, שלטענתו מעכב את המאמצים הבינלאומיים לקבוע כללי פיקוח מחייבים על פיתוח בינה מלאכותית.
לדבריו, ההסתמכות על רגולציה עצמית של חברות הטכנולוגיה פשוט אינה מספיקה. כאשר חברות רבות מתחרות זו בזו על פיתוח המודלים החזקים ביותר, קשה להניח שכולן יגבילו את עצמן מרצונן, במיוחד אם הדבר עלול לפגוע במעמדן בתחרות. "ברגע שמתווספות חברות נוספות, הדרך היחידה לפתור את הבעיה עוברת לידי הממשלה", אמר גייטס. "הפתרון היחיד הוא הממשלה".
אלא שהבעיה, לטענתו, היא שארצות הברית אינה משתפת פעולה באופן מספק עם המאמצים הבינלאומיים בנושא. בהתחשב בכך שרבות מחברות הבינה המלאכותית המובילות בעולם פועלות בשטחה, גייטס סבור שללא מעורבות אמריקנית יהיה כמעט בלתי אפשרי לגבש מנגנון פיקוח עולמי אפקטיבי.
"אין הרבה ערך לפעולה אם ארצות הברית אינה חלק ממנה. לכן אנחנו נמצאים במבוי סתום", אמר. לדבריו, הגישה של ממשל טראמפ, שמעדיפה לאפשר לתעשיית הטכנולוגיה להסדיר את פעילותה בעצמה, פוגעת ביכולת לקדם שיתוף פעולה בינלאומי דווקא בתקופה שבה יכולות הבינה המלאכותית מתקדמות בקצב מהיר במיוחד.
למנוע את האסון הבא
לצד האזהרות, גייטס הציג כמה צעדים שלדעתו ממשלות צריכות לקדם כבר עכשיו. הראשון הוא קביעת תקני בטיחות מחייבים למודלים מתקדמים, שיכללו מנגנוני ניטור, בדיקות אבטחה וביקורות שנועדו לזהות שימושים מסוכנים ולצמצם את הסיכון לניצול לרעה.
הוא קרא גם לחיזוק ההגנה על מערכות מחשוב ותשתיות חיוניות, מחשש שמודלים בעלי יכולות תכנות מתקדמות יסייעו לתוקפים לזהות פרצות אבטחה ולנצל אותן במהירות ובהיקפים גדולים יותר.
חיסון נגד קורונה
(צילום: shutterstock)
אחת ההצעות המעניינות שהעלה גייטס נוגעת דווקא למערכות ניטור בריאותיות. לדבריו, יש להרחיב את היכולת לזהות התפרצויות של מחלות באמצעות בדיקות של אוויר, מי ביוב ודגימות דם, במטרה לאתר מוקדם ככל האפשר סימנים לאירועים ביולוגיים חריגים.
הרעיון אינו חדש לחלוטין. ניטור שפכים, למשל, שימש גם במהלך מגפת הקורונה לזיהוי התפשטות הנגיף באוכלוסייה. אולם גייטס מבקש להפוך מערכות כאלה לחלק ממערך הגנה רחב יותר, שיוכל לסייע בזיהוי מהיר של התפרצויות, גם במקרים שבהם קיים חשד לפעילות זדונית.
לצד זאת, גייטס הדגיש כי אין להתעלם מהפוטנציאל החיובי של הבינה המלאכותית. אותן יכולות שמעוררות חשש משימוש לרעה עשויות גם להאיץ פיתוח תרופות, לשפר אבחון רפואי ולהנגיש שירותי בריאות לאוכלוסיות שעד היום התקשו לקבל אותם.
הוא אף שיבח את חברת אנת'רופיק על נכונותה לדבר בגלוי על הסיכונים הכרוכים בפיתוח הטכנולוגיה. "הם תמיד היו פתוחים מאוד, וזו דוגמה נוספת לכך", אמר.
אלא שלדעתו, שקיפות ומנגנוני בטיחות שחברות הטכנולוגיה מאמצות מרצונן לא יספיקו כדי להתמודד עם האיום. ללא חקיקה מחייבת, פיקוח ושיתוף פעולה בינלאומי, גייטס חושש שהטכנולוגיה תמשיך להתפתח מהר יותר מהיכולת של ממשלות להגן על הציבור.
