זהירות! כלי נשק אוטונומיים

לא צריך להרחיב במילים על המכה החדשה שנפלה בחודש האחרון על העולם: כופרה המכונה WannaCry, שמנצלת פרצות אבטחה כדי לשתק מחשבים, להתפשט למחשבים אחרים ולדרוש כופר תמורת פתיחתם מחדש לשימוש. הכופרה התפשטה כאש בשדה קוצים ליותר מ-200 אלף מחשבים מסביב לעולם. היא שיתקה מערכות שלמות וארגוני ענק, שכוללים את שירותי הבריאות באנגליה, מפעלי רנו בצרפת, ענקית התקשורת טלפוניקה בספרד, ואת מגפון שהיא מפעילת השירותים הסלולריים השנייה בגודלה ברוסיה. עדיין קשה לאמוד את גודל הנזק לכלכלה העולמית, אך כבר כיום הוא מוערך בארבעה מיליארד דולרים.

ואף על פי כן, התקדמות הכופרה נעצרה בעלות של עשרה דולרים ו-69 סנט.

הפתרון לכופרה התגלה כשהבחין חוקר אבטחה שהיא מכילה הפניה לאתר שאינו קיים. כתובתו של אותו אתר הייתה מורכבת ממחרוזת חסרת-פשר של אותיות ומספרים, אך הוא החליט לרכוש אותה בדחף של רגע, בעלות מזערית. ובאותו רגע ממש, הפסיקה הכופרה להתפשט בעולם.

אילוסטרציה(צילום: shutterstock)

מסתבר שיוצרי הקוד המזיק שילבו בתוכו "כפתור אדום", באמצעותו יכלו לעצור את התפשטות הכופרה בכל רגע נתון. כל שהיו צריכים לעשות לשם כך הוא לרכוש את כתובת האתר האמור. בכל פעם שהתכנה מדביקה מחשב חדש, היא בודקת דרך החיבור לאינטרנט האם האתר קיים - ואם כן, היא אינה מתפשטת למחשבים אחרים. אמנם זה כבר לא עוזר למחשב שנדבק, אך לפחות התפרסות התוכנה נבלמת.

למה יש בכופרה כפתור אדום שכזה? קשה לדעת. אולי היוצרים ביקשו לבטח את עצמם במקרה שייתפסו, ואז יוכלו להציע עסקה במסגרתה יבלמו את התפשטות הישות המזיקה. אולי אפשרות העצירה היא רק שריד מהקוד המקורי שנבחן על מכונה וירטואלית לפני ששוחרר לחופשי. כך או כך, WannaCray מספקת לנו טעימה מכלי הנשק של העידן החדש: כאלו החמושים בבינה מלאכותית ויכולים להחליט מתי להפסיק את פעילותם.

נבהיר לרגע את הברור מאליו: לא צריך בינה מלאכותית מתקדמת כדי לבחון כתובת אינטרנט מסוימת ולקבל החלטה בינארית - להמשיך להתפשט או לא - בהתאם. ואף על פי כן, מדובר עדיין במנגנון לקבלת החלטות, פשטני ככל שיהיה, שמכתיב לכלי נשק כיצד עליו לפעול מהרגע בו שוחרר. כדורי רובה אינם מתנהגים כך - הם עוזבים את הקנה, וגורמים נזק מיידי. פצצות חכמות אמנם ניחנות באוטונומיה מסוימת, אך כזו שמספיקה רק כדי לשפר את הסיכוי שיפגעו במטרה.

כפתור העצירה של WannaCray שונה בעליל. הוא מספק לתוכנה אוטונומיה משלה - את היכולת לעצור - בהינתן קיומם של תנאים מסוימים. הפעם, היו תנאים אלו קלים לפענוח (ובהתאם, גם כשיצאה הגרסה המשופרת של WannaCry שכללה כתובת סטטית אחרת של אתר, גם היא נעצרה מיד באמצעות רכישת האתר). אך לא קשה לדמיין נשקי סייבר מורכבים יותר, עם הנחיות שקשה יותר לעמוד על טיבן.

קשה להשתחרר מהתחושה שבני-האדם משחקים כאן עם כוחות שיכולים בקלות לצאת משליטתם. החשש הגדול מכלי-נשק ביולוגיים נובע מהעובדה שהם יוצאים משליטתנו מהרגע שבו הם יוצאים מהמבחנה, ויכולים להתפשט במהירות בעולם המקושר של היום. אותו חשש בדיוק תקף גם לנשקי סייבר, וככל שהעולם נהיה מקושר יותר - כך הם יכולים להסב נזק גדול יותר. אין פלא שפושעים "אחראיים" משלבים בכלי נשק אלו כפתורי עצירה, אך מה היה קורה אם היה נופל באג כלשהו באותו כפתור עצירה? ולחלופין, מה אם הוראות ההפסקה יוחלפו בהוראות מתוחכמות יותר?

לקראת סוף המאמר, אספק שני תרחישי אימים לנשקי סייבר אוטונומיים ומתוחכמים, שיבהירו את גודל הסכנה. בתרחיש הראשון נוצרת נוזקה הקוראת את עמודי הבית של העיתונים המובילים, מפיקה משמעות מהדברים שהיא קוראת - ופועלת בהתאם. נוזקה שכזו עשויה להתפשט בשקט ובאיטיות למיליוני מחשבים מסביב לעולם, שתלווה בשיתוק המחשבים ובהדבקה אגרסיבית ברגע שבו מפענחת הבינה המלאכותית שישראל נכנסה לעזה.

הדוגמה השנייה מפחידה עוד יותר. כבר היום קיימות תוכנות המסוגלות לשכור באופן אוטומטי את שירותיהם של מתכנתים דרך הרשת, לביצוע מטלה מוגדרת מראש. ניתן, לפיכך, לחשוב על כופרות המדביקות מחשבים כדי לזכות בכסף - ואז משתמשות במשאבים באמצעות "חוזים חכמים" כדי לשכור מתכנתים שישפרו את ביצועיהן או יתאימו אותן כנגד המגננות שפיתחו אנשי האבטחה.

תרחישים מסוג זה מבהירים מה גדול כוחם של נשקי הסייבר החכמים בעולם החדש. עלינו להשתחרר מהתפישה שכלי-נשק נטולי בינה או אוטונומיה משלהם, ולהתחיל להבין שבעולם הסייבר הקרב עלינו לרעה ולטובה, נאלץ להילחם בכלי נשק חכמים במלוא מובן המילה.

ד"ר רועי צזנה, חוקר במרכז למחקר סייבר בינתחומי ע"ש בלווטניק באוניברסיטת תל-אביב, ממארגני שבוע הסייבר הבינלאומי שיתקיים ב-25-29 ביוני ומחבר הספר "השולטים בעתיד"