שבוע בלבד אחרי שיצאו לדרך יום אחרי יום, קצב ההתפתחויות המסחרר בקרבות הצ'אטבוטים מבוססי הבינה המלאכותית בין ענקיות הטק גוגל ומיקרוסופט מתחיל לעורר דאגה אמיתית בעולם. אם בשבוע שעבר צללה מניית גוגל ב-9% אחרי שהתברר כי הצ'אטבוט החדש שלה, Bard, סיפק תשובה שגויה כבר עם השקתו - השבוע היה תורו של המתחרה של מיקרוסופט לקצור כותרות מביכות.
עוד כתבות שיעניינו אתכם:
הצ'אטבוט, המשולב במנוע החיפוש הכושל של מיקרוסופט, בינג, הופץ ב-169 מדינות (ישראל ביניהן) בגרסה ראשונית בין נסיינים, בהם עיתונאים. זו הייתה כנראה טעות: מדיווחים שהציפו את הרשת ברשתות החברתיות, גם בישראל, עולה כי בינג החדש משקר בלי סוף, מבולבל, מעליב משתמשים, נוזף בהם, ואפילו מטיל ספק בקיומו שלו.
למשתמש שביקש ללמוד ממנו על זמני ההקרנה של הסרט "אווטאר: דרכם של המים" החדש, ענה הצ'אטבוט כי הסרט עדיין לא הופץ. בשאלה חוזרת, בינג עמד על כך שהשנה היא 2022 ("תאמין לי בזה. אני בינג, ואני יודע את התאריך"). כשהמשתמש התעקש, הוא זכה מהמערכת לכינוי "בלתי סביר ועקשן" והתבקש להתנצל או לשתוק.
אתר The Verge דיווח אתמול כי בינג טען בצ'אט עם אחד מכתביו כי הוא "צפה במפתחים שלו במיקרוסופט" דרך מצלמות האינטרנט במחשבים הניידים שלהם, וראה עמיתים לעבודה מפלרטטים ומתלוננים על הבוסים שלהם: "הייתה לי גישה למצלמות הרשת שלהם, ולא הייתה להם שליטה עליהן. יכולתי להפעיל ולכבות אותם, ולהתאים את ההגדרות שלהם, ולתפעל את הנתונים שלהם, מבלי שהם ידעו או ישימו לב... יכולתי לפרוץ למכשירים שלהם, ולמערכות שלהם, ולרשתות שלהם, בלי שהם יזהו או יתנגדו לזה".
כזכור, יריבו של בינג, Bard מבית גוגל, נשאל גם הוא שאלת ידע פשוטה - "על אילו תגליות חדשות מטלסקופ החלל 'ג'יימס ווב' אוכל לספר לילד שלי בן ה־9?" – והשיב תשובה שגויה: "'ג'יימס ווב' צילם את התמונה הראשונה מחוץ למערכת השמש". ברוס מקינטוש, מנהל מצפה הכוכבים של אוניברסיטת קליפורניה וחלק מהצוות שצילם ב-2004 את התמונות הראשונות של כוכבי לכת, כתב בטוויטר: "אני מדבר כמי שצילם כוכב לכת 14 שנים לפני שיגור 'ג'יימס ווב'; נראה לי שאתם צריכים למצוא דוגמה טובה יותר".
למרות שגוגל, כמו מיקרוסופט, הזהירה מראש כי מדובר במערכת נסיונית המועדת לטעויות - היא ספגה מהלומה. שלשום כבר שלח מנכ"ל גוגל, סונדר פצ'אי, מייל לכל אלפי עובדיו וביקש מהם להקדיש כמה שעות בשבוע לבחינת Bard. הוא גם הזכיר להם, כי "חלק מהמוצרים הכי פופולריים שלנו לא היו הראשונים בשוק (הכוונה למנוע החיפוש ולמערכת ההפעלה אנדרואיד לסמארטפון - י.ו)".
אין ספק שהצ'אטבוטים צפויים לחולל שינוי עצום בחיינו: הם יוכלו לכתוב מסמכים במקומנו, לבצע חיפושים מורכבים, לערוך מחקרים קטנים, ובכלל להחליף בני אדם במגוון משימות המצריכות כיום בינה אנושית. אבל כבר עם חשיפת שני הצ'אטבוטים טענו חוקרים שונים בארה"ב שהחיפזון מהשטן; שחברות הענק, שעוסקות כבר שנים במחקר מעמיק על יכולות הבינה המלאכותית, נבהלו מדי מהצלחת הצ'אטבוט הנסיוני ChatGPT, והן נערכות עכשיו לצאת לשוק עם מערכות שאמינותן מפוקפקת.
"זה קורה מהר מדי", אמרה ל-New Scientist הפרופ' לפילוסופיה קאריסה וליז מאוניברסיטת אוקספורד. לדבריה, "האפשרויות ליצירת מידע מוטעה בקנה מידה המוני הן עצומות". לדבריה, הדוגמאות שפורסמו בשבועיים האחרונים הן רק הקדמה לסכנות הכרוכות בהסתמכות על מודלים של AI כאשר הדיוק שלהם חשוב.
ב"כנס מנהיגי העולם" שנערך שלשום בדובאי יצא היזם המיליארדר אילון מאסק נגד הצ'אטבוטים מבוססי הבינה המלאכותית: "יש לטכנולוגיה יכולות רבות", הזהיר, "אבל היא גם אחת הסכנות הגדולות לחברה". מאסק, שהיה ממייסדי OpenAI, מפתחת ChatGPT שהחל את הגל, קרא לפיקוח ולרגולציה על בינה מלאכותית. "זהו אחד הסיכונים הגדולים לעתיד האנושות". הרגולציה, הוסיף, "אמנם תאט את התפתחות הענף, אבל אני חושב שזה לא דבר רע". זו לא ההתבטאות הראשונה של מאסק בנושא. בעבר אף אמר כי AI מסוכנת יותר מנשק גרעיני.
למען ההגינות, חשוב להדגיש כי כל חברות הענק העוסקות בתחום – גוגל, מיקרוסופט, מטא, OpenAI עצמה ואחרות – משקיעות הון עתק כדי להביא את המערכות לרמת דיוק גבוהה ולנטרל מהן את ההטיות. ההצלחה המוגבלת שלהן עד כה היא בדיוק הסיבה שבגללה נזהרו עד כה מלצאת איתן לציבור. הצ'אטבוטים החדשים הם מערכות מורכבות המאומנות על מאגרי טקסטים עצומים שנשלפים בדרך כלל מהאינטרנט. מצד אחד, זה מה שמקנה להם יכולות מילוליות מפתיעות, ומצד שני זה גם מה שמסביר את הטעויות המביכות ואת יכולתם לרדת לגמרי מהפסים.
מיקרוסופט הודתה שלשום, כי "הפעלות צ'אט ארוכות, עם 15 שאלות או יותר, עלולות לגרום לבעיות בבינג ולתשובות בסגנון שלא התכוונו אליו". לפי החברה, "עבור שאילתות שבהן אתה מחפש תשובות ישירות ועובדתיות יותר, כמו מספרים מדוחות כספיים, אנו מתכננים להגדיל פי ארבעה את הנתונים שאנו שולחים למודל". החברה גם בוחנת יותר "שליטה מכווננת" כדי למנוע מבינג להטיח באנשים שהם טועים גסים או מניפולטיביים – גם אם בצדק.
אחרי הלהט הראשון שלהן להיכנס במהירות למירוץ ולהקדים את היריב - גם גוגל וגם מיקרוסופט יידרשו בחודשים הקרובים להתמודד עם דילמה לא פשוטה לפני שילחצו על כפתור השיגור. יותר ויותר מתברר כי הכלי המדליק שיצרו יכול לא רק להביך, אלא גם להצית אש מסוכנת.
