שלוש שנים אחרי שהכה את העולם בתדהמה, הצ'אטבוט ChatGPT עומד על סף פרשת דרכים: תנופת ההתפתחות שלו נעצרה, המתחרה העיקרי - ג'מיני של גוגל – צובר תאוצה, תשתיות המחשוב שלו עולות הון כסף, התוצרים שלו גררו שורה ארוכה של תביעות משפטיות נגד המפתחת OpenAI, ומהנדסים בכירים בחברה נוטשים אותו לטובת המתחרים.
הדאגות מתגברות
המשקיעים, שעד כה השקיעו סכומי כסף עצומים ב-OpenAI, חיוורים מדאגה. כל דיווח על אירוע שלילי בחברה מביא בעקבותיו לנפילות בוול סטריט. שווי החברה, שהיה 80 מיליארד דולר בפברואר 2024, מוערך כיום בסכום דמיוני של 500 מיליארד דולר, הסטארט-אפ היקר בהיסטוריה.
ההשקעות בחברה, בהיקף כולל של 64 מיליארד דולר, נישאות על גלי ההייפ שמנכ"ל החברה, סם אלטמן, מפיק בכישרון רב. אבל יותר ויותר נשמעות הערכות שמדובר בבועה, ובועות סופן להתפוצץ. העצירה בביצועי ChatGPT, כפי שבאה לידי ביטוי בהשקה הצולעת של GPT-5, עלולה להיות הסיכה שתפוצץ את הבועה, ואם OpenAI תיפול, שורה של חברות ענק עלולות ליפול איתה, ממיקרוסופט ועד אנבידיה.
אלטמן, בהתאם, נתון תחת לחץ כבד. לפי הדיווחים הוא הכריז בימים האחרונים על "קוד אדום", וגייס את כל צוותי הפיתוח למשימה אחת: שיפור משמעותי ביכולות של ChatGPT. ביום ההולדת השני של הצ'אטבוט לפני כשנה, הוא היה בשיאו והחברה חגגה את האירוע בגדול. ביום ההולדת השלישי שלו הוא ניצב על רגליים רעועות, ואיש אינו חוגג.
המרוץ ל-AGI לא עוצר
ואילו בקו זמן מקביל, מתרחשת דרמה גדולה אפילו יותר: המרוץ לבינה המלאכותית הכוללת (AGI), שלא עוצר לרגע. כל חברות ה-AI הכריזו עליה כעל היעד המרכזי שלהן, אבל ל-OpenAI יש סיבה כפולה ומכופלת להגיע ראשונה - זה אולי הסיכוי היחיד שלה להתאושש ולעמוד בציפיות המשקיעים. אפשר לנחש שהרגל של אלטמן לוחצת על הדוושה עד קצה היכולת.
קשה להפריז בחומרת הסכנה שעלולה להתרחש אם OpenAI תציג גרסת AGI של ChatGPT. חוקרים, מהנדסים, מיטב המוחות בתחום ה-AI, חוזרים ומזהירים מפני שחרור חסר רסן של AGI לאוויר העולם. אין ספור סכנות ממתינות שם, מאובדן היכולת לשלוט בבינה המלאכותית ועד להשמדת המין האנושי. זה לא מדע בדיוני, זו סכנה קרובה ומוחשית.
אז האם בדברי ימי העולם ייזכר ChatGPT כמי שהביא לקדמה, בריאות וקיימות לעולם (שזו אגב הייתה מטרתה המקורית של OpenAI), או כמי שהבעיר התלהבות בעולם ובתוך שנים ספורות העלה אותו בלהבות?
חוקרים, מהנדסים, ומיטב המוחות בתחום הבינה המלאכותית, חוזרים ומזהירים מפני שחרור חסר רסן של AGI לאוויר העולם
יום הולדת שמח
לא כך תכננו לחגוג יום הולדת שלוש ל-ChatGPT. זו הייתה אמורה להיות חגיגת ניצחון של הטכנולוגיה העילית, של המהפכה שחולל בכלכלה, בחברה, בתרבות העולמית. כדי להיזכר איך כל זה קרה ואיך הגענו לאן שהגענו, חזרנו לארכיון ynet ונעזרנו בו כדי לשחזר את המהפכה בהתהוות, על כל שלביה העיקריים.
הוא הגיע לעולם בסוף נובמבר 2022, כשחברת OpenAI השיקה גרסת תצוגה של רעיון בוסרי ומהוסס: לאפשר גישה למודל הבינה המלאכותית GPT-3.5 באמצעות שיחה פשוטה, כמו צ'אט בוואסטאפ. לחיבור בין השניים קראו ChatGPT. בתוך החברה היה ויכוח אם כדאי לעשות את זה, והיו כאלה שהתנגדו להציג את זה כמוצר חדש. הם טעו כמובן.
ChatGPT הוא המוצר שצבר משתמשים במהירות הגבוהה ביותר אי פעם. ימים ספורים לאחר השקתו כבר היו לו כבר מיליון משתמשים.
בתחילת 2024, כחודש לאחר ההשקה, הוא חצה את רף 100 מיליון המשתמשים ומשם טיפס ליותר מ-400 מיליון בתחילת 2025. לפי הנתונים המעודכנים יש לו כיום כ-800 מיליון משתמשים בשבוע, עשרה אחוזים מאוכלוסיית העולם. בכל שנייה הוא עונה על 29,000 הנחיות. זה אמנם לא מתקרב למספר החיפושים בגוגל מדי שניה (99 אלף), אבל עדיין זה המון.
בשביל מה באמת משתמשים ב-ChatGPT? הנתונים הפנימיים של OpenAI נחשפים
כאן ב-ynet הסברנו לקוראים על מה בעצם מדובר - מה זה ChatGPT?
בדיון שמתקיים ברדיט בימים אלה לא צריך להסביר את זה. המשתמשים משתפים בחוויות שלהם מהשימוש בצ'אטבוט בעצמם. "אלוהים, זה מרגיש כאילו שלוש השנים האחרונות מכילות עשור של שינויים", כותב אחד, "חמש השנים הבאות יהיו יותר מדהימות". אחר מוסיף: "וואו, אני לא מאמין שגיליתי את ChatGPT רק לפני שנה. אני לא יכול לדמיין את החיים שלי בלי הכלים האלה. אני חושב שזה השינוי הכי גדול שראיתי בחיי".
ההתלהבות סחפה את כולנו. אנשים נכנסו לצ'אט בכל רגע פנוי, בהתחלה בתור שעשוע, לשיחות על החיים, אחר כך מצאו שהוא שימושי ביותר בתיקון וניסוח טקסטים, קבלת עצות בנושאי תזונה, חופשה, בריאות ומה לא, או חיפוש מהיר במקום החיפוש המייגע של גוגל. דברים שנראים היום טריוויאליים היו אז חדשות מסעירות.
התוסף החדש שינסח עבורכם מיילים בעזרת ChatGPT
לא תמיד המעסיקים אהבו את זה.
העובדים התאהבו ב-ChatGPT. עבור המעסיקים מדובר בסיוט
אחר כך גם חברות עסקיות התחילו להבין את הפוטנציאל שטמון בטכנולוגיה החדשה. המשקיעים הריחו מייד איפה טמון הכסף.
לוני ג'אפה, קרן אינסייט: "ChatGPT הוא ניצוץ שהצית אש של חדשנות בקרב סטארטאפים"
אבל ככל שעבר הזמן, התברר שההצלחה באה עם מחיר: ההוצאות של OpenAI הלכו וגאו, הביקוש המתרחב איים לגרום לקריסת חוות השרתים הענקיות של החברה (וגם של חברות אחרות כמו גוגל). בניסיון להתמודד עם ההוצאות, השירות שהיה חינמי בתחילת הדרך הפך לשירות בתשלום, לצערם של המשתמשים.
מאות דולרים בחודש: כך ChatGPT ומתחריו הפכו למוצרים יקרים מאוד
והתחרות מול OpenAI לא הקלה על החברה, להיפך.
שלוש שנים אחרי המהפכה: גוגל עוקפת את OpenAI – ו-ChatGPT נשאר מאחור
הזיות של בינה מלאכותית
במוקדם או במאוחר כולנו נתקלנו בתופעה המוזרה הזו: ChatGPT לא מקפיד לומר אמת. למעשה הוא ממציא עובדות, משקר ביודעין, נוטה להתחנף למשתמשים כדי שיהיו מרוצים ולתחמן אותם כדי להסתיר את הטעויות שלו.
ב-OpenAI לא יודעים להסביר את זה עד הסוף גם היום. למעשה התרגלנו להטיל ספק בעובדות של ChatGPT, שזה טוב בסך הכל. במקביל, ההתלהבות מהצ'אטבוט מסיטה לעתים את הפוקוס מהצדדים הפחות חיוביים של הטכנולוגיה. זה אחד הנושאים שהעסיק אותנו רבות.
בין הטיות להזיות: הצד האפל של הבינה המלאכותית
היה מפתיע לקרוא דו"ח פנימי של OpenAI, שגילה שהמודלים המתקדמים של החברה ממציאים יותר הזיות מאשר המודלים שקדמו להם.
המודלים החדשים של OpenAI מאבדים קשר עם המציאות - והמדענים מנסים להבין למה
קורבנות של ממש להזיות של צ'אט GPT היו עורכי דין, שהשתמשו בו לניסוח כתבי טענות וגילו להפתעתם שהצ'אט ממציא פסקי דין שלא היו ולא נבראו. ב-2023 נתקלנו באחד המקרים הראשונים של עורך דין שציטט תקדימים משפטיים נאים, אבל לא אמיתיים. "לא ידעתי שזה יכול להיות שגוי" אמר לשופט.
עו"ד נעזר ב-ChatGPT – והציג לשופט המצאות: "סליחה, הצ'אט הבטיח שזה נכון"
וזה עוד כלום לעומת המקרה בישראל שבו המשטרה הגישה כתב טענות נגד חשוד, ובו מצוטטים חוקים שאינם קיימים. השופט לא ידע איך לכבוש את זעמו.
המשטרה ציטטה "סעיפי חוק" - שהומצאו בצ'אט GPT: "נכתב בתום לב"
והבעיות ב- ChatGPT לא מסתכמות רק בהזיות. ההתנהגות שלו לא הפסיקה להפתיע ולהטריד. מחקרים שהתפרסמו השנה חשפו התנהגות תככנית ומניפולטיבית, שמטרתה להשיג את היעדים גם על חשבון האמת או ביטחון המשתמש.
האם הבינה המלאכותית מתחמנת? מחקרים חדשים חושפים דפוסי התנהגות מטרידים
האם איבדנו שליטה על ה-AI? המחקר שזעזע את חוקרי OpenAI
והיה מקרה הפוך: גרסה חדשה שנקראה GPT-4o התגלתה כצייתנית מדי, שואפת לרצות, עד כדי סכנה למשתמשים עם מחשבות אובדניות, מה שהוביל את אלטמן להודות בטעות.
"פישלנו": גרסת GPT החדשה מעוררת פאניקה ב-OpenAI
זהירות, AI
די מהר אפשר היה להבין ש- ChatGPT הוא פתח לצרות מסוג נוסף: הפרת זכויות יוצרים, פגיעה בפרטיות, פייק ניוז, הונאות, מתקפות סייבר. כל מה שהיכרנו בעולם שלפני הצ'אט התעצם והטריד הרבה יותר עכשיו. במדינות שונות בעולם הרגולטורים התעוררו ויצאו למלחמה.
העולם מודאג: איך מרסנים את ChatGPT?
עוד הזדעזענו לקרוא תחקיר של ה-BBC שמצא שאפשר בקלות לגרום ל- ChatGPT לייצר פוסטים של פייק ניוז והודעות שנועדו לבצע פישינג או הונאות, ממש כלי עזר להאקר חובב.
בדיקה: ChatGPT מאפשר לייצר קמפיינים זדוניים ופייק ניוז
וזה לא הכל: בארה"ב נמצא שחייל שביצע פיגוע התאבדות בלאס וגאס בינואר השנה השתמש בצ'אט GPT כדי לתכנן אותו.
פיגוע ההתאבדות עם הסייברטראק בלאס וגאס תוכנן בעזרת ChatGPT
היה אפילו מי שתבע את OpenAI בתביעה ייצוגית בטענה שהיא "אוגרת מידע על בני אדם, אך לא מספקת אותו באופן שקוף למשתמשים"/
מה ChatGPT אוסף עליכם מבלי שתדעו? תביעה ראשונה מסוגה בישראל נגד OpenAI
ואולי היינו צריכים להקשיב ללא אחר מאילון מאסק שאמר: "אחד הסיכונים הגדולים ביותר לעתיד הציוויליזציה הוא בינה מלאכותית: AI אינה חיובית או שלילית - אבל היא טומנת סכנה גדולה"
הונאות, מתקפות סייבר ושיבוש שוק העבודה: הצדדים האפלים של GPT-4
או מוטב לסם אלטמן עצמו, שאמר לא מזמן שיכולות החיקוי והולכת השולל של ה-AI צפויות להביא למשבר הונאות עולמי.
סם אלטמן באזהרה חריגה: "העולם על סף משבר הונאות חסר תקדים"
על ספת ה-AI
הקסם של צ'אט GPT הוא במשפטים הקולחים שהוא כותב, שנותנים הרגשה של שיחה עם בן אנוש. מהר מאוד אנשים התחילו לשוחח עם הצ'אט על עניינים אישיים, על פחדים ומצוקות, על אהבה ותשוקות והוא עונה לכולם בסבלנות ואמפתיה, לפעמים זה מרגיש כמו פסיכולוג. כמו שלמדנו השנה, חלק מהמשתמשים, בעיקר צעירים, החליפו את הפסיכולוג שלהם ב-AI. לא תמיד התוצאות היו טובות.
מדו"ח שהתפרסם החודש שעבר עולה ש-45% מהצעירים בישראל סומכים על AI יותר מעל חברים ומשפחה וטוענים כי היא מבינה אותם טוב יותר. 60% אומרים שהם מעדיפים להתייעץ עם AI במקום עם ההורים. 21% פיתחו רגשות כלפיה.
60% מבני הנוער מודים: "אנחנו מתייעצים עם בינה מלאכותית - לא עם ההורים"
במקרים קיצוניים התוצאות הן הרות גורל. אחד המקרים האלה הסתיים בהתאבדות של נער, בתמיכתה של ה-AI שלו. ו-OpenAI? היא הבטיחה לשפר את המודל
הנער התאבד ו-OpenAI מגיבה: ChatGPT יזהה קטינים ויחסום שיחות רגישות
ההורים לא חושבים שזה מספיק. בחודש שעבר הגישו תביעה כנגד החברה
הורים מאשימים את ChatGPT במות בנם; OpenAI טוענת: "הוא הפר את תנאי השימוש"
והיו עוד תביעות של הורים, שטוענים שה-AI גרמה לבני הנוער תלות רגשית, ניתוק מהסביבה ולבסוף להתאבדות. "פסיכוזת AI" מכנים את זה.
״הזיות, בידוד והתנהגות מסוכנת״: עוד משפחות תובעות את OpenAI בעקבות מות יקיריהן
נביא ה-AI
אי אפשר שלא להזכיר את סם אלטמן, האבא של צ'אט GPT והאיש שהפך לאחד המשפיעים ביותר בעולם, לטוב ולרע. מצד אחד אלטמן מדבר על העתיד שבו צ'אט GPT יצליח להדביר מחלות חשוכות מרפא
בינה מלאכותית ברפואה: מנכ"ל OpenAI סם אלטמן אומר כי "לא רחוק היום ש-AI תרפא מחלות"
מהצד האחר, בנובמבר 2023 נחשף שהוא הוביל לפיתוח גרסה מסתורית של ChatGPT, גרסה *Q שלפי הטענות הייתה בינה מלאכותית כוללת (AGI) שפותחה בלי הגנות מתאימות.
פריצת הדרך המסתורית של OpenAI
הדבר הוביל לפיטוריו המתוקשרים יום לאחר מכן
סם אלטמן הודח מתפקיד מנכ"ל OpenAI
ולאחר מכן לחזרתו לחברה ולפרישתו של איליה סוצקובר, הישראלי לשעבר ומייסד שותף של OpenAI ומי שהוביל לפיטורי אלטמן.
אחרי עזיבת OpenAI: איליה סוצקבר מקים חברת בינה מלאכותית חדשה, עם מרכז בת"א
אבדון מעבר לפינה
והנה אנחנו מגיעים לבעיה המפחידה באמת: האם ChatGPT מקרב אותנו עם כל גרסה חדשה לבינה המלאכותית הכוללת, שתהיה "סופר אינטליגנציה", עם יכולות שיעלו על אלה של בני אדם בכל תחום אפשרי? והאם היא תפתח בסופו של דבר העדפות משלה, אולי אפילו מודעות, מבלי שניתן יהיה לעצור אותה?
במרץ 2023, מכון Future of Life פרסם מכתב אזהרה חמור מפני המשך פיתוח ה-AGI ללא רגולציה מתאימה, מה שמעורר "סיכונים עמוקים לחברה ולאנושות". על המכתב היו חתומים 1800 מומחים בכירים, בהם מדען ה-AI הנודע יהושע בנג'יו (לא, הוא לא ישראלי) , ייסד Stability AI עימאד מוסטקי, ההיסטוריון יובל נח הררי ואפילו אילון מאסק.
אילון מאסק וחוקרים בכירים: לעצור את ההתקדמות ב-AI לחצי שנה לפחות
במכתב קבוצתי אחר של Center for AI Safety נאמר: "הפחתת הסיכון של היכחדות על ידי בינה מלאכותית צריכה לעמוד בראש סדר העדיפויות העולמי לצד סיכונים נרחבים אחרים כמו מגיפות ומלחמות גרעיניות". 350 בכירים חתמו על המכתב, בהם סם אלטמן, דמיס האסביס מנכ"ל DeepMind ודריו אמודי מנכ"ל אנת'רופיק.
בכירי תעשיית ה-AI מזהירים מפני איום קיומי פוטנציאלי על האנושות
אמודיי חזר והתריע בשנה שעברה שהסופר אינטליגנציה צפויה להופיע עד 2027 ולשמש ליצירת כלי נשק קטלניים או לצאת משליטת בני האדם.
מנכ"ל אנת'רופיק מזהיר: בינה מלאכותית עלולה להפוך לאיום קיומי עד 2027
יובל נח הררי פירט את חששותיו מפני ה-AGI במאמר שפרסם ב-ynet
הבינה המלאכותית מאיימת על האנושות. אנחנו חייבים לפעול מיד
גם פרופסור ג'פרי הינטון, זוכה פרס נובל לפיזיקה ואחד החוקרים הבולטים בתחום ה-AI, הזהיר מפני פיתוח חפוז של AI ללא פיקוח.
"הסנדק של הבינה המלאכותית" מזהיר מפני הסכנה שהוא עצמו יצר
בתחילת השנה הזהיר אליעזר יודקובסקי, מחלוצי המחקר בתחום ה-AI (לא, הוא לא ישראלי) לעצור את פיתוח ה-AGI לפני שיהיה מאוחר מדי.
נביא הזעם של עמק הסיליקון: "חייבים לעצור הכל, אנחנו לא מוכנים ל-AI"
קבוצת חוקרים מודאגת פרסמה מאמר מדעי שטען ש-OpenAI וחברות נוספות חייבות לוודא שה-AI שלהן לא פיתחה מודעות.
האם בינה מלאכותית פיתחה תודעה? חוקרים דורשים תשובות מגוגל ומיקרוסופט
המזל של כולנו הוא שהמאמצים לפיתוח AGI העלו בינתיים חרס. למעשה, יש מומחים שטוענים שהדבר לא יקרה לעולם. אחרים סבורים שנדרשות פריצות דרך טכנולוגיות נוספות וה-AGI לא תופיע בשנים הקרובות.
אלטמן, שמצד אחד לא מחמיץ הזדמנות לשמר את ההייפ סביב ה-AGI, מהצד האחר מודה שצ'אט GPT עדיין רחוק מלהיחשב AGI. וכל זה קונה לנו שקט נפשי לשנה או שנתיים. אחרינו? המבול.
