דיוגו אלמיידה, אחד מהמפתחים הבכירים של ChatGPT ב-OpenAI שאחראי בין היתר על המעבר ממודל שפה גולמי לבוט שיודע לשוחח ולהבין הנחיות אנושיות, מציג כיוון חדש ומפתיע. הסטארט אפ שהקים, TypeSafe AI, השיק מודל ייעודי בשם Jev, המתיימר לפתור מן השורש את אחת הרעות החולות של מהפכת הבינה המלאכותית: תופעת ה"הזיות" (Hallucinations).
מאז פריצת מודלי השפה הגדולים (LLM), החיפוש אחר אמינות מוחלטת הפך למוקד המאבק בעולם הטכנולוגיה. מודלים מסורתיים מנחשים את המילה הבאה על בסיס הסתברות סטטיסטית, מה שמוביל לעיתים קרובות להמצאת עובדות בביטחון עצמי מופרז.
כדי להתמודד עם הבעיה, חברות בינלאומיות פנו לטכנולוגיות כמו Retrieval-Augmented Generation (RAG) המצליבות מידע מול מאגרי נתונים חיצוניים, שימוש בפלט מובנה (כלומר שבמסגרתו המודל יכול לענות רק במשפטים או מילים מאושרות מראש) ב-OpenAI ובגוגל, או מודלי חשיבה איטיים המנתחים שלב אחר שלב (Chain of Thought).
בסין, ענקיות מקומיות כמו עליבאבא ובאידו פיתחו מנגנוני סינון ובקרה קפדניים המתמקדים בבדיקת עובדות צמודה להנחיות הרגולטור, ואילו באירופה, חברות כמו Mistral הצרפתית קידמו מודלים קלים ופתוחים שנועדו להשתלב במערכות תוכנה ארגוניות.
עיבוד נתונים מהיר ואינטואיטיבי
במקום לשפר את מנגנון הפטפוט או לאלץ מודל שפה לנסח תשובה ואז לחלץ ממנה נתונים, Jev זונח את השפה הטבעית לחלוטין. הוא אינו מפיק מילים, משפטים או פסקאות, ואינו מיועד לכתיבת מיילים או לניהול שיחות. המודל פועל כ"מערכת 1" (System One) – מושג השאוב מהפסיכולוגיה הקוגניטיבית של דניאל כהנמן, המתאר עיבוד נתונים מהיר, אינטואיטיבי ומיידי.
המערכת מקבלת נתונים מובנים ושאלות מוגדרות מראש, ומחזירה אך ורק תשובות מובנות (Typed data) בליווי ציוני הסתברות ורמות ביטחון. מכיוון שמרחב התשובות האפשריות מוגדר מראש ואין ייצור טקסט חופשי, ה"הזיה" נמנעת לא באמצעות קסם באילוף, אלא על ידי שלילת היכולת לייצר מלל שגוי.
מאחורי המערכת עומדת שיטת אימון ייחודית המכונה RLCD (למידת חיזוק להחלטות מכוילות). בניגוד למודלים המאומנים לרצות את המשתמש או להישמע רהוטים, כאן המודל מאומן לדעת מתי הוא אינו בטוח. עבור מפתחי תוכנה ומערכות ארגוניות, היכולת לזהות בדיוק של חמישה אחוזים מתי התשובה אינה ודאית חשובה בהרבה מדיוק כללי שאינו מסוגל להתריע על חריגות.
דיוגו אלמיידה
(רשתות חברתיות)
ההשלכות של גישה זו ניכרות בביצועים ובעלויות. TypeSafe מדווחת כי Jev מגיב בזמנים הנעים בין 70 ל-500 מילי-שניות, לעומת זמני תגובה של שניות ארוכות במודלי שפה כבדים. תמחור המערכת עומד על 42 דולר למיליארד טוקנים של קלט, בעוד שטוקנים של פלט אינם מחויבים כלל, שכן המערכת אינה מייצרת טקסט. אלה עלויות נמוכות בסדרי גודל בהשוואה למודלים המובילים בעולם.
המהלך של אלמיידה מסמן מעבר מתפיסת "המודל שעושה הכל" לפיתוח כלי עבודה הנדסיים ממוקדים. עבור שוק התוכנה העולמי, הדורש קבלת החלטות מהירה, סיווגים וניתוב מידע בלי פילוסופיה ובלי טעויות מביכות, ייתכן שהוויתור על הדיבור הוא בדיוק מה שיהפוך את הבינה המלאכותית לשימושית באמת.
הבעיה העיקרית במודל שמציע אלמיידה היא חוסר הגמישות שלו והצורך לייצר לו מראש את התשובות האפשריות. זה אמנם יותר קרוב לשימוש בספרות ומקורות מאושרים, אבל מצד שני, המודל לא תמיד ידע להתמודד עם מצבים שהוא אינו מכיר. עם זאת, יכול מאוד להיות שהגישה הזו תוכל להיות הבסיס למערכות AI שיהיה אפשר לסמוך על התשובות שלהן ב-99 אחוזים לפחות.
