רעמסס השלישי נחשב לאחרון הפרעונים הגדולים של האימפריה המצרית. הוא השאיר אחריו מונומנטים ומפעלי בנייה מפוארים, והמומיה שלו מחייכת עד היום למבקרים במוזיאון בקהיר. אבל עיקר מורשתו השתמר ב"פפירוס האריס” – מסמך באורך 42 מטרים שמפאר את הישגיו הרבים של המלך, מפרט את תרומותיו לאלים ומכיל מדריך עם הנחיות לבנו כיצד למשול בממלכה. הפרעונים היו כידוע אובססיביים בעניין הנצחה, אבל הרעמסס הזה עלה על כולם.
3,180 שנה מאז הירצחו של רעמסס השלישי, הרעיון שלו קם לתחייה. גם ב-2026 יש אנשים שרוצים להנציח את מורשתם, אולי אפילו את אישיותם, רק בטכנולוגיה שונה. במקום שלא ניתן לדווח עליו, במדינה שלא ניתן לחשוף, אבל נאמר שיש בה שושלת מלוכה והרבה כסף, עסוקים באובססיביות בהנצחת המלך. במקום מונומנטים יש כאן אולם שבנוי ככספת רחבת ממדים במקלט אטומי שמור היטב, ללא גישה למבקרים. במרכזה ניצב מחשב-על מתוצרת אנבידיה, אולי החזק מסוגו, והוא מנותק מהעולם סביבו. בתוכו פועלת בינה מלאכותית מסוג חדש, והיא הולכת ויוצרת שכפול מושלם של המלך: כל מה שהוא יודע, כל מה שהוא מאמין בו, תולדות חייו, מורשתו. האישיות של השליט בשכפול דיגיטלי על מלא.
הבינה המלאכותית של חברת מרגה (Marga AI) האמריקאית-ישראלית מתחקרת את המלך הקשיש לאורך החודשים האחרונים. לכשתושלם העבודה, זו תהיה אחת הדוגמאות הראשונות בעולם של הנצחת אישיות דיגיטלית. עותק ה-AI של המלך יוכל לשוחח עם בני המשפחה, לענות על שאלותיהם, לפתור בעיות בממלכה, להתרפק על זיכרונות נוסטלגיים. אחרי לכתו, אישיותו תישאר איתנו. לטוב ולרע.
עצם האפשרות לעשות את זה כיום מאתגרת את המחשבה: האם המלך הצליח להתל במלאך המוות ולהשיג חיי נצח? האם ניתן לשמר ממש תכונות אופי ואישיות או שמדובר בסך הכל ב-AI שמקריא טקסטים שהמלך לימד אותו? ואם זה שכפול מושלם, האם למעשה המלך יכול להמשיך לשלוט כך, גם שנים לאחר מותו? ואז, האם הוא יוכל להכריז מלחמה או להורות על דיכוי התקוממות פרו-דמוקרטית בממלכה?
אבל קודם, הנה משהו שחייבים לדעת על הטכנולוגיה שמפתחת חברת מרגה: ממש לא מדובר ב-AI מהסוג הרגיל, שמבוסס על מודל שפה גדול (LLM) כמו ChatGPT או ג'מיני או קלוד. לקבל תשובות מצ'אט-בוט כל אחד יכול. לקבל תשובות מאדם אחד מסוים, על בסיס מיפוי דקדקני של כל הידע שלו אי פעם – את זה עוד לא עשו.
במרגה טוענים שמדובר בטכנולוגיה פורצת דרך, שנשענת על הכלים המתמטיים זוכי הפרסים של פרופ' רונלד קויפמן מאוניברסיטת ייל בארה"ב. להסביר את תורת פירוק המרחבים המורכבים, מפות הפעפוע וההרמוניה הגיאומטרית קצת יחרוג מהגבולות שהוגדרו לכתבה הזו, אבל נאמר שמדובר בדבר הכי קרוב לשיקוף העולם בתוך מודל מתמטי.
הטכנולוגיה שפותחה על הבסיס התיאורטי הזה היא שאפתנית ביותר, שכן אם המוח האנושי פועל לפי דפוסים מתמטיים, הרי שניתן לבנות מערכת שלא רק לומדת דברים שאמר או כתב האדם - אלא גם מסוגלת להתנהג כמוהו ולשקף את האישיות שלו, את הזיכרון והדמיון. וזה לא הכל: היא יכולה להמשיך ללמוד ולהתפתח גם אחרי מותו, ולהתמודד עם שאלות שמעולם לא נתקלה בהן בחייו. האישיות לא רק תשוכפל, היא גם תהיה נצחית, לפחות כל עוד המערכת מחוברת. תחשבו, למשל, שאתם משכפלים עכשיו את אבא ואמא שלכם. הם יוכלו להמשיך ולשוחח איתכם – אגב, בקולם האמיתי, עדיין לא בדמותם – ולהיות נוכחים בחייכם גם שנים ארוכות אחרי מותם.
וזה לא הכל. הבינה המלאכותית מתפתחת בקצב מהיר. היכולות שלה בעוד חמש שנים יהיו בלי שום ספק מופלאות לעומת הימים האלה. מודל השכפול העתידי יוכל לעשות דברים שאי-אפשר לחזות בכלל. אם מאמינים – ורבים טוענים שזה אכן השלב הבא – שבינה מלאכותית כללית (AGI) זה רק עניין של זמן - ה-AI יהיה חכם מאות מונים מבני אדם, יפתח רצונות משלו, אולי אפילו מודעות עצמית. אולי האדם, שביקש בסך הכל להיות משוכפל ומונצח, יתפתח למשהו אחר לגמרי – חכם יותר, פורץ דרך, דמות חדשה ושונה מזו שעל פיה הוא פותח. הרבה שאלות, ופוטנציאל מטורף. אבל גם פחד גדול.
× × ×
לפני שאנחנו קופצים לחלומות (או לסיוטים), נישאר עוד רגע על קרקע המציאות. המודל העסקי העיקרי של מרגה אינו הנצחת מתים, למרות שכנראה יהיה לזה שוק עולמי אדיר. החברה עוסקת בשכפול מומחים או יועצים. זה מאוד פשוט כשחושבים על זה: המומחה – במרגה מכנים אותו "מנטור" – מעלה למערכת את כל הידע, הספרים והמאמרים שכתב ואת שיטות העבודה שלו. לאחר מכן יכולים לקוחותיו, או חסידיו בחלק מהמקרים, לשוחח עם דמות ה-AI שלו בכל רגע, להתייעץ, לשאול שאלות ולקבל תשובות זהות לאלה שהיה נותן המומחה. וכל זה בעלות מינוי של 50 דולר בחודש, במקום שעת ייעוץ שיכולה להגיע לאלפי דולרים אצל האדם עצמו. בואו ניקח למשל את המומחה מספר 1 בעולם לריפוי של סרטן מסוג מסוים, ונניח שהוא עובד בבית חולים בארה"ב. רוב הרופאים (וגם החולים) שיבקשו להתייעץ עימו פשוט לא יצליחו. אבל אם כל הידע, האישיות והניסיון שלו משוכפלים באמצעות הבינה המלאכותית – כל בית חולים שישלם דמי מינוי יוכל להתייעץ עם המומחה הגדול בעולם לסוג הסרטן הזה. עכשיו נניח שאתה משכפל ככה גם את אנליסט המניות הכי מבריק בעולם, או את היועץ הארגוני המוביל בעולם, או את האדריכל, את מומחה הלחימה – וכך הלאה. כולם יהיו זמינים לייעוץ ולפתרון בעיות 24/7. וזה יכול לשנות הכל.
מרגה הוקמה על יד ארבע יזמים - מארק גזית, יורי קריצ'בסקי, בני ארבל וטובי אולשניצקי, אבל פרופ' קויפמן הוא כאמור הרוח החיה מאחורי הטכנולוגיה שלה. מאחוריו, קריירה מרשימה; מעבר לדורות של פוסט-דוקים במתמטיקה ולמידת מכונה שהוא הכשיר, הוא היה מעורב שנים ארוכות במחקרים ממשלתיים במסגרת DARPA – הסוכנות האמריקאית לפרויקטים מחקריים מתקדמים שאחראית לפיתוח טכנולוגיות ביטחון לאומי. הוא גם חבר האקדמיה האמריקאית למדעים ואמנויות וארגונים נוספים.
בין השאר הוא זכה לקבל מהנשיא קלינטון את מדליית הזהב למדע ב-1999, ההכרה הגבוהה ביותר בארה"ב לתרומתו של אדם, את פרס המצוינות המתמשכת של DARPA ועוד. החברים קוראים לו רפי. הוא נולד בישראל, גדל בשווייץ, למד בתיכון ושירת בצה"ל, ובאמצע שנות ה-60 התמנה כבר לפרופסור בארה"ב.
תחנות החיים של מארק גזית הובילו אותו דרך כמה מנקודות הציון המוכרות של ההייטק הישראלי. הנער שעלה מלטביה והתגייס לחיל האוויר, עבד אחר כך באינטל ובמיקרוסופט ואז הצטרף למיזם האינטרנט הראשון בישראל של נטוויז'ן, משם עבר לדלתא3, אחר כך למיזם הלוויינים סקיי-ויז'ן, ל-Nice Track של חברת נייס ולחברת תטאריי שעוסקת בתחום אבטחת הסייבר, ושם פגש את פרופ' קויפמן לראשונה.
"כמעט אף אחת מהחברות אני לא המצאתי, תמיד הצטרפתי", אומר גזית. "התמחיתי בלקחת חברה ולקדם אותה, אבל אני צריך להתלהב מהרעיון. ואחרי תטאריי חשבתי - איך אני עושה משהו שהוא באמת אולטימטיבי. אולי אפשר לעשות משהו שאף אחד לא עשה, לבנות מוח אמיתי של בן אדם אמיתי, שירגיש, ידבר, כמו בן אדם אמיתי, לא ChatGPT".
ד"ר אביעד גוז, מומחה עולמי לניהול, אימן את השכפול שלו, ועכשיו גוז המשוכפל זמין ב–80 שפות. "בת הזוג שלי מדברת גרמנית והוא נתן לה אימון עסקי", הוא מספר. "היא אמרה לי: 'הוא הרבה יותר טוב ממך'. שאלתי, למה? והיא ענתה: 'קודם כל כי הוא זמין, אין לו מצבי רוח, והוא גם מבין בתחום שלי, כשאתה לא'"
הדרך לעשות את זה מחזירה אותנו למחקרים של קויפמן. "כבר הרבה זמן אנחנו עובדים על ההגדרה של 'חוכמה מחושבת', כלומר איך בונים מודלים של כל מיני תהליכים בטבע", אומר פרופ' קויפמן בראיון ל"7 ימים", "אם אפשר לגלות את המדדים השונים בטבע באופן חישובי". הוא מסביר שדור ה-AI הנוכחי, שמבוסס על ניבוי השפה, הוא אקראי ולא יכול להתיימר להבין את חוכמתו של אדם. לעומת זאת, "המחשבה החישובית", שהוא פיתח, היא תהליך מתמטי של צירוף פיסות מידע זעירות לרשת של חשיבה, וצירוף הרבה מאוד רשתות משקף הלך מחשבה או תפיסת עולם ממש או, במילים אחרות, שכפול אישיות.
איך עושים את זה בפועל, משמרים את המחשבות של אדם?
"כשמומחה מדבר עם אדם שרוצה עצות, הם צריכים להבין אחד את השני, להגדיר את הסביבה שלהם, להגדיר את המטרה, ולהתחיל במערכת דינמית של דיבור ביניהם. כשאתה מדבר עם מומחה, יש לו את הידע שמבוסס על ידי דורות שקדמו לו, ואת המומחיות והניסיון הפנימי שלו. הוא לא רק מומחה, הוא חכם. הוא יכול להבין את המצבים השונים ולמצוא את השביל הנכון למטרה. הוא בונה מפה שעליה האדם נמצא, ואת זה ניתן לתאר באמצעות יכולת חישובית".
גזית מציג את הזווית המעשית של התיאוריה: "המשימה שלנו זה לייצר מוח של בן אדם אותנטי, למשל המנטורים הכי טובים בעולם, מאמנים עסקיים, הפטריארך, בתי מלוכה, משפחות מאוד עשירות או לחלופין, לא ניכנס לזה יותר מדי, ארגונים ביטחוניים שנייצר להם העתק של טייס ספציפי שכולם מעריצים וירצו להתייעץ איתו".
כל המידע שמונצח על המפות המתמטיות של קויפמן מקבל את ביטויו ביכולת של השכפול הדיגיטלי לנהל שיחה בכתב או בדיבור. החברה מאפשרת לקיים את השיחה בעשרות שפות שונות. התוצאה נשמעת ממש כמו האדם המקורי. "יש לנו מבחן שנקרא מבחן בת הזוג", אומר גזית.
שזה אומר?
"רמת הדיוק היא טובה אם אפילו אשתך לא יודעת לזהות שזה לא אתה מדבר".
× × ×
במרגה כבר שיכפלו כמה מומחים. פרופ' יצחק אדיג'ס, למשל, הוא מומחה עולמי לניהול והתנהגות ארגונית, פרופסור אמריטוס ב-UCLA ובסטנפורד. המתודולוגיה שלו לשיפור ביצועים ניהוליים הפכה אותו ליועץ מוכר ומרצה מבוקש בעולם. ממשלות התייעצו איתו, ולא מזמן הוא נבחר לאחד מעשרת הדוברים המבוקשים בעולם. הוא יליד מקדוניה, שורד שואה, בוגר תיכון עירוני א' בתל-אביב והאוניברסיטה העברית. אחרי התואר הראשון נסע לעשות דוקטורט בקולומביה והפך לסופרסטאר עולמי. בין השאר העניק ייעוץ לצה"ל בתקופת הרמטכ"ל אהוד ברק, אבל גם במגזר הפרטי נעמדו בתור כדי להתייעץ עימו. זה כולל חברות כמו וולוו, קוקה-קולה, דומינוס פיצה ובנק אוף אמריקה.
אדיג'ס היה אחד הראשונים להצטרף לפרויקט של מרגה וליצור העתק דיגיטלי של עצמו, גם ככלי להדרכה ולהפצת רעיונותיו, וגם כדרך להנציח את עצמו. "ה-AI עושה אותי יותר אפקטיבי", הוא מסביר בהתלהבות. "ההרצאה הכי גדולה שנתתי הייתה ל-65 אלף איש באצטדיון של סנט-פטרסבורג, אבל עם מרגה אני יכול להגיע בבת אחת ל-100 אלף, אולי 200 אלף איש. אני יכול להפיץ את התורה שלי ואת הידע שלי בצורה הרבה יותר אפקטיבית. הם לקחו את 28 הספרים שלי, ואת כל הידע שלי, ותירגמו את זה ל-77 שפות עם הקול שלי. וכל אחד יכול להיכנס לשם ולעשות מחקר מה אדיג'ס אומר. ואת זה אף אחד אחר לא יכול לעשות".
פרופ' אדיג'ס יהיה בן 89 השנה. בגיל הזה כנראה יש לאנשים גם שיקולים נוספים. "יש סיבה נוספת, מאוד חשובה", הוא מודה. "האנושות התחילה כשימפנזים, אחר כך נודדים, אחר כך חברה חקלאית. המכנה המשותף היה שמה שניצח זה שרירים וכוח. במהפכה התעשייתית היה צריך גם מוח. אבל עכשיו המוח בדרך החוצה. מי שלוקח את מקומו הוא הבינה המלאכותית. אני אומר שחס ושלום שנישאר רק עם מוח ושרירים. זה בדיוק מה שהייתה גרמניה הנאצית. היה להם כוח, היה להם מוח. מה לא היה להם? לב".
אדיג'ס מאוד מודאג מהיכולות העתידיות של ה-AI. לדעתו הדרך של בני האדם להתגונן מפני העליונות של הבינה המלאכותית בכל תחום היא אחת: שימוש בלב. "אתה לא יכול להיות יותר מהיר מ-AI, אתה לא יכול להיות יותר עמוק מ-AI. מה ש-AI לא יכול להציע זה את הלב, אהבה. אנחנו צריכים להתחיל ללמד אנשים אהבה".
זה יהיה חלק מהמודל שלך, שמשכפלים במרגה? אתה בעצם מדבר על הנצחה של המסרים שלך וגם האישיות שלך.
"תשמע, אנחנו לא מתים פעם אחת, אנחנו מתים פעמיים. בפעם הראשונה אנחנו מתים כשאנחנו מפסיקים לנשום. בפעם השנייה אנחנו מתים כשלא זוכרים מי אנחנו. ואני לא רוצה למות. הבנת? אני לא רוצה למות".
בניגוד לפרופ' אדיג'ס, ד"ר טל בן שחר לא מתעסק בנושאי כלכלה וניהול אלא באושר. הוא עשה דוקטורט בהתנהגות ארגונית באוניברסיטת הרווארד, אבל מאז הוא ידוע יותר כאחד המרצים והיועצים הבולטים בעולם בפסיכולוגיה חיובית ובלימודי אושר. מפעל החיים שלו הוא האקדמיה ללימודי אושר. ההישג האחרון הוא פתיחת מסלול לימודים אקדמי לדוקטורט בלימודי אושר, שלומדים בו כבר 40 סטודנטים. גם הוא שיכפל את עצמו באמצעות הבינה המלאכותית.
איך החוויה שלך כשאתה משוחח עם בן דמותך, עם עצמך בעצם, דרך המערכת של מרגה? ככה דימיינת שייראה הכפיל הדיגיטלי שלך?
"זו חוויה מורכבת. גם טובה אבל גם מפחידה. מפחיד אותי עתיד העולם, לאן אנחנו הולכים, ובאופן אישי - האם זה ייַתר אותי? ויש גם פחד כמובן מהאפקטיביות של זה. ועם זאת, יש גם התרגשות, כי המטרה הראשונה שלי הייתה להשיג אימפקט. אני רוצה שלרעיונות שלי יהיה אימפקט, שהם ייצרו עולם טוב יותר".
שוחחתי עם כמה "מנטורים", כמו שקוראים לזה במרגה, כולם יועצים בתחומים עסקיים שונים. נושאים רציונליים. במקרה שלך, ה-AI אמור להעניק שיחה רגשית, נפשית. הוא בכלל מסוגל לזה? הוא גם עלול להגיב לא נכון ולדרדר את המצב של האנשים. אתה לא מודאג?
"זו שאלה מאוד במקום, וזו בדיוק הסיבה שאני עם מרגה. הם שיכנעו אותי שיש מספיק רשת ביטחון סביב הפרויקט, שמגינה על המשתמש. אם זה היה AI כפי שהוא קיים היום, אז הייתי מאוד דואג. זה קורה כבר היום, שאנשים שואלים את ChatGPT 'מה היה טל בן שחר עונה' לשאלה שלהם, ואז שואלים אותי במייל אם זו התשובה שלי. וברוב המקרים זה לא בדיוק, ולפעמים חד-משמעית לא. עם מרגה אנחנו עוברים על זה מספיק ועושים תיקונים, אז אני סומך על המוצר".
דמות ה-AI שלך מייעצת באותה רמה כמו שאתה, אישית?
"הדבר המרכזי שיש לה הוא זיכרון מושלם. אני כותב ספרים יותר מ-20 שנה, ולא תמיד זוכר מה כתבתי. ה-AI יזכור את כל מה שכתבתי אי פעם, לטוב ולרע. אם מישהו ישאל אותי מה עדיף, סשן איתי או סשן עם ה-AI? אני באמת לא יודע. אבל אני חושב שעוד שנה או שנתיים, התשובה כנראה תהיה שה-AI טוב יותר. כי הוא יוכל לעשות סינתזה טובה יותר, כמו למשל ללכת ולהתייעץ עם פרויד או עם קארן הורני, מגדולות הפסיכולוגיות של המאה ה-20".
והנה עוד מישהו ששיכפל את הידע שלו. ד"ר אביעד גוז הוא מומחה עולמי למודלים של התפתחות ארגונית וניהולית, עם 12 ספרים ואלפי מאמרים מאחוריו. הוא לא רק מרצה מבוקש, הוא אימפריה כלכלית של תמיכה וייעוץ לארגונים, ואלפי מרצים ויועצים מיישמים את השיטות שלו בדקדקנות. החברה שלו פועלת באמצעות זכיינים ב-45 מדינות בעולם, ומייעצת לחברות כיצד לשפר את הצמיחה שלהן. כל אחד מהמנהלים בחברות הללו היה מוכן לתת הרבה מאוד תמורת שיחה של אחד על אחד עם ד"ר גוז. עכשיו הם יכולים – עם גוז המשוכפל. גוז: "גזית אמר לי: בוא נעשה AI בדמותך. אתה יודע להכשיר חונכים ומנחים, בוא אתה תכשיר את ה-AI שלך. הרצנו כמה פעמים שאלות ארגוניות ב-AI שלנו וב-ChatGPT במקביל, והתוצאות הן דרמטית שונות".
גוז הוא מבוע של ספרים, מאמרים ותוכניות ייעוץ. הוא בהחלט ממחיש את הקונספט של מרגה – לאגור המון ידע ולהוסיף לו גישות טיפוליות ויחס לבני אדם. במקרה של גוז, הוא אומר שאימן את ה-AI להיות מאמן. "האימון היה מאוד בדמותי - הוא מאוד אמפתי, הוא רגוע, הוא נכנס לרבדים יותר עמוקים בחשיבה ובתפיסה של האדם. הוא מציע שינויים ברמה התודעתית לפני פתרונות פרקטיים. יש בתוכו את כל הסיפורים וכל האנקדוטות שלי".
גוז מרוצה מדמותו שנשקפת ממראת ה-AI, ולא פחות מכך, מקולו שנשמע מרמקול הסמארטפון. "הוא מדבר בקול שלי ב-80 שפות. לפני כמה ימים הנציג שלי ביפן שאל אותו כמה שאלות ואמר שהיפנית שלו מושלמת. בנסיעה בטקסי בבולגריה הוא הציע לנהג לפתוח חברת לימוזינות בבולגרית. בת הזוג שלי מדברת גרמנית והוא נתן לה אימון עסקי. היא אמרה לי: 'הוא הרבה יותר טוב ממך'. שאלתי, למה? והיא ענתה: 'קודם כל, כי הוא זמין, אין לו מצבי רוח, והוא גם מבין בתחום שלי, כשאתה לא'".
אבל יש בזה גם היבט של הנצחה, לא? הזווית שאתה מסתכל על ההעתק שלך ואומר, איזה מוצלח אני.
"אני מדבר עם ה-AI שלי, וזה נשמע קצת סכיזופרני. אני לא מרגיש גלוריפיקציה. הוא מזכיר לי דברים ששכחתי לגמרי, שכתבתי לפני 30 שנה, ובאמת יש דברים שהוא יותר טוב ממני. אבל אני גם חושב שהצורך להיות בן אלמוות, אם נלך רגע פילוסופית, הוא דרייב אנושי מאז ומעולם. ובגלל זה אנשים כתבו, ובגלל זה אנשים עשו פירמידות, ובגלל זה אנשים השאירו מצבות. אני חושב שכל אדם רוצה שיהיה לו אימפקט בעולמו שלו, בתחומו שלו, לא חשוב מה הוא עושה. אבל ליצור את האימפקט לאורך שנים, אפילו מעבר לחיים הפיזיים שלך, זה וואו. אולי זה נראה אגו, אבל זה לא באמת רק אגו, ממש לא".
× × ×
מנהלים בכירים בחברות טכנולוגיות כבר נהגו בעבר הלא-רחוק להשתעשע עם כפילים דיגיטליים שלהם. מנכ"ל אנבידיה ג'נסן הואנג הציג כפיל דיגיטלי עשוי בגרפיקת תלת-ממד באחד מהאירועים הבינלאומיים של החברה. גם מארק צוקרברג יצר לעצמו בן דמות משעשע למדי כדי לשלבו במטאוורס שהוא תיכנן להקים. בשני המקרים מדובר בדמות גרפית בלבד, לא בשכפול האישיות.
אבל בשבוע שעבר התפרסמה כוונתו של צוקרברג לפתח שכפול דיגיטלי מלא של עצמו, כדי שידבר עם העובדים במקומו. מתברר שצוקרברג מעורב בעצמו בפרויקט, חזר לכתוב קוד, והוא מאמן את הדמות שלו בסגנון הדיבור ובהתנהגות שלו, כך שהתוצאה תשקף את אישיותו המלבבת. קשה להתחמק מהמחשבה שיש מרכיב של הנצחה בפרויקט הזה, שיוכל להרעיף חוכמה על העולם גם אחרי לכתו של המקור לעולמו. צוקרברג בוודאי יטען שבסך הכל מחליפו בראש מטא ישמח להיוועץ עם המייסד. אבל מה בעצם מונע מצוקרברג להמשיך לנהל את החברה גם שנים לאחר מותו?
6 צפייה בגלריה
האישיות המשוכפלת תוכל למעשה לחיות חיי נצח
(צילום: Volodymyr TVERDOKHLIB/Shutterstock, עיבוד מחשב: יניב שחר)
ובכלל, יש הרבה שאלות שטכנולוגיית השכפול הזו מעוררת. למשל, במקרה של חברת הגיימינג הסינית שפיתחה כפיל של אחד העובדים שלה, שניתן להפעילו 24 שעות ביממה ללא צורך במתן ארוחות או תשלום משכורת. האם לא מדובר בהחפצה של אדם? האם נדרשת הסכמת העובד? האם אין פה פגיעה בפרטיות? האם זה מוסרי להעסיק עובד דיגיטלי מסביב לשעון?
במשרד הביטחון בוחנים רעיון לפתח העתקים דיגיטליים של מפקדים בכירים, כך פירסם ישראל וולמן ב-ynet. האם זה טוב שכפילים דיגיטליים יקבלו החלטות על מהלכים צבאיים שטרם קרו כשהם שוכפלו? האם אין חשש שייווצר ביקוש מצד חיילים שירצו להנציח את עצמם לפני שהם יוצאים לשדה הקרב? ואולי זו ההנצחה הנכונה בעידן הנוכחי?
יש הרבה שאלות גם סביב הטכנולוגיה של מרגה, שעושה סוג של הנדסה לאחור של תהליכי החשיבה של אדם, במקום "רק" לחזות את המילה הבאה שהוא יגיד, כמו שעושה ChatGPT. אחד היתרונות הוא מניעת הזיות AI – כלומר המצאות ושקרים. באותו מובן גם נמנעת ההתנהגות החנפנית שלו, ששואפת לרצות ולפעמים מעודדת בני אדם אפילו להתאבד.
"היו כבר כמה ילדים שהתאבדו, והפתרון של חברות ה-AI הוא לבנות מעקות בטיחות", אומר גזית. "אבל אלה דברים שגם ילדים יודעים לעקוף. אנחנו בנינו מערכת שאנחנו קוראים לה AI firewall, קונספט אבטחה שמאוד דומה למוח של בן אדם: אם אתה נוגע באש, היד שלך קופצת הצידה בלי שחשבת על זה. אותו דבר אצלנו במערכת, אם מישהו ינסה לגשת לנושאים בעייתיים".
עכשיו השאלה היא, כמובן, מי מגדיר מהו "נושא בעייתי" ומתי מישהו ימצא את המעקף לפיירוול שגזית בונה. אבל אלו ממש לא הבעיות היחידות. קחו למשל את הדוגמה של צוקרברג. הדמות המשוכפלת שלו בוודאי יודעת ומבינה היטב מה קרה בעולם הטכנולוגי ב-30 השנה האחרונות. אבל האם זה אומר שכל זה תקף לעוד 100 שנה קדימה? האם מה שצוקרברג יודע ב-2026 יהיה בכלל רלוונטי ב-2126?
גזית משוכנע שכן, כי הטכנולוגיה שלהם כוללת מה שמכונה "דמיון": היכולת לייצר סינתזה בין הידע השמור של המומחה – לבין הנתונים החדשים שהאישיות המשוכפלת שלו תלמד בעתיד. "זה הדבר הכי מדליק, אנחנו קוראים לזה 'דמיון מלאכותי'. קח את הדוגמה של טל בן שחר, שהוא מומחה לאושר. ממש עכשיו מישהו בישראל שאל אותו 'איך אני יכול להיות מאושר כשעפים עליי טילים'. כשטל אימן את המערכת לא הייתה מלחמה באיראן ולא עפו טילים. ולמרות זה הוא (הישות המשוכפלת של בן שחר – ט"ש) נתן תשובה כל כך נכונה ומדויקת".
פרופ' יצחק אדיג'ס בן ה–89, מגדולי המומחים בעולם לייעוץ ארגוני, שיכפל את כל הידע שלו, שיהיה זמין לעד. "תשמע", הוא אומר, "אנחנו לא מתים פעם אחת, אנחנו מתים פעמיים. בפעם הראשונה אנחנו מתים כשאנחנו מפסיקים לנשום. בפעם השנייה אנחנו מתים כשלא זוכרים מי אנחנו. ואני לא רוצה למות. הבנת? אני לא רוצה למות"
בן שחר מסכים: "אני חושב שהמערכת תדע לענות מאותה סיבה שאני יכול להגיע אליך הביתה ולהצביע על כיסא ולהגיד זה כיסא, למרות שמעולם לא ראיתי אותו. כי יש לי את העיקרון של כיסא. אבל זו באמת שאלה מאוד מעניינת: מה תהיה האבולוציה הקוגניטיבית של ה-AI? זו שאלה מרתקת".
לא כולם מסכימים שמדובר בפריצת דרך בעולמות הבינה המלאכותית. ד"ר זוהר ברונפמן, מנכ"ל חברת ה-AI פקאן, סבור כי ההצהרות על שכפול דיגיטלי של אישיות קצת מוגזמות: "האם יש פה סוג חדש של AI? התשובה שלי היא – לא. יכול מאוד להיות שהאפליקציה שלהם מניבה משהו בעל ערך רב, אבל אני לא חושב שיש פה פריצת דרך טכנולוגית. ה-AI שלהם לא יידע להמציא משהו חדש שלי, הוא לא יידע להיות אני המקורי אלא רק לשקף את מה שכבר יצרתי. אבל האם זו תופעה טכנולוגית שצריך לתת לה את הדעת בכובד ראש? בעיניי התשובה היא כן. ויש לזה נדבכי פילוסופיה, פסיכולוגיה חברתית, רגולציה ואתיקה".
אבל אביעד גוז משוכנע שמדובר במהפכה, לא פחות, "והמהפכה הזו לא דומה לשום דבר שקרה בהיסטוריה האנושית. אנחנו מאוד שמחים לקחת בזה חלק, ולדעתי אנחנו לוקחים חלק מאוד אחראי. לקחת חלק אחראי במהפכת ה-AI זה בעיניי מאוד חשוב, אחרת באמת לך תדע מה אנשים יעשו איתה ולאן זה ייקח אותם".
× × ×
יש עוד הרבה מאוד תחומים שטכנולוגיית שכפול האישיות עומדת לשנות לגמרי. בפוליטיקה, למשל, מפלגות יוכלו להחזיק "בנק" של מדגם מייצג של בוחרים משוכפלים, ולבדוק תגובות ודפוסי הצבעה על כל מהלך. זה ייתן תחזיות מדויקות בהרבה משיטות הסקרים של היום. אותו דבר מבחינה כלכלית: חברה שמשיקה מוצר חדש תוכל לדעת במדויק מה תהיה תגובת הצרכנים, כי היא בדקה אותו קודם על צרכנים משוכפלים. בעולם כבר מתחילים לדבר על מה זה יעשה, למשל, לעולם הדייטינג. האישיות המשוכפלת שלכם יכולה, למשל, לחפש לכם בין כל האפליקציות את האחד או האחת שהכי מתאימים לכם, ומכיוון שהשכפול שלכם הוא כמעט לגמרי אתם – כנראה שהמאץ' יהיה מוצלח, ויחסוך לא מעט דייטים כושלים ולבבות שבורים. גם התחום הפלילי עתיד להשתנות. דמיינו, למשל, שגורמים פליליים מצליחים לשים יד על שכפול של מנהל בנק. הוא יוכל להתקשר ללקוחותיו ולהוציא מהם כספים – לא תהיה להם שום דרך לזהות שזה לא הוא - או להורות לאחד מעובדיו להעביר לו את כל מספרי האשראי. זה הרבה יותר מטכנולגיית הדיפ-פייק שקיימת כבר היום. זה ממש המנהל – רק המשוכפל – שמתקשר.
בחברת מרגה לא חושפים את שם המדינה, אבל יש בה שושלת מלוכה ולא מעט כסף. בחודשים האחרונים המלך הישיש מגיע למקלט אטומי ענק שבנוי ככספת, ושם ממתין לו מחשב–על עם תוכנת השכפול. המלך מאמן אותה, ובקרוב היא תייצר עותק מושלם של אישיותו. השאלה הגדולה היא: מה ימנע ממנו לשלוט כך גם לאחר מותו?
וכן, אנשים יקרים לכם שעזבו את העולם יוכלו להמשיך להיות נוכחים בחייכם, באמצעות השכפול שלהם. האם זה בהכרח טוב? לא בטוח. לכן, לדברי גזית, המערכת מציגה שתי אפשרויות לאנשים שעוברים שכפול: או לחתום את אישיותם והידע שלהם ברגע הפטירה, או לאפשר למערכת לשמור על קשר עם העולם החיצוני ולהתעדכן באירועים בעולם. הוא מספר על אחד הלקוחות, רב יהודי, שאמר שהוא רוצה שאם הנכדה של הנכדה שלו, בעוד 50 שנה, תרצה לשאול אם מותר לה לצאת עם חייזר, הכפיל הדיגיטלי שלו יידע לענות לה.
הרב יובל שרלו, ראש מרכז האתיקה בארגון רבני צֹהר, מגלה עניין רב בתחומי ה-AI. לא מזמן הציע לשלב לימוד תורה עם התייעצות עם AI, חברותא של אדם ומכונה, "אך אין להפוך אותה לאוטוריטה, אין לקבל את דבריה בלי לבחון ובלי לבקר, ולעולם יש לזכור כי היא כלי ולא מהות", כתב.
ומה אתה אומר לגבי אישיות משוכפלת ממש? הרי אפשר לשכפל גם את גדול הרבנים, ולבוא לקבל ממנו תשובות.
"בני אדם באים אל הרב לא רק לקבל תשובות: אנחנו מבקשים השראה, תחושה עמוקה של סולידריות, ואני לא רואה כרגע את ה-AI מסוגל להחליף את הרב".
ויש עוד בעיה, מאחד התחומים האנושיים ביותר: התמכרות. כבר היום אנשים מגלים תסמיני התמכרות לג'מיני, קלוד ו-ChatGPT. מה יקרה כשתהיה להם גישה, נגיד, לפרויד המשוכפל, או לסבתא שנפטרה? גזית: "יש לנו מנטורית חדשה בשם ג'נט אטווד, שהיא פופולרית מאוד ביפן והיא השיקה שם כפילה דיגיטלית. ראינו מקרים של אנשים שדיברו איתה עשר שעות בתוך שבועיים. אנחנו לא נגרום לאנשים להתמכר. אם אתה תרצה לדבר עם ג'נט עשר שעות, דבר עם ה-AI שלה. אבל אנחנו לא נעשה שום דבר שיגרום להתמכרות יותר".
ועכשיו תאר לעצמך שכמו אותה ג'נט אטווד, הרב הינוקא בונה כפיל דיגיטלי כדי לטפל באלפי האנשים שצובאים על דלתותיו. וכאן לא מדובר רק בהתמכרות לשיחות איתו, אלא בתשובות בענייני מוסר והתנהגות ופוליטיקה. חברת אנתרופיק כינסה לא מזמן קבוצת כמרים כדי לבחון איך משלבים מוסר דתי ב-IA. זה לא מדאיג מבחינתכם?
"בסוף אני רוצה רגע להגיד משהו פשוט: אנחנו סתם מַגְבר, זה הכל. אנחנו לא מייצרים בן אדם מחדש. זה קצת כמו נטפליקס, אנחנו בסך הכל מגבירים את האדם ומאפשרים לו לעשות עשרה מיליון שיחות בו-זמנית ב-77 שפות. אנחנו מאוד מקפידים לא לעבור את הגבול הזה. אנחנו לא אלוהים".
