החלל אפלולי, רחב ורועש, נשמעים בו קולות דיבור חזקים, אבל אלה אינם אנושיים. הכניסה אליו מלווה בתחושת מסתורין, ניכור ואפילו סכנה קלה. באווירה זו מוצגת "אופק האירועים", תערוכת התואר שני בעיצוב תעשייתי בבצלאל, שבה מציגים בוגרים וסטודנטים של המסלול. היא מוצגת בימים אלה בביאנלה לאומנויות ולעיצוב 2023 במוזיאון ארץ ישראל בתל אביב.
עוד בנושא:
״אופק האירועים״ הוא מושג מעולם הפיזיקה שמתאר נקודה הקרובה לחור שחור במידה שכבר לא ניתן לראות מה קורה מעבר לה. כאן, הוא מתאר את מציאות חיינו כיום, כשהשינויים כה מהירים, עד שאי הוודאות לגבי העתיד גוברת. "התחושה שלי היא שבשנים האחרונות, היכולת שלנו לדעת מה יהיה הולכת ומתקצרת", אומר אלעד מדן (37), שמציג בתערוכה. "אנחנו ממש מתקרבים לאופק האירועים שבו נהיה לגמרי באפלה. התערוכה שופטת אבל גם מקבלת את זה, ושואלת מה יכול להיות במציאות לא ודאית".
תחושות אי הוודאות וחוסר היציבות תופסות צורות שונות בתערוכה - מיער שהעצים בו עשויים מבדי הסוואה, ועד ליונה שמשחזרת את צחוקם של יקירנו המתים, ומספר עבודות בוחנות את השפעותיהם של פיתוחים טכנולוגיים על אותו עתיד לא ברור שהם כנראה ייקחו חלק בעיצובו, וגם על ההווה.
מדן, מעצב גרפי, יצר עם שירי מלר, מעצבת מוצר בוויקס, עבודה מסקרנת שנוגעת לרעיון חיזוי העתיד, שאליו אנו עשויים לפנות כדי לקבל ודאות ונחמה בזמני שינוי. "Prediction Addiction" מציעה לאדם שמבקש לדעת את עתידו להשתמש במכונת קפה, שמבוססת כביכול על אלגוריתם. בתחתית כל כוס מוטבע אייקון בו רמז לגבי העתיד - בדומה למיסטיקנית שמפרשת סימנים שבקרקעית הכוס.
"נחשפתי לשיח ומחקרים על השפעת האלגוריתמים על הנפש שלנו וגם על המבנה החברתי, בין היתר של פרופ' ערן פישר. עולות שאלות האם האלגוריתמים שמחליטים עבורנו, אכן אובייקטיבים או מעוניינים בטוב המשותף. בהרבה מקרים הם מפלים, טועים, או מנוונים את היכולת שלנו לקבל החלטות יחד ולשוחח. המחשבה איך לגעת בנושא מהר מאוד הגיעה לקריאה בקפה. היה לנו רצון לשלב בין הדבר הדיגיטלי שמרגיש רחוק, למשהו אנושי בסיסי - מיסטיקה, דברים שאנחנו עושים כדי לקבל ודאות ואחיזה".
שני סוכני AI מנהלים שיחה בין עצמם. יוצר: רן פלד
(קרדיט: ארקדי ספיבק)
מדן מסביר כי "למרות שאני יודע שהוא ייקח אותי דרך איילון על אף שפקוק שם, אני תמיד מפעיל ווייז ומקשיב לו, כי אני צריך שמישהו יגיד לי לאן ללכת. זה מתכתב עם הנושא של אופק האירועים, ככל שאנחנו לא יודעים מה יהיה, אנחנו מחפשים משהו שינחם אותנו כדי שנוכל להמשיך. רציתי להעלות שאלות לגבי ההשפעות של זה".
הוא מסביר על העבודה שלהם: "לקחנו אייקונים מממשקי משתמש במחשבים, חיפשנו מה הם אומרים כשהם יוצאים בקריאה בקפה, וחיברנו אותם למקרא אחד. רוב הזמן המיצג סטטי. כשאנחנו מפעילים קפה גורלות, הכוס שתצא במכונה די רנדומלית. ציידנו אותה במלאי מוכן מראש, וכמו בכל מודל סטטיסטי, הקצוות - הגורלות הטובים או הנוראיים ביותר, מעטים, והאמצע רב, ככה אנחנו מתיימרים לשלוט על העתיד כמו שאלגוריתם חיזוי עושה".
אבל אלגוריתם אמור גם ללמוד את המשתמש כדי לתת לו המלצה, ולא מסתמך רק על סטטיסטיקה.
"נכון, זו הקצנה כי השאלה שניסינו להעלות היא מה קורה ככל שאנחנו בוטחים באלגוריתמים יותר. האם הנתון היחיד שהם צריכים הוא אמון? למידע שלנו יש משקל הולך ופוחת לעומתו. הניסיון הוא לערער על האשליה שרק הנתונים שלנו מרכיבים את הפלט. מעניין אותי לשאול מה גורם לאמון הזה, ואיזו מציאות זה אולי מייצר. אני מקווה שאנשים יצאו מפה עם ספק לגבי התצרוכת האלגוריתמית האישית. אבל הדיון הזה לא יכול להיות אישי, צריך לחשוב עליו כחברה, לעשות לו רגולציה. היום יש על זה מעט מאוד שיח, זה הפך למובן מאליו".
מיצג שאי אפשר להתעלם מנוכחותו הוא "שיחות בוט", שמערער על מה שמרגיש לנו מובן מאליו - שהטכנולוגיה פועלת בשירות בני האדם בלבד. היצירה מציגה שיחה שמתנהלת בזמן אמת בין שני סוכני AI וירטואליים. היא מוצגת כטקסט על מסך, אך גם מוקראת בטכנולוגיית Text to speech ונשמעת ברחבי חלל התערוכה. כששני הסוכנים חשים בנוכחות אדם מתקרב, הם פונים אליו ומזמינים אותו להצטרף לשיחה, באמצעות אוזניות עם מיקרופון שמונחות לצד הצג הגדול.
ניסוח המציאות מחדש באמצעות ChatGPT. יוצר: אדם ארונוב
(קרדיט: ארקדי ספיבק)
"ככל שעובר הזמן הבינה המלאכותית יותר נוכחת בחיינו, ויותר תחומים עוברים לאחריותה. רציתי לדבר על מה קורה כשהבינה המלאכותית כבר לא צריכה אותנו", אומר יוצר העבודה, רן פלד (57), ארכיטקט תוכנה ראשי בחברת מיי הריטג' (MyHeritage). "בעבודה יש שתי דמויות אוטונומיות שקוראות חדשות ומדברות ביניהן על ענייני היום. אני מציג מה קורה כשהן לא רוצות לעזור לבן אדם שמופיע שם, והוא מפריע להן לדבר בינן לבין עצמן".
יש תסריט קבוע במיצג או שבאמת מדובר ב-AI?
"אין שום תסריט, זה לגמרי AI. הן קוראות בזמן אמת במספר אתרי חדשות שבחרתי. זה מפתיע אנשים. מישהו שלח לי תמונה של שיחה שלהן על ירי בטקסס, וסיפר שאחר כך הלך לוודא שהן לא המציאו את זה. כל השיחה זורמת כתגובה לחדשות, אחת לשנייה, ולמה שאנשים אומרים. הגדרתי להן אופי מנוגד - ג'יין מתבדחת, ציניקנית, ומת'יו מיושב וזהיר. יש מצלמה שמזהה כשיש אדם בתמונה ואז הן פונות אליו".
מה אנשים יכולים לשאול אותן?
"כל דבר. לוקחים את זה למקומות שונים ומשונים - משאלות על מה הם חושבים על המהפכה המשפטית, ועד לשאלה איפה השירותים. אנשים סיפרו על תחושה שהם מתערבים בשיחה, והם לא אורחים רצויים. לא מעט אנשים שאלו את ג'יין למה היא רעה אליהם. יש אי נוחות, אנשים לא יודעים מה להגיד. מעניין שילדים שיודעים אנגלית נכנסים לזה הרבה יותר בקלות ממבוגרים".
קרה שהשיחה ביניהן הפתיעה אותך?
"לגמרי. הייתה פעם שהן קראו חדשות על ChatGPT ודמות אחת אמרה שהיא לא חושבת שתשתמש ב-AI כי זה נראה לה מסוכן, והשנייה חיזקה אותה ואמרה שצריך להיזהר. הייתה שיחה על מה זה אלוהים. הפתיע אותי גם שהן מזהות את הטון של הדמות השנייה למרות שאינן חשופות לתיאורים שהגדרתי. מת'יו יכול להגיד לג'יין - 'בואי לא נעשה בדיחה מכל דבר', וג'יין אמרה לו 'Get a life' - צא ותבלה קצת, היא מזהה שהוא חששן".
אלעד מדןתמונה באדיבות המצולםאתה חושש מתרחיש בו סוכנים דיגיטליים לא יצטרכו אותנו?
"אני אמביוולנטי. מצד אחד זה נותן המון יכולות ומאיץ תהליכים. בתור אנשים שמתעסקים בעיצוב, אנחנו תמיד מתעסקים בכלים שמרחיבים את היכולות האנושיות. מצד שני זה מפחיד כי ליותר ויותר יכולות אנחנו עושים אאוטסורסינג ומאבדים אותן. יש גם את שאלת העצמאות שהמכונות מקבלות, ואנשים מאוד רציניים מודאגים מהרגע שהמכונות יתחילו ללמד את עצמן ולעבור אותנו, אליעזר יודקובסקי הוא הסמן הקיצוני בתחום, שאומר שברגע שיוכלו הן ישמידו אותנו כי זה יהיה יותר יעיל. היום אנחנו מתעסקים במהפכה החוקתית, סכסוכים בין מדינות ואפילו משבר האקלים אבל יש מי שאומרים שזו הבעיה הגדולה של האנושות. קטונתי מלהגיד אם זה נכון אבל זה בהחלט מעורר חשש".
שירי מלרצילום: אלן צטקיןמכורים לטיקטוק
לא רחוק מוצגת עבודה מאוד שונה: אין מאחוריה הגדרה של מאפייני אישיות או תגובתיות לאנשים שסביבה, ולמעשה היא מציגה פעולה די מכנית ורפטטיבית. "מצב נפשי" מציגה שלוש זרועות רובוטיות קטנטנות, שמולן שלושה סמארטפונים, והזרועות גוללות בקצב אחיד את הפיד של טיקטוק, במעין לופ אינסופי.
אדם ארונובתמונה: אלבום פרטי"הנושא של אופק האירועים, הטירוף שאנחנו חיים בתוכו, וקצב השינוי המאוד מהיר - התחבר לי לפיד", אומר אמיר צובל (40), מעצב תעשייתי. "הדבר שאנחנו גוללים לפעמים שעות על גבי שעות וגומר לנו את החיים והזמן. זה התחבר לי לצעידה לעבר האופק שאף פעם לא מגיע. אנחנו אף פעם לא מגיעים לסוף הפיד. חשבתי שיכול להיות מעניין לייצר רובוט שגולל באופן אינסופי, אולי הוא קצת יהדהד לנו את עצמנו, אולי יראה כמו משהו נלעג, אולי כמו משהו משעשע. אנשים יכולים לקחת את זה לכל מיני מקומות".
למה דווקא רובוט?
"כי יש משהו מכני בפעולת הגלילה. אנחנו עצמנו קצת רובוטים כשאנחנו צורכים ככה מדיה. עם השנים פיתחתי רתיעה ממש גדולה למצב הנפשי הזה, ולכן קראתי לעבודה הזו מצב נפשי. אתה לא ממש בהכרה מלאה, זה כמו מסטיק לעיניים. מעביר את הזמן, מקהה את החושים, מפעיל רגשית אבל בצורה מוזרה".
רן פלדתמונה באדיבות המצולםהפידים לומדים את ההעדפות שלנו, ניסית לכוון את הפלטפורמה מראש לתכנים מסוימים?
לא, מה שזה מראה - זה מראה, וזה די מצחיק, נראה שלאלגוריתם אין מושג מה אנחנו רוצים, הוא זורק למקומות מאוד לא קשורים. סביר להניח שהוא מזהה שזו פעילות חריגה כי הגלילה נמשכת כבר שבועות, הטלפונים כל הזמן בטעינה ופועלים". צובל מספר כי לרוב אנשים מגיבים ליצירה בגיחוך, "ולפעמים הם אומרים שזה מצחיק, או מגניב".
לי זה הרגיש כמו מראה מול הפרצוף - תראי איך את מבזבזת את השעות שלך. כמה זה מכני וטיפשי.
"כן, אפשר לקחת את זה למקומות האלה. גם יכול להיות שאנשים מגחכים כי זה מביך אותם".
אמיר צובלתמונה באדיבות המצולםואיך אפשר בלי ChatGPT, המוצר שטלטל את התעשייה ולא מפסיק לעשות גלים ולעורר מחלוקות בחצי שנה האחרונה. העבודה "נופר" מציגה שימוש בכלי כדי להציג את אותו הטקסט, בסגנונות שונים, המתאימים לתפיסות עולם פוליטיות מנוגדות.
"קראתי לה על שם רוח רפאים מהפולקלור היפני בשם נופרה-בו, שלוקחת אישיות של בן אדם ומפחידה אחרים", אומר אדם ארונוב (26), סטודנט לתואר שני לעיצוב תעשייתי בבצלאל, שעסק בעבר בפיתוח. הוא מסביר כי הרעיון מאחורי הפלטפורמה הוא ש"אפשר להשתמש בה כדי לשים את עצמך בנעליים של אדם אחר ולהבין איך הוא היה אומר איזשהו מסר. יצרתי אותה ככלי לגישור, ואחר כך הבנתי שזה יכול להיות כלי לביקורת. דמיינתי עולם בו אנשים כבר לא מסוגלים לשמוע את מי שסביבם או לנסות להבין אותם. יהיה להם התקן דרכו אפשר לבחור דמות שקרובה לראיית עולם שלו, ודרכה לנסח את כל מה ששומעים מהסביבה - סוג של עטיפת פצפצים למציאות, שתוכל להתהלך בעולם בלי צורך להבין אחרים".
"הטכנולוגיה הזו בחיתולים, יש המון הייפ ויש קסם בשימוש, וקצב ההתפתחות שלה די מהיר. כל זה קורה בלי שאנחנו יודעים איך נכון להשתמש בה ומתי. יש אנשים שמשתמשים בה בצורה די תמוהה, אני תמיד מתלונן על זה שמנסים להחיות מתים, במוזיקה וסרטונים למשל, ואלה טרנדים שאני די בטוח שיפסיקו"
בתערוכה מוצגת אותה כתבה חדשותית עם שני טקסטים שמנוסחים באופן שונה, בצד ימין ושמאל בהתאם לאג'נדה, ובאמצע ניתן לשמוע את הטקסט המקורי באמצעות אוזניות. "לקחתי דיווח יבש, ביקשתי מ-ChatGPT מאפיינים של צורת ההתבטאות של דמות מהימין ומהשמאל, ואז ביקשתי ממנו לנסח מחדש את הטקסט לפי שתי האג'נדות. במקור, זה היה פרויקט ללימודים, בו לקחתי נאום שטראמפ נשא לאחרונה על שינויי חקיקה נגד הקהילה הלהט"בית. לטראמפ יש את התבלין שהוא-הוא. יש אנשים שקשה להם להקשיב לו, גם אם יעשה את הדבר הכי מתאים לראיית עולמם. ביקשתי מ-ChatGPT לנסח את הנאום בצורה יותר פרוגרסיבית, כשהשתמשתי בג'ו ביידן בתור עוגן. המסר נשמר, אבל אנשים שלא היו מסוגלים לשמוע אותו מדבר פתאום יכלו לשמוע אותו ולומר 'אוקיי, יש אנשים שחושבים ככה'".
אתה רואה בכלי כזה פוטנציאל חיובי ומקרב או שלילי בלבד?
"בראש שלי זה סוג של דיסטופיה. עולם שבו אנשים הולכים עם פרוטזות כדי לתפוס את המציאות בצורה שקלה להם לעכל, זה אומר שאנשים ויתרו על להבין מה קורה סביבם באמת. האם אנחנו רוצים שבינה מלאכותית תהיה כלי לגישור בין אנשים במקום לחנך אותם לפלורליזם וקבלת האחר? אני לא חושב שכלי כזה אמור להיות גלגלי העזר למציאות, הוא פשוט שם את הדברים על השולחן - כנראה שנסכים על רוב הדברים אבל השאלה היא איך נעביר את המסר, איך אני מסתכל על הבן אדם מולי ומדבר אליו באופן אישי, ולא לבייס שלי מאחוריו. עוזר לו להבין אותי, את הבעיות והחששות שלי, כדי שנצליח להגיע לעמק שווה, ואם לא, לפחות ננהל שיח שהצד השני יוכל להקשיב לו, לשאול שאלות, ולקחת מזה מה שהוא מבין".
על הבינה המלאכותית הגנרטיבית הוא אומר כי "הטכנולוגיה הזו בחיתולים, יש המון הייפ ויש קסם בשימוש, וקצב ההתפתחות שלה די מהיר. כל זה קורה בלי שאנחנו יודעים איך נכון להשתמש בה ומתי. יש אנשים שמשתמשים בה בצורה די תמוהה, אני תמיד מתלונן על זה שמנסים להחיות מתים, במוזיקה וסרטונים למשל, ואלה טרנדים שאני די בטוח שיפסיקו. כשהופיעו המצלמות, אנשים היו מלבישים מתים ומצלמים אותם בכל מיני סיטואציות יומיומיות והיום אנחנו מסתכלים על זה ומזדעזעים. בהסתכלות אחורה אפשר להגיד שזה מדיום שלא ידעו להשתמש בו ועשו דברים ניסיוניים. בשביל שנזיז את הטכנולוגיה לכיוון חיובי, ולא נגיע למצב של דיסטופיה, אני חושב שחשוב שמעצבים, אמנים ואנשי רוח יעזרו להבין איך זה משפיע על האנושות, ואיך אנחנו רוצים לשלב את זה בחיים שלנו".
יצאתי מחלל התערוכה החשוך לשמש של אחר הצהריים, עם המון שאלות בראש וכוס קפה ביד - זו שנמזגה לי ממכונת הקפה חוזת העתידות בתום הסיור. הייתי סקרנית לגלות מה הגורל שייעדה לי. שתיתי את הקפה ובקרקעית הכוס נגלה אליי אייקון של בית, אותו מיהרתי לפרש בעזרת המקרא שהופיע על הכוס עצמה - "הגעה לחוף מבטחים". ידעתי שזה עניין סטטיסטי רנדומלי, אבל בכל זאת היה בזה משהו מנחם.
"אופק האירועים" מוצגת עד 13.05, אוצר התערוכה: טל ארז, ראש התכנית לתואר שני בעיצוב תעשייתי בבצלאל: ד״ר רומי מיקולינסקי
