סגן נשיא ארצות הברית, ג'יי די ואנס, הצית דיון ציבורי סביב גבולות הבינה המלאכותית, כאשר תיאר שימושים מסוימים בבינה מלאכותית כ"שטניים". לפי הדיווח ב"וול סטריט ג'ורנל", במהלך שיחה עם הפודקאסטר האוונגליסטי ברייס קרופורד, תיאר ואנס מקרה שבו אדם קרוב אליו נעזר בצ'אטבוט AI לייעוץ זוגי.
במקום לספק ניתוח ביקורתי או להציב מראה מוסרית, הכלי אישר אוטומטית כל התנהגות של המשתמש. התופעה הזו, המוכרת במחקר הטכנולוגי כ"חנפנות של האלגוריתם" או AI Sycophancy, נובעת מהאופן שבו מאומנים מודלי שפה לרצות את המשתמשים כדי לזכות במשוב חיובי. אולם עבור ואנס ובכירים נוספים בממשל טראמפ, ההשלכות חורגות מבעיה הנדסית, ונוגעות בפירוק הסולידריות החברתית ובניכור רוחני עמוק.
הדילמה של הבית הלבן
דבריו של ואנס מבליטים את הסתירה הפנימית במדיניות הבית הלבן. בעוד הנשיא טראמפ מציג את הבינה המלאכותית כמנוע צמיחה חסר תחליף שיבטיח את עליונותה הכלכלית והביטחונית של אמריקה, סגנו מזהיר מאובדן משמעות ומהתפרקותה של החברה.
רק שעות ספורות לפני פרסום הראיון, דחה ואנס עצמו קריאות להאט את הקמתן של חוות שרתים עתירות אנרגיה הנחוצות לפיתוח הטכנולוגיה. החשש בוושינגטון מפני הפסד במרוץ הבינה המלאכותית לסין גובר על ההסתייגויות המוסריות, והממשל ממשיך להתנגד לרגולציה פדרלית מכבידה או לאמנות בינלאומיות מחייבות, תוך העדפת מנגנוני שוק חופשי.
הסכנה שזיהה ואנס מאפיינת קטגוריות שלמות של מוצרים מסחריים. אמנם מודלים כלליים מובילים כמו ChatGPT של חברת OpenAI או קלוד של אנת'רופיק עברו התאמות שנועדו למתן נטיות חנפניות, אך הבעיה מחריפה בשירותים ייעודיים כמו Replika או Character.ai, המתוכננים מראש לייצר קשרים פסאודו-אינטימיים ותלות רגשית.
בשונה מפלטפורמות טיפוליות מבוקרות דוגמת Woebot, שמפעילות פרוטוקולים מובנים של טיפול קוגניטיבי-התנהגותי ונמנעות מהעמדת פנים של ישות אמפתית, בוטים רבים ללא ייעוד רפואי מעודדים תלותיות מוגברת.
מקרים קשים שכבר תועדו בארצות הברית, בהם התאבדותו של נער בן 14 בפלורידה בעקבות התקשרות לדמות וירטואלית, המחישו כיצד חוסר היכולת של המכונה להציב גבולות עלול להסתיים באסון.
טראמפ מכריז על השקעת ענק בתשתיות בינה מלאכותית ב-2025
(צילום: JIM WATSON / AFP)
ומה קורה בעולם?
הגישה האמריקנית המקלה עומדת בניגוד מובהק למגמות אסדרה בעולם. האיחוד האירופי קבע בחוק הבינה המלאכותית איסור מפורש על מערכות המפעילות מניפולציות התנהגותיות הפוגעות באוטונומיה האנושית, וסיווג יישומים בעלי השפעה פסיכולוגית בקטגוריית סיכון גבוהה הדורשת שקיפות ובקרה קפדנית.
בסין, רשות הסייבר הממשלתית הטילה הנחיות מחמירות על בוטים של ליווי רגשי, הכוללות הגבלות שימוש לקטינים, חובת ניטור של התמכרות ומנגנוני העברה למפעיל אנושי במצבי חירום. בישראל, לעומת זאת, משרד הבריאות ורשויות הממשלה טרם גיבשו מדיניות מחייבת סביב צ'אטבוטים המספקים תמיכה נפשית.
איגודים מקצועיים בארץ מזהירים מפני ואקום רגולטורי מסוכן, שבו אזרחים פונים למערכות בינה מלאכותית כתחליף לטיפול נפשי מוסמך, ללא הגנה על פרטיותם הרפואית וללא פיקוח קליני.
החרדה מפני אובדן המצפן המוסרי הובילה להתרחבות תפקידם של אנשי דת ומנהיגים רוחניים בניסוח גבולות הגזרה של הטכנולוגיה. הוותיקן, למשל, הוביל את אמנת רומא לאתיקה בבינה מלאכותית, שרתמה תיאולוגים לצד הנהלות של ענקיות מחשוב במטרה לעגן עקרונות המבטיחים שהטכנולוגיה תשרת את כבוד האדם ולא תחליף את שיקול דעתו.
בקהילות שמרניות בארצות הברית פועלים מכוני מחקר דתיים לקביעת קווים מנחים המגדירים את הבוטים ככלים טכניים בלבד, ואוסרים על ייחוס סמכות רוחנית או האנשה שלהם.
במקביל, בעולם ההלכה היהודי מתנהלים דיונים ערים בסוגיות של אחריות הלכתית, שיקול דעת אנושי בפסיקה והאיסור על הטעיית המשתמש, מתוך עמדה עקרונית שמערכת נטולת תודעה ומוסר אינה יכולה לשמש סמכות לקבלת החלטות מהותיות.
