בזמן שמנכ"לים בעמק הסיליקון ממשיכים להבטיח לנו שבינה מלאכותית היא הפתרון לכל תחלואי האנושות, האפיפיור ליאו ה-14 פרסם בתחילת השבוע מסמך דוקטרינה חסר תקדים בהיקפו – אנציקליקה (איגרת לכנסיות, ר"ק) בת כ-43 אלף מילים בשם "Magnifica Humanitas" ("אנושות או אנושיות מפוארת") – המהווה את אחת הביקורות החריפות והמנומקות ביותר שנראו נגד תעשיית הטכנולוגיה העולמית.
האפיפיור אינו מסתפק בקריאות מוסריות כלליות, אלא תובע במפגיע מהמנהיגות הפוליטית העולמית לקחת את המושכות לידיים, להאט את קצב הפיתוח של הבינה המלאכותית ולהפקיע את המונופול על הדאטה מידיהן של החברות הפרטיות.
הניסיון לשלב רוחניות וטכנולוגיה
הביקורת של הוותיקן מפרקת לגורמים את המודל העסקי שמניע מוצרים מסחריים מובילים כמו ChatGPT של OpenAI, קלוד של אנת'רופיק ועוד. חברות אלו, שהחלו לעיתים כארגונים ללא מטרות רווח, הפכו לחברות ריכוזיות בעלות עושר והשפעה עצומים.
האפיפיור מזהיר כי כאשר הכוח האלגוריתמי מרוכז בידיים מעטות ובלתי שקופות, המידע הופך לכלי של מניפולציה, הדרה וניצול. למרות ניסיונות קודמים של חברות כמו אנת'רופיק או OpenAI להתמודד עם הסוגיות האלו באמצעות ועדות אתיקה פנימיות או ניסוח "חוקות" דיגיטליות לצ'אטבוטים שלהן, האפיפיור מסרב להסכים למצב כמו שהוא.
הדיון הזה אינו מתנהל רק בוותיקן. לפני כשבועיים התכנסו בניו יורק נציגים מחברות מובילות למפגש ראשון מסוגו תחת הכותרת "אמנת האמונה וה-AI". המפגש, שאורגן על ידי ברית בין-דתית שמושבה בז'נבה, נועד לבחון כיצד ניתן להטמיע עקרונות אתיים ומוסריים במערכות AI, על רקע התחזקות התחושה כי הכלים הקיימים אינם מספקים מענה מספק לשאלות שמציבה הטכנולוגיה החדשה.
בין המשתתפים ניתן היה למצוא נציגים של קהילות הינדו, בהאים, סיקים, מורמונים ונוצרים אורתודוקסים, לצד נציגות יהודית מטעם מועצת הרבנים של ניו יורק. התחנה הבאה של סבב הדיונים העולמי הזה צפויה להיות בבייג'ינג, ולאחר מכן בניירובי ובאבו דאבי, מה שמדגיש את השאיפה ליצור קונצנזוס גלובלי בנושא.
הבעיה הגדולה: שדה הקרב המודרני
הסעיפים המטרידים ביותר במסמך של האפיפיור נוגעים לשינוי אופי הלחימה העולמית. שילוב מערכות קבלת החלטות אוטונומיות בשדה הקרב המודרני, החל מכטב"מים תוקפים ועד לאלגוריתמים לניהול מטרות, מטשטש את הגבול בין הגנה להתקפה.
המסמך מבהיר כי הפקדת החלטות קטלניות בלתי הפיכות בידי מערכות מלאכותיות היא קו אדום מוסרי שאסור לחצות אותו. האפיפיור תוקף את הקומפלקס הצבאי-תעשייתי שמניע את שוק הנשק האוטונומי משיקולים כלכליים, ומזהיר מפני תרבות כוח שבה האויב הופך לסטטיסטיקה והקורבן לנזק היקפי בלבד.
האנציקליקה הנוכחית אינה פועלת בחלל ריק, אלא מתכתבת ישירות עם ההיסטוריה של הממסד הדתי אל מול הקידמה. בשנת 1891 פרסם האפיפיור ליאו ה-13 מסמך מפורסם שיצא להגנת זכויות הפועלים מול תנאי העבודה של המהפכה התעשייתית.
כעת, ממשיך דרכו מזהה "צורות חדשות של עבדות" בעידן הדיגיטלי: ניצול עובדים בתעשיית המיקור-החוץ לצורך תיוג נתונים, שחיקה של מקומות עבודה בשם שורת הרווח של בעלי המניות, ופגיעה בילדים ובבני נוער מצד מודלים עסקיים המבוססים על מוניטיזציה של קשב וזמן מסך.
בינה מלאכותית דתית? לא בדיוק
ניסיונות העבר לעצב מערכות מוסר טכנולוגיות אינם חדשים, אך הם לרוב נכשלו או נותרו על הנייר. היסטורית, עולם המחשוב ניסה להתמודד עם סוגיות כאלו באמצעות קודים אתיים פנימיים של איגודי מהנדסים, או דרך פילוסופיות חילוניות כמו "תועלתנות". המעבר הנוכחי לשפה דתית ורוחנית יותר עשוי להעיד גם על קושי הולך וגובר למצוא עקרונות אתיים אוניברסליים ומוסכמים בעידן ה-AI.
עם זאת, לא כולם קונים את הגישה החדשה והרוחנית של ענקיות הטכנולוגיה. מבקרים בתעשייה, בהם בכירים לשעבר בממשל האמריקאי וחוקרים עצמאיים, טוענים כי מדובר בהסחת דעת מתוחכמת.
המוטו הישן של פייסבוק, "נוע מהר ושבור דברים", הותיר אחריו יותר מדי נזקים, והפנייה לדת נתפסת לעיתים כמסך עשן שנועד למנוע פיקוח ממשלתי אמיתי. הטענה המרכזית היא שהדיון על "איך לבנות בינה מלאכותית טובה" מניח מראש שעצם הבנייה היא עובדה מוגמרת, ובכך עוקף את השאלה הרחבה יותר: האם נכון לפתח מערכות רבות עוצמה כאלו ללא הגבלה.
בסופו של דבר, הוותיקן מזכיר לעולם כי הדמוקרטיה אינה מבוססת רק על פרוצדורות, אלא גם על מחויבות לעובדות ולאמת. המסר המרכזי של המסמך ברור: פתרונות שוק חופשי לבדם לא יספיקו כדי להתמודד עם כשלי המוסר הדיגיטליים. נדרש שיתוף פעולה בינלאומי רחב, המבוסס על ההבנה כי הקידמה הטכנולוגית צריכה לשרת את האנושות – ולא להפך.
