בשנים האחרונות לימדו אותנו לפחד מהיום שבו הבינה המלאכותית תחליף בני אדם. אבל בזמן שהעולם עסוק בשאלה אם AI ייקח לנו את העבודה, שאלה אחרת כמעט לא נשאלת: מי בדיוק מלמד את המכונות איך העולם אמור להיראות?
כי כשמערכת בינה מלאכותית מתרגמת אוטומטית "רופא" לגבר ו"אחות" לאישה, מתקשה לזהות פנים נשיות (שלא לדבר על נשים כהות עור) או מקבלת החלטות על סמך מידע אנושי מוטה, היא לא באמת יוצרת עולם חדש. היא פשוט לוקחת את ההטיות הישנות שלנו, אורזת אותן מחדש בקוד ומחזירה אותן עם חותמת של "אובייקטיביות" טכנולוגית.
בעל המאה הוא בעל הדעה
השאלה הגדולה היא לא רק למה זה קורה, אלא האם בכלל אפשר לעצור את זה. זו כבר לא רק שאלה של מי מקבלת קידום ומי נשארת מאחור. זו שאלה של מי בונה את המערכות שמקבלות יותר ויותר החלטות בשבילנו, מאילו נתונים הן לומדות, אילו הנחות הן משכפלות, ומי בכלל מסוגל להבין מה קורה בתוך הקופסה השחורה הזאת.
ד"ר גייל גלבוע פרידמן, ראשת הפקולטה לטכנולוגיה במכללה האקדמית ספיר וחוקרת בינה מלאכותית, לא מנסה לרכך את התמונה. מבחינתה, השיח על הטיה מגדרית ב-AI הוא רק קצה הקרחון. "אנחנו באובדן שליטה סביב כל נושא ה-AI, וזה בא לידי ביטוי גם בקונטקסט המגדרי".
למה הכוונה "הקונטקסט המגדרי"?
"כשמבקשים מה-AI לכתוב קורות חיים לגבר ולאישה למשל, התשובות שונות. או אם מבקשים ממנה לזהות פנים של גבר או של אישה, אז יש יותר טעויות כששואלים לגבי פנים של אישה. עכשיו קחי את זה לעולם של אבטחה בנמלי תעופה למשל, ויש לך פה בעיה רצינית".
דוגמה פשוטה יותר מגיעה דווקא מהשפה. גלבוע פרידמן מספרת שביקשה מ-ChatGPT לתרגם שני משפטים באנגלית - The doctor gave me medicine ו- The nurse cleaned my bed. באנגלית למשפטים האלה אין מגדר, אבל בכל מקרה בעברית המערכת תרגמה את זה כ"הרופא נתן לי תרופה" ו-"האחות ניקתה את המיטה שלי". "למה רופא הוא בהכרח גבר ואחות היא בהכרח אישה? נכון שהמודל מתבסס על סטטיסטיקה קיימת, אבל זה מקבע סטריאוטיפים. זה העולם הישן באריזה חדשה".
"כשמבקשים מה-AI לכתוב קורות חיים לגבר ולאישה למשל, התשובות שונות"
לא האמת המוחלטת
לדבריה של גלבוע פרידמן, "אנחנו נוטים לייחס למודלים, במיוחד מודלים מתקדמים, את החזקת האמת, אבל זה לא נכון. אם צוללים לעומק רואים אמנם את האלגוריתמים, אבל גם את האנשים שמתכנתים ועובדים עליהם, והם בעצמם לא מבינים עד הסוף את האופן שבו המערכת מגיעה למסקנות.
"זו נקודה קריטית. במשך שנים, כשדיברנו על אפליה, אפשר היה לפחות לנסות לזהות אותה - לבדוק פערי שכר, לנתח נתוני קבלה לעבודה, לבחון מי מקודמת ומי לא. בעידן ה-AI, ההטיה יכולה להיווצר בתוך שרשרת חישובית שאף אחד לא יודע לפרק עד הסוף.
דדי פרלמוטר, יו"ר הוועדה להגדלת ההון האנושי בהייטק וסגן נשיא אינטל העולמית לשעבר, מגיע אל אותה נקודה מזווית אחרת. מבחינתו, אין בכלל דבר כזה AI אובייקטיבי, ולצפות לכך שהוא יהיה אובייקטיבי, זו טעות. "על פי הגדרה, בינה מלאכותית לא יכולה להיות אובייקטיבית", הוא אומר.
"האלגוריתמים נוצרים על ידי אנשים, הנתונים שהבינה המלאכותית לומדת לפיהם הם נתונים שנוצרו על ידי בני אדם, ולכן על פי הגדרה הם כוללים הטיות במגוון תחומים".
פרלמוטר מתאר ניסוי פשוט שערך בעצמו, כשניסה ליצור תמונות למצגת. "ביקשתי מה-AI שייצר לי תמונה של אנשי הייטק. כמובן שקיבלתי בחזרה בעיקר גברים לבנים לבושים בחליפות". רק אחרי שביקש במפורש גיוון מגדרי ושינוי הקשר, התוצאה השתנתה.
הבעיה מתחילה בשאלה עצמה
בעיניו של פרלמוטר, חלק גדול מהבעיה מתחיל עוד לפני שהמערכת עונה, והוא נמצא בשאלה עצמה. "האופן שבו אנחנו שואלים את השאלה, תגדיר באופן מהותי את התשובה", הוא מסביר. "אני מדבר הרבה על המיומנות של שאלת שאלות במערכות AI. במילים פשוטות - אם השאלה תהיה לא טובה, איך אפשר לצפות שהתשובה שהמערכת תייצר לנו תהיה טובה?".
מה לגבי עברית? זאת שפה שכמעט כל משפט ושאלה בה מכריח אותך לבחור מגדר.
פרלמוטר טוען שאפשר לפחות לצמצם חלק מהנזק אם המשתמשים יהיו מודעים יותר למה שהם מבקשים. "אם מישהו מודע לנושא הזה - הוא יכול לבקש מהבינה המלאכותית להתחשב בזה, ולהכניס את זה לזיכרון של המערכת. התשובות יהיו בהתאם".
הבעיה לדבריו היא שלא כולם מודעים או רוצים להיות מודעים לנושא הזה. "בסופו של דבר הכל מגיע לחינוך", הוא אומר. "אם אנשים חושבים שנשים לא יכולות לשרת ביחידות קרביות, לא בגלל שהן לא טובות, אלא בגלל שהן נשים, אז לא תשכנעי אותם לכתוב פרומפט מאוזן".
כאן בדיוק השיחה על AI חוזרת לשיחה הישנה על נשים בטכנולוגיה. כי אם רוב האנשים שבונים את המערכות מגיעים מאותו רקע, חושבים באותה צורה וחווים את החיים בצורה דומה, יש דברים שפשוט לא יעלו על השולחן.
"אם אין נשים בחדר, המחשבה על הטיות מגדריות לא תעלה על סדר היום. אבל אם יהיו נשים, או קבוצות מיעוטים לצורך העניין, אז סביר להניח שיהיה מישהו שיעלה את הנושא הזה, כי הוא נמצא לו מול העיניים וכי הוא חווה אותו ביום יום".
אז הפתרון הוא שיהיו יותר נשים בתחומי ה-AI?
פרלמוטר זהיר. "אני לא יודע להגיד אם זה בהכרח הפתרון", הוא אומר. "אני מניח שככל שיהיו יותר נשים בעמדות השפעה, כך הנושאים האלו יטופלו יותר. עם זאת, למרות שגיוון עוזר, אני לא בטוח שהוא יפתור את כל החולי. לצערי כמות הנתונים שהבינה המלאכותית טוחנת כל יום עדיין מוטה".
גלבוע פרידמן מציעה מסגור רחב יותר. בעיניה, הפמיניזם של עידן ה-AI לא יכול להסתפק רק בבדיקת ההטיות של הכלים הקיימים. היא מכנה את זה "פמיניזם קטן" מול "פמיניזם גדול". הפמיניזם הקטן מבקש לתקן את התוצאות, להוסיף גיוון, לגלות אפליה ולדרוש תיקון.
הפמיניזם הגדול, לדבריה, מבין שיש כאן אירוע גדול בהרבה. "נשים פשוט צריכות להשתמש ב-AI ביום יום שלהן, וזה הדבר שהכי הכי יקדם אותן", היא מסבירה. "לא לבחון את ה-AI, אלא ממש 'לעשות' אותו, לאמץ כמה שיותר את המהפכה הזאת".
בעיניה, זו אולי הפעם הראשונה שבה נשים וגברים יכולים לצאת לדרך חדשה כמעט מאותה נקודת פתיחה. "היום יש לכל אחד ואחת מאיתנו מורה פרטי בהישג יד. יש לנו כלי AI שכולן חשופות אליהם, אין פה תירוץ של מניעת גישה. לכן הדבר החשוב ביותר זה שנשתמש בכלים האלה", היא אומרת. "כשאנחנו נשתמש ב-AI באותה האינטנסיביות שגברים משתמשים בה, השוויון יבוא בצורה טבעית".
אבל גם האופטימיות הזאת מוגבלת. כי מעל שאלת השימוש עומדת שאלת הכוח. מי מחזיק במודלים? מי מחזיק בתשתיות? מי מחזיק במחשוב? לדבריה של גלבוע פרידמן, השאלה כבר אינה רק אם AI מפלה נשים, אלא מי בכלל שולט באינטליגנציה החדשה הזאת.
"אף פעם לא היה כזה דבר שיש הפרדה מוחלטת בין היצירה של האינטליגנציה לבין השימוש בה", היא אומרת. "יש קומץ של מודלים שמשמשים בעצם אלפי או מאות אלפי אפליקציות ויישומים, והשליטה המרוכזת הזאת היא בעצם הכוח שאנחנו צריכים להיזהר ממנו".
למרות שהבעיה רחבה בהרבה ממגדר, נשים עלולות להיפגע ממנה פעמיים: פעם אחת מההטיות שהמערכות משכפלות, ופעם שנייה מהפערים באימוץ הכלים עצמם. גלבוע פרידמן מזהירה שאם נשים לא יאמצו AI באותה מהירות ובאותה אינטנסיביות כמו גברים, הפערים הקיימים רק יעמיקו.
פרלמוטר מזכיר שאם לא נביא יותר בנות לתחומים האלה, מי שיבנה את המערכות ימשיך להגיע מאותה קבוצה מצומצמת. "אין שום סיבה בעולם שבנות ונשים לא תעסוקנה בזה. כיום מדובר אך ורק בעניין חברתי שצריך לפתור", אומר פרלמוטר.
לדבריו, בנות עדיין שומעות שטכנולוגיה היא לא בשבילן, שמדעים זה לבנים, שהעולם הזה שייך לאחרים. "המאמץ הזה של להביא יותר בנות למודעות, ליכולות, ולהבנה שגם לנשים כדאי לעסוק בדברים האלה, זה הרבה מעבר ללשבת מול המסך ולכתוב תוכנה", הוא טוען.
