האירוניה הגיעה השבוע לשיא חדש בעמק הסיליקון. אחרי שמנכ"ל מיקרוסופט, סאטיה נאדלה, יצא נגד ענקיות ה-AI, כעת מטא, החברה שבנתה את עצמה על איסוף וניתוח מידע של מיליארדי משתמשים ברחבי העולם, נאלצה להקפיא פרויקט פנימי שאפתני לאחר שכשלה במשימה הבסיסית ביותר: הגנה על פרטיות העובדים שלה.
תחת לחץ כבד ובעקבות פרצת אבטחה מביכה, הודיעה החברה על עצירה זמנית של תוכנית המעקב הדיגיטלית החודרנית שלה, שהפכה לסיוט הגנת המידע הגדול ביותר של עובדי החברה.
האימון שהפך למחדל אבטחה
הפרשה, שנחשפה בכלי תקשורת מובילים בארה"ב ובאירופה, נסובה סביב מערכת פנימית שהושקה באפריל האחרון ועליה דיווחנו כאן, שנועדה לעקוב אחרי כל תנועה, לחיצת עכבר, הקלדת מקלדת, ואף צילומי מסך אקראיים של עובדי החברה וקבלני המשנה שלה בארה"ב.
בניגוד לתוכנות "בוסוור" (Bossware) סטנדרטיות בשוק המשמשות למדידת תפוקה, המטרה של מטא הייתה אחרת לחלוטין: שימוש בהתנהגות האנושית של מהנדסיה כחומרי גלם ודאטה איכותי לצורך אימון מודלי AI. מנכ"ל החברה, מארק צוקרברג, אף הגן על המהלך בשיחות פנימיות וטען כי מודלים לומדים בצורה המיטבית כאשר הם "צופים באנשים חכמים מאוד פועלים".
אלא שהאימון הפך במהרה למחדל אבטחה מדאיג מדרוג SEV 2 - רמת החומרה השנייה בחשיבותה בחברה. תקלת הרשאות חמורה במערכות בסיסי הנתונים של מטא, הכוללת כ-45 אלף טבלאות מידע, אפשרה לעובדי החברה גישה חופשית ובלתי מפוקחת לנתוני ההקלדות והקליקים של עמיתיהם.
המידע החשוף כלל תמלולים, שיחות פרטיות, נתוני הערכות עובדים, ואף מידע רפואי ופיננסי רגיש שהקלידו העובדים על מחשביהם האישיים. בעוד שבמטא מיהרו להרגיע וטענו כי אין אינדיקציה לכך שהמידע נחשף לגורמים חיצוניים או שנעשה בו שימוש לרעה בתוך החברה, הזעם הפנימי הגיע לנקודת רתיחה.
הפרצה הנוכחית העניקה לעובדים הזדמנות הולמת לומר "אמרנו לכם". עוד לפני השבתת המערכת, מעל 1,600 עובדים חתמו על עצומה פנימית שהתריעה מפני סיכוני אבטחה ופרטיות, לצד פגיעה במשאבי המערכת של המחשבים. הלחץ המוקדם אילץ את ההנהלה להציג פשרות מסוימות, כמו אפשרות להשהות את המעקב לחלונות זמן של 30 דקות, אך המהלך לא מנע את דליפת המידע ההמונית בתוך הרשת הארגונית.
משרדי מטא
(צילום: Dan Kitwood/Getty Images)
משבר אמון עמוק בין החברה לעובדיה
בעשור האחרון, חברות רבות החלו להשתמש במערכות מעקב אחר תנועות עכבר והקלדות כדי לוודא שעובדים מהבית אכן עובדים, תופעה שהתרחבה משמעותית בתקופת הקורונה. אלא שכאן, מטא לקחה את הטכנולוגיה צעד אחד קדימה - לא כדי לפקח, אלא כדי לשאוב את המומחיות האנושית של עובדיה במטרה לפתח כלים העשויים בעתיד להחליף אותם, במיוחד על רקע גלי הפיטורים הנרחבים שפקדו את החברה.
הניסיון של מטא לעקוף את בעיות זכויות היוצרים והתביעות המשפטיות הכרוכות בשאיבת דאטה מהאינטרנט הפתוח באמצעות ניצול עובדיה, נתקל בחומה רגולטורית קשיחה. מומחי משפט באירופה מזהירים כי תוכנית מסוג זה עומדת בסתירה מוחלטת לתקנות הגנת הפרטיות האירופיות (GDPR).
הרגולציה ביבשת מגדירה הסכמת עובד בארגון ככזו שאינה "חופשית לחלוטין" בשל פערי הכוחות המובנים בין המעסיק לעובד, במיוחד כאשר מדובר באיסוף נתונים ביומטריים והתנהגותיים כה רגישים.
כעת, כשהמערכת מושבתת ואין תאריך יעד לחזרתה, מטא ניצבת בפני משבר אמון פנימי עמוק. הטעות הטכנית הבסיסית שחשפה את החומרים הרגישים ביותר של עובדיה לכל דורש בארגון מוכיחה כי גם ענקיות הטכנולוגיה המתקדמות ביותר מתקשות לנהל את מאגרי המידע המפלצתיים שהן מייצרות. האירוע הנוכחי עשוי להוות תמרור אזהרה לחברות אחרות בענף המבקשות להפוך את כוח האדם שלהן למעבדת ניסויים חיוורת של בינה מלאכותית.
