ניצחון התובע של ניו מקסיקו, ראול טורז, במשפט נגד מטא בנוגע לבטיחות קטינים ברשת הסתיים בתבוסה מוחצת לענקית המדיה החברתית לפני כמה חודשים וכעת הוא עשוי להשפיע על התחום כולו.
החל מהיום (ב') צפויים עורכי הדין של הצדדים לחזור לאולם הדיונים שעשוי להכריז על שירותיה של מטא, ושל הקולגות שלה, כ"מטרד ציבורי" - מונח משפטי ששימש בעבר למאבק ביצרניות טבק ובחברות תרופות שהפיצו אופיואידים, יכול להיות מתורגם להפסדים כספיים צורבים מאוד.
דרישות בלתי אפשריות
הדרישות על השולחן נשמעות כמעט מדע בדיוני במונחים של עמק הסיליקון: אימות גיל קשיח באמצעות תעודה רשמית, הגבלת זמן שימוש ל-90 שעות בחודש לקטינים, וביטול מנגנוני הגלילה האינסופית והניגון האוטומטי, אותם כלים שנועדו להשאיר את המשתמש במצב של היפנוזה קטטונית מול המסך (Doom scrolling).
אך אולי המכה הקשה מכולן היא הדרישה לחסום הצפנה מקצה לקצה עבור קטינים. עבור מטא, שממתגת את עצמה כנושאת הדגל של הפרטיות (לפחות בוואטסאפ), מדובר בפרדוקס הנדסי וערכי.
קנס של 375 מיליון דולר עשוי להישמע כמו סכום דמיוני עבור האדם הממוצע, אך עבור תמנון טכנולוגי כמו מטא, מדובר בסך הכל ב"עלות עשיית עסקים", מעין דמי מנוי שנתיים שמאפשרים לה להמשיך בשלה.
אלא שהשלב הבא בעימות המשפטי שמתנהל בניו מקסיקו עשוי להכאיב למארק צוקרברג הרבה יותר מכל צ'ק שייאלץ לחתום עליו. הדיונים שנפתחו השבוע בבית המשפט בסנטה פה הם לא על כסף, אלא על הנדסה: התובע הכללי, ראול טורז, דורש מהחברה לבצע הנדסה מחדש באלגוריתמים ובמנגנוני ההצפנה של פייסבוק, אינסטגרם ו-וואטסאפ.
המאבק על הריבונות ברשת
ההיסטוריה של הטכנולוגיה שבבסיס המוצרים הללו מגלה אירוניה מרה. ה"גלילה האינסופית", אותו פיצ'ר שהתובע הכללי מבקש להגביל, הומצא ב-2006 על ידי המפתח אזא רסקין במטרה להפוך את הגלישה לחלקה יותר.
רסקין עצמו הביע מאז חרטה עמוקה, כשהוא משווה את ההמצאה שלו להזרקה תוך-ורידית של קוקאין למשתמש. באופן דומה, אימות גיל ברשת עבר אבולוציה משאילתה פרימיטיבית של "האם אתה מעל גיל 18" למערכות זיהוי פנים ביומטריות מבוססות בינה מלאכותית, טכנולוגיה שמעוררת כיום שאלות קשות של פרטיות מול הגנה.
מטא, מצידה, טוענת שהדרישות של ניו מקסיקו הן "חסרות בסיס ומסוכנות". בחברה טוענים כי דרישת התביעה לזהות 99 אחוזים מחומרי ניצול ילדים היא מתמטית בלתי אפשרית - הרי איך אפשר למדוד אחוז מתוך נתון שטרם נחשף?
הטענה הזו, למרות שהיא נשמעת הגיונית הנדסית, נתפסת בציבור כהתחמקות מאחריות. המאבק הנוכחי הוא לא רק על בטיחות ילדים, אלא על השאלה מי ריבון בתוך המרחב הדיגיטלי: האלגוריתם שמטרתו מקסום רווחים, או המדינה שמחויבת להגן על אזרחיה.
אם השופט בבניו מקסיקו יקבל את דרישות התובע, אנחנו עשויים לראות את סופו של עידן ה"מערב הפרוע" של הרשתות החברתיות, ותחילתו של עידן שבו הטכנולוגיה תצטרך, לראשונה, לתת דין וחשבון על ההשלכות הפסיכולוגיות שהיא מייצרת.
אם השופט בבניו מקסיקו יקבל את דרישות התובע, אנחנו עשויים לראות את סופו של עידן ה"מערב הפרוע" של הרשתות החברתיות
השלכות מרחיקות לכת
ההשלכות של המשפט הזה יחרגו הרבה מעבר לגבולות ניו מקסיקו. אם מטא תיאלץ לבנות גרסה "בטוחה" של אינסטגרם עבור תושבי סנטה פה, יהיה לה קשה מאוד להסביר להורים בלונדון, בייג'ינג או תל אביב מדוע הילדים שלהם ממשיכים להיות חשופים לאותם מנגנונים ממכרים. התביעה הזו מסמנת את המעבר משיח על פיצויים לשיח על שינוי מבני, וייתכן שזהו הקרב המשמעותי ביותר שהתחולל בעמק הסיליקון בעשור האחרון.
המתחרות הישירות, אפל וגוגל, כבר גיבשו אסטרטגיות פעולה משלהן, גם אם אלו אינן חסינות מפני חיצי הביקורת. אפל, שמטפחת בקנאות את תדמית ה"גן הנעול" והסטרילי, הטמיעה את מנגנון ה-Communication Safety, שנועד לנטרל חומרי גלם בעייתיים כבר במכשיר הקצה.
אלא שאפילו ענקית מקופרטינו נאלצה לבצע נסיגה טקטית מתוכניתה השאפתנית (והמפוקפקת מבחינה ציבורית) לסרוק תכנים בענן, לאחר שנתקלה בחומת התנגדות של ארגוני פרטיות. גוגל, מצדה, מנסה להחיל סדר דרך Family Link ואימות גיל קשיח המבוסס על מסמכים רשמיים, אך גם היא מגלה שהאלגוריתם של "יוטיוב קידס", הוא חרב פיפיות: לעיתים הוא מחטיא את המטרה ומגיש רעל דיגיטלי במסווה של אנימציה תמימה, במה שנראה ככשל הנדסי בלב מנגנון ההמלצות.
לא ברור אם הרחבת הדיונים כדי להדביק למדיה החברתית את התווית "מזיק לבריאות" יישאו פרי. מצד אחד מדובר על בעיה אמיתית שפוגעת לא פעם בקטינים ובחלשים נפשית, אם על ידי זיהום השיח או על ידי הפצה של תכנים מזויפים ופוגעניים.
מצד שני, הרשתות החברתיות מסייעות לחבר קהילות ומשתמשים בצורה שלא הייתה אפשרית בעבר. הבעיה חוזרת לבסיס ההגדרה של מפעילות המדיה החברתית כאחראים לתכנים שמפורסמים בהם. כל עוד מטא או X לא יקבלו התוויה של מו"ל שאחראי לתוכן שהוא מפרסם, יהיה קשה מאוד להפוך את המגמה הזו, אבל ההגדרה כסיכון לציבור עשויה לספק למחוקקים ברחבי העולם תחמושת שתאפשר זאת.
ובעוד שבארה"ב המאבק מתנהל בבתי המשפט, באירופה הרגולטורים כבר עברו לשלב הביצוע. חוק השירותים הדיגיטליים (DSA) של האיחוד האירופי מחייב כיום פלטפורמות ענק להוכיח שהן לא פוגעות בבריאות הנפש של משתמשים צעירים, תחת איום של קנסות בשיעור של עד שישה אחוזים מההכנסות הגלובליות.
בישראל, השיח סביב הגנה על קטינים ברשת עדיין מדשדש בין הצעות חוק לבין ניסיונות של משרד החינוך והתקשורת להחיל "אמנת התנהגות", אולם בלי יותר מדי יכולת לנסות להשפיע על המציאות. אך הפסיקה בניו מקסיקו עשויה להוות תקדים שיאלץ את חברות הטכנולוגיה לשנות את פניהן גם עבור המשתמש הישראלי, ולו רק מטעמי יעילות תפעולית.
