בינואר 2025 הכריזה חברת מטא על שינוי מדיניות דרמטי ברשתות החברתיות שלה. תחת הסלוגן "יותר שיח, פחות טעויות" (More Speech and Fewer Mistakes), החליטה החברה להשבית חלק ניכר מהמערכות הממוחשבות ששימשו אותה לזיהוי והסרה אקטיבית של תכנים פוגעניים, איומים והטרדות.
כעת, דוח חדש ומטלטל של המרכז למאבק בשנאה דיגיטלית בארה"ב (CCDH) שהתפרסם בתחילת החודש תחת הכותרת "SAFETY OFF", חושף את התוצאות הקשות, והצפויות, של המהלך. מהנתונים עולה תמונת מצב מדאיגה של פגיעה קשה בדמוקרטיה ובביטחון האישי, כאשר נבחרי ציבור בארה"ב במיוחד מוצאים את עצמם תחת מתקפה חסרת תקדים של אלימות ושיח שנאה.
ולא מדובר באיומים מילוליים בלבד: הדוח מזכיר אירועים קשים מהתקופה האחרונה, בהם מעצרו של אדם חמוש ברובה ובסכינים שניסה לחדור לארוחת כתבי הבית הלבן באפריל 2026 בניסיון להתנקש בדונלד טראמפ, הצתת מעונו של מושל פנסילבניה ג'וש שפירו, ורצח יו"ר בית הנבחרים של מינסוטה, מליסה הורטמן, ובן זוגה בביתם.
הנתונים מדברים בעד עצמם
החוקרים אספו וניתחו קרוב ל-8 מיליון תגובות בפייסבוק שהופנו כלפי 100 חברי בית הנבחרים האמריקני (50 רפובליקנים ו-50 דמוקרטים) במהלך שישה חודשים לפני שינוי המדיניות ושישה חודשים אחריו. הניתוח בוצע באמצעות מערכות בינה מלאכותית מתקדמות המבוססות על מודלי השפה GPT-4o-mini ו-GPT-5.1, אשר אומתו ידנית והציגו רמת דיוק גבוהה של כ-79%.
התוצאות החד-משמעיות מראות כי היקף התגובות הפוגעניות בפלטפורמה שילש את עצמו, כאשר איומים באלימות פיזית קפצו פי ארבעה - מ-1,800 תגובות לפני השינוי ל-7,600 תגובות אחריו. אלו כללו קריאות מפורשות לרצח, תלייה ופגיעה גופנית במחוקקים.
במקביל, גילויי שטנה ממוקדים זינקו ביותר מפי ארבעה - מ-6,900 מקרים ליותר מ-30,000. התגובות הכילו ביטויים גזעניים, סקסיסטיים והומופוביים בוטים. גם מקרי הבריונות וההטרדות אישיות הוכפלו ביותר מפי שניים - מ-15,700 ל-39,900 תגובות, כולל קריאות למחוקקים להתאבד. איומים ישירים על הנשיא טראמפ הוכפלו מאז כניסת המדיניות החדשה לתוקף, ועלו מ-800 ל-1,900 איומים ישירים.
המודל של מאסק חלחל למטא
המקור הרשמי לזינוק באלימות נעוץ בהחלטה מודעת של מטא לצמצם את מה שהיא מכנה "אכיפה פרואקטיבית". דוחות השקיפות של מטא עצמה מאשרים את הנתון המדהים: החברה קיצצה בחצי את היקף התוכן הפוגעני שהיא מסירה מיוזמתה באמצעות אלגוריתמים.
מתוך 35 מיליון פריטי תוכן שנחסמו אוטומטית בחצי השנה שלפני הרפורמה, המספר צנח ל-17.2 מיליון בלבד בחצי השנה שלאחריה. במקום זאת, מטא העבירה את הנטל למשתמשים, והסתמכה על דיווחים ידניים – מודל שהוכיח עצמו כלא יעיל, שכן הדיווחים מהציבור עלו במעט בלבד (מ-3 מיליון ל-3.5 מיליון) ולא הצליחו לבלום את השיח האלים בפלטפורמות של החברה.
בנוסף, מטא ביטלה את המדיניות הקודמת שצמצמה את החשיפה של תכנים פוליטיים בפיד, והחלה להמליץ עליהם שוב בצורה אגרסיבית, מה שהוביל לעלייה כוללת בנפח התגובות (מ-2.2 מיליון ל-5.6 מיליון תגובות במדגם). השילוב בין הגברת החשיפה לתכנים פוליטיים נפיצים לבין כיבוי מסנני הבטיחות יצר "סערה מושלמת" של אלימות ורעל דיגיטלי.
השילוב בין הגברת החשיפה לתכנים פוליטיים נפיצים לבין כיבוי מסנני הבטיחות יצר "סערה מושלמת" של אלימות ורעל דיגיטלי
המהלך הזה מזכיר מאוד את האסטרטגיה שמוביל אילון מאסק ברשת החברתית המתחרה X. מאז רכש את הפלטפורמה, קיצץ מאסק באגרסיביות את צוותי הבטיחות והניטור לטובת מודל של "חופש ביטוי מוחלט" ומערכת הערות קהילתיות (Community Notes) מבוססת משתמשים - מערכת שאותה אימצה מטא באופן דומה במקום תוכניות בדיקת העובדות העצמאיות שלה.
ואז הגיע טראמפ
ניטור השיח ברשתות החברתיות התחיל בעידן מילות המפתח (שנות ה-2000 המוקדמות), כאשר פלטפורמות ראשונות הסתמכו על רשימות פשוטות של "מילים אסורות". שיטה זו הייתה קלה לעקיפה באמצעות שינויי כתיב קלים או שימוש בסלנג.
לאחר מכן בלחץ הרגולציה והציבור החברות עברו לאכיפה ידנית ומיקור חוץ (2010–2016) - עם צמיחתה של פייסבוק, גויסו צבאות של בודקי תוכן אנושיים ברחבי העולם, שנאלצו להיחשף באופן ידני למיליוני פוסטים קשים מדי יום, דבר שגרר ביקורת ציבורית קשה על הפגיעה הנפשית בעובדים.
אבל מכיוון שגם שיטות אלו לא ממש סיפקו את הפיקוח הנדרש, הגיעה מהפכת הניטור הפרואקטיבי (2017–2024), גם כאן בעיקר בעקבות לחץ רגולטורי כבד ואיומים בחרם מפרסמים. חברות הטק פיתחו מערכות למידת מכונה ובינה מלאכותית מתקדמות המסוגלות לסרוק מיליארדי פוסטים בשנייה, לזהות הקשרים אלימים ולהסירם עוד לפני שאף עין אנושית ראתה אותם.
אבל אז הגיע טראמפ לקדנציה השנייה שלו בבית הלבן ב-2025, ועמק הסיליקון זכה בנציג בבית הלבן בדמות סגן הנשיא ג'יי די ואנס, שהוצנח לכוורת של טראמפ בלחץ של פיטר ת'יל ואילון מאסק. התוצאה היא הגישה הנוכחית של עמק הסיליקון, שצמצמה את כל נושא הבטיחות עד למינימום האפשרי, לעיתים משיקולי חיסכון בעלויות המחשוב הכבדות של כלי ה-AI ולעיתים מתוך רצון להימנע מהאשמות בהטיה פוליטית או בצנזורה.
מנגד, במטא מתאמצים לבלום את הביקורת החריפה. בתגובה שמסר דובר התאגיד למגזין WIRED, נטען כי החברה מקפידה על שקיפות וכי הנתונים שבידיהם מצביעים על כך ששיעור שיח השנאה נותר יציב לאורך שנת 2025.
בחברה הסתייגו מהממצאים וציינו כי לא יוכלו להגיב ללא ניתוח מעמיק של המחקר המלא. אלא שבמערכת WIRED מבהירים כי למטא הועברו מראש דוגמאות ספציפיות וקיצוניות של איומים ותגובות שנחשפו בדוח, אך זו בחרה להתעלם מהן עניינית. באופן מעורר תהיות, רגע לפני החשיפה הרשמית, נצפתה מחיקה פתאומית וגורפת של רבות מאותן תגובות פוגעניות ששימשו כראיות במחקר.
