איומי הטרור המקוון הופכים מתוחכמים וקטלניים יותר, ונראה כי הרשתות החברתיות לא פועלות מספיק: לורנס טיילור, ראש מערך הלוחמה בטרור בבריטניה, תקף אתמול (ב') את חוסר המעש של הרשתות החברתיות וטען כי "הן לא עושות מספיק כדי לעצור את ההקצנה שעולה בפלטפורמות שלהן".
בראיון לאתר LBC הבריטי, ראש מערך הלוחמה בטרור של המדינה, לורנס טיילור, לא חוסך במילים כלפי ראשי חברות הטכנולוגיה. "הם אפילו לא קרובים לעשות מספיק" הוא קובע בנחרצות. לדבריו, בעוד שתוכן טרור מובהק ובלתי חוקי מוסר במהירות יחסית, קיימת בהן "פרצה מרכזית" - תוכן קיצוני שאינו חוצה את הרף הפלילי אך מהווה דלק להקצנה דתית ולאומנית.
הבעיה המרכזית: מנגנון ההמלצות
הבעיה המרכזית, לפי טיילור, טמונה במנגנוני ההמלצות. אותם אלגוריתמים שנועדו להציע לנו מוצרי צריכה, פועלים באותה יעילות כירורגית כדי להעביר למשתמשים תוכן קיצוני. "הפרסונליזציה המקוונת מעצימה את הבעיה", הוא מזהיר.
"המכניקה שמטרגטת אנשים עם פרסומות מתחילה להזין אותם בעוד ועוד מאותו חומר קיצוני", טען טיילור. דבריו משתקפים גם בשטח, כאשר התוצאה היא שינוי דמוגרפי מדאיג: שיעור הקטינים המעורבים בתיקי טרור בבריטניה זינק בעשור האחרון.
הקושי בסינון נובע מהבדלים ארכיטקטוניים בין הפלטפורמות. בעוד שמטא נשענת על "גרף חברתי" ויוצרת תיבות תהודה בתוך קבוצות סגורות, טיקטוק מפעילה "גרף עניין" אגרסיבי המפיץ תוכן קיצוני ויראלי במהירות שיא למשתמשים מזדמנים.
3 צפייה בגלריה
הפגנה בלונדון נגד ישראל ובעד ארגון Palestine Action שהוכרז כארגון טרור בבריטניה
(צילום: REUTERS/Toby Melville)
כך, בעוד מטא מנסה לזהות כוונות דרך הקשרים חברתיים, טיקטוק מנתחת אינטראקציות במיקרו-שניות, מה שיוצר פער מובנה בין קצב הפצת ההסתה לבין יכולת הניטור של גופי האכיפה.
בנוסף, המעבר מסינון פסיבי המבוסס על מילות מפתח לסינון אקטיבי מבוסס בינה מלאכותית יצר "מרוץ חימוש" טכנולוגי. כיום, ארגוני טרור משתמשים בבינה מלאכותית גנרטיבית כדי לעקוף את מנגנוני ה-Hashing (טביעות אצבע דיגיטליות) של החברות, תוך יצירת אינספור גרסאות לכל מסר מסית.
אל מול המכונות המשומנות של עמק הסיליקון ובייג'ינג, רשויות החוק נותרות לעיתים מאחור, כשהן מתמודדות עם שטח אפור שבו התוכן חוקי טכנית, אך קטלני חברתית.
3 צפייה בגלריה
פעילים פרו פלסטינים פרו-פלסטינים מ Palestine Action. ההסתה ברשתות גולשת לרחובות
(צילום: Dan Kitwood/Getty Images)
עידן חדש של אכיפה
אל מול האתגרים הללו, תקנות השירותים הדיגיטליים של האיחוד האירופי (DSA) מסמנות עידן חדש של אכיפה. עבור מדינת ישראל, מדובר בכלי רב-עוצמה המאפשר לדרוש הסרה מהירה של תכני הסתה תחת לוחות זמנים נוקשים, תוך שימוש במעמד של "מדווחים מהימנים" הזוכים לקדם-טיפול מהיר מהפלטפורמות.
עם זאת, ה-DSA הוא חרב פיפיות; הוא מחייב שקיפות מלאה ומגן על חופש הביטוי, מה שמקשה על הסרת תוכן שנמצא באותו "שטח אפור" שטיילור מזהיר מפניו. כעת, כשהמטה המרכזי של רבות מהחברות הללו נמצא מעבר לים, שיתוף הפעולה הבינלאומי והיכולת לרתום את הרגולציה האירופאית החדשה הופכים לקריטיים עבור רשויות הביטחון המערביות במאבקן בטרור הדיגיטלי.
