כך פייסבוק מקווה להתמודד עם דברי הסתה

לא רק צנזורה: על רקע הביקורת הציבורית הנרחבת כלפי תאגידי ענק בכל הנוגע לתכנים בעלי אופי מסית, גזענות ונוכחות של ארגוני טרור ברשתות החברתיות, שתי הפלטפורמות המובילות - פייסבוק וגוגל, מנסות לאחד כוחות במאבק. "בכל מה שקשור בתכנים של ארגוני טרור ואלימות קיצונית אנחנו מדברים על פחות מאחוז אחד מסך התכנים שאנחנו מתמודדים איתם בפייסבוק", מספרת ד"ר ארין סאלטמן, מנהלת מדיניות בפייסבוק. "אבל בגלל שיש בתכנים האלה פוטנציאל גדול לנזק בעולם האמיתי, אנחנו לוקחים את זה מאוד ברצינות". לצד מדיניות הסרת התכנים שמעוררת לא פעם זעם בקרב המשתמשים, מבקשת פייסבוק ליישם גם אסטרטגיה קצת אחרת - הדיבור הנגדי.

כ-60 פעילות ופעילים חברתיים, מנהלי עמודי פייסבוק ואנשי שיווק דיגיטלי, הוזמנו אתמול (א') לסדנה מיוחדת פרי יוזמה משותפת של פייסבוק, גוגל ומיזם "דיבור אחר", המשתוף לגוגל ישראל, מכון שחרית וקרן לאוטמן. אל הסניף התל-אביבי של הרשת החברתית הפופולרית התנקזו נציגות ונציגים מ"פוליטיקלי קוראת", "אני פמיניסטית דתיה וגם לי אין חוש הומור", מכון שחרית, "דור 1.5", עמותת עמר"ם, אשנ"ב, וזו רק רשימה חלקית.

המטרה: להבין איך לייצר שיח שמתנגד באופן ברור לדברי ההסתה, הגזענות והשנאה שמציפים את הרשת הישראלית ואת פייסבוק, ואיך למנף את הכלים המובנים של הפלטפורמה ליצירת השפעה. במילים פשוטות יותר, פייסבוק, גוגל ו"דיבור אחר" אספו מגוון אקטיביסטים שפועלים סביב נושאים של שינוי והסברה חברתית, וביקשו להראות להם איך עושים את זה נכון, איך אפשר לייצר קמפיינים ויראליים גם כשמדובר בנושאים חברתיים. למרות שברמה הגלובלית פייסבוק כבר מקיימת מאמצי Counter Speach (דיבור נגדי) במסגרות שונות, זו הפעם הראשונה שנערכת סדנה מהסוג הזה עבור מנהלי קהילות בישראל, זאת על אף שהמקרה המקומי הוא ייחודי בנוף. מנעד הזהויות בחברה הישראלית, קבוצות השוליים והקיטוב הפוליטי ביחס לכמות המשתמשים הישראלים בהחלט ראוי להתייחסות.

לא צנזורה, שיח. אבל אחר 

שיתוף הפעולה בין פייסבוק לגוגל, שתי פלטפורמות הענק המתחרות זו בזו, הוא לא מובן מאליו. הצלע השלישית, מיזם "דיבור אחר" ששם לו למטרה להיאבק בעליית השיח המסית, האלים והגזעני ברשתות החברתיות, היא הגורם המחבר ששואף לרתום למאמץ את שתי הפלטפורמות הגדולות, ונראה שלפחות בישראל - זה גם מתאפשר. אבל שיתופי פעולה מסוג דיבור נגדי, שנועדו להיאבק בשיח ההסתה ברשת, הם רק אסטרטגיה אחת. גם פייסבוק וגם גוגל (ובאופן ספציפי יותר - יוטיוב השייכת לה), מתמודדות עם ביקורת ציבורית ביחס לאוזלת ידן כפלטפורמות מובילות, שלא מצליחות לנטר כהלכה דברי הסתה ותכנים פוגעניים.

פייסבוק וגוגל משתפות פעולה, בישראל זה מתאפשר. משתתפי הסדנה(צילום: אסקף)

סאלטמן היא רכש חדש יחסית ברשת החברתית הגדולה בעולם, קצת פחות משנה היא מועסקת בפייסבוק, וברזומה שלה עבודת מחקר די מרשימה במסגרתה הצטרפה למחנה נוער של תנועת ימין קיצוני בהונגריה. בתשובה לשאלה על מקומה של בינה מלאכותית ולמידת מכונה בכל הנוגע להסרת תכנים מפייסבוק, חשוב לה להבהיר שאחורי הקלעים של התהליכים הללו ספוגים בחוויה אנושית לחלוטין.

"צנזורה לא יעילה במניעת אידיאולוגיה של שנאה". ד"ר ארין סאלטמן(צילום: אסקף)

"מכונות יודעות לעשות עבודה טובה רק בכל מה שהוא שחור או לבן", אומרת סאלטמן. "הן יכולות לזהות טרנדים, לעזור להציף תכנים למעלה, אבל את ההחלטה הסופית בכל מה שקשור לדברי הסתה לוקחים אנשים. וכמובן שגם אנשים יכולים לטעות", היא אומרת, ואילו ג'ורדנה קטלר, מנהלת מדיניות פייסבוק ישראל  מוסיפה: "ובישראל היו לנו כמה טעויות מאוד מביכות". הכוונה, כמובן, לשורה של מקרים זכורים דוגמת פרופילים שנחסמו בעקבות פרסום מתכונים לעוגה כושית, ושעוררו כמה תיאוריות בנוגע לשימוש הנרחב שפייסבוק עושה, אולי, במנגנונים של למידת מכונה.

אחרי שתוכן מוסר מפייסבוק, המשתמשים לא מקבלים הסבר לסיבת ההסרה או החסימה. זה מעיד על חוסר שקיפות ומצית תיאוריות.

"אם התוכן שלך מוסר מפייסבוק את מקבלת הודעה שהפרת את כללי הקהילה", מסבירה סאלטמן. "שאלת ה'למה' היא שנויה במחלוקת, יש יותר מ-100 סוגים שונים של דברי הסתה, וכשלוקחים בחשבון את היקף התכנים שעולים לפייסבוק והצורך להוריד את מה שמפר את הכללים כמה שיותר מהר, זה פשוט לא אפשרי. אנחנו בהחלט בוחנים כרגע אפשרות של שימוש בניואנסים לשוניים מגוונים יותר עבור משתמשים, אבל מבחינת חוויית המשתמש - ההסבר הזה לא ממש עוזר, ואנחנו כל הזמן בודקים איך משתמשים מייצרים אינטרקציה עם פייסבוק".  

התפקיד שפייסבוק לוקחת על עצמה, וזה שהיא מאצילה אל משתמשים 

סאלטמן מדגישה כי בפייסבוק מועסק צוות של כ-150 עובדים שכל ייעודם הוא להתמודד עם Hate Speach (שיח של הסתה וגזענות) ולנטר את התכנים הפוגעניים שעולים לפלטפורמה. אבל מבחינתה, אסטרטגיה מהותית יותר היא זו של ה-Counter Speach, שבשמה כונסה הסדנה. "צנזורה אף פעם לא הצליחה לחסום אידיאולוגיה של שנאה. אבל כשחברה אזרחית מאתגרת את השיח הזה, ומשמיעה קול נגדי חזק וברור, אז באמת אפשר לראות שינוי של דיעות. לכן אנחנו כל כך מושקעים בזה, כל הזמן מחפשים שותפים, מפגישים בין אקטיביסטים, אמנים, עמותות וארגונים לא ממשלתיים. לפעמים הארגונים הכי מוצלחים שעושים עבודה מצוינת בעולם האמיתי - לא בהכרח יודעים איך לתרגם את זה לתוכן ויראלי. הם רוצים להעביר כל כך הרבה מסרים, אבל לא יודעים איך להכניס את הכל לפוסט".

כדאי לעצור ולהבין מה המשמעות של הכניסה של פייסבוק, כתאגיד מסחרי, אל הנישות החברתיות הללו. איזה תפקיד היא לוקחת על עצמה כשהיא בוחרת להשקיע מאמצים חינוכיים בקידום שיח חברתי ליברלי. העידן שבו פייסבוק ורשתות חברתיות אחרות הסתתרו מאחורי הגדרה עצמית של פלטפורמה - אולי מסומן כאן כעומד להיגמר. הסימון כ"פלטפורמה" העניק להן חופש להתנער מאחריות, כאילו אומרות "אנחנו רק מספקות את הכלים, המשתמשים הם אלה שאחראים על התוכן". במובן הזה יש כאן לקיחת אחריות שרבים מייחלים לה. מנגד, האחריות הזו מואצלת - לא רק אל עבר מחלקות מצומצמות בתאגיד העצום - אלא אל המשתמשים עצמם, מנהלי הקהילות והפעילים ברשת החברתית.