בעולם שבו הגבול בין תוכן אנושי למזויף כבר מזמן היטשטש, מגיע סטארט-אפ חדש ומנסה למחוק אותו סופית. מגובה באחת מקרנות ההון-סיכון החזקות בעולם, מפעיל "חוות טלפונים" פיזיות כדי לעקוף את האלגוריתמים של טיקטוק, ומציע שירותי "אסטרוטרפינג" (Astroturfing - הנדסת תודעה) מבוססי AI, הכירו את Doublespeed - המיזם שמעורר סערה בעולם הטכנולוגיה ומציב את מארק אנדריסן, אחד האנשים החזקים בעמק הסיליקון, בניגוד עניינים חריף.
Doublespeed, היא חברה צעירה שגייסה מיליון דולר מקרן הענק אנדריסן-הורוביץ (a16z) במסגרת מסלול השקעה מהיר לסטרטאפים צעירים, ומציעה ללקוחותיה שירות שנוי במחלוקת: ניהול אלפי חשבונות רשתות חברתיות המופעלים על ידי בינה מלאכותית, שמטרתם ליצור "באז" מלאכותי ולהנדס את דעת הקהל.
הדיגיטציה של הנדסת התודעה
אם עד היום מניפולציות של הנדסת תודעה דרשו מאמצים לא פשוטים, בעשור האחרון התופעה עברה דיגיטציה מסיבית. ראינו את "מפעל הטרולים" הרוסי (IRA) מתערב בבחירות בארה"ב ב-2016, ואת קמפייני ה"Spamouflage" הסיניים שמציפים את הרשת בתעמולה.
בעוד שבעבר אלו היו פעולות של מדינות או ארגוני פשיעה, Doublespeed הופכת את הטכנולוגיה הזו למוצר מדף נגיש לכל דורש - ממותגי קוסמטיקה ועד לארגוני דת.
השירות של Doublespeed, כאמור המכונה "אסטרוטרפינג" (יצירת רושם של תמיכה ציבורית רחבה וספונטנית, כשלמעשה מדובר בקמפיין מתוזמן), פועל בשיטה מתוחכמת שנועדה להערים על מנגנוני הזיהוי של פלטפורמות כמו טיקטוק, אינסטגרם ורדיט. בניגוד לבוטים הפשוטים של העבר, Doublespeed משתמשת ב"חוות טלפונים", אלפי מכשירים פיזיים המריצים את האפליקציות כמשתמשים רגילים לכל דבר.
4 צפייה בגלריה
נשיא רוסיה פוטין עם נשיא סין שי ג'ינפינג. שתי המעצמות מציפות את הרשת בתעמולה ופייק
(צילום: Alexander KAZAKOV / POOL / AFP)
בחשיפה של אתר הטכנולוגיה 404media, האקר שהצליח לחדור למערכות של החברה הסביר שמדובר במערכת שלמה שניתן לגשת אליה מרחוק - כמו כל שירות ענן אחר. "יכולתי לראות את הטלפונים שבשימוש, את ה'מנהל' (המחשבים ששולטים בסמארטפונים) אליו הם משויכים, אילו חשבונות טיקטוק הוקצו להם, באילו שרתי פרוקסי הם משתמשים (כולל הסיסמאות שלהם) ואת המשימות הממתינות. בנוסף, הייתה לי גישה לקישור השליטה במכשירים עבור כל מנהל", סיפר ההאקר.
"הייתי יכול לנצל את הסמארטפונים שלהם כמשאבי מחשוב, או אולי להפצת ספאם. יש שם בערך 1,100 מכשירים עם גישת פרוקסי, בחינם. אני מניח שהייתי יכול להשתמש בחשבונות המקושרים על ידי הפעלה מרחוק של הסמארטפונים או הוספת משימות, אבל לא ניסיתי".
מיליוני צפיות באמצעות חשבונות בודדים
על פי הצהרות החברה, המערכת מייצרת תוכן בבינה מלאכותית, כאשר רק 5% מהעבודה מתבצעת על ידי בני אדם לצורך "ליטושים אחרונים". אחד המייסדים, זוהייר לאקאני, חשף בפודקאסט לאחרונה כי לקוח של החברה הצליח לייצר 4.7 מיליון צפיות תוך פחות מחודש באמצעות 15 חשבונות מזויפים בלבד.
החלק המטריד בכל הסיפור הוא העלות המגוחכת ממש לשימוש במערכת הזו. מחירון הבוטים, כלומר כמה עולה להשתלט על השיח, מבוסס על מודל מנויים המזכיר שירותי תוכנה לגיטימיים. למשל מסלול בסיסי יעלה 1,500 דולר בחודש, כאשר מסלול פרימיום נמכר ב-7,500 דולר בחודש ומאפשר יצירת עד 3,000 פוסטים בחודש. אמנם אלה לא מחירים שווים לכל אדם, אבל בהחלט סבירים לגופים שלהם תקציבי הפרסום גדולים יחסית.
והמערכת לא רק מפרסמת, אלא גם "לומדת" מה עובד. היא יוצרת עשרות וריאציות לאותו סרטון ("סרטון אחד, 100 דרכים") כדי לבדוק מה מצליח לתפוס את האלגוריתם, ומשכפלת את ההצלחה תוך שינוי קל של הפורמט כדי למנוע חסימה.
המשמעות בפועל היא מערכת שמקצרת תהליכים בצורה קיצונית. דמיינו לעצמכם הפצה של מסרים מהיום להיום, בשילוב עם אמצעי שבודק מה עובד על הצופה ומה לא, וכל זאת באלפי דולרים בודדים לחודש. מפתה מאוד.
הקשר למטא
הסיפור הופך למורכב עוד יותר כשמסתכלים על הצד של המשקיעים. מארק אנדריסן, שעומד בראש הקרן שהשקיעה ב-Doublespeed, מכהן במקביל כדירקטור במועצת המנהלים של מטא (פייסבוק, וואטסאפ ואינסטגרם). ההשקעה בחברה שכל מטרתה היא להפר את תנאי השימוש של פלטפורמות חברתיות ולהציף אותן בתוכן מזויף, מעלה שאלות אתיות קשות על התנהלותו של אחד האנשים המשפיעים בעמק הסיליקון.
בעוד שרדיט כבר הודיעה כי השירות מפר את תנאי השימוש שלה, ענקיות כמו טיקטוק ומטא טרם הגיבו רשמית, אך ברור כי פעילות כזו חותרת תחת המאמצים שלהן לשמור על "אותנטיות" ברשת. עם זאת, בינתיים השירות מיועד בראש ובראשונה לפעול בטיקטוק. לא ברור כרגע מה קורה בפלטפורמות אחרות, אבל על פי הדברים של החברה עצמה היא מתכוננת להפעיל את השירות שלה גם ב-X ובאינסטגרם.
חשוב לציין שהחברה אינה היחידה שמפעילה שירותים מעין אלה. בשוק קיימים כיום כלי אוטומציה כמו Zapier או Make, המאפשרים לתזמן פוסטים, אך הם דורשים תוכן אנושי ופועלים בשקיפות מול ה-API של הרשתות.
Doublespeed, לעומת זאת, דומה יותר לשירותי ה"Click Farms" האסייתיים, אך עם שדרוג משמעותי: הבינה המלאכותית מחליפה את העובדים הפיזיים בכתיבת התוכן, מה שהופך את המבצע לזול, מהיר וקטלני הרבה יותר עבור השיח הציבורי.
