כבר לא מתחבאים: הניאו-נאצים כובשים את טיקטוק

טיקטוק, הרשת החברתית שכבשה את לבם של מיליוני צעירים ברחבי העולם, מתמודדת עם אתגר חדש ומטריד: הפצה מאסיבית של תעמולה ניאו-נאצית וגיוס פעיל של חברים חדשים לארגוני ימין קיצוני. כך עולה מדו"ח מקיף וחדש של מכון המחקר Institute for Strategic Dialogue (ISD), שהועבר באופן בלעדי לאתר החדשות Wired.

הדו"ח, שנכתב על ידי החוקר נתן דוקטור, חושף תמונה מדאיגה של רשת מסועפת של חשבונות המקדמים תוכן קיצוני ופועלים בחופשיות בפלטפורמה. "מצאנו מאות חשבונות המפיצים תכנים המכחישים את השואה, מהללים את היטלר ואת גרמניה הנאצית, ומציגים את האידיאולוגיה הנאצית כפתרון לאתגרים עכשוויים", מסביר דוקטור.

תופעה חוצה גבולות ותרבויות

מה שמדאיג במיוחד הוא היקף התופעה והאופן שבו היא חוצה גבולות ותרבויות. "זוהי תופעה גלובלית לחלוטין," מדגיש דוקטור. "מצאנו תכנים בשפות רבות - אנגלית, צרפתית, הונגרית, גרמנית, רוסית ואפילו ספרדית. ראינו קבוצות של ניאו-נאצים מקסיקנים ומדינות אחרות באמריקה הלטינית. זה מראה עד כמה האידיאולוגיה הזו מצליחה להתפשט ולמצוא קהלים חדשים בכל פעם".

הדו"ח חושף גם את האסטרטגיות המתוחכמות שבהן משתמשות קבוצות אלה כדי להתחמק ממנגנוני הסינון של טיקטוק. הן משתמשות בשפת קוד, אימוג'ים, ראשי תיבות ומספרים כדי להסוות את המסרים שלהן. למשל, רבים מהחשבונות הניאו-נאציים השתמשו באימוג'י של קופסת מיץ כדי להתייחס ליהודים (המילה "מיץ" באנגלית- Juice, דומה למילה "יהודים" – Jews. ד"ג).

מעבר לפעילותם של משתמשים בודדים, החוקרים גילו כי קיימת תופעה בה ארגוני ימין קיצוני אמיתיים מנצלים את טיקטוק כפלטפורמת גיוס. חשבונות המזוהים עם ארגונים אלה פרסמו קישורים לאתרים המכילים כרוזים אנטישמיים והוראות להדפסה והפצה שלהם. במקביל, הם גם קידמו ערוצי טלגרם המכילים שיח קיצוני ואלים עוד יותר.

קריאה למהפכה מזוינת וחיסול של יהודים

אחד המקרים המטרידים ביותר שנחשפו בדו"ח הוא של חשבון שהשתמש בכינוי אנטישמי והציג בביוגרפיה שלו קריאה למהפכה מזוינת ול"חיסולם המוחלט של היהודים". החשבון שיתף הוראות חלקיות לבניית מטעני חבלה מאולתרים, נשק מודפס בתלת-ממד, ופצצות בתקציב נמוך. כדי לקבל את ההוראות המלאות, בעל החשבון הפנה את עוקביו לקבוצות צ'אט מוצפנות בפלטפורמות אחרות.

הדו"ח בחן גם את תפקידו של האלגוריתם של טיקטוק בקידום תכנים קיצוניים. החוקרים יצרו לשם כך חשבונות חדשים וגילו כי תוך זמן קצר מאוד, האלגוריתם החל להציע להם תכנים ניאו-נאציים. "באחד המקרים, 70 אחוזים מהסרטונים שהוצעו לחשבון החדש שיצרנו הגיעו מנאצים מוצהרים או הכילו תעמולה נאצית," מציין דוקטור.

טיקטוק, מצדה, טוענת כי היא עושה מאמצים ניכרים למנוע הפצה של תכנים קיצוניים. דובר החברה, ג'יימי פבאצה, מסר ל-Wired: "התנהגות המעודדת שנאה, ארגונים ואידיאולוגיות קיצוניות - אין להם מקום בטיקטוק. אנו מסירים יותר מ-98 אחוזים מתכנים אלה לפני שהם מדווחים לנו. אנו עובדים עם מומחים כדי להישאר צעד אחד לפני מגמות מתפתחות ומחזקים באופן מתמיד את ההגנות שלנו".

עם זאת, מומחים רבים מטילים ספק ביכולתה של טיקטוק להתמודד עם הבעיה באופן אפקטיבי. ד"ר מרקוס בוש, חוקר מאוניברסיטת המבורג המתמחה בניטור טיקטוק, טוען כי "לא בטוח בדיוק היכן הבעיה. טיקטוק טוענת שיש לה כ-40,000 מנטרי תוכן, מה שאמור להפוך זיהוי הפרות מדיניות כה ברורות למשימה קלה".

אדם הדלי, מנכ"ל ארגון Tech Against Terrorism, הוסיף: "למרות הצעדים הפרואקטיביים שננקטו, טיקטוק נותרת יעד לניצול על ידי קבוצות קיצוניות ככל שהפופולריות שלה גדלה. הדו"ח מראה שמספר קטן של קיצונים אלימים יכול לזרוע הרס בפלטפורמות גדולות בגלל א-סימטריה מהצד השני (או במילים פשוטות – אנשים נורמטיביים מקדמים פחות תכנים בעד שלום וכו', ד"ג)".

"כשמדובר בשימוש של קבוצות ימין קיצוני, טיקטוק היא בגדר פלטפורמת הודעות. בסופו של דבר, מדובר בעניין של חשיפה לאותו נרטיב שנאה שוב ושוב ושוב, עד כי בנקודה מסוימת אתה מתחיל להאמין לדברים אחרי שאתה פשוט רואה אותם מספיק פעמים, והם מתחילים להשפיע באמת על השקפת העולם שלך", מסכמת אבי ריצ'רדס, חוקרת דיסאינפורמציה המתמחה בטיקטוק.