מאות חשבונות נאציים מקדמים בגלוי דברי שטנה באפליקציית הסרטונים החברתית טיקטוק; לא רק שהרשת החברתית לא מצליחה להסיר את הסרטונים והחשבונות האלה, אלא שהאלגוריתם שלה מגביר את תפוצתם וטווח ההשפעה שלהם.
כך עולה מדו"ח מקיף של ISD, המכון הבינלאומי לדיאלוג אסטרטגי, שהתפרסם אתמול. ISD הוא ארגון עצמאי גלובלי ללא מטרות רווח, שמטהו ממוקם בלונדון ומוקדש למאבק בקיטוב, קיצוניות ודיסאינפורמציה. בין התורמים הבולטים למכון – קרן מלינדה וביל גייטס.
לפי הדו"ח, טיקטוק מארחת מאות חשבונות התומכים בגלוי בנאציזם ומשתמשים בה לקידום האידיאולוגיה והתעמולה שלהם. התוכן הפרו-נאצי שנוצר על ידם זוכה לעשרות מיליוני צפיות באפליקציה. הוא כולל סרטונים המציגים הכחשת שואה; האדרה של היטלר, גרמניה הנאצית והנאציזם כפתרון עכשווי; תמיכה במבצעי מעשי טבח המוניים תומכי עליונות לבנה, ואף צילומים או שחזורים של מעשי הטבח.
חוקרי ISD טוענים, כי טיקטוק לא מצליחה להסיר את סרטוני השטנה והחשבונות הללו גם כאשר תוכנם מדווח לה על-ידי משתמשים. הם מעידים, כי דיווחו לרשת על 50 חשבונות שהפרו את "הנחיות הקהילה" של טיקטוק בנוגע לאידיאולוגיות שנאה, קידום אלימות, הכחשת שואה וכללים אחרים - אך כולם נותרו פעילים וחזרו מהחברה עם ההגדרה "ללא הפרה". מדובר בחשבונות שזכו ביחד ליותר מ-6.2 מיליון צפיות, ביניהם כאלה שקידמו במפורש נאציזם או הציגו דברי שטנה, כללו גם סמלים נאציים בתמונות הפרופיל שלהם, וכן שמות משתמש, כינויים או תיאורים מעולם הדימויים הנאציים.
לפי הדו"ח, הפצת החשבונות המקדמים נאציזם מוגברת בטיקטוק אוטומטית בזכות האלגוריתמים של הרשת: טיקטוק ממליצה במהירות על תוכן כזה למשתמשים שמרבים לצרוך תכני שטנה של הימין הקיצוני.
מאות רשתות מתואמות
המחקר טוען, כי מפיצי הסרטונים והחשבונות פועלים בכמה רשתות חברתיות במקביל ומתואמים ביניהם באמצעות שיתוף סרטונים, תמונות וצלילים להורדה. אם בטיקטוק חשפו החוקרים לפחות 200 רשתות כאלה – ברשת החברתית טלגרם הצליחו לגבש רשימה של יותר מ-100 ערוצים פרו-נאציים. כדי להתחקות אחר החשבונות, חוקרי ISD הפעילו, בין השאר, חשבונות דמה ועקבו אחר הפצתם האוטומטית.
החוקרים מצביעים על מספר מגמות בולטות בתכני השיטנה בטיקטוק: הראשונה - שימוש בבינה מלאכותית גנרטיבית, לעתים קרובות כדי ליצור קריקטורות ודה-הומניזציה של קבוצות לא-לבנות ולצייר אותן כאלימות או כמאיימות בדרך אחרת על קהילות לבנות. המאמץ הוא בעיקר למודרניזציה של התעמולה הנאצית: אחד הסרטונים הפופולריים הוא תרגום נאום של אדולף היטלר מבוסס בינה מלאכותית. סרטון אחר מקדם את הסרט התיעודי הניאו-נאצי "אירופה: הקרב האחרון".
יש גם שימוש מתוחכם בצלילים ובאודיו באמצעות שירים ומנגינות פשיסטיות, המשמשים כהפניות מוצפנות, לצורך התחמקות מאלגוריתמי סינון התוכן של טיקטוק. המוזיקה בדרך-כלל לא מפרה את חוקי הרשת, אבל היא משולבת בדרך כלל עם ממים ודימויים שמקדמים נאציזם, פשיזם ועליונות לבנה.
למשל, חיפוש בטיקטוק אחר שיר שניגן הרוצח בטבח במסגד בעיירה כרייסטצ'רץ' בניו-זילנד ב-2019 לאחר שהרג 51 מתפללים מוסלמים - הניב 1,200 סרטונים. 7 מתוך 10 הסרטונים המובילים חגגו את הטבח ואת המניע שמאחוריו והאדירו את הרוצח, ואפילו שיחזרו את הטבח במשחק וידאו. שבעת הסרטונים הללו לבדם זכו לצפייה קולקטיבית של 1.5 מיליון צפיות, וסביר להניח שיש מאות סרטונים דומים אחרים שמופצים בחופשיות בפלטפורמה.
שימוש בקודים ורמיזות
בין הטקטיקות שזיהו החוקרים – תקשור בקודים בין מפצי התכנים לצורך התחמקות מזיהוי. מדובר באימוג'ים, בראשי תיבות, במספרים ובתמונות מקודדים, מה שאכן מקשה על טיקטוק באיתור חשבונות קיצוניים כאלה. טקטיקה שכיחה אחרת כוללת שימוש בתמונות תמימות או נוסטלגיות בסרטונים, שעוברים במהירות לתוכן קיצוני.
בעוד שהקמפיין כולל מאמצים "להעיר אנשים" בפלטפורמות אחרות, המאמץ המרכזי הוא הפצת תעמולה בטיקטוק, בעיקר כיוון בגלל תפוצתה הרחבה. גם כאשר משתמשים נחסמים, לעתים קרובות הם מסוגלים ליצור מחדש במהירות את החשבונות שלהם. לפי ISD, הפלטפורמה משמשת גם לגיוס גלוי על-ידי כמה ארגונים פשיסטיים או ימניים קיצוניים בעולם האמיתי.
לאחר זיהוי ותיעוד של 200 חשבונות, ISD דיווחה לטיקטוק על 50 כאלה כדי להעריך כיצד, ואם בכלל, תסנן אותם. הפלטפורמה לא מצאה בהם כל הפרות, וכל החשבונות נותרו פעילים למחרת. עם זאת, לאחר שבועיים נחסמו 15 מהם, ולאחר חודש - כמעט מחציתם. המשמעות היא, שטיקטוק אינה מצליחה להפיל מיידית חשבונות המקדמים דברי שנאה ותעמולה פרו-נאציים. ולמרות שהיא מורידה חשבונות כאלה מעת לעת, זה מגיע לעתים קרובות אחרי שבועות וחודשים שבמהלכם הצליחו לצבור צפייה משמעותית.
לארגון ISD שלוחות גם בוושינגטון, ברלין, עמאן, ניירובי ופריז. המכון חקר בעבר, בין השאר, גם הפצת מידע שגוי ודיסאינפורמציה הקשורים לשינויי אקלים, לבריאות הציבור, לטוהר הבחירות, ועוד. המכון משתף פעולה עם ממשלות ועובד גם על פרויקטים ממומנים עם חברות טכנולוגיה וארגוני ענק.
מחברת טיקטוק נמסר אמש בתגובה: "בטיקטוק אין מקום להתנהגויות שטנה או אידיאולוגיות וארגונים המעודדים שנאה. אנחנו מסירים למעלה מ-98% מהתוכן מהסוג הזה עוד לפני שהוא מדווח לנו באפליקציה. אנחנו עובדים עם מומחים כדי לאתר מראש את התפתחותן של מגמות כאלו, ופועלים לחזק את אמצעי ההגנה שלנו מפני אידיאולוגיות וקבוצות שנאה".
