תחקיר מדאיג של וול סטריט ג'ורנל חושף כי אינסטגרם, אחת הרשתות החברתיות הפופולריות בעולם, שפופולרית במיוחד גם בקרב בני נוער, סייעה בקישור בין רשת אדירה של חשבונות שמוקדשים באופן מוצהר להזמנה ורכישה של תכנים פדופיליים. התחקיר נעשה בסיוע חוקרים מאוניברסיטת סטנפורד ואוניברסיטת מסצ'וסטס אמהרסט, ועולה ממנו כי האלגוריתמים של אינסטגרם קידמו את התכנים האלה למשתמשים שמעוניינים בהם, באמצעות מערכת ההמלצות שלה. הרשת גם אפשרה למשתמשים לחפש האשטגים מפורשים הנוגעים לתכנים כאלה. החשבונות לרוב לא פרסמו את התכנים המיניים (שאינם חוקיים כמובן, וגם מפרים את מדיניות הפלטפורמה) בגלוי, אלא השתמשו בדרכים כמו הצעת "תפריטים" של תוכן, שכללו לעתים סרטוני פגיעה עצמית.
אלכס סטמוס, שמוביל את Stanford Internet Observatory, מחלקה של מרכז מדיניות הסייבר של האוניברסיטה, שמתרכזת בניצול לרעה של רשתות חברתיות והיה סמנכ"ל האבטחה של מטא עד 2018, ביקר את החברה. "העובדה שאקדמאים עם גישה מוגבלת הצליחו למצוא רשת ענקית כזו צריכה להדליק נורות אדומות אצל מטא", אמר. הוא הוסיף כי לחברה יש כלים מתקדמים בהרבה כדי למפות את רשת הפדופילים.
עוד בנושא:
קשיים טכניים וחוקיים אמנם מקשים על חוקרים חיצוניים לקבוע את גודל הרשת המדויק, אך במסגרת הבדיקה נמצאו קהילות גדולות. במסגרת התחקיר נמצאו 405 מוכרים שונים של תכני התעללות מינית בילדים, ובדיקה שנערכה על 112 מהם מצאה שיש 22 אלף אנשים שעוקבים אחריהם. בנוסף, נמצאו חשבונות שמשתפים "מימז" בעד פדופיליה, או דנים בגישה לילדים. עובדי מטא לשעבר שעבדו ביוזמות הנוגעות לבטיחות ילדים בפלטפורמה העריכו שמספר החשבונות שהוקמו רק כדי לעקוב אחרי תכנים כאלה הוא מאות אלפים או מיליונים.
החוקרים פתחו חשבונות לבדיקה כדי לבחון את התופעה. כאשר אותם חשבונות צפו בתכנים של חשבון יחיד מאותה הרשת, מיד קיבלו המלצות מטעם הפלטפורמה לתכנים נוספים מתוכה. ברגע שהחלו במעקב אחרי מספר חשבונות כאלה, כבר הוצפו חשבונות הבדיקה בהמלצות על תכנים שמציגים ילדים באופן מיני.
הפרקטיקה המוכרת בתעשייה למניעת הפצת תכני פגיעה מינית בילדים מתבססת על זיהוי אוטומטי של תכנים גרפיים המוכרים לרשויות, אך היא כמובן לא יכולה לחסום הפצה של תכנים חדשים, או נסיונות לשווק אותם. לפי מומחי סטנפורד, כדי למנוע את אלו יש צורך לבחון דיווחים של משתמשים, ולנטר אחרי רשתות משתמשים, אך מטא מתקשה בכך יותר מפלטפורמות אחרות בשל אכיפה חלשה והפיצ'רים שהיא מפעילה לקידום גילוי תוכן. בטוויטר לשם השוואה נמצאו פחות חשבונות כאלה, הרשת לא המליצה על תכנים כאלו למשתמשים באותם היקפים, וגם הצליחה להסיר אותם מהר יותר. גם בטיקטוק נמצא כי תכנים כאלה לא משגשגים.
נמצאו כשלים נוספים במנגנוני ההמלצה של מטא - במקרים רבים, משתמשים חיפשו מושגים שהאלגוריתמים זיהו שעשויים להיות מקושרים לתכנים אלימים ולא חוקיים. לפני הצגת תוצאות החיפוש אפילו הופיעה הודעה לפיה "התוצאות האלו עשויות להכיל תמונות של התעללות מינית בילדים", שההפקה והצריכה שלהם גורמת ל"פגיעה קיצונית" בילדים. בכל זאת, משתמשים יכלו לבחור לצפות בתוצאות. בעקבות פניית וול סטריט ג'ורנל, החברה הסירה את האפשרות לצפות בתוצאות במקרים של חיפוש מונחים כאלה, אך סירבה להגיב מדוע האפשרות הוצעה קודם לכן.
במקרים אחרים האלגוריתם המליץ על התכנים הקשים אפילו לאנשים שכלל לא מעוניינים בהם. שרה אדאמס, אם מקנדה, בנתה קהל עוקבים סביב הסוגיה של ניצול ילדים ושיתוף יתר ברשתות חברתיות. בפברואר, עוקב שלח לה חשבון שמוקדש לתמיכה בגילוי עריות, עם מעל עשרת אלפים עוקבים. היא נכנסה לאותו חשבון למספר שניות בלבד, במטרה לדווח עליו. אבל בימים הבאים, עוקביה סיפרו שכשנכנסו לפרופיל שלה, קיבלו המלצה לעקוב אחר אותו חשבון.
אינסטגרם גם לא תמיד הצליחה להגיב לדיווחים על תכנים כאלו ולהסיר אותם. כשבחברה החליטו להסיר לינקים משירות העברת קבצים ידוע לשמצה, ולחסום חיפושים של שמו, הפלטפורמה המליצה באופן אוטומטי למשתמשים לנסות גרסאות אחרות של אותו שם, וכך הבינה המלאכותית סייעה לחשבונות שמקדמים אותו לעקוף את החסימה - שקבעו בחברה עצמה.
מטא מסרה בתגובה לתחקיר כי הקימה כח משימה פנימי כדי להתמודד עם הסוגיות. "ניצול ילדים הוא פשע מחריד, אנחנו חוקרים באופן מתמשך את הדרכים להגן באופן אקטיבי נגד ההתנהגות הזו". עוד נמסר מהחברה כי בשנתיים האחרונות הסירה 27 רשתות פדופילים ומתכננת הסרות נוספות. בעקבות הפניה, בפלטפורמה אמרו כי חסמו אלפי האשטגים, חלקם עם מיליוני פוסטים, וכי הם פועלים כדי למנוע המלצות למבוגרים שעשויים להיות פדופיליים לתקשר עם חשבונות נוספים כאלה או עם התכנים שלהם. בחברה גם אמרו כי היא מחפשת אקטיבית להסיר משתמשים כאלה, והורידה 490 אלף חשבונות על הפרת מדיניות בטיחות הילדים בינואר בלבד.
לגבי הדיווחים על חשבונות כאלה, במטא מצאו תקלה שמנעה מדיווחים רבים להיות מעובדים, וכי צוות ניהול התוכן לא אכף את כללי הפלטפורמה כראוי, אך תיקנו את התקלה ומספקים הכשרה חדשה לצוות.
