התמונות הפורנוגרפיות המזויפות של טיילור סוויפט שעוררו סערה בחודש שעבר הופצו לראשונה בפלטפורמת הפורומים הידועה לשמצה 4chan כחלק מ"אתגר" ְשבמסגרתו עודדו משתמשים את חבריהם לעקוף את אמצעי הבטיחות של מחוללי תמונות מבוססי בינה מלאכותית - כך עולה מדוח שפרסמה אמש (יום ב') חברת המחקר גרפיקה.
4chan היא פלטפורמה ותיקה שידועה במדיניות מקילה מאוד בכל הנוגע לניטור תכנים. מדובר בכר פורה לביטויי שטנה, תכנים אנטישמיים, תיאוריות קונספירציה, גילויי תמיכה בעליונות לבנה ועוד. לפי הדוח, התמונות של סוויפט פורסמו לראשונה בפלטפורמה ב-6 בינואר - 11 יום לפני שהגיעו לטלגרם ו-12 יום לפני שהגיעו ל-X (טוויטר לשעבר), שם הן נצפו עשרות מיליוני פעמים.
לפי המחקר, הודעות שפורסמו באחת הקהילות ב-4chan קראו למשתמשים לנסות למצוא דרכים לעקוף את אמצעי הבטיחות של מחוללי תמונות כמו DALL-E של OpenAI ו-Designer של מיקרוסופט. ההוראה למשתמשים הייתה לשתף עם חבריהם "טיפים וטריקים" למציאת דרכים חדשות לעקיפת פילטרים. "בהצלחה, תהיו יצירתיים", נאמר להם. כך, במשך שבועות, משתמשים התחרו ביניהם בניסיון למצוא צירופי מילים שיאפשרו להם ליצור תמונות פורנוגרפיות של נשים מפורסמות.
ריפרש
יותר הנאה ויותר דיוק: מהפכת ה-VR וה-AR מגיעה לרפואה / פרופ' אמתי זיו
40:34
כריסטינה לופז ג'י, אנליסטית בכירה בגרפיקה, מסרה כי "התמונות האלה הגיעו מקהילה של אנשים שקיבלו מוטיבציה מ'אתגר' שמטרתו לעקוף את אמצעי הבטיחות של מוצרי בינה מלאכותית יוצרת". לדבריה, עבור הקהילה הזאת "הגבלות חדשות נראות רק כעוד מכשול שצריך להתגבר עליו. חשוב להבין את האופי המשחקי של הפעילות הזדונית הזאת על מנת למנוע שימוש נוסף לרעה". לופז ג'י הוסיפה כי סוויפט היא לא הקורבן היחיד ואפילו לא העיקרי של אותה קהילה. תמונות אינטימיות מזויפות של נשים אחרות - שחקניות, זמרות ופוליטיקאיות - נוצרו בתדירות גבוהה יותר.
OpenAI, שעומדת מאחורי מחולל התמונות DALL-E, מסרה ל"ניו יורק טיימס" כי התמונות של סוויפט לא נוצרו באמצעות הכלים שלה וכי היא לא מאפשרת למשתמשים ליצור תמונות של דמויות ציבוריות או של תוכן מיני. מיקרוסופט מסרה כי היא ממשיכה לחקור את התמונות של סוויפט וכי שיפרה את אמצעי הבטיחות בכלים שלה על מנת למנוע שימוש לרעה.
מבדיקה של הסטארט-אפ הישראלי Clarity, שפיתח פלטפורמה לזיהוי מדיה שנוצרה על ידי בינה מלאכותית, לפחות חלק מהתמונות נוצרו על ידי מחוללי התמונות Stable Diffusion ומידג'רני.
התמונות הפורנוגרפיות של סוויפט גרמו ל-X לחסום למשך כמה ימים את האפשרות לחפש את שמה של הזמרת והעלו לסדר היום העולמי את התופעה המדאיגה של שימוש בבינה מלאכותית ליצירת תמונות פורנוגרפיות של נשים ללא הסכמתן. דוברת הבית הלבן אמרה כי מדובר באירוע מדאיג ומחוקקים בארה"ב הצהירו שיקדמו חקיקה שתהפוך יצירה של תמונות כאלה לעבירה פדרלית שדינה מאסר.
