הפופולריות של שירותים מקוונים שמאפשרים למשתמשים "להפשיט" נשים באמצעות כלים מבוססי בינה מלאכותית נוסקת - כך עולה מדוח מדאיג שפרסמה חברת המחקר גרפיקה. בחודש ספטמבר ביקרו יותר מ-24 מיליון בני אדם ב-34 אתרים שמציעים את השירותים הללו.
מדובר באתרים שמאפשרים למשתמשים להעלות תמונות של נשים ובאמצעות מודלים של בינה מלאכותית לגרום להן להיראות כאילו הצטלמו בעירום, ללא צורך בהסכמה מפורשת שלהן. לא מדובר בתופעה חדשה: אפליקציה בשם DeepNude שהציעה שירות דומה הושקה כבר ב-2019 והוסרה לאחר שעוררה סערה, אולם בשנים האחרונות הרמה של הבינה המלאכותית השתפרה באופן דרמטי וכעת היא יכולה ליצור תמונות שנראות ריאליסטיות לחלוטין.
הטכנולוגיה לא רק השתפרה, היא גם הרבה יותר זמינה מבעבר: מודלים רבים של בינה מלאכותית זמינים היום במתכונת של קוד-פתוח, פורמט שמאפשר לספקי השירותים המפוקפקים האלה לשלב אותם בקלות ובזול במוצרים שלהם, ללא צורך לפתח יכולות AI מתקדמות בעצמם. בלי הספקים האלה, נכתב בדוח, המשתמשים היו צריכים לארח, לתחזק ולהריץ מודלי בינה מלאכותית משלהם, "תהליך שגוזל זמן ועשוי להיות יקר".
ריפרש
מי משבש את ה-GPS שלנו? / עם ד"ר הראל מנשרי
23:15
ההשלכות מדאיגות. לפי הדוח, היצירה של תמונות עירום סינתטיות ללא הסכמת המצולמות - כמעט תמיד מדובר בנשים, וחלק מהשירותים כלל לא מסוגלים ליצור תמונות עירום של גברים - הפכה משירות שזמין בפורומים נישתיים ברשת לכדי עסק מקוון בקנה מידה רחב, שמשתמש בשורה ארוכה של משאבים למונטיזציה ושיווק.
לפי הדוח, בשנת 2023 פורסמו ברשת החברתית X (טוויטר לשעבר) ובפלטפורמת הפורומים רדיט יותר מ-32 אלף קישורים המפנים ל-34 אתרים ול-52 ערוצי טלגרם שמציעים למשתמשים שירותים להפשטת נשים באמצעות בינה מלאכותית. מדובר בעלייה של יותר מ-2,400% בהשוואה לשנת 2022.
כמו עסקים מקוונים רבים, גם האתרים האלה מפרסמים מודעות ברשתות החברתיות ומשתמשים במשפיענים כדי לקדם את המוצרים שלהם. חלקם לא מסתירים את העובדה שהמטרה שלהם היא לאפשר למשתמשים ליצור תמונות עירום מזויפות של נשים באמצעות AI, ואף מציגים תמונות מטושטשות של נשים במודעות שלהם. מודעה אחת אפילו מציגה תרחיש מטריד שבו משתמש יוצר תמונת עירום של אישה ושולח לה אותה. אתרים אחרים מציגים את עצמם כשירותים של "אמנות AI" או "גלריות Web3", אך בחשבונות ובפוסטים שלהם מופיעים מינוחים המזוהים עם שירותים ליצירת תמונות עירום סינתטיות.
רבים מהשירותים האלה פועלים במודל Freemium (הלחם של המילים Free ו-Premium): הם מציעים למשתמשים ליצור כמה תמונות בחינם, אך דורשים מהם תשלום על יצירת תמונות נוספות או על פיצ'רים מתקדמים. המחירים נעים בין שני דולר לתמונה אחת, דרך 10 דולר למינוי חודשי ועד ל-300 דולר תמורת גישה נרחבת ל-API (ממשק תכנות יישומים) של השירות.
מחברי הדוח מזהירים כי הפופולריות והזמינות של השירותים האלה עלולות לגרום לנזק נוסף ברשת, למשל באמצעות יצירת קמפיינים ממוקדים של הטרדה, סחיטות על רקע מיני והפקת תכנים פדופיליים.
נשים רבות לא מגלות על התמונות
אווה גלפרין, דירקטורית בתחום אבטחת הסייבר בעמותת החזית האלקטרונית (Electronic Frontier Foundation), ארגון ללא מטרות רווח שמסייע בהגנה על זכויות דיגיטליות, אמרה לאתר בלומברג כי נשים רבות כלל אינן מודעות לכך שמשתמשים יצרו תמונות עירום מזויפות שלהן. אלה שכן מגלות על כך מתקשות לשכנע את הרשויות לחקור את המקרים או לממן צעדים משפטיים בעצמן. לדבריה, השימוש בשירותים מקוונים ליצירת תמונות עירום מזויפות כבר נפוץ בתיכונים ובמכללות ארה"ב.
רק בחודש שעבר דווח בוול סטריט ג'ורנל כי תלמידי תיכון ווסטפילד בניו ג'רזי הפיצו תמונות עירום מזויפות של בנות כיתתן שנוצרו באמצעות בינה מלאכותית. התקרית עוררה סערה בקהילה: חלק מההורים אמרו כי בנותיהם חשות מושפלות וחסרות אונים בעקבות המקרה וכי הן חוששות שהתמונות יצוצו שוב ויגרמו להן נזק בהמשך חיים. המשטרה פתחה בחקירת המקרה.
בארה"ב אין חוק פדרלי האוסר על יצירת תמונות פורנוגרפיות באמצעות AI, אם כי החוק אוסר ליצור תמונות כאלה של קטינים. בחודש שעבר נידון דיוויד טאטום, פסיכולוג ילדים בן 41 מצפון קרוליינה, ל-40 שנות מאסר בגין ניצול מיני של קטין ושימוש בבינה מלאכותית ליצירת תמונות עירום של קטינים.
