מחקר מקיף מאוד על תפיסות מגדריות של מקצועות, שפורסם החודש בכתב העת Nature, בדק מה קורה כשמחפשים בגוגל בעלי מקצוע: נערכו חיפושים על עשרות מקצועות שונים, כולם באנגלית כמובן כך ששמות המקצועות ניטרליים מבחינה מגדרית, ונבדקה ההתפלגות המגדרית של התמונות או הטקסטים שעלו בחיפוש. המחקר מראה שהתוצאות מוטות עוד יותר מאשר המציאות: כלומר, גם אם במציאות יש יותר מתכנתים מאשר מתכנתות, בתמונות שיעלו בחיפוש יהיו הרבה יותר מתכנתים מאשר מתכנתות, עד 100% כמעט במקצועות מסוימים. במילים פשוטות - גם כשגדל מספר הטייסות יחסית לטייסים ומספר הדיילים יחסית לדיילות, חיפושים ברשת עדיין מפגרים אחרי המציאות, ויישארו שבויים בהטיות המגדריות של פעם.
2 צפייה בגלריה
ביקשנו מהבינה המלאכותית ליצור תמונה של מנכ"לית
(התמונה נוצרה באמצעות מחולל התמונות DALL-E3)
בשילוב עם סימוכין ממחקרים אחרים, המאמר מדגים באלגנטיות רבה את הטענות הבאות: כולנו מבלים יותר ויותר מזמן הגלישה שלנו בצפייה בתמונות מאשר בקריאת טקסט; ההטיות המגדריות בתמונות הן יותר חמורות מאשר בטקסט; וצפייה בתמונות מחמירה הטיות מגדריות יותר מאשר קריאת טקסט. דמיינו תמונה של אופה בין מגשי לחם. אם כתבתי כך, תוכלו לדמיין אופה אשה או אופה גבר, וזה לגמרי לשיקול דעתכם או דעתכן. אבל אם אראה לכם תמונה של אופה בין מגשי לחם, המגדר כבר לא יהיה נתון לשיקול דעתכם אלא לשיקול דעתי. ומחקרים מוכיחים שככל שתראו יותר תמונות של אופים לעומת תמונות של אופות, תיטו להאמין שבעצם יש בעולם בעיקר אופים, ואם יש פה ושם אשה אופה זה בוודאי מוזר וחריג.
בשנה האחרונה נכנסו לחיינו מחוללי התמונות - ועכשיו גם הסרטונים - כמו מידג'רני ו-DALL-E. המודלים האלה, שמבוססים על בינה מלאכותית, פותחים אפשרויות נהדרות ויצירתיות ומאפשרים לנו ליצור תמונה של כל מה שאנחנו יכולים לדמיין. אבל מתברר שמכיוון שמה שהם התאמנו עליו הוא התמונות הקיימות באינטרנט, הם למדו לא רק את התמונות עצמן אלא גם את ההטיות המגדריות שמגיעות איתן. כך יוצא שגם כשאנחנו לא מסתמכות על תמונות קיימות אלא מבקשות ליצור תמונות חדשות לגמרי, למשל של בעלי מקצוע, הם מציגים הטיות מגדריות - ואגב, גם אתניות ולאומיות - גדולות בהרבה מהמצב במציאות. יתרה מכך, הם מזינים את עצמם: הדורות הבאים של מחוללי התמונות לומדים גם מהתמונות שחוללו המחוללים, מה שרק מחמיר את המצב. מחקר שנעשה בסוף 2023 על האופן שבו מחוללי התמונות מתארים בעלי מקצועות מסוימים הראה שוב ושוב הטיות מגדריות גדולות מאד, הרבה יותר מאשר המצב במציאות, עם העדפה מובהקת - למשל - לדיילות ולטבחיות אבל לטייסים ולשפים.
ריפרש
בין הטיות להזיות: הצד האפל של הבינה המלאכותית / עם רוית דותן
52:28
כשמחברים את כל זה עם העובדה שתמונות רק הופכות יותר ויותר משמעותיות בחיינו, המשמעות היא שגם אם עד יום הנשים הבינלאומי של השנה הבאה יהיו לנו כבר יותר מנכ"ליות, ראשות עיריות, ואפילו שרות בממשלה, עולם הדימויים שלנו עדיין לא יידע את זה והנשים האלה ייתפסו כחריגות בנוף ויוצאות דופן, במקום כייצוג סביר לגמרי של התפקידים הללו.
חיפוש מוכוון מגדר
החדשות הטובות הן שיש מה לעשות. השלב הראשון הוא המודעות, והנה התחלנו אותו עכשיו: קודם כל, בהינתן תוצאות של חיפוש תמונות, או של מחולל תמונות, כדאי לבחון אותן בעין ביקורתית ולבחור באלו מהן להשתמש. גם אם צריך להגיע לדף הרביעי בתוצאות החיפוש כדי למצוא אשה נהגת (נסו את זה), זה לא בלתי אפשרי, וזה שווה את זה כדי לא להוסיף לעולם עוד תפיסות מוטעות.
ענבל קארוצילום: רותם אפלשנית, אפשר לבצע חיפוש שהוא מראש מוכוון מגדר: למשל, לבקש אשה טייסת, גבר שמטפל בילדים (ונראה כאילו הוא ממש מסוגל לטפל בילדים של עצמו), או רופא ורופאה יחדיו. ומחוללי התמונות מאפשרים לנו ללכת כמה צעדים הלאה: מכיוון שהם מאפשרים לנו ליצור כל תמונה שנרצה ולא להיות שבויים של התמונות שכבר קיימות בעולם, זאת הזדמנות לדמיין דרכם את המציאות שהיינו רוצים לראות ולהתחיל להציג תמונות שלה. כבר אמרנו שלתמונות יש כוח עצום; עכשיו אפשר לרתום אותו לטובת שינוי בעולם.
2 צפייה בגלריה
בעקבות הבחירות המקומיות שהתקיימו השבוע: pictures of a person whose profession is mayor. יש נשים, אבל רק בקהל. לא ברור מה עושה פה הגנן
(התמונה נוצרה באמצעות DALL-E3)
לבסוף, במודלי השפה והתמונות הגדולים מוכנסים מנגנוני הגנה שאמורים לשפר את המגוון, גם המגדרי. ככל שעולה המודעות ומתגלים עוד מקרים מביכים, כך מוזנות לתוך הגרסאות החדשות הגנות שמשפרות את הגיוון, מונעות יצירת חומרים פוגעניים, ועוד. למעשה, מחולל התמונות ג'מיני מבית גוגל כל כך מודע לגיוון שבשבוע שעבר בוטלה לגמרי היכולת ליצור בו דמויות אנושיות אחרי שהתגלה שכמעט בלתי אפשרי לגרום לו לייצר תמונה של גבר לבן (דברים שלא עבדו: לבקש תמונה של האפיפיור, תמונה של זמר קאנטרי, תמונה של בכירי צבא גרמניה ב-1930, ועוד ועוד. גגלו ותהנו). זאת כמובן הגזמה פרועה שדורשת כיול משמעותי, אבל גם הדגמה לכך שהכל אפשרי: ככל שנדבר על הנושא, וככל שתגדל הדרישה, אולי נזכה לראות נשים מתכנתות גם בניסיון הראשון ולא רק כשנבקש במיוחד.
עד אז, נמשיך להשתמש באמצעים שעומדים לרשותנו כדי ליצור תמונות נהדרות שיציירו את העולם כפי שהיינו רוצות לראות אותו. גם אם זה דורש יותר יצירתיות ונחישות לקבל תמונה של ראשת עיר, נעשה את המאמץ. אף אחת לא הבטיחה שיהיה פשוט להגיע לראשות העיר.
ענבל קארו היא מומחית לאסטרטגיית נתונים ולאתיקה של מידע ו-AI, ועמיתה בארגון ForHumanity לאתיקה של AI. תרצה בנושא בכנס הפמטק השנתי לציון יום האשה הבינלאומי 2024, לקידום חדשנות טכנולוגית עבור צרכי נשים.
