ההטיה הגזעית, שלא לומר גזענית, בענף הטכנולוגיה, מעסיקה מזה שנים את מבקרי עמק הסיליקון. חוץ מן העובדה הפשוטה, שרוב המהנדסים והמנהלים בעמק הם לבנים, הטיעון הוא שהמוצרים שהם מוציאים מתחת ידיהם מוטים, ומתמקדים בהרגלי החיים, בצרכים וברצונות של אנשים לבנים כמותם. הדוגמה הקלאסית והבולטת ביותר לכך התפרסמה בשנת 2015, כאשר מערכת הבינה המלאכותית העומדת מאחורי "גוגל תמונות", סיווגה אדם שחור כגורילה. לפני שנתיים פרצה שערורייה בחברה כאשר ד"ר טימניט גברו, חוקרת בכירה שלה, שהתמחתה בתחום ההטיות בבינה המלאכותית, טענה כי פוטרה בשל מחלוקת על צנזור עבודת מחקר, שעסקה בהטיות אפשריות בעיבוד שפה טבעית. קודם לכן הייתה גברו שותפה לפרסומו של מאמר פורץ דרך שהוכיח כי טכנולוגיות זיהוי פנים מתקשות לזהות ביעילות אנשים כהי עור.
עוד כתבות שיעניינו אתכם:
גוגל, שבראשה עומד כיום מהגר הודי, סונדר פיצ'אי, למדה משהו מן התקריות המביכות הללו. כבר בשנה שעברה היא שיחררה כלי תוכנה ראשון, מבוסס בינה מלאכותית, לטיפול בעניין: היא עידכנה את מצלמת מכשירי הפיקסל שלה בפונקציה המכונה Real Tone, המשפרת את האופן שבו גוני עור שונים מופיעים בתמונות ובסרטונים. התכונה התמקדה בכמה תחומים: שיפור פנים בגוני עור כהים; הצגת גוני עור כהים עם טמפרטורת צבע מגוונת יותר; התאמה מדויקת יותר של החשיפה; הפחתת הטשטוש בצילומים של בעלי עור כהה בתאורה חלשה, ושדרוג תכונת השיפור האוטומטי של "גוגל תמונות".
בחודש שעבר, בכנס המפתחים שלה, הכריזה גוגל על שלב נוסף: אימוץ "סולם גון העור של מונק" (MST), סולם של עשרה גוני עור אנושיים, שהחלה להטמיע במערכות האימון של הבינה המלאכותית שלה. היא גם הוסיפה בגוגל תמונות פילטרים חדשים המותאמים לעור כהה ומבוססים על הסולם החדש. המטרה היא זיהוי אמין של המגוון האנושי בכל השירותים שלה. זיהוי אוטומטי נכון של גון העור יכול לתרום לטיפול נכון של מעבד מצלמת הסמארטפון בצילום של אדם שחור למשל, וגם לסיווג מדויק שלו במאגר הנתונים האדיר.
לטכנולוגיה יש גם השלכות רבות בחיי יום-יום - למשל, בהתאמה מדויקת יותר של איפור לפי גון העור, אפילו בעזרת חיפוש פשוט בגוגל: סולם מונק יעזור למצוא ולהציג תוצאות רלוונטיות יותר עבור אנשים עם גוני עור כהים יותר. גוגל מקווה שמנועי החיפוש יוכלו לזהות כך טוב יותר תמונות של בעלי גוני עור שונים, בדיוק כפי שהם מזהים תמונות המופיעות באינטרנט לפי תכונות כמו צבעי שיער ועיניים.
קלפי שירלי
רעיון סולם הגוונים אינו חדש. כבר בשנות ה-50, חברת קודאק, ששלטה בתעשיית הצילום, פיתחה מדפסת שכל מעבדה קטנה יכלה להשתמש בה כדי להדפיס תמונות מפילם של החברה. לערכת המדפסת שסיפקה, צורפו גם הדפסי ייחוס, שסייעו לעובדי המעבדה לכייל צבעים, צללים ואור. הם נקראו קלפי שירלי, על שם שירלי פייג', עובדת קודאק, שהייתה האדם הראשון שהופיע בהם. קלפי שירלי הציגו בעיקר נשים לבנות ברונטיות, ולא כללו גוני עור כהים יותר, מה שפגע בכיול הנכון של המערכת ותרם להנצחת המיתוס שעור כהה קשה יותר לצילום מאשר עור בהיר. הסמארטפונים שלנו מחליפים אמנם את הפילם האנלוגי, אבל הכיול המוטה של מעבדי הצילום לא השתנה בהרבה: גוני עור בהירים יותר עדיין מועדפים, וצילומים של בעלי עור כהה סובלים מחשיפת יתר.
את סולם מונק פיתח כבר לפני עשור פרופ' אליס מונק, פרופסור לסוציולוגיה מהרווארד. מונק חקר בהרחבה תחומים שבהם הטכנולוגיה מתנגשת עם גזע ומוצא אתני, במיוחד בתחומי הבינה המלאכותית, למידת מכונה וראייה ממוחשבת. סולם גון העור החדש שלו יחליף בגוגל את סולם פיצפטריק - מערכת שנוצרה בעבר על ידי רופא עור, ושנועדה במקור למדידת חשיפה לקרינה אולטרה סגולה. היא כללה רק שישה גוונים, רובם של עור בהיר. הסולם הזה שימש לאורך שנים את חברות הטכנולוגיה לסיווג גוני עור עבור האלגוריתמים שלהן ולהערכת יעילותם.
סולם הגוונים החדש פתוח לשימוש לכל חוקר או חברה. גוגל מקווה שמפתחים ישתמשו בו כדי לעדכן תוויות מטא-נתונים עבור התמונות שהם מפרסמים ברשת, כך שמנוע החיפוש שלה יוכל לזהות אותן טוב יותר. פרופ' מונק עצמו כבר הודיע, שהוא עובד על מחקר חדש הבוחן את דיוק ואמינות הסולם שלו בחלקים אחרים של העולם מחוץ לארה"ב, במדינות כמו מקסיקו, הודו, ניגריה וברזיל. "התקווה שלי", אמר, "שאחרי שגוגל אימצה את הסולם, ואחרי ששחררנו אותו בקוד פתוח, חברות טכנולוגיה אחרות יראו באימוץ שלו משימה קלה".
