בתוך פחות משלושה חודשים עברה יחידת המחקר על אתיקה של בינה מלאכותית בגוגל טלטלה משמעותית: החוקרת המוערכת טימניט גברו, שעסקה בסוגיות מוסריות של פיתוחים מבוססי בינה מלאכותית ובהטיות המגדריות והגזעניות שלהם הייתה הראשונה שנשלחה הביתה, ובשבוע שעבר נוספה אליה גם החוקרת מרגרט מיטשל - שייסדה את חטיבת המחקר בגוגל וניהלה אותה במשותף.
הפיטורים האלה ממשיכים לעורר סערה בתחום. בשני המקרים - של גברו ושל מיטשל, הנרטיב התאגידי-משפטי מצדיק את המהלך בשורה של תירוצים: גברו לא איפשרה לצוותי העריכה לעבור על מאמר חדש בזמן, וכשקיבלה פידבק שלילי לגביו - הציבה תנאים בלתי מקובלים ואף איימה בהתפטרות. בסוף היא גם שלחה מייל ביקורתי לרשימת תפוצה פנימית וזה חתם בשבילה את הסיפור. מיטשל עברה על קוד ההתנהגות של עובדי גוגל והוציאה החוצה קבצים. גוגל, על פניו, רק נתנה להן את מה שביקשו.
עוד בנושא:
גברו מסבירה כמובן את האירועים אחרת לגמרי. לטענתה, היא ביקשה לפרסם מאמר שהתבסס על מחקר שערכה יחד עם ארבע חוקרות אחרות בגוגל, ושותפים חיצוניים נוספים. לדבריה, העבירה את המחקר להליך הביקורת (Review) השגרתי אולם לא קיבלה שום פידבק במשך חודשיים. שבוע לפני שאמורה הייתה לצאת לחופשה קיבלה זימון מפתיע למפגש בו הובהר לה שעליה למשוך את המאמר. כשביקשה להבין למה, מה אפשר לתקן ומי השמות החתומים על הביקורת - נאמר לה כי תוכל לקבל את הפידבק כמזכר חסוי בלבד, והוסבר לה כי אין מקום למשא ומתן בעניין.
משהרגישה מושתקת פנתה במייל חריף אותו שלחה בתפוצה פנימית לרשימת דיוור שכותרתה Google Brain Women and Allies - ועוסקת בשוטף בסוגיות מגדריות בקרב אנשי חטיבת המחקר בבינה מלאכותית של גוגל. "אחרי כל הדיבורים האלה, בגוגל 'הופתעו' לגלות שהם העסיקו רק 14 אחוז נשים השנה", כתבה גברו. "אני רוצה לבקש שתפסיקו לכתוב את המסמכים שלכן כי זה פשוט לא משנה. הדיונים האקראיים (...) המאבקים הבלתי פוסקים והחינוך על חשבונכן (...) הם לא חשובים. כי יש אפס אחריות (...) החיים הופכים הרבה יותר גרועים כשמתחילים להיאבק עבור אוכלוסיות בלתי מיוצגות".
אותה רשימת דיוור קיבלה מייל נוסף, הפעם מהמנהל של גברו, ג'ף דין, שעליו הצביעה בטוויטר כ"איש שפיטר" אותה. בתורו טען דין כי גברו הגישה את המאמר לביקורת יום לפני המועד האחרון; שביקשה בעצמה להתפטר במידה ולא ייענו התנאים שהציבה; ושהפידבק שקיבלה על המאמר היה ענייני לגמרי. דין טען כי המחקר בחן את הסוגיות האתיות שניצבות בפני מודלים של שפה - ובייחוד מודל BERT של גוגל ומודל ה-GPT-3 של OpenAI, וטען כי החוקרות התייחסו לנושאים שונים בצורה לא מאוזנת. "לדוגמה - המחקר עסק בהשלכות הסביבתיות של מודלים ענקיים, אבל התעלם מהיתרונות והתועלת שלהם. הוא העלה חששות בנוגע להטיות (Bias) במודלים של שפה, אבל התעלם ממחקרים אחרונים שמציגים תמונה מקלה בנושא".
אבל התמונה מתבררת כהרבה יותר מורכבת - גם מבלי להיכנס לפרטים הקטנים, לכרונולוגיה של האירועים או לפוזיציה צודקת. מאז ומתמיד הניסיונות של תאגידי ענק להחזיק חטיבות מחקר "עצמאיות" לחלוטין נחשב ללא יותר ממס שפתיים שנועד לפרסום מחקרים "מטעם", אבל בכל הנוגע לענקיות טכנולוגיה ולמחקר אקדמי - שילוב הזרועות הזה היה לא רק הכרחי, אלא גם מיטיב, לרוב, עם כל הצדדים.
הפיטורים של גברו הובילו למעין אפקט דומינו חסר תקדים בגוגל. יותר מ-1,200 עובדי גוגל הביעו תמיכה פומבית בקולגה שלהם, ויותר מ-1,500 חוקרות וחוקרים, אנשי אקדמיה, התייצבו גם הם באופן פומבי למענה. "זה זמן טוב להזכיר שהדרך הקלה ביותר לייצר אפליה היא להכתיב חוקים ואז לבחור על מי לאכוף אותם", צייץ בטוויטר חוקר גוגל מקנדה בעקבות הפיטורים של גברו. "המאמרים שהגשתי תמיד נבדקו כדי לוודא שהם לא מכילים חומרים שמוגנים בסודיות - אף פעם לא כדי לבקר את איכות הכתיבה שלי". בשבוע שעבר הודיעה שותפתה של גברו, מרגרט מיטשל בטוויטר: "פיטרו אותי", וציינה כי בגוגל נעלו אותה מחוץ לחשבונות שלה כבר לפני מספר שבועות.
בינתיים קהילת החוקרים ממשיכה לסעור בטוויטר, גרסת טיוטה של המחקר המדובר התרוצצה בין מערכות עיתונים, מיילים פנימיים פורסמו לציבור - וכל אלה מציירים את גוגל באור בעייתי במיוחד. המחקר של גברו ושותפותיה מפנה זרקור לארבע בעיות מרכזיות באימון מודלים ענקיים של שפה - כולל המחיר הכלכלי והסביבתי, המחיר שבלמידה מכמויות אדירות של טקסטים - שבעצמם גדושים בתוכן מיזוגני, גזעני ופוגעני, המחיר של הפניית המשאבים לפיתוח מודלים "רווחיים" על פני פיתוח מודלים טובים יותר, ולבסוף גם ההשפעה של מודלים כאלה על המשתמשים עצמם - המניפולציה והאשליה של שיחה "אמיתית".
2 צפייה בגלריה
טימניט גברו
("775208327EC00105_TechCrunch" by TechCrunch is licensed with CC BY 2.0. To view a copy of this license, visit https://creativecommons.org/licenses/by/2.0/)
בשנים האחרונות, עם ההתקדמות המטאורית של מודלים של למידת מכונה ולמידה עמוקה, הסוגיות האתיות מוצפות ביתר שאת. ומה לעשות שזה לגמרי מקלקל את המסיבה עבור מי שמושקעות ומשקיעות בתחום של בינה מלאכותית - באיסוף וניתוח של מידע, בפיתוח מנגנונים וכלים אוטומטיים, בדחיפה קדימה של מילת הבאזז הכי גדולה בעשור האחרון, זו שגם מניבה הרבה מאוד רווחים. וכך, רצף ההתפתחויות בקבוצת המחקר של גוגל בחודשים האחרונים מציב סימן שאלה גדול על ההיתכנות של קיום מחקרים רציניים ועצמאיים - וחשוב מזה, הפרסום שלהם - כשאלה מגיעים מתוך ענקיות הטכנולוגיה עצמן, אבל גם עשוי להיות בעל אפקט מצנן או מעכב עבור התחום כולו.
