ככר טיאנאנמן בבייג'ין, סין, היא אחת הככרות המפורסמות בעולם, לא רק בזכות העיר האבודה ששער הכניסה אליה מעוטר בתמונתו של מאו דזה-דונג, אלא גם בגלל ההפגנה הנוראה ההיא ב-1989, כשאלפים מבין המפגינים בעד הדמוקרטיה נהרגו בידי כוחות השיטור. ביקור בככר היום מכה אותך בתדהמה, לא רק למראה הסדר והמשמעת, אלא גם בגלל מאות מצלמות המעקב שמוצבות מעל הככר. זה לא ייחודי לטיאנאנמן: בייג'ין כולה, וערים רבות בסין איתה, מרושתות במצלמות מעקב, הביטוי הברור ביותר של דיכוי זכויות האדם.
ביקרתי בבייג'ין כמה חודשים לפני התפרצות הקורונה במדינה, לצורך דיווח על האירוע הטכנולוגי השנתי של חברת לנובו. אבל אפילו טלפון הרייזר המתקפל שנחשף שם וכל שאר הטכנולוגיות החדשות לא הותירו את רישומן כמו היכולות הסיניות במעקב, זיהוי פנים וניתוח הנתונים האלה. זיהוי הפנים כה נפוץ בסין, שאיש כנראה כבר לא עוצר לשאול אם הוא ראוי. לא רק מצלמות רחוב, גם מצלמות בכניסה לבניינים שמזהות אותך לצורך אישור כניסה, מצלמות בכספומטים, מצלמות כאמצעי תשלום.
בקומפלקס של לנובו בפאתי בייג'ין מודגמת טכנולוגיית זיהוי פנים בחנות נוחות אוטומטית. לנובו פשוט מצלמת אותך, והיא תדע כבר לחייב אותך. אבל זה עוד כלום לעומת טכנולוגיית זיהוי מצבי הרוח שהם מדגימים לעיתונאים המבקרים מכל העולם. בצילום כאן אפשר לראות את מצב הרוח של אחדים מהעיתונאים. לו היינו מפגינים בככר, אפשר היה לזהות אם מישהו מסכן את השלטון.
סין היא כנראה המובילה בשימוש בטכנולוגיות זיהוי פנים למטרות שיטור. בין השאר התפרסם שהיא משתמשת בטכנולוגיה לזיהוי אוכלוסיות מסוימות, למשל בני המיעוט האויגורי המוסלמי, ומי שאותר נשלח למחנות מעצר המוני שמכונים "מרכזי הכשרה". המושלות בכיפה הן ארבע חברות שמכונות "דרקוני הבינה המלאכותית": Megvii, SenseTime, Yitu ו-CloudWalk. לכולן טכנולוגיה מתקדמת לזיהוי בני אדם, כולן נמצאות ברשימת החרם של ארה"ב.
הטכנולוגיה מתקדמת בקצב מהיר. דיווח בסין גילה שחברה בשם LLVision פיתחה משקפיים שמזהים את האדם שעומד מולך באמצעות מצלמה ומאגר תמונות נייד. לפי הדיווח שוטרי ג'נצ'ואו כבר עצרו שבעה פושעים ו-26 נוסעים עם מסמכים מזויפים באמצעות המשקפיים.
אמנסטי: לאסור זיהוי פנים
נגיד, תיאורטית, שהיתה מערכת זיהוי פנים ברחובות בישראל. היא היתה מאפשרת לזהות חייבי בידוד, אנשים ללא מסכות, התקהלויות אסורות, אבל גם אנשים שהתרחקו יותר מ-1,000 מטר מהבית. היא היתה יכולה לזהות התנהגות חשודה אבל גם לזהות עובדים זרים, ערבים, יוצאי אתיופיה, חרדים, חובשי כיפות סרוגות, נוער גבעות. היא היתה יכולה להבדיל בין נשים לגברים, בין אשכנזים למזרחיים, בין שמאלנים לימנים, בין להט"בים לסטרייטים.
תיאורטית, אם מצלמת הגוף של השוטר ברחוב היתה מצוידת במערכת זיהוי פנים, היא היתה מאפשרת לו לזהות את כל מי שמולו: האם הוא בעל תיק פלילי, בעל תיק רפואי, אולי בעל תיק בעין ומצח מזיע, שמתכוון חלילה לעשות פיגוע. המשטרה כבר מפעילה את מערכת עין הנץ שמאפשרת לה לזהות כל רכב עובר ומי הבעלים שלו. העניין הוא שאם לא נשים לב, תצוץ כאן בקרוב מערכת כזו שפועלת על כל אחד מאיתנו שהולך ברחוב.
מערכות זיהוי הפנים של רשויות האכיפה מבוססות על קצירה של מיליוני תמונות מהרשתות החברתיות. בארה"ב גם משתמשים בתמונות מהמאגר הביומטרי של רישיונות הנהיגה. מערכת הבינה המלאכותית משווה את זיהוי הפנים מהמצלמות ברחובות למאגר הצילומים ויכולה לזהות כל אדם ברחוב בתוך חלקיק שנייה. היא גם יכולה להתריע שאדם מסוים חשוד או מבוקש, אבל הרבה פעמים היא טועה. מחקר ממשלתי אמריקאי מצא ב-2019 שמערכות לזיהוי פנים טעו בזיהוי שחורים ואסייתיים פי עשרה ויותר מזיהוי לבנים.
באירופה ובארה"ב מסתכלים על מערכות זיהוי פנים כעל סיוט. יש מקומות כמו בוסטון, פורטלנד וסן פרנסיסקו שאסרו בחוק על שימוש בטכנולוגיית זיהוי פנים על ידי כוחות משטרה. ניו יורק אסרה על זיהוי פנים בבתי הספר. בצרפת קבעו שנדרשת הסכמה שכדי לזהות אנשים בשדה התעופה תידרש הסכמה מראש שלהם. האיחוד האירופי דן בהצעה לאסור על זיהוי פנים למשך חמש שנים כדי לאפשר חקיקה שתגביל את השימוש בטכנולוגיה.
עכשיו יוצא ארגון זכויות האדם אמנסטי בקמפיין "Ban the Scan" שמטרתו להביא לחקיקה שתאסור שימוש בזיהוי פנים למטרות שיטור בכל העולם. הקמפיין התחיל בניו יורק בשבוע שעבר ויתרחב במהלך השנה כדי להמחיש את השימוש הנרחב בזיהוי פנים.
מאט מהמודי, חוקר זכויות אדם ובינה מלאכותית באמנסטי, אמר: "כוחות אכיפה בעולם משתמשים בזיהוי פנים כנגד אוכלוסיות מיעוטים, מניו דלהי ועד ניו יורק. הטכנולוגיה הפולשנית הזו חותרת תחת זכויות האדם. צריך שתושבי ניו יורק יוכלו לצאת לשגרת יומם מבלי שיעקבו אחריהם באמצעות זיהוי פנים". באמנסטי מזכירים את השימוש הנלוז בסין במערכות זיהוי פנים, בהודו, וגם בישראל, כאן זוכה חברת אניויז'ן (Anyvision) להתייחסות מפורשת, כמי שהטכנולוגיה שלה "לוקחת חלק בדיכוי האוכלוסיה הפלסטינית בשטחים".
יש זיהוי פנים הוגן?
בחברת אניוויז'ן בוודאי לא אוהבים את האזכור הזה. את הפרשה בה מיקרוסופט נסוגה מהשקעה בחברה בגלל החשש מהשימושים בטכנולוגיה מעדיפים בחברה להשאיר מאחור. ההאשמות שהתפרסמו אז טענו שצה"ל עוקב אחרי פלסטינים בגדה באמצעות הטכנולוגיה של אניוויז'ן. החברה טענה בתגובה, שהטכנולוגיה שלה משמשת רק במעברי הגבול. מאז החברה התארגנה מחדש, גייסה משקיעים אחרים, העבירה את הטכנולוגיות הצבאיות לחברה נפרדת (בבעלות משותפת עם רפאל) והיא מתמקדת בשווקים אזרחיים: נמלי תעופה, חנויות, אפילו בתי קזינו. המערכות שלה יודעות לזהות גם פנים, גם התנהגות חשודה.
אניוויז'ן מנסה לבנות תדמית שונה מחברות ביטחוניות ישראליות אחרות, חברות כמו Senpai, NSO, CyberBit או DarkMatter, שלפעילותן נילווה ניחוח של דיכוי זכויות אדם. מול הקריאות של ארגונים כמו אמנסטי לאסור לחלוטין על שימוש בזיהוי פנים, היא טוענת שאפשר לייצר זיהוי פנים הוגן, כזה שיאזן בין הרצון להגן על הפרטיות לבין הצורך למנוע איומים ופשיעה.
באניוויז'ן טוענים שיש הבדל תהומי בין מערכות כמו של חברת ClearViewAI האמריקאית שסורקת את הרשתות החברתיות ועוקבת אחרי כולם, לבין חברות שמשתמשות ברשימות סגורות של אנשים מזוהים. בבתי הקזינו למשל, מזהים את הנכנסים רק כדי לוודא שאינם ברשימת אלה שקיבלו צו הרחקה, ומייד מוחקים את התמונה. החברה הציגה מחקרים שהראו שניתן לנטרל הטיה גזעית בזיהוי, והיא מצהירה על דיוק של 99.9 אחוזים בזיהוי האנשים.
בכנס בנושא זיהוי פנים שהתקיים בחודש שעבר באוניברסיטת פורדהם בניו יורק אמר אנריקו מונטנינו, סמנכ"ל באניוויז'ן: "טכנולוגית זיהוי פנים היא כאן כדי להישאר. בתוך כמה שנים כמעט לכל שוטר בעולם תהיה מצלמת גוף המחוברת בזמן אמת למערכת זיהוי פנים כלשהי. האתגר הוא לבנות מסגרת משפטית שתאפשר למערכות כאלה לפעול בצורה מדויקת והוגנת".
מונטנינו הציע להגדיר כללי משחק ברורים לכל העוסקים בתחום: לאמן את מערכות הבינה המלאכותית על מגוון של בני אדם ולמנוע הטייה אלגוריתמית כך שהמערכות לא יפלו אוכלוסיות שלמות לרעה, לחייב חברות בהפעלת כלים לשמירה על הפרטיות כמו אנונימיזציה ומגבלת זמן לשמירת הנתונים, וכן לחייב אותן בהקמת גופי פיקוח אתי בהשתתפות הציבור. לדבריו עכשיו הוא הזמן לקידום יוזמות כאלה, כשהרגולציה בנושא נמצאת בהתהוות בכל העולם.
מי שארגנה את הכנס היתה פרופ' שלומית יניסקי רביד מהקריה האקדמית אונו, המשמשת פרופ' אורח באוניברסיטת פורדהם ועמיתת מחקר באוניברסיטת ייל. כמי שחוקרת נושאי טכנולוגיה, בינה מלאכותית והגנה על הפרטיות, עמדתה בנושא זיהוי הפנים מעניינת. לדבריה ניתן להפחית משמעותית הטיות אתניות בזיהוי פנים אם בסיס הנתונים יהיה רחב ומגוון ואף ניתן לפקח על כך.
"אני מודעת לחרם שהטילו כל מיני ארגונים על זיהוי פנים", אומרת יניסקי רביד, "אני עובדת באוניברסיטה בניו יורק ורואה את הדברים קורים, בחלק מהמקרים גם על ידי המתכנתים. מצד שני, הטכנולוגיות האלה הכרחיות בתחום טרור, הרפואה מרחוק, מניעת הונאות, עבירות מין ופשע. במחקרים שלי אני מציעה איזון".
לדבריה יש הבדל בין שימוש משטרתי נרחב בזיהוי פנים, לעומת שימוש של חברות אזרחיות במקומות עבודה או בבתי חולים, שם מספר המזוהים מוגבל והם נותנים הסכמתם לשימוש במערכת. סוג השימוש במערכת מהותי: "אם המידע יפגע בזכויות יסוד פוליטיות, אנחנו רואים משטרים כמו בסין שבאמת פוגעות בסל שלם של זכויות יסוד וזה מדרון חלקלק".
יניסקי רביד אומרת שמנגנון שמנטרל הטיות כמו זה שפיתחה אניוויז'ן נבדק במחקרים ומנגנונים דומים נבדקים גם על ידי ה-FDA. לדבריה במקום לאסור על שימוש במערכות צריך לחייב בהקמת גופים שיפקחו על דיוק הזיהוי והיעדר ההטיה והמחקרים שלה מראים שזה אפשרי. "הקריאה לאיסור כללי נובעת מחוסר הבנה של איך התוכנות האלה עובדות. אבל יכול להיות שהאיסורים הנוכחיים טובים כי הם יצמיחו את מנגנוני הפיקוח כמענה לאיסור הגורף".
אולי הבעיה היא בעצם יצירת המידע, שאין דרך לוודא שלא יעשו בו שימוש לרעה ביום מהימים?
"את החשש משימוש לא ראוי במידע צריך לפתור באמצעות רגולציה. החשש הוא כשהאמצעים האלה ניתנים לשלטון: איך אוכפים על השלטון אי שימוש במידע? אנחנו מציעים להסכים על עשרת הדברות של הפרטיות. למשל שצריך למחוק את הנתונים, לעשות רגולציה על חברות, לחייב אותן ברישיון ובביקורת. זיהוי המוני על יד ממשלות, שמצרף גם את מצב הרוח של האדם, הוא ממש פוגעני. אז כן צריך לאסור על ניתוח אופי ומצב-רוח".
