שימוש במערכות לזיהוי פנים, מהסוג שאושר הבוקר (יום ב') על ידי ועדת השרים לחקיקה במסגרת הצעת החוק "האח הגדול במרחב הציבורי", הוביל בשנים האחרונות למעצרם של לפחות שישה אנשים חפים מפשע בארה"ב.
עוד כתבות שיעניינו אתכם:
המקרה האחרון, שנחשף בחודש שעבר, התרחש בדטרויט ומדובר במקרה הראשון שבו מערכת לזיהוי פנים גרמה למעצר שגוי של אישה. בכל המקרים, כולל זה האחרון, החשודים שנעצרו בשוגג היו שחורים, עובדה שמצביעה על כך שאוכלוסיות של מיעוטים נמצאות בסיכון גבוה יותר.
ריפרש
אייפון 15: העתיד על פי אפל
45:45
פורשה וודרוף, אם לשניים בת 32, נעצרה בפברואר על ידי שישה שוטרים בחשד לשוד וגניבת רכב. העובדה שהייתה בחודש השמיני להריונה לא הפריעה לשוטרים לאזוק אותה מחוץ לביתה בעיר דטרויט. לדבריה, היא הייתה עצורה במשך 11 שעות שבמהלכן עברה צירים מוקדמים והתקף חרדה. חודש לאחר מכן בוטל התיק נגדה בשל היעדר ראיות.
מערכות לזיהוי פנים מבוססות על אלגוריתמים שמסוגלים לזהות בני אדם לפי תווי הפנים היחודיים שלהם ולהשוות אותן לתמונות במאגר. במקרה של וודרוף, למשטרה הייתה תמונה שלה מ-2015 שצולמה לאחר שנעצרה כשהיא נוהגת עם רישיון שאינו בתוקף.
מערכת זיהוי הפנים, שמאחוריה עומדת חברה בשם DataWorks Plus, השוותה בין תמונה של החשודה בשוד, שתועדה על ידי מצלמת אבטחה בתחנת דלק, לבין התמונה של וודרוף מ-2015 והסיקה שמדובר באותה אישה. אנליסט שבחן את התוצאות של המערכת לא הבחין בכך שמדובר בטעות והעביר את פרטיה של וודרוף לחוקרים. התמונה שלה הייתה אחת משש תמונות שהוצגו לקורבן, שזיהה אותה כמי שלקחה חלק בשוד שלו באיומי אקדח. מכאן הדרך למעצרה הייתה קצרה.
הטיה נגד מיעוטים
החששות סביב מערכות לזיהוי פנים גרמו בשנים האחרונות לחלק מחברות הטכנולוגיה להפסיק או להגביל את השימוש בהן. אמזון ומיקרוסופט הודיעו ביוני 2020 כי לא ימכרו את מערכות זיהוי הפנים שפיתחו למשטרות וסוכנויות אכיפה, על רקע מחאות Black Lives Matter ששטפו את ארה"ב, ובאותו שבוע הודיעה IBM כי תפסיק לפתח מערכות מסוג זה. לצד זאת, שורה של ערים בארה"ב, בהן סן פרנסיסקו ופורטלנד, אסרו על השימוש בטכנולוגיה השנויה במחלוקת.
העובדה שכל הטעויות בזיהוי עד כה היו של שחורים מעידה על ההטיה (bias) המובנית באלגוריתמים של זיהוי פנים. כל מודל בינה מלאכותית צריך להתאמן על מידע קיים לפני שיוכל להגיע למסקנות בכוחות עצמו. במקרה של המערכות האלה, המידע שהאלגוריתמים התאמנו עליו ככל הנראה לא היה מספיק מגוון ולא כלל מספיק תמונות של שחורים ומיעוטים אחרים.
לצד זאת, גברים שחורים סובלים מייצוג יתר במאגרי תמונות המעצר שנמצאות בידי המשטרות בארה"ב, מה שמגדיל את הסיכוי לזיהויי שווא של אוכלוסייה זאת. מדובר בתמרור אזהרה עבור משטרת ישראל, במיוחד לאור הצהרותיו של השר לביטחון לאומי איתמר בן-גביר על כך שהמצלמות הביומטריות אמורות לסייע למשטרה במאבק במקרי הרצח בחברה הערבית.
אישורו של חוק "האח הגדול" היום על ידי ועדת השרים לחקיקה עורר ביקורת חריפה: המתנגדים טענו בין היתר כי מערכות לזיהוי פנים יובילו למעקב המוני בנוסח סין ומחו על כך שהפיקוח החיצוני על המשטרה יהיה מוגבל מדי. לצד החששות האלה, שורת מעצרי השווא בארה"ב מצביעה על כך שעצם יעילותן של המערכות האלה מוטלת בספק - והתוצאות עלולות להיות הרסניות.
