למה צריך רגולציה על טכנולוגיה לזיהוי פנים?
אל היוזמה האחרונה של "מיקרוסופט", הקוראת לרגולציה על טכנולוגיה לזיהוי פנים, צפויות להצטרף ענקיות נוספות. מה החשש המרכזי סביב שימוש בטכנולוגיה והאם, גם הפעם, הישועה תגיע דווקא מהתאגידים?
טכנולוגיה לזיהוי פנים היא כבר מזמן לא מדע בדיוני: למעשה, אנחנו כמשתמשים חשופים אליה בצורה הולכת וגוברת גם בחיי היום-יום. אנחנו מאפשרים לפייסבוק ולרשתות חברתיות אחרות לתייג תמונות באופן אוטומטי, פותחים את הסמארטפון במבט וכמובן - חשופים למצלמות הנעזרות בתוכנות לזיהוי פנים במרחבים ציבוריים.
במהלך סוף השבוע פרסמה חברת מיקרוסופט בבלוג הרשמי שלה, קריאה לרגולציה של טכנולוגיות לזיהוי פנים. בראד סמית', המשמש כיועץ המשפטי הבכיר בחברה, כתב: "טכנולוגיות לזיהוי פנים מעלות סוגיות שעומדות בלב-ליבן של זכויות אדם בסיסיות, כמו הזכות לפרטיות וחופש הביטוי". הקריאה הזו מעוגנת באירועים אקטואליים: בחודש שעבר סער השיח הציבורי בארצות הברית סביב ההחלטה על הפרדת ילדי מהגרים מבני משפחותיהם בגבול הדרומי.
כחלק מהסערה, הופנה הזרקור אל מיקרוסופט בעצמה, בעקבות הכרזה על שיתוך פעולה עם רשות ההגירה (ICE), והועלו השערות כי מיקרוסופט משכללת טכנולוגיה לזיהוי פנים עבור הרשות, לשימוש במעברי גבול. "מאז כבר הודענו שלחוזה המדובר אין שום קשר לטכנולוגיית זיהוי פנים", כתב סמית', "וכי באופן כללי מיקרוסופט לא חתומה על חוזים הקשורים בהפרדת ילדים מהוריהם מול ממשלת ארצות הברית". אבל זה לא ממש מספיק.
זו הפעם הראשונה שבה ענקית מסדר הגודל של מיקרוסופט קוראת לרגולציה של הטכנולוגיה. בדרך כלל, קריאות מהסוג הזה לא מגיעות מתאגידים - אלא מארגונים פרטיים. ה-ICRAC (הוועידה הבינלאומית המתנגדת לשימוש באמצעי לחימה רובוטיים), למשל, שיגרו מכתב דומה לעובדי "אמזון", בדרישה שלא למכור טכנולוגיה לזיהוי פנים לממשלות, גופי אכיפה ומתווכים. הציפייה היא שהצעד של מיקרוסופט יגרור אחריו ענקיות טכנולוגיה נוספות, בניסיון לעורר מודעות ציבורית להשלכות האפשריות של שימוש לרעה בטכנולוגיה.
"הבעיה הגדולה עם טכנולוגיות לזיהוי פנים היא שהן משתלטות במהירות על המרחב הציבורי והופכות את כולנו לחשודים בפוטנציה", אומר ד"ר אבי מרציאנו גילבורד, חבר סגל במחלקה לתקשורת באוניברסיטת בן גוריון. "המחשבה שתמונת הפנים שלי מופיעה על כמה מסכים באיזשהו חדר בקרה, ללא ידיעתי והסכמתי ובמנותק מכל הקשר רלוונטי, היא מטרידה. חשוב יותר, טכנולוגיות לזיהוי פנים הן יעילות רק אם קיים מאגר של תמונות פנים שמולו ניתן להשוות צילומים שנלקחים בזמן אמת.
"קיומו של מאגר הכולל את הנתונים הכי רגישים שלנו – הגוף עצמו – מעלה שאלות אתיות: היכן עובר הגבול, ואיזה מידע נידרש לספק למדינה או לחברות מסחריות בעתיד? מי מבטיח שהמידע שלנו ישמר כראוי והאם בכלל ניתן להבטיח זאת? אגב, אחת המגמות המדאיגות בהקשר הזה הוא שיתוף הפעולה בין מדינות לבין תאגידים. החשיפות של סנודן משנת 2013 הראו לנו שכל החברות הגדולות, וביניהן גוגל, פייסבוק, אפל, מיקרוסופט ויאהו, מסרו לממשלת ארצות הברית מידע פרטי על המשתמשים ללא שום הגבלה".
מוכרים לנו, המשתמשים הסבירים, טכנולוגיה לזיהוי פנים ככלי הגנתי. אם פרצו אליי הביתה, הטכנולוגיה תסייע בזיהוי מיידי של הפושע
"חשוב להבהיר שמחקרים מראים שככלל, פריסת אמצעי מעקב במרחבים ציבוריים לא מסייעת במיגור פשע, ויש לכך הסבר פשוט: פושעים מודעים לאמצעי המעקב שפועלים נגדם ולרוב מצליחים לחמוק מהם. כך, באופן אירוני, אלו שנותרים חשופים למעקב הם כל השאר – אזרחים תמימים שאינם פושעים. בדוגמה שהבאת, פורצים יודעים שממתינות להם מצלמות אבטחה ולכן ידאגו להסתיר את פניהם. מי שבכל זאת יסבול מהן הוא הילד המתבגר שבביתו הותקנה מצלמה ופרטיותו נשללה ממנו".
ומה אם "אין לי מה להסתיר"?
"זהו הטיעון הרווח ביותר, אבל גם המופרך ביותר. לכולנו יש מה להסתיר וזה לא רק בסדר – זה חשוב ורצוי. כשיש לנו מה להסתיר – או במילים אחרות, כשניתנת לנו זכות לפרטיות – אנחנו נהנים ממרחב בטוח, פיזי, וירטואלי וסמלי. יותר מזה, הזכות להסתיר היא בעיני המדד הטוב ביותר למידת הדמוקרטיוּת של מדינה. כשאזרחים לא רוצים או יכולים להסתיר דבר אלא מעדיפים לפתוח את חייהם באופן מוחלט בפני השלטונות – אנחנו בבעיה. אגב, כשמישהו אומר לך שאין לו מה להסתיר, בקשי ממנו את הסיסמה לחשבון המייל שלו".
החשיבות של רגולציה בזירה הטכנולוגית היא עצומה: אם מקרה הפרת הפרטיות של פייסבוק וקיימברידג' אנליטיקה לימד אותנו משהו, זה את גודל הפער בין תאגידים וחברות טכנולוגיה לבין המשתמשים ולבין המחוקקים. אבל האם נכון לסמוך על אחריות תאגידית בשאלות מהסוג הזה?
"לצערי, אני לא איש בשורה. החקיקה לא מצליחה לעמוד בקצב של ההתפתחויות הטכנולוגיות, כך שאחריות תאגידית היא אכן התקווה הגדולה", אומר מרציאנו גילבורד. "יעילותם של צעדים רגולטוריים היא אמנם מוגבלת, אבל המדינה יכולה וצריכה להשקיע בחינוך הציבור לעידוד שימוש נכון והגברת המודעות (לפרטיות, לדוגמה). בנוסף, כיום פועלים מרכזי מחקר שמתמקדים בטכנולוגיה-חברה-משפט ומציעים מחקר עדכני וביקורתי מעולה. דווקא במעבדות המחקר של מיקרוסופט פועלות שתי קבוצות מחקר שמאגדות כמה מהחוקרים הטובים והביקורתיים ביותר. כיום מרכזי המחקר הללו מקיימים קשר די משמעותי עם התעשייה, ונראה שחיזוק הקשר הזה עשוי להוות פתרון חלקי לבעיה".
