רובוט מחסל, מוות בפייסבוק: מי מפחד מטכנולוגיה?
אירועי האלימות של סוף השבוע שעבר בארצות-הברית האירו בזרקור לא רק על הקונפליקט הגזעי בארץ הפוליטיקלי קורקט, אלא גם על הפאניקה המוסרית שתוקפת את כולנו, שחורים ולבנים, ברגע שמתחילים לדבר על טכנולוגיה
בשבוע שחלף מאז, עסקו אמצעי התקשורת גם בהיבטים הטכנולוגיים של אירועי האלימות בארצות-הברית, ובשתי תופעות באופן ספציפי: הראשונה, פונקציית השידור החי של פייסבוק, שבאמצעותה תיעדה ושיתפה דיימונד ריינולדס כיצד שוטר הורג את בן זוגה פילנדו קסטיל. התופעה השנייה, היא השימוש התקדימי שנעשה ברובוט חבלה על ידי כוחות המשטרה בדאלאס, לצורך נטרול היורה מיקה ג'ונסון, שרצח חמישה שוטרים במהלך הפגנה. הסיקור שהתייחס לטכנולוגיה בשני המקרים, היה אפוף פאניקה מוסרית אופיינית: ב"ניו יורק טיימס" למשל, כתבו על הסוגיות המוסריות שעולות משימוש מופרז בכוח באמצעים מרוחקים, ב"גרדיאן" שאלו "האם אנחנו ערוכים להתמודד עם עוד רובוטים-רוצחים משטרתיים?" וב"טלגרף" כינו את פונקציית השידורים החיים בפלטפורמות השונות "ְספר חדש של תוכן אינטרנטי", וטענו כי המחסור ברגולציה עשוי לגרום ל"התפוצצות של טרגדיה ברשת".
"צילום שהוא קובלנה"
ד"ר אורי שורץ מהמחלקה לסוציולוגיה ואנתרופולוגיה באוניברסיטת בר-אילן מסביר שהאפקט המרכזי של שידור חי בפייסבוק הוא בעיקרו סמלי - הוא אמנם מייצר תחושת מיידיות, אבל מהפכה של ממש אין כאן: "איכשהו נראה לי שהמהפכה הזאת במידה רבה כבר נעשתה. ב-1991 ארה"ב סערה ואלפים יצאו לרחובות אחרי שאזרח צילם במצלמת וידיאו איך שוטרים מכים בפראות את רודני קינג, בחור שנסע במהירות מופרזת וסירב לעצור. אותו אזרח היה שכן שפתח את החלון, הוציא את מצלמת הווידאו החדשה שלו, צילם, והלך למשטרה להגיד 'ראיתי שוטרים מכסחים במכות'. וכשבמשטרה לא התייחסו אליו, אז הוא פנה לטלוויזיה. כמה שנים אחר-כך אנחנו כבר לא תלויים בעורך בטלוויזיה, כי יש את יוטיוב".
ד"ר שורץ מוסיף: "ברגע שיש לאנשים מצלמות טלפון ויש פס רחב סלולרי ופלטפורמה לשדר בה, אנשים יכולים לייצר תוכן בכל רגע נתון. מה שמהפכני פה הוא העובדה שאפשר לחלוק עוולות בלי תיווך של עורכי חדשות ששימשו בעבר 'שומרי סף'. במקומם, האלגוריתם של פייסבוק מחליט אילו סיפורים להבליט לפי מספר השיתופים והלייקים, העניין המצטבר שהם מעוררים באנשים רגילים. זה גם מה שקרה גם כאן. הרי הסיפור של הצילום הזה (הרצח של פילנדו קסטיל - ה.ב.) הוא סיפור על קובלנה, מישהי שאומרת 'עשו לי עוול'. הקובלנה נועדה לציבור הרחב, אבל בזמן אמת, היא דיברה לחברים ולמשפחה שלה. מי שרואים את זה בשידור חי הם מספר קטן של חברים שלה בפייסבוק שהיו מחוברים באותו רגע. המיליונים רואים את זה אחר כך. כך שעקרונית, אם הווידאו הזה היה עולה מאוחר יותר - זה לא בהכרח היה משנה הרבה".
אז למה בכל זאת מתעקשים על פיצ'ר כזה?
"המטרה של פייסבוק היא בסופו של דבר לעודד אותנו להפוך את החיים שלנו למידע, משום שפייסבוק מייצרת מיליארדים מהמידע על איזה אנשים אוהבים איזה דברים. אחד הדברים המשמעותיים שנעשו בהקשר הזה הוא כשהוציאו את כפתור הלייק מחוץ לפייסבוק – שזה כמו להגיד 'עכשיו אתם יכולים לעשות לייק לכל דבר בעולם'. הפונקציה של שידור חי היא בסך-הכל עוד דרך לעודד את התהליך הזה. והשינוי הזה מביא אתו גם מהפכה תרבותית. חלק גדול מהאינטראקציה שלנו היום היא בצ'אט או במסרונים, השיחות שלנו הן חפצים שאפשר לחלוק עם אחרים. אנחנו כל הזמן מתייחסים לעולם כאל חומרים שאפשר לקבל עליהם לייקים, וזה משנה את חוויית הקיום שלנו. פעם, האנשים היחידים ששאלו את עצמם 'האם מה שקורה לי עכשיו עשוי לעניין אחרים?' היו סופרים, עיתונאים או סוציולוגים. עכשיו זו החוויה של כולם - ילדים בני 12 שואלים את עצמם 'האם זה יעניין את החברים שלי? האם אני רוצה להנכיח עכשיו את החוויה שלי עבור עוד אנשים?' פייסבוק לייב היא עוד ניסיון לעודד את התהליך הזה".
לאן באמת מגיע ה"ריפורט" שלכם?
בתחילת החודש זכינו לראות מקרוב דוגמה נוספת ומובהקת לשיח המוסרי סביב פייסבוק, בדמות ההאשמה של השר לבטחון הפנים גלעד ארדן, שטען כי "חלק מדם הנרצחים על ידיה של פייסבוק", בהתייחסו לתכנים שמסיתים לטרור נגד ישראל, ושאינם מנוטרים כראוי בפלטפורמה. ארדן הצית דיון בשאלת האחריות שמצויה בידי הפלטפורמה, על התכנים המופצים בה. "פייסבוק מבינה שהיא צריכה למשול", מסביר שורץ, "והיא אכן מנסה לעשות את זה - אבל לאו דווקא משיקולים פוליטיים, אלא מסיבות כלכליות. היא חייבת לייצר מרחב בטוח עבור המשתמשים שלה, ולצורך כך היא נעזרת במנגנוני משילה שמסייעים לה למנוע הצפה של תכנים שיבריחו את המשתמשים.
"חלק מהמנגנונים האלה הם אלגוריתמים, זיהוי התמונות למשל כבר נעשה ברובו באמצעות אלגוריתמים שיכולים להכריע, למשל, אם מדובר בפטמה. אבל המנגנון העיקרי הוא של שיפוט פרולטרי. יושבים צעירים במדינות עניות, שאליהם מופנות כל תלונות הגולשים, והם צריכים לקבל בתוך שניות החלטה - האם להסיר את התוכן או לא. ולפעמים יש לזה חשיבות פוליטית. למשל, ההחלטות לפרק קבוצת פייסבוק שיזמה אינתיפאדה שלישית, או להימנע מפירוק הקבוצות שיזמו מהפכה במצרים: דיון כזה בבית משפט היה לוקח חודשים ארוכים וגורר מאות עמודים של פרוטוקול: שאלות של חופש ביטוי, חופש התארגנות, סכנה לציבור. בפייסבוק, שצריכה להכריע במעל מיליון תלונות ביום, סוגיה כזאת יכולה להיות מוכרעת על ידי בחור בן 20 בלי הכשרה משפטית שנדרש לקבל החלטה תוך שניות".
"הרובוט המשטרתי לא נכנס לשיקולים האתיים של החלטה רובוטית"
פונקציית השידור החי של פייסבוק היא לא היחידה שזכתה לכותרות מבוהלות: אירוע הירי במהלך הפגנת מחאה בדאלאס, נתפס כתקדימי מבחינת המעורבות הטכנולוגית בו. לראשונה בסביבה אזרחית ותחת פיקוח משטרתי, נעשה שימוש לא ייעודי ברובוט חבלה –-שנשלח על מנת לנטרל ולהרוג את היורה מיקה ג'ונסון. גם במקרה הזה, הטכנולוגיה קיבלה מקום מפוקפק של כבוד, משל היתה יישות עצמאית שקמה עלינו לכלותנו. "נתחיל מזה שמה שכולם קוראים 'רובוט' זה לא כל כך רובוט, אלא מכשיר שמונהג מרחוק על ידי אדם", מסביר פרופ' דניאל וייס, ראש התכנית לרובוטיקה ומערכות אוטונומיות בטכניון. "אין פה משהו באמת תקדימי, זה אמנם שימוש חדש בכלי הספציפי הזה, אבל הוא לא נכנס לשיקולים האתיים של החלטה רובוטית".
איך פועל רובוט מהסוג הזה?
"הרובוט המשטרתי מורכב ממנשא, כלי רכב קטן שנראה כמו טרקטורון עם זחל או עם גלגלים, ויש לו מערכת חישה - או מצלמה, או על פי ריח, באמצעות חומר שבודק את פליטות הגזים של חומרי נפץ. בדרך כלל מורכב עליו גם כלי שיורה על מנת לנטרל סיכונים. מה שחשוב להבין הוא שהכלי הזה הוא לא אוטונומי במובן שהוא מופעל על ידי בני אדם. בסופו של דבר התקבלו החלטות על ידי שוטרים, ונראה שגם התקבלו החלטות נכונות – אחרת אולי היורה היה מספיק להרוג עוד שוטרים. הבעיות האתיות האמיתיות מגיעות כשרובוטים צריכים לקבל החלטות במקום בני אדם – למשל, אם מחליטים לבנות רובוט שינהג באמבולנס ויעזור לחובש לטפל בפצועים, אנחנו צריכים לחשוב איך מתרגמים החלטות אנושיות מורכבות למשהו שרובוט מסוגל להבין, וזה, אני חושב, מספיק חומר למחשבה".
ד"ר לירן ענתבי, עמיתת מחקר במכון למחקרי ביטחון לאומי, טוענת כי הביקורת האזרחית ברובה עסקה פחות בטכנולוגיה, ויותר בחיסול של ג'ונסון, שיש הטוענים שניתן היה לעצור מבלי להרוג. "אני תוהה אם הביקורת הזאת היתה עולה אלמלא היה מדובר ברובוט", אומרת ענתבי, "אלה לא רובוטים שמשתלטים על העולם, מדובר במכשיר מונהג מרחוק שהופעל על ידי שוטרים. יש מקרה מפורסם מהשנים האחרונות שבו רובוט כזה שימש לניהול משא ומתן לחילוץ חוטפים, והצוות נעזר בו כדי להעביר לחוטפים פיצה. כנראה שאם היו צריכים לשלוח שוטר עם הפיצה הזאת, לא היו רוצים לקחת את הסיכון".
גם להרג באמצעים מרוחקים יש השלכות.
"יש משמעויות שמנתחים אותן היום בעיקר במחקרים פסיכולוגיים, סביב הנושא של הריגה מרחוק. בעבר עלו טענות נגד שימוש באמצעים שלא דורשים נוכחות פיזית של האדם במקום, כמו מל"טים לדוגמה, שמייצרים ריחוק מהסכנה. ברמת הפרט חששו שמפעילים ירגישו כאילו הם במשחק מחשב ולא יבינו שהם הורגים, וברמת הכלל עלה חשש שחברות דמוקרטיות יהפכו להיות אדישות ללחימה, ושהדבר יגרום למנהיגים להיות עם אצבע קלה על ההדק. בתקופה האחרונה אנחנו רואים לא מעט מחקרים בתחום הזה, בעיקר בקרב מפעילי מל"טים בארצות-הברית, ומתברר שגם הם, כמו חיילים בשדה הקרב, עשויים לסבול מתופעות של פוסט-טראומה. זה מעיד, בעקיפין, על כך שגם אם פעולת הלחימה מתבצעת מרחוק, אנחנו כבני אדם עדיין מבינים את המשמעויות שכרוכות בלקיחת חיים".
לפנייה לכתב/ת 
