שיקגו: האלגוריתם מחשב מי ייצא למסע הרג
בעיר האלימה ביותר בארה"ב, שבה נורו השנה למוות כבר 250 איש, מערכת ממוחשבת סודית עורכת חישובים ומסמנת למשטרה אנשים שיש סיכוי שיהיו מעורבים באלימות נשק. אף אחד כמעט לא יודע איך היא עובדת, ורבים מודאגים: "מי מבטיח שהיא לא מבוססת על דעות קדומות?"
משטרת שיקגו החלה להשתמש באלגוריתם ייחודי במסגרת המאבק שלה באירועי האלימות הכוללים שימוש בנשק חם, והוא אמור לסייע לה לסמן תושבים שיש סיכוי גבוה שיהיו מעורבים באירועי ירי – הן כקורבנות והן כמבצעים.
תוכנת המחשב של המשטרה משקללת מדדים שונים, בהם רישומים פליליים, השתייכות לכנופיות, פציעות קודמות מירי ומספרם של המעצרים הקודמים של האדם. התוכנה יוצרת מסד נתונים שאמור לסייע למשטרה להילחם באירועי האלימות שחווה העיר כתוצאה מקרבות בין כנופיות.
כך או כך, הקריטריון המדויק שלפיו חוזה האלגוריתם את העתיד לקרות לכאורה נותר חשאי, והוא מעורר מחלוקת. היוצר הראשי של התוכנה, מיילס וורניק מהמוסד לטכנולוגיה של אילינוי, סירב להתייחס לאלגוריתם. מבקרי התוכנה טוענים כי המערכת הסודית מפרה זכויות אדם משום שהיא מדביקה סטיגמות לאנשים שאותם היא מגדירה למעשה מועדים לפורענות.
המשטרה מצדה מצדיקה את השימוש באלגוריתם, וטוענת כי הוא מבטיח שהוא ימקד את המשאבים שלה באנשים שהסיכוי שיבצעו פשעים תוך שימוש בנשק או ייפגעו מפשעים כאלה – הוא הגבוה ביותר. "מבין הערים הגדולות בארה"ב שיקגו היא זו שבה ההפרדה הגזעית היא הגדולה ביותר. בעיית הכנופיות בה היא הגדולה והרציפה ביותר בארה"ב", אומר דיוויד קנדי ממכללת ג'ון ג'יי למשפט פלילי בניו יורק.
80% מהעצורים רשומים במאגר
מאז תחילת 2016 נהרגו כבר כ-250 בני אדם מאלימות הקשורה בנשק בשיקגו ועוד כ-1,150 נפצעו. הרוב הגדול של הקורבנות האלה נכללו במאגר הנתונים. "אנחנו יודעים שיש אלימות רבה בשיקגו, אבל אנחנו יודעים גם שרק חלק קטן מהאוכלוסייה גורם לזה", אומר אדי ג'ונסון, מפקד המשטרה החדש של העיר שבה גרים 2.7 מיליון תושבים.
ג'ונסון, אפרו-אמריקני, מונה לתפקיד בשלהי מרס והוא רוצה לחזק את תדמיתה של המשטרה המקומית בעקבות האירוע שבו נורה למוות נער שחור בידי שוטר לבן. תחת הנחייתו פתחה בשבוע שעבר משטרת שיקגו במבצע נגד סמים וכנופיות ועצרה 140 בני אדם. יות מ-80% מהם נכללו במאגר הנתונים המדובר.
"זה זמן רב שהמשטרה ברחבי ארה"ב משתמשת במחשבים ובניתוח נתונים כדי להתמקד באזורים שבהם יש שיעורי פשיעה גבוהים וכדי להפנות לשם את המשאבים, להפנות לשם יותר שוטרים. למעשה זה די יעיל בהפחתת הפשיעה", אומר רוברט וייסברג מהמרכז למשפט פלילי באוניברסיטת סטנפורד. אבל בשיקגו, הוא אומר, "לקחו את זה צעד אחד קדימה בכך שממש יצרו רשימות של אנשים ספציפיים".
האלגוריתם מתעדכן באופן קבוע מאז שנוצר לפני שלוש שנים. הוא נועד בראש ובראשונה לסמן אנשים שביקור של גורמי רשויות אצלם יכול להועיל להם. הביקורים האלה מאפשרים לשוטרים או לאנשי רשויות הרווחה להציע להם תוכניות שיקום שיוציאו אותם מעולם הכנופיות או להציע להם טיפול ועזרה אחרים. גורמי הרשויות שמגיעים אל האנשים האלה גם מזהירים אותם מההשלכות שעלולות להיות לפשעים הקשורים בעולם הכנופיות.
מה יודעים האקדמאים?
מחקרים מראים שלעתים קרובות פושעים כלל אינם מודעים לעונשים הניתנים על פשעים מסוימים. כך למשל אדם עם רישום פלילי שנתפס ברחובות שיקגו עם תחמושת יכול לעמוד לדין בבית משפט פדרלי ולהישלח אוטומטית ל-15 שנות מאסר.
בשיקגו יש מי שפוחדים שהרשימה עלולה לגרום באופן לא הוגן לרדיפה קשה יותר ולענישה קשה יותר של אוכלוסיות מסוימות. יש המודאגים מהחשאיות האופפת את האלגוריתם ומפקפקים ביעילותו בהתחשב בסטטיסטיקה: מקרי הירי בשיקגו נמצאים בעלייה, ובשנת 2016 הרף של 1,000 קורבנות ירי נחצה מוקדם יותר מאשר בשנים קודמות.
השאלה שנותרת פתוחה היא אם מספר מקרי הירי היה גבוה יותר ללא האלגוריתם. "אנשים לא יודעים מה מה עומד בבסיס הניתוח שמייצר את רשימת 'המועדים
לפורענות'", אומר קנדי. "הרשימה נוצרת על-ידי אנשים בחוגים אוניברסיטאיים בשיקגו, על-ידי אקדמאים. אנשים שאינם חלק מהקבוצה שלהם אינם יודעים כיצד החישובים האלה נעשים, כך שיש דאגה אמתית בנוגע לשקיפות ושאלות בנוגע לדעות קדומות מובנות".
לפנייה לכתב/ת 
