10 סיבות מדוע יש לאסור שימוש ב"רובוטי הרג"
קשה מאוד לדמיין מכונה שתחליף את שיקול הדעת האנושי בזמן סכנה מיידית וברורה. ובמילים פשוטות - לא ניתן להפקיד החלטות של חיים ומוות בידי מכונות
בסוף השבוע נפגשו בג'נבה ממשלות לדון בעתידם של "רובוטי הרג" (KILLER ROBOTS).
עוד בערוץ הדעות:
מדינה דרוזית בסוריה כחלק מהסדר החדש
להתעורר! הגיע שלב המעשים נגד דאעש
בין חד תרבותיות לרב תרבותיות - מדיבור למעשה
הנה עשר סיבות מדוע חיוני לאסור את השימוש בהם:
1. "רובוטי הרג" לא יהיו נחלת המדע הבדיוני לזמן רב
רובוטי הרג הינם מערכות נשק אשר, מרגע שהופעלו, יכולות לבחור לתקוף, להרוג ולפצוע מטרות שהינן בני אדם, ללא בקרה אנושית. מה שנחשב בעבר כנחלת המדע הבדיוני יהפכו בקרוב לעובדה מוגמרת.
באוגוסט השנה הפכה צפון-דקוטה למדינה הראשונה בארה"ב שאישרה חוקית את השימוש במזל"טים, המסוגלים לנטרל מרחוק בני אדם באמצעות שוק חשמלי במתח גבוה.
2. יעשה בהם שימוש גלוי על ידי ממשלות חסרות אחריותיות
על אף שיתכן שיגבר ביטחונם של חיילים ושוטרים (על פי טענות ממשלות), סף הסיכון הנמוך עלול דווקא להוביל לקונפליקטים רבים יותר.
המצדדים בשימוש ב"רובוטי הרג" טוענים שהיעדר הרגש מצד הרובוטים יבטל תכונות אנושיות שליליות כגון פחד, נקמנות, זעם וכן טעויות אנוש. עם זאת, לרגשות אנושיים לפעמים תפקיד חשוב במניעת פגיעה באזרחים, רובוטים לא יהיו מסוגלים לסרב להוראות, למשל לפקודות בלתי-חוקיות בעליל, דבר שלעיתים עשוי להציל חיים. לדוגמה, במהלך הפגנות ההמונים במצרים בינואר 2011, הצבא סירב לירות על מפגינים, פעולה אשר דרשה תכונות כגון חמלה וכבוד לשלטון החוק.
3. הם לא יעמדו בדרישות החוק הבינלאומי וסטנדרטים בינלאומיים לשיטור
סטנדרטים בינלאומיים לשיטור אוסרים על שימוש באמצעי ירי למעט להגנה, במקרה של סכנה מיידית לחיים או פציעה קשה, והשימוש בכוח מוגבל למידה המינימלית ההכרחית. קשה מאוד לדמיין מכונה שתחליף את שיקול הדעת האנושי בזמן סכנה מיידית וברורה. שיקול דעת שכזה חיוני לכל החלטה של שוטר להשתמש בנשק. ברוב המקרים נדרשים שוטרים, על פי אמות המידה שקבע האו"ם, להשתמש תחילה באמצעים בלתי-אלימים, כגון שכנוע, משא ומתן, ואי-הסלמת הסיטואציה, בטרם יפנו לשימוש בכח, על כל סוגיו.
שיטור אפקטיבי דורש את הכישורים האנושיים הייחודיים לאמפטיה ולשליטה, ויכולת להעריך ולהגיב למצבים דינמיים ובלתי ניתנים לחיזוי. כישורים אלה לא יכולים להתמצות לכדי אלגוריתמים. הם דורשים הערכה תמידית של מציאויות מתפתחות ושל האופן החוקי הטוב ביותר להגן על חיי אדם, פעולות שרובוטים פשוט לא מסוגלים לבצע.
במילים פשוטות, לא ניתן להפקיד החלטות של חיים ומוות בידי מכונות.
4. הם לא יעמדו בחוקי המלחמה
הבחנה, מידתיות ואמצעי זהירות הם שלושת עמודי התווך של החוק ההומניטרי הבינלאומי - דיני המלחמה. כוחות מזויינים חייבים להבחין בין לוחמים ללא-לוחמים וכל הצדדים חייבים לנקוט באמצעי זהירות סבירים להגן על חיי אזרחים.
הדבר דורש שיקול דעת אנושי. רובוטים חסרי יכולת לנתח את הכוונות מאחורי פעולות של אנשים, או לקבל החלטות מורכבות על המידתיות או ההכרחיות של התקפה, שלא לדבר על הצורך בחמלה ואמפתיה כלפיה אזרחים שנקלעו במלחמה.
5. שימוש בהם מקשה על אחריותיות:
אם רובוט פועל בניגוד לחוק איך יתנהל תהליך הצדק? המעורבים בתהליך התכנות, הייצור והפריסה כמו גם קצינים ופוליטיקאים בכירים יכולים לשאת באחריות למתן דין וחשבון. עם זאת, זה יהיה בלתי אפשרי לגורמים אלה לחזות באופן סביר איך "רובוט הרג" יגיב בכל מצב נתון, מה שפוטנציאלית מייצר ואקום במונחי אחריותיות.
אמנסטי אינטרנשיונל חשף דו"ח על מעטה הסודיות סביב השימוש של הממשל האמריקני במזל"טים בפקיסטן, להרג אנשים, וחושף את סירובו של הממשל להסביר מהו הבסיס החוקי למתקפות על אינדיבידואלים, שכן עולה החשש שתקיפות באיזורים שבטיים בפקיסטן היוו הפרה של זכויות אדם.
על כן גובר החשש שהשימוש ב"רובוטי הרג" רק יגרום לעלייה בהרג ופציעה בניגוד לחוק, גם בשדה הקרב וגם בפעולות משטרתיות
6. פיתוח של "רובוטי הרג" יצית מירוץ חימוש חדש
סין, ישראל, רוסיה, דרום קוריאה, בריטניה וארה"ב, הן בין המדינות שנמצאות בשלבי פיתוח של מערכות אשר יעניקו עצמאות רבה יותר למכונות לחימה בשדה הקרב. חברות כבר פיתחו מערכות סמי-עצמאיות של נשק רובוטי המסוגל לירות גז מדמיע, כדורי גומי ורימוני הלם לשימוש של הרשויות. ההיסטוריה של פיתוח נשק מלמדת שמדובר רק בעניין של זמן עד שיוצת מירוץ חימוש בטכנולוגיה עילית. מערכות אלה עלולות להגיע למחסני נשק של ממשלות חסרות מצפון, ובסופו של דבר לידיהן של גורמים חוץ ממשלתיים, כולל לידי קבוצות חמושות וכנופיות של עבריינים.
7. מתן אפשרות למכונות להרוג או להשתמש בכוח הינה פגיעה בכבוד האדם:
הענקת סמכות לרובוטים בנושאי חיים ומוות חוצה קווי מוסר בסיסיים. הם נעדרי רגשות, אמפתיה וחמלה, והשימוש בהם יפר את זכות האדם לחיים ולכבוד. השימוש במכונות להרג בני אדם הוא השפלה אולטימטיבית
8. מרגע הצבתם של "רובוטי הרג" אי אפשר יהיה לעצור בהם:
השימוש המוגבר והלא מבוקר במזל"טים מוכיח - ברגע שמערכות נשק נכנסות לפעולה, קשה מאוד וכמעט בלתי אפשרי לווסת ולפקח על השימוש בהם, או אף לרסנם. כ-90% מהאנשים שנהרגו על-ידי מזל"טים, היו כתוצאה מפגיעות לא מכוונות.
אמנם מאוחר מדי למגר את השימוש במזל"טים מזויינים, אבל יש להגביל משמעותית את השימוש בהם כדי להציל חיי אדם. "רובוטי הרג" מגבירים עוד יותר את הסיכון שבהרג לא חוקי. גישת ה"נמתין ונראה" רק תוביל להאצה בפיתוח המערכת.
9. אלפי מומחים לרובוטיקה קראו לאסור את השימוש ב"רובוטי הרג"
ביולי 2015, כמה מהמדענים ומהחוקרים המובילים ביותר בעולם לבינה מלאכותית יצאו בקריאה פומבית להחרים את "רובוטי ההרג". עד כה חתמו על ההצהרה 2,587 איש, בתוכם 14 נשיאים מכהנים ונשיאים לשעבר של מכונים וארגוני בינה מלאכותית ורובוטיקה.
כשאלפי מדענים ומומחים למשפט מודאגים עמוקות מפיתוח והשימוש האפשרי ב"רובוטי הרג" ותומכים בקמפיין "עצרו את רובוטי ההרג" - למה מחכות הממשלות?
10. הרבה דיבורים אבל מעט מאד פעולה בשנתיים האחרונות
מאז הועלתה לראשונה סוגיית "רובוטי הרג" , התקיים רק דיון בינלאומי מהותי אחד, במסגרת
ועידת או"מ על נשק קונבנציונלי. כמה אירוני שזמן כה מועט מוקדש לנושא כה רציני, וכמעט לא נעשתה כל התקדמות ממשית בנושא.
עבור אמנסטי אינטרנשיונל ושותפיו לקמפיין "לעצור את רובוטי ההרג", איסור גורף על פיתוח, הצבתם ושימוש בהם - הם הפתרון היחיד שיש לשאוף אליו.
זהו איום גלובלי, והגיעה העת לקחת ברצינות את האיסור על שימוש ב"רובוטי הרג" למען כולנו.
ראשה עבדול-רחים, מנהלת קמפיין בקרת נשק, אמנסטי אינטרנשיונל. המאמר מתפרסם בכלי תקשורת ברחבי העולם.
לפנייה לכתב/ת 
