בעתיד המכונית תחליט אם תחיו או תמותו?

בעוד פריצת הדרך הטכנולוגית בדרך למכונית ללא נהג כבר ממש מעבר לפינה, מהנדסים ומשפטנים שוברים את הראש בשאלה שלא נוגעת כלל לשבבי מחשב או לרדארים מתוחכמים: מוסר.

כי בעוד שמספר חברות גדולות - בהן גוגל, פורד, מרצדס ואחרות - כבר מנסות מכוניות אוטונומיות במסלולים סגורים ובכבישים ציבוריים, סוגיה מוסרית היא זו שעשויה להוביל לעיכוב ארוך בהגשמת החלום של רבים: להזמין מכונית בשלט רחוק, להיכנס ולנסוע לעבודה עם ספל קפה וספר טוב, במקום להתעסק בגז וברקס.

מכונית ללא נהג של מרצדס. תקבל החלטות חיים ומוות? 

והשאלה היא לכאורה פשוטה: כיצד אלגוריתם ממוחשב, מתוחכם ככל שיהיה, יכול להחליט בסוגיות של חיים ומוות. למשל במקרה בו כלב קופץ לכביש וצריך לבצע תמרון התחמקות - האם המכונית תדרוס את הכלב כדי למנוע פגיעה בנוסעים? האם תתחמק מהכלב ותסתכן בפגיעה בהולך רגל? והאם תתרסק תוך סיכון לנוסעים שבתוכה?

עוד בנושא מכוניות ללא נהג:

• תחזית: מכוניות ללא נהג יגדילו את הזיהום
• מרצדס: נייצר משאית ללא נהג בשנת 2025
• גוגל נכנעה: תדווח על תאונות רכב ללא נהג
  

כריס גרדס, שעוסק בפיתוח טכנולוגיות לרכב אוטונומי, הסביר לסוכנות הידיעות בלומברג כי הנושא המוסרי נמצא בראש מעייניהם של בכירי תעשיית הרכב. ולא רק כי זה הדבר הנכון, אלא כי רבים תוהים כיצד ניתן יהיה לחלק את האחריות לתאונת דרכים שבה מעורבות מכוניות אוטונומיות: האם הנהג אשם למרות שלא שלט ברכב, או שמא צד שלישי? ואולי בכלל יצרנית הרכב?

"הם מאוד מודעים לבעיות ולאתגרים בגלל שהמתכנתים שלהם מנסים לקחת את ההחלטות הללו כיום", מסביר גרדס, שנפגש לאחרונה עם בכירים בתחום מטעם פורד וג'נרל מוטורס. "עוד לא הומצא החיישן שיעיל כמו העין האנושית והמוח האנושי".

תעשיית הרכב וחברת הטכנולוגיה גוגל מבזבזות מיליארדי דולרים בשנים האחרונות על מירוץ להשקת רכב חשמלי, כאשר מספר גורמים הביעו עניין להתחיל בשיווק דגם אחד כזה לפחות בתחילת העשור הבא.

רכבי ניסוי אוטונומיים של פורד. מנסים לפתור דילמות מוסריות

מומחים מעריכים כי הפיתוח של מכוניות אוטונומיות צפוי לזרז - באופן דרמטי - את ההתקדמות בתחום בינה מלאכותית. זאת בעיקר מכיוון שהמכוניות יידרשו לקבל החלטות מורכבות בשברירי שנייה, לעיתים תוך שהן לוקחות אחריות על נזקים שעשויים להוביל לאובדן חיי אדם או בעלי חיים.

"זה ייתן את הטון לכל הרובוטים ה'אנושיים' בעתיד", מסביר הפילוסוף פטריק לין, שמנהל את החוג לאתיקה ומדעים מתפתחים באוניברסיטת קליפורניה ומייעץ בנושא ליצרניות הרכב. המכוניות, הוא מסביר, "יהיו הרובוטים ה'אנושיים' הראשונים שינועו בין אנשים".

ג'ף גרינברג, מנהל טכני בכיר בפורד לנושא ממשק אדם-מכונה, מסכים עם המודאגים. "שאלות מסוג זה ידרשו מענה לפני שנהיגה אוטונומית הופכת למציאות".

נכון לעתה, נראה כי למומחים בתחום האתיקה יש יותר שאלות מתשובות. האם התועלת הצפויה בהפחתת מספר התאונות הכולל, יכולה להצדיק התעלמות מהמקרים בהם רכב אוטונומי יגרום למוות שיכל להימנע? והאם כדאי לאמץ את הכלל הראשון של סופר המד"ב אייזיק אסימוב, שבספרו "אני, רובוט" קבע כי "לא יפגע רובוט לרעה בבן אדם, ולא יניח במחדל שאדם ייפגע".

"לא הייתי רוצה שהמכונית שלי תחליט להקריב את חיי רק כדי להציל מישהו אחר", מסביר לין. וונדל וולאך, מחבר הספר "אדון מסוכן: איך למנוע אובדן שליטה בטכנולוגיה", סבור שאסור לתת למחשב לקבל את ההחלטות הללו. "הדרך הלאה היא ליצור עקרון אבסולוטי לפיו מכונות לא יקבלו החלטות לחיים ולמוות. חייב להיות גורם אנושי בתהליך. אחרת נישאר עם חברה חסרת חוק בה אנשים יחשבו שאינם נושאים באחריות".

מומחים מזהירים גם כי בניגוד לבן אדם, עדיין לא הומצא מחשב שיכול להביע אמפתיה ולקחת החלטות שיש להן השלכות מוסריות.

הרובוטים יוכלו לעבור על החוק?

היצרנית בוחנת במתקן הניסוי שלה בקליפורניה, יחד עם מהנדסים מטויוטה, דרכים לשמור על חוקי האתיקה ולקבל החלטות בשבריר שנייה - למשל במקרה בו נדרשת עקיפה על פס לבן בגלל שהנתיב חסום על-ידי רכב חונה.

היצרניות מנסות למצוא גם דרכים להעביר שליטה במהירות מהנהג האוטומטי לבן אדם שיושב מאחורי ההגה. בניסוי, בו משתתף גרדס, המהנדסים מנסים למצוא פתרון לבעיות עקיפות שעשויות להתעורר - למשל התנוונות יכולת הנהיגה של אנשים שסומכים יותר ויותר על רכב אוטונומי.