אדוני השופט, גבירתי התובעת, הוד דיגיטליותו הסניגור

אלת הצדק מתוארת כשעיניה מכוסות במטפחת, כי הצדק חייב להיות עיוור: להתייחס אך ורק לחוק, בלי להיות תלוי בזהות השופט, או הצדדים בדיון, או טיב עורכי הדין שלהם. אבל מערכת המשפט תלויה בבני אדם, בעלי רגשות וחולשות אנושיים. אפילו במערכת המשפט הטובה ביותר קיים הסיכון כי הצדק ייטה לטובת הצד העשיר, החזק, ולרעת הצד העני, החלש. בני אדם גם מוּעדים לטעויות עובדתיות, כמו אי-הבנה של החוק או התעלמות מדקויות ותקדימים. וכאילו כל זה לא מספיק, הצדק גם איטי מאוד ויקר מאוד: אנו מוציאים, בסך הכול, כסף וזמן רבים מאוד על עשיית הצדק.
למה לנו כל זה? הרי במקרים של משימות שהן רגישות לחולשות אנושיות, ושהעומס בהן גדול, כבר למדנו שאפשר לפנות למחשב. פשוט נכניס למחשב את ספר החוקים, ואת העובדות של המקרה, ונקבל בזמן קצר ובעלות נמוכה פסק דין נכון ומדויק. המחשב לא יוכל לשכוח אף לא תת-סעיף קטן אחד ואף לא תקדים אחד, ואינו מבחין בין אנשים שונים, כך שנגיע לצדק אבסולוטי שגם נראה וגם נעשה. לא עוד נראה שופטים שונים הפוסקים אחרת עבור אותו מקרה, ולא נזדקק לשלם אחוזים מכל עיסקה לעורכי הדין המעורבים בה.
הרעיון מאוד מפתה, כי החוק אמור להיות התגלמות הרציונליות והאובייקטיביות, ושליטה מלאה בו דורשת היכרות מעמיקה עם מאות אלפי עמודים. אלה בדיוק יתרונות המחשב על האדם. נשאר רק לבדוק אם הרעיון גם ניתן לביצוע.

מיחשוב חוקי האזרחות

את זה בדיוק ניסו לעשות חוקרים באוניברסיטת לונדון. הם בחרו בחוק האזרחות הבריטית משנת 1981 ושמו לעצמם כמטרה פיתוח תוכנה שתכלול בתוכה את סעיפי החוק ותוכל בעזרתם "לפסוק" אם אדם מסויים זכאי לאזרחות. למה נבחר חוק זה? בזמן המחקר חוק זה כלל מספר חידושים ועורר ויכוחים, והחוקרים קיוו כי תהליך הניסוח של החוק בצורה המובנת למחשב ישפוך אור על כמה מהנושאים הרגישים שהיו כרוכים בו.
היו גם סיבות נוספות לבחירת חוק זה, ומהן אפשר ללמוד על מספר מגבלות קריטיות של "מיחשוב הצדק" עוד לפני גישה למחקר עצמו. ראשית, חוק זה, בניגוד לחוקים רבים אחרים, עומד בזכות עצמו ואינו תלוי בהבנת מושגים וחוקים רבים נוספים (יש בו תלות מסויימת בחוק ההגירה של 1971, ולכן החוקרים הניחו כי חוק זה ידוע למשתמש - האלטרנטיבה היתה להכניס גם חוק זה לתוך התוכנה, מה שהיה ודאי מביא להכנסת חוקים שחוק זה בתורו תלוי בהם, וכן הלאה עד קץ הסבלנות, או קץ מלגות המחקר). שנית, החוק היה אז חדש ולכן שיפוט לפיו לא היה תלוי עדיין בתקדימים. שיפוט לפי תקדימים מחייב ניתוח כל תקדים לא רק לפי העובדות שבו, אלא גם לפי רלוונטיות כל עובדה במקרה הנוכחי לפסק הדין הקודם ובהתאם למידת דמיונן של העובדות במקרה הקודם לעובדות במקרה הנדון.
החוקרים גם בחרו - בהיגיון רב - להתעלם מתפקידו של השופט לקבוע מהן העובדות: למשל, האם אכן האדם העומד לפנינו אומר אמת כאשר הוא מצהיר על מקום הולדתו, או שמא הוא משקר ומציג תעודות מזוייפות? המחקר שלהם מניח כי העובדות כבר ברורות וידועות, ונשאר רק לפרש את פסיקת החוק בהינתן עובדות אלו.

מגבלות החוק עצמו

כשמסתכלים בחוק מקרוב, נעלמות האשליות של בהירות ודייקנות החוק. כמו כמעט כל חוק אחר, חוק האזרחות הבריטית נגוע במונחים שאינם מוגדרים היטב, בחוסר דיוק, בחוסר התייחסות לכל האפשרויות, וברב-משמעותיות.
הגדרות לא ברורות: בין השאר, החוק דורש מאזרח להיות "בעל אופי טוב", "בעל תירוץ מניח את הדעת" (להסברת מצבים מסויימים), ו"שולט באנגלית במידה סבירה". אין בחוק שום הגדרה למושגים אלה או מבחן המשמש להכרעה אם המועמד לאזרחות עומד בהן. כותבי התוכנה ודאי לא יכלו להגדיר מבחנים משלהם, ולכן התחמקו מהבעיה: אם המועמד זכאי לאזרחות לפי המבחנים האחרים הכלולים בחוק, אך מצבו הוא כזה שהאזרחות תלויה בהיותו גם "בעל אופי טוב", למשל, תודיע התוכנה כי יש להחליט בנושא זה, ואם התשובה חיובית הרי שהוא אזרח.
חוסר דיוק: החוק, למשל, אינו מציין מתי האדם הופך לאזרח (לדוגמה, האם זה קורה בלידתו? או שביום תיקון החוק הרלוונטי? וכו'), וזה עשוי לשנות את הפסיקה לגבי אזרחות ילדיו של אותו אדם.
חוסר התיחסות לכל האפשרויות: דוגמה אחת - החוק מציין כי תינוק שנמצא נטוש ייחשב כאילו נולד להורים שבאותו הזמן היו אזרחים או גרו בבריטניה. כלל זה מאפשר להחיל על התינוק חלק אחר של החוק, העוסק בתינוקות שנולדו להורים כאלה. החוק אינו מציין, לעומת זאת, מה הדין בתינוק שנחשב בתחילה נטוש אך לאחר מכן מתגלים הוריו.
רב-משמעותיות: במצבים מסויימים, נראה כי אפשר לפרש את הוראות החוק בצורה מנוגדת, עבור אותו מקרה.
כל המצבים האלה הם מחוץ ליכולת התוכנה שפותחה לתת מענה ראוי. בשיפוט אמיתי, מצבים כאלה הם נפוצים ודורשים מהשופט לפרש את החוק ולהחליט מה בעצם התכוון המחוקק לומר. מבחינת המצב העכשווי של התפתחות הבינה המלאכותית, יכולת פירוש כזו רחוקה מאיתנו שנות אור. מבחינתנו כבני אדם, לא ברור שהיינו רוצים להפקיד שיפוט כזה בידי מכונה, אפילו אם הדבר היה אפשרי.

ניסוח החוק ככללים לוגיים

גם כאשר נגביל את עצמנו רק לאותם מצבים שבהם ניתן להבין בצורה ברורה את החוק, עדיין ניצבים אתגרים קשים בדרך תרגום החוק לצורה שאותה המחשב יוכל לפענח. כדי להבין אותם, יש צורך להבין את השיטה המקובלת לניסוח כללים לוגיים. השיטה בנויה על הגדרת הדרך להסיק טענה מתוך טענות אחרות. כך למשל, הסעיף הראשון של חוק האזרחות הבריטית קובע כי "אדם שנולד בממלכה המאוחדת לאחר החלת החוק יהיה אזרח אם בזמן לידתו אביו או אימו היו (א) אזרחים או (ב) מתיישבים בממלכה המאוחדת". בניסוח של כללי לוגיקה עבור (א) בלבד, נקבל:
X הוא אזרח בריטי אם:
X נולד בממלכה המאוחדת
ו- X נולד בתאריך Y
ו- Y הוא לאחר החלת החוק
ו- Z הוא הורה של X
ו- Z היה אזרח בתאריך Y
כדי להחליט אם X הוא אכן אזרח, נצטרך לשאול מהו תאריך לידתו ולשמור אותו כ- Y. ערכו של Y ישמש אותנו גם להשוואה עם תאריך תחולת החוק וגם לבדיקה אם ל- X יש הורה (Z) שבאותו תאריך Y היה אזרח. כדי לדעת אם ההורה היה אזרח יש אולי להציב את ההורה ב- X ולבדוק את הכלל לגביו (מה שיחייב התייחסות לסביו ולסבותיו של המועמד לאזרחות) או להזדקק לחלקים אחרים של החוק.
האם זה מספיק? המחשב אינו אפילו יודע את משמעות המושג "הורה", ולכן יש להגדיר כלל לוגי נוסף:
Z הוא הורה של X אם:
Z הוא אביו של X, או
Z הוא אמו של X
וכדי לקצר נניח כי "אב" ו"אם" נמצאים במסד הנתונים ואינם זקוקים להגדרה נוספת.

שימוש בכללים לוגיים לצורך שיפוט לפי החוק

המחשב מתחיל בשאלה: האם X הוא אזרח? הוא מחפש כללים שיענו על כך. סביר שהמחשב ימצא כללים שאי אפשר להשתמש בהם בלי להזדקק למידע נוסף, כמו תאריך לידתו של X, או להזדקק לכללים נוספים, כמו הגדרת המושג "הורה". כדי להבהיר זאת, הנה חלק מדו-שיח מקוצר בין משתמש לבין התוכנה (השיחה האמיתית התייחסה לשיקולים רבים נוספים):
משתמש: האם פיטר הוא אזרח בריטי בתאריך 16 בינואר 1984?
מחשב: מהו תאריך לידתו של פיטר?
משתמש: 3 במאי 1983
מחשב: האם פיטר מת לפני 16 בינואר 1984?
משתמש: לא
מחשב: האם פיטר נולד בממלכה המאוחדת?
משתמש: כן
מחשב: מיהו אביו של פיטר?
משתמש: למה? (מבקש לדעת למה המחשב זקוק למידע זה)
מחשב: אם X הוא אביו של פיטר אז X הוא הורה של פיטר. אם X הוא גם הורה של פיטר וגם אזרח בתאריך לידתו של פיטר, 3 במאי 1983, אז פיטר קיבל אזרחות באותו תאריך. פיטר עדיין חי בתאריך 16 בינואר 1984, לפיכך אם הוא לא איבד את אזרחותו בין 3 במאי 1983 לבין 16 בינואר 1984 אזי אוכל להראות שהוא אזרח.
בהמשך הדו-שיח דנים המשתמש והמחשב בוויליאם, אביו של פיטר, כדי לברר אם ויליאם היה אזרח בתאריך הלידה של פיטר, ולשם כך המשתמש מספק את תאריך הלידה של ויליאם ומידע נוסף לגביו. המחשב גם שואל מספר שאלות כדי לבדוק אם פיטר לא איבד את אזרחותו בין 3 במאי 1983 לבין 16 בינואר 1984 על ידי כך שוויתר עליה או שאזרחותו נשללה.

מגבלות הבינה המלאכותית בניסוח החוק

כבר הזכרנו את המגבלות שהמחקר נטל על עצמו מלכתחילה: התעלמות מהצורך בשופט אנושי להחליט מהן העובדות (אולי פיטר משקר?), חוסר שימוש בתקדימים, ואי-טיפול במצבים שבהם החוק תלוי בחוקים אחרים. תוך כדי העבודה, גילו החוקרים מגבלות נוספות:
חוסר הבנת העולם: ראינו קודם שהיה צורך להגדיר למחשב את המושג "הורה", כי למחשב אין הגדרות בסיסיות כאלו של מושגים בהם הוא משתמש. באותה מידה, החוק אינו מציין שרק בני אדם עשויים להיות אזרחים, וייתכן מאוד כי המחשב היה מחליט כי פיטר הוא אזרח גם אם היה ידוע לו שפיטר הוא ברווז. חוסר ידע בסיסי כזה גם מונע מהמחשב כל סיכוי לפרש את החוק כאשר קיימת אי-בהירות, כי פירוש החוק תלוי בהבנת רצון המחוקק, והבנה זו דורשת לפחות היכרות עם משמעות האזרחות עבור המדינה ועבור המועמד.
לוגיקה של שלילה ו- "אילו לא": קשה ליצור לוגיקה עקבית וקלה לשימוש המטפלת נכון במצבים כמו "X הוא אזרח אם לא היתה צריכה להישלל אזרחותו לפי סעיף 11.2", או אפילו יותר קשה: "X הוא אזרח אם אביו היה הופך להיות אזרח אילו אביו לא היה מת לפני החלת החוק". התוצאה: ניסוח מורכב, ארוך וקשה להבנה, אפילו עבור סעיפים קצרים בחוק.
הגדרת יוצאים מהכלל: גם ניסוח החוקים פגיע לבעיה קלאסית של לוגיקה ממוחשבת – בעיית ה"יוצאי דופן". סביר לכלול במאגר הידע את הכלל: "אם X הוא עוף אזי X יכול לעופף". הכלל נכון בדרך כלל, אך לא עבור פינגווינים. אם ברצוננו לתאר את העולם האמיתי, אין טעם לנסות ליצור רשימה של כל היוצאים מהכלל: תוכי מת, ציפור שכנפה שבורה, גוזל, יונה שרגלה נקשרה לחוט שקוף (כמו בפרסומת בחירות ששודרה לפני מספר שנים), וכו'. בהתאם לגישה זו נחליט כי X יכול לעוף לאחר שחקרנו את כל היוצאים מהכלל האפשריים ופסלנו את כולם. הבעיה היא לא רק בחקירה המפרכת הנדרשת כדי לעשות זאת. אין דרך להגיע לרשימה מלאה, שלא לדבר על אי-בהירויות – מאיזה גיל ייחשב הגוזל כיכול לעוף?
פתרון אחר הוא הפעלת לוגיקה מסובכת יותר, שבה נחליט כי X יודע לעוף כל עוד לא גילינו ש- X הוא אחד מהיוצאים מהכלל. בניגוד ללוגיקה ה"רגילה", שבה עובדות יכולות להתוסף לידע שלנו אך לעולם לא להשתנות, בתהליך כזה כל מסקנה היא "על תנאי" ועשויה להימחק על ידי עובדות חדשות, ולכן הלוגיקה נקראת "לא-מונוטונית". חשיבה כזו כנראה קרובה קצת יותר לדרך שבה חושבים בני אדם, אך היא מציבה אתגרים קשים בפני עצמם של מגבלות חישוביות, עקביות והימנעות מסתירות.
ניסוי וטעייה: כתוצאה מהתלות בין סעיפי החוק, שינוי קטן בתרגום ללוגיקה של תת-סעיף אחד יכול לגרום לפגיעה בלוגיקה שכבר עבדה נכון. העבודה על תרגום החוק דמתה יותר לריקוד של שני צעדים קדימה וצעד אחד אחורה מאשר להתקדמות סדרתית, שורה אחר שורה.
נפח העבודה: החוקרים לא סיימו את תרגומו המלא של חוק זה, המשתרע במקורו על כמה עשרות עמודים. הם יצרו כ- 150 כללי לוגיקה שכיסו יחד חלק אחד מחמשת החלקים של החוק, יחד עם הגדרות שבאו מחלק נוסף ועם הגדרות שכל אדם היה יודע - כמו "הורה". הם העריכו כי ניסוח מלא של החוק היה דורש כ- 500 כללי לוגיקה!

עורכי הדין יכולים להירגע

בחרתי להתמקד במחקר שאינו ממש חדש (הוא נעשה ב-1986) כדי להציג את הרעיונות הבסיסיים, יחד עם הבעיות העיקריות. מחקר זה הצליח במטרתו המרכזית - ניסוח חוקים בצורה של מערכות לוגיות הניתנות לשימוש על ידי מחשב. בשנים שחלפו מאז, הושגו התקדמויות מרשימות והתפתחה תת-דיסציפלינה המוקדשת לתחום זה (ראו קישורים בסוף המאמר). למרות זאת, עדיין נראה כי כיום קיים מרחק עצום בין יכולת הבינה המלאכותית לבין יכולת אנושית. אם התחלנו בטענה כי מערכת המשפט שלנו פועלת למרות שהיא תלויה בבני אדם, אולי יש להסיק עכשיו כי מערכת המשפט פועלת בזכות הסתמכותה על בני אדם ועל יכולתם המופלאה להחליט מהן העובדות ומה אומר החוק לגביהן – החלטות שלעיתים קרובות הן גם נכונות וצודקות.
האם המסקנה היא כי אין שום שימוש כיום לבינה מלאכותית בתחומי המשפט? בשום אופן לא. התוכנה אינה יכולה להחליף את השופט או עורך הדין, אך בהחלט יכולה לעזור לו: במקום מערכות מחליטות, אפשר ליצור מערכות תומכות-החלטה. התוכנה תמיד מקפידה להפנות את המשתמש לחלק הרלוונטי בחוק כדי להציע לו לפרש את החוק עבור המקרה שלו, ועדיין יש הרבה מאוד עבודה בתחום זה לעורכי דין ורואי חשבון. תחום נוסף הנמצא בשימוש נרחב הוא חיפוש חכם במאגרי החוקים ובמיוחד מאגרי פסיקות קודמות כדי לצמצם את הכמות העצומה של חומר העשוי להיות רלוונטי. כמו כן אפשר להשתמש בבינה מלאכותית לעזרה ביצירת מסמכים משפטיים מורכבים או בבדיקתם. קיים כבר היצע מסחרי רחב בתחומים כמו ייעוץ מס, זכויות פנסיה, הטרדה מינית, קניין רוחני ועוד.
במקום החלפה של אדם במחשב, הגענו כאן לשיתוף פעולה. גם האדם וגם המחשב מפעילים את סוגי ה"בינה" שבהם יש להם ייתרון,ונוצרת סינרגיה - אחד ועוד אחד השווים הרבה יותר משניים.