תוכנה להצלת העולם - שוב?

גופים מסוכנים השיגו שליטה על נשק השמדה המוני המאיים על שלום העולם. המעצמות הדמוקרטיות משקיעות מיליארדים בחזון טכנולוגי שמטרתו להציל חיים, אך לפתרון זה קמות התנגדויות מכיוונים מוסריים, כמו גם הנדסיים. לכל קורא עיתונים קל לפענח את התיאור: הזמן הוא עכשיו. הגופים המסוכנים הם ארגוני הטרור הבינלאומי ובראשם אל-קאעידה. הנשק: מסכינים לצורך חטיפת מטוסים ועד לוחמת אב"כ. הפתרון: כלי מעקב, איסוף, שיתוף וניתוח אינפורמציה המפותחים על ידי ארה"ב ומדינות אחרות.
והנה, כבר לפני עשרים שנה, במסגרת "יוזמת ההגנה האסטרטגית" (SDI – Strategic Defense Initiative) של נשיא ארה"ב רונלד רייגן, התקיימו כל הרכיבים, אלא שהשחקנים היו שונים: הגופים המסוכנים, בעיני ממשל רייגן, היו שליטי ברית המועצות. נשק ההשמדה היה כמות אדירה של טילים בליסטיים בעלי ראש נפץ גרעיני, שעוצמתם הכוללת היתה גדולה פי מאות אלפים מהפצצה שהחריבה את הירושימה. הפתרון שהוצע היה SDI, יוזמה שהוכרזה ב-1983 וזכתה לכינוי הפופולרי "מלחמת הכוכבים": שילוב רחב של אמצעי גילוי והשמדת טילים, שכללו בין השאר לוויינים חמושים בלייזרים, קרני חלקיקים, ומראות מרחפות בחלל.

היבטים מוסריים, היבטים טכניים

רבים הטילו ספק בכך ש-SDI תצמצם את הסיכוי למלחמה גרעינית או את מספר הנפגעים: ראשית, פיתוח הגנה חזקה מעודד פיתוח התקפות חזקות יותר, כמו למשל הגדלת מספר הטילים הגרעיניים ושיפור הפונקציונליות שלהם. בכך נפגם הסיכוי להצלחת התהליכים של צמצום הנשק הגרעיני. כמו כן, אם נשק גרעיני לא יכול להישלח על ידי טיל, הוא יישלח ליעדו באמצעים אחרים – למשל מזוודה.
שנית, האם נוכל לסמוך על כל ממשלה בעתיד שלא תמצא דרך להפעיל את מערכות SDI כנשק התקפי? הובע גם החשש כי מדינה ההולכת ומאבדת את היכולת שלה לאיים על ארה"ב תחליט לפתוח במתקפה גרעינית לפני ש- SDI הופכת למבצעית. במובן זה, עצם הפיתוח של SDI גורם למלחמה.
בהיבט הטכני, רבים הטילו ספק כי אפשר יהיה לעצור מתקפה משולבת של עשרות אלפי טילים. בין המבקרים הבוטים היה חתן פרס הנובל לפיסיקה האנס בתה (Bethe). מולו סיפק אדווארד טלר (Teller), "אבי פצצת המימן", את הגיבוי המדעי להצהרות רייגן, ובמיוחד תמך בפיתוח לייזר קרני-X שיופעל מלוויין ויקבל אנרגיה מפיצוצים גרעיניים.
הוויכוח בתחום התוכנה זכה לפרסום רב ב- 1985, כאשר התפטר דייויד פרנס (Parnas), מדען מחשב ידוע שהתמחה בתוכנות של מערכות נשק מורכבות, מפאנל המחשוב של SDI. פרנס ויתר על שכר ייעוץ של כ- 1,000$ ליום כשהגיע למסקנה שלא ניתן לפתח תוכנה שבסבירות גבוהה תתפקד היטב בפעם הראשונה שבה יזדקקו לה. לדעתו הצטרפו מדעני מחשב נוספים, כמו חלוץ הבינה המלאכותית ג'וזף ווייזנבאום (Weizenbaum) שכתב את תוכנת "אלייזה".

איך מזהים טרוריסט על ידי איסוף נתונים?

בהמשך נחזור ל- SDI ולשאלה האם התגשמו נבואותיהם של בתה ופרנס. אך קודם לכן נתאר את יוזמות המעקב האנטי-טרוריסטי של היום, ונסקור את קווי הדמיון בינן לבין ההיסטוריה של ה-SDI.
אחד מהגופים העוסקים בתחום הוא המשרד למודעות למידע (IAO – Information Awareness Office) של מחלקת ההגנה של ארה"ב. רשימת הפרוייקטים של IAO כוללת זיהוי אנשים מרחוק לפי ה"חתימה" שלהם – פנים, צורת הליכה, ורשתית העין; זיהוי תבניות התנהגות הקשורות לפעילות טרוריסטית; ותוכנה לשיתוף מידע בין הרשויות השונות הפועלות למניעת טרור. בין הפרוייקטים נמצא גם "מודעות טוטאלית למידע" (TIA – Total Information Awareness) הכולל שלושה חלקים: תרגום וסיכום אוטומטי של פרסומים זרים; כלי חיפוש מידע וזיהוי תבניות; וכלים לשיתוף מידע ולתמיכה בקבלת החלטות. הפרסומים של IAO ו- TIA מפגינים מודעות לחשש מפגיעה בפרטיות, ומבטיחים כי חלק מהפיתוח יכלול טכנולוגיות למניעת ניצול-לרעה פנימי או התקפה חיצונית.
לצורך מיקוד הדיון, נתעלם לא רק מהפגיעה בחירויות הפרט ובדמוקרטיה, אלא גם מהקשיים הטכנולוגיים הכרוכים ביצירת החומר הגולמי, כמו התמלול האוטומטי של שיחות בשפות שונות, ותרגום אוטומטי של תמלול כזה או של תקשורת כתובה. נתמקד בזיהוי תבניות: ההנחה היא כי פעילויות טרוריסטיות יוצרות תבניות מסוימות המיוחדות להן, וזיהוי תבנית כזו לא רק מזהיר מפעילות כזו, אלא גם מספק אזהרה ברורה על אופייה ומועדה.
מסיבות מובנות, העוסקים בתחום אינם מתארים פרטי תבניות כאלה, אך אפשר לנחש כי לפני אירוע מורכב תהיה עלייה בתקשורות הגלויות והמוצפנות של מפקדות טרור; או כי צירופים מסוימים של רכישות, המקושרים להימצאות אנשים "מעניינים" באזור ביצוע העסקאות, מצביעים על הצטיידות בנשק השמדה. דוגמה זו מדגישה את הצורך בשילוב מקורות מידע – במקרה זה עלינו לקשר רשימת חשודים לדיווחי נסיעות ולדיווחי מכירה.

בינה מלאכותית לזיהוי תבניות

אחת ממטרות TIA היא "לכלול תבניות המכסות 90% מהתקפות טרוריסטיות ידועות מהעבר". לצורך השגת מטרה שאפתנית כזו, טבעי לפנות לתחום הבינה המלאכותית, בו נצבר ניסיון רב ומחקר מעמיק בזיהוי תבניות.
ראשית, יש להתחיל בשילוב כמויות אדירות של מידע ממקורות שונים, כמו תנועות אנשים, מודיעין גלוי וחסוי, עסקאות, זרימת כספים ותקשורת בכל צורותיה – טלפון, דואר אלקטרוני, עיתונות כתובה ואלקטרונית. שלב זה מעמיד אתגרים טכניים, כמו נפח המידע ואינטגרציה בין מערכות מידע שונות שלא תוכננו לפעול יחד. מעבר לכך, נוצרים אתגרים קונספטואליים, כמו: איך אפשר לקטלג את המידע בצורה יעילה, במיוחד כאשר הקטגוריות המעניינות אינן ידועות מראש?
איך נאפשר לאדם המעיין במידע להתמצא באוקיינוס האמורפי של כל העובדות שנאספו? לכך יש לצרף את שיקולי אבטחת המידע: לא כל משתמש יוכל לגשת לכל פריט, אבל סביר שנרצה לתת למשתמש לשאול כמה אירועים מסוג מסויים אירעו, בלי לתת לו גישה לפרטים על כל אירוע או למקורות המידע על אירועים אלה.
לאחר שהמידע נאסף, האם מספיק להורות לתוכנה לנסות להתאים אותו מול כל תבנית ידועה? אם כן, מספיק לתת הוראה כמו למשל "אם התעמולה של ארגון טרוריסטי X התמקדה בזמן האחרון בהאשמות כלפי מדינה Y, ואם נקלט השבוע נפח תקשורת גבוה בין ארגון X לבין כתובות במדינה Y, ואם ארגון X או ארגון T הקשור לארגון X רכש נשק מסוג W, יש סבירות גבוהה להתקפה בנשק W במדינה Y." המחשב יסרוק את כל המידע ברשותו בניסיון למצוא X, Y, T, W שעבורם ידועות עובדות המתאימות לתבנית זו, ואם אלה יימצאו, הוא ייצור מייד התרעה מפורטת מספיק לסיכול ההתקפה. מסתבר כי גישה כזו היא פשטנית מדי, מסיבות רבות, שיפורטו בכתבה הבאה.