האם תוכנה תציל את העולם?

האם תוכנה יכולה להתריע ביעילות על אירוע טרור קרב? תוכנות שאוספות מידע מודיעיני סורקות אותו בחיפוש אחר תבניות קבועות, אך מסתבר כי התבססות על גישה זו בלבד אינה יעילה עקב פשטנותה, מהסיבות הבאות:
מספר התבניות: לכמה תבניות נזדקק? כמה מהן כבר ידועות לנו? יש לשים לב שריבוי תבניות אינו בהכרח יתרון. זאת מכיוון שיש צורך לעדכן ולעקוב אחר ביצועי כל אחת מהן, והגדלת מספר התבניות עשויה להגדיל את מספר אזעקות השווא. אחת התשובות החזקות ביותר לבעיה מסוג זה היא כלי בינה מלאכותית ללמידה: ננתח אירועים טרוריסטיים בעבר ואת המידע שנאסף בשבועות שקדמו להן, ונפעיל אלגוריתמים מתקדמים שייבנו בעצמם את התבניות הרלוונטיות. זהו פתרון לגיטימי, שהופעל בהצלחה במצבים מסוימים. אך כפי שנראה להלן הוא רחוק מלהתמודד עם חיזוי של טרור. מעבר לכך, כפי שמציין דאג נואל (Newel), מנכ"ל חברת תוכנה המתמחה ב"אינטליגנציה לחיזוי", שבוודאי אינו חשוד בהמעטת יכולת התוכנה, "פשוט לא עקבנו אחר מספיק טרוריסטים כדי ליצור מודל".
הגדרת מושגים: מה משמעות "נפח תקשורת גבוה" או "מיקוד תעמולה"? יש לתת למושגים כאלה ביטוי כמותי, כמו למשל "נפח גבוה הוא מעל עשרים הודעות ליום" או "נפח גבוה הוא יותר מפי שניים מהנפח הממוצע לאורך השנה האחרונה". אפשר גם להשתמש בהגדרות "מעורפלות" השאובות מתחום הלוגיקה המעורפלת ( fuzzy logic), וכך נטען ברמת ודאות של 80% שהנפח הוא גבוה אם הוא של 15 הודעות ליום, וב- 95% אם הגיע ל-20 הודעות. כך או אחרת, יש לספק הגדרות אלה לכל מושג בתבנית. תפקוד התבנית רגיש מאוד לפרטים המדויקים של ההגדרות.
רמת ודאות: לא כל פריט מידע אכן ידוע בוודאות מלאה. אם יש לנו סיבה להאמין ב- 70% ודאות שהתקשורת שנצפתה נבעה מארגון X, ולהאמין ב- 50% שארגון T קשור לארגון X, איזה הסתברות ניתן לאתרעה? בבינה מלאכותית יש תחום שלם – הסקה הסתברותית – העוסק בחישוב הסתברויות כאלה, אך חוסר ודאות בנתונים הגולמיים פוגע בדרך כלל באמינות המסקנה.
מידע חלקי: נניח כי מצאנו עובדות המתאימות לכל חלק של התבנית, אך לא ידוע לנו דבר על רכישת נשק. האם עלינו לחכות עד שיתקבל מידע מתאים, שייתכן שיגיע מאוחר מדי? אולי צריך בכל מקרה לתת את ההתרעה, אך ברמת אמינות נמוכה. אלא שסביר להניח כי בדרך זו נקבל שטף עצום של התרעות. הפתרון המקובל הוא להשתמש בממצא כזה כדי להנחות את גופי האיסוף לחפש את המידע החסר, אך גם כאן סביר שייתקבלו הרבה מדי הנחיות.
רטרואקטיביות: אם התבניות מכסות 90% מהתקפות העבר, איזה אחוז הן מכסות מהתקפות העתיד? לדוגמה, האם מישהו יכול היה להציע את התבנית "לימודי טיס חשודים" לפני ה- 9/11? האם כיום יש ערך לתבנית כזו לסיכול התקפות עתידיות?
רגישות: קיים מתח בין הצורך לזהות נכון אירועי אמת לבין הצורך להימנע מאזעקות שווא. רגישות גבוהה מדי תצליח ברוב המקרים לגלות סכנות, אך הן יסתתרו בין הרבה "גילויים" מוטעים (נוסח "זאב! זאב"). רגישות נמוכה מדי תקטין את מספר אזעקות השווא, אך תיכשל בגילוי אירועי אמת. רגישות ביניים עשויה להיפגע בשתי הדרכים.
קיום יריב: רוב התוכנות לזיהוי תבניות פועלות בסביבה נייטרלית. אך סביבה של טרור פועלת נגד הצלחת המערכת: היריב מודע לאמצעים המופעלים נגדו, ונוקט בשיטות לנטרלם. שיטות כאלה יכולות לכלול שינוי התנהגות (התחמקות מתבנית, מה שנקרא גם "שבירת שיגרה"), מניעת גילוי (לדוגמה שימוש בקוד הנשמע תמים, או הסתרת הודעות בקבצי מולטימדיה), או יצירה במתכוון של מידע המטעה את המערכת או "מציף" אותה. נכון כי זיהוי תבניות שימש בהצלחה לאיתור רמאויות בכרטיסי אשראי וביטוח, אך ארגוני טרור עשויים להיות בעלי תיחכום ומשאבים רבים יותר.
קריטריון להצלחה: רמאי ביטוח נחשב כנכשל אם כמעט כל ניסיונות ההונאה שלו הצליחו – מספיק לגלות רק אחד כדי להביא לכליאתו. ארגון טרור עשוי להיחשב כמצליח גם אם כמעט כל נסיונות החבלה שלו סוכלו, כל עוד יש לו גם "הצלחות".
כמות ומורכבות המידע: כיום קיימות מערכות זיהוי תבניות המצליחות בתחומים רבים, כמו מחקר רפואי, שווקי כספים, סקרים מסחריים ופוליטיים ועוד. מדוע לא לצפות כי אותן שיטות יתמודדו בהצלחה עם הקשיים שהוצגו כאן? למעשה, לפי אתר IAO, כמות המידע שייאסף תהיה בתחילה גדולה פי עשרה לערך מכל מה שנאסף בעבר. בהמשך, כמות המידע מתוכננת לגדול עוד יותר. גם מורכבות המידע גדולה בעשרות מונים על כל מה שנאסף בעבר. סיבה אחת לכך היא שהמידע כולל מגוון רחב של סוגי איסוף. סיבה שנייה היא שסוגים אלה מגיעים ממקורות רבים שאינם מתואמים ביניהם.
ביקורת זו מזכירה לנו את הביקורת של דייויד פרנס על תוכנית SDI: מול הטענה שכבר נכתבו מערכות תוכנה מורכבות, כמו תוכנת מעבורת החלל, הוא העמיד טיעונים זהים לטיעונים לעיל, כולל גודל הבעיה, האמורפיות שלה, קיום היריב והקריטריונים להצלחה.

האם זה יעבוד?

הטיעונים הללו מובילים אותי להטלת ספק רב ביכולת של פתרונות תוכנה "לדוג" התרעות אמינות מפריטי מידע כאשר כל אחד מהם לחוד אינו מיוחד מספיק לאתרעה.
נזכיר שוב כי זיהוי תבניות הוא רק חלק קטן מהפאזל הענק של טכנולוגיות המעקב האנטי-טרוריסטי. תקצר היריעה מלנתח בצורה דומה את המרכיבים האחרים, אך לפחות לגבי אחדים מהם כבר הועלו ספקות כבדים. מכיוון שזיהוי תבניות תלוי במרכיבים נוספים לצורך אספקת המידע, נראה כי המערכת כולה עומדת על כרעי תרנגולת.
לכך אפשר לענות כי הרבה רעיונות נהדרים נראו כבלתי אפשריים בתחילה. כפי שאמר סופר המדע הבדיוני המפורסם ארתור סי. קלארק: "כאשר מדען מכובד וקשיש מצהיר שמשהו אפשרי, כמעט ודאי שהוא צודק. כאשר הוא מצהיר שמשהו בלתי אפשרי, סביר מאוד שהוא טועה". לענייננו, קשה למצוא מישהו מתאים יותר לתיאור "מדען מכובד וקשיש" מאשר האנס בתה, שטענתו כי מערכות "מלחמת הכוכבים" הן בלתי אפשריות, מחזיקה מעמד מאז תחילת שנות השמונים.
טענה אחרת בזכות הפרוייקטים של IAO הושמעה גם בזכות SDI: אפילו אם זה לא יעבוד, ההשקעה בטכנולוגיות תוכנה והתקציבים הממשלתיים יקדמו את כל התחום ויביאו להתקדמות, חֶלקה בלתי צפוי. אחרי הכל, IAO הוא חלק ממערכת שממחקריה צמחה, כמעט במקרה, רשת האינטרנט!
מצד שני, צריך לבדוק האם יש דרכים יותר ישירות ואמינות לשיפור יכולת הסיכול. לדוגמה, לפחות התרעה אחת לאסון מגדלי התאומים נוצרה ללא שימוש בטכנולוגיות מתקדמות - עורכת דין במשרד ה-FBI במינאפוליס התחננה שייחקרו לימודי טיסה חשודים, אך ה-FBI התעלם מאזהרותיה. מכאן שייתכן שעדיף לארה"ב להשקיע פחות בטכנולוגיות של פענוח מידע מעורפל ויותר בשיפור זרימת המידע הזמין והברור.
עוד בעיה, אולי החמורה ביותר: כלי התוכנה של IAO ייכשלו כנראה במטרה שעבורה תוכננו, אך ללא ספק יהיו חזקים יותר, ועם נגישות להרבה יותר מידע, מכל מה שהיה קיים לפניהם. אין לזלזל ביכולות אלה ובהזדמנויות הגילוי והאכיפה שהן יאפשרו, והפיתוי לנצל אותן לצרכים ממשלתיים אחרים מהווה מדרון חלקלק ומסוכן. גם המפתחים עצמם, בחיפושיהם אחר הוכחה ליעילות הכלים שפותחו (הוכחה שלא תימצא במניעת טרור), עשויים – אולי רק לצורך חקר היתכנות – להפעיל את העוצמה שבידיהם לצרכים אחרים. מטבע הדברים, יכולת הציבור לפקח על השימוש במידע מוגבלת ביותר.

סגירת המעגל

לנוכח קווי הדמיון, נביט לאחור ונשאל מי צדק בדיון על SDI. פרוייקט-טיפוחיו של טלר, לוויין לייזר קרני ה-X, בזבז מיליארדי דולרים עד שהתוכנית נסגרה בכישלון מוחלט, כפי שהזהירו רבים כבר בראשית הדרך. גורל מערכות נשק "אקזוטיות" אחרות היה דומה. עיקר המאמץ הושקע בסופו של דבר בגישה הקונבנציונלית יותר של טילים נגד טילים.
ממשל בוש הנוכחי לא התייאש, ונוטה להרחיב את ההשקעות בגלגולה הנוכחי של SDI. מעניין כי בממשל זה פועלים כמה מהשחקנים המרכזיים באסטרטגיית "מלחמת הכוכבים" של רייגן. אחד מהם, ג'ון פוינדקסטר, איבד את משרתו כיועץ לביטחון לאומי של הנשיא רייגן, כחלק מפרשת איראן-גייט, לאחר ששיקר לקונגרס וניסה להשמיד תכתובת דואר אלקטרוני. פוינדקסטר מונה בפברואר 2002 כמנהל IAO. הוא בוודאי זוכר כי הוא נתפש בקלקלתו על ידי חיפוש בארכיוני דואר אלקטרוני. לקח זה מעלה את הספק אם פוינדקסטר הוא האיש המתאים להפעלה של ניטור דואר במטרה למנוע נזקים אחרים למדינתו.

בין מוסריות להיתכנות

בסוגיית SDI, דעתם של מדעני מחשב ידועים ומוערכים הגיעה גם לקונגרס האמריקאי, וזכתה להשפעה רבה. ההתייחסות לנושא ההיתכנות חשובה, בין השאר, כי לקובעי מדיניות יש סיכוי רב יותר להתייחס לדעות של מומחים בנושאים מקצועיים מאשר לדעותיהם בנושאים מוסריים.
ניתוח ההיתכנות גם מוסיף ממד נוסף לאספקטים המוסריים: לדוגמה, במחלוקת על מעקב ממשלתי רחב אחרי תנועותיו והתקשרויותיו של כל אדם, הטיעון לחיוב הוא: "נכון לוותר על מידה מסוימת של חירות אישית כדי לאפשר את המשך הקיום האישי". גם אם טיעון זה נכון מוסרית (ורבים חולקים על כך), הוא נפגם קשות אם הקרבת החירות האישית לא תקטין את האיום הטרוריסטי.