אחרי מתקפת הפתע של חמאס ב-7 באוקטובר אשתקד, צה"ל החל מיד במתקפה אווירית נרחבת ברצועת עזה, כשהוא מסתמך על מאגרי נתונים שנבנו בקפידה לאורך שנים וכללו כתובות מגורים, מנהרות ותשתיות קריטיות אחרות של ארגון הטרור. עם הזמן, החל בנק המטרות להידלדל וכדי לשמור על קצב התקיפות פנה צה"ל לכלי בינה מלאכותית בשם "הבשורה", שיכול היה לייצר במהירות מאות מטרות נוספות.
תחקיר נרחב ב"וושינגטון פוסט" בוחן את ההשפעה של שימוש בטכנולוגיות AI על המלחמה הממושכת, ההשלכות על כמות הנפגעים האזרחים ואת הפגיעה באיכות המודיעין הישראלי.
לפי שני גורמים שמכירים את המבצע לאיסוף מודיעין באותן טכנולוגיות ושוחחו עם העיתון האמריקני, השימוש בבינה מלאכותית למילוי מהיר מחדש של בנק המטרות, אפשר לצה"ל להמשיך את המערכה ללא הפסקה. לפי ה"פוסט", השימוש באותה תוכנה מתקדמת והצבתה במרכז הפעילות המודעינית של צה"ל תרמו ל"אלימות" במלחמה שנמשכת כבר כמעט 15 חודשים.
צה"ל לא מסתיר את קיומן של התוכנות האלו, שחלק מהמומחים רואים כשימוש בבינה המלאכותית הצבאי המתקדם ביותר אי-פעם. התחקיר של "הפוסט", נטען, חושף פרטים שלא דווחו בעבר על למידת המכונה לצד הפיתוח החשאי שלה וכן על ויכוח בדרגים הגבוהים בצה"ל, שהחל עוד שנים לפני 7 באוקטובר, על איכות המודיעין שנאסף על-ידי AI, לגבי אם "ההמלצות" של הטכנולוגיה זוכות לבחינה מספקת ואם ההתמקדות ב-AI החלישה את יכולות המודיעין של הצבא.
מבקרים פנימיים, צוין כבר בתחילת התחקיר, טוענים כי אותה תוכנת בינת מלאכותית הייתה הכוח מאחורי הקלעים שהעלה משמעותית את מניין ההרוגים בעזה. ה"פוסט" מסתמך על ראיונות עם יותר מ-12 אנשים המכירים את המערכות, שרבים מהם דיברו בעילום שם כדי לדון בנושאים הנוגעים לביטחון לאומי, ועל מסמכים שהגיעו לידיו.
"מה שקורה בעזה הוא מבשר לשינוי רחב יותר לאופן שבו מתנהלת מלחמה", אמר סטיבן פלדשטיין, עמית בכיר בקרן קרנגי, החוקר את השימוש בבינה מלאכותית במלחמה. לדבריו, נראה שצה"ל הוריד את הרף של שיעור הנפגעים האזרחיים המקובל במהלך המלחמה בעזה. "לשלב את זה עם מה שהמערכות הללו מציעות, כמו גם עם שאלת הדיוק, והתוצאה הסופית היא מקרי מוות רבים הרבה יותר ממה שדמיינו בעבר".
בצה"ל אמרו כי הטענות שהשימוש בבינה מלאכותית מסכן חיים הן "שגויות". "ככל שיש לך יותר יכולת לאסוף מידע ביעילות, כך התהליך מדויק יותר. אם כבר, כלים אלה צמצמו את הנזק הנלווה והעלו את הדיוק בתהליך המובל על-ידי בני אדם", מסרו בתגובה ל"פוסט".
עבודה של שבוע - נדחסה ב-30 דקות
אחד הגילויים המשמעותיים נוגע לשינוי הדרמטי שעברה יחידה 8200 תחת פיקודו של יוסי שריאל. התחקיר חושף כי נכון ל-7 באוקטובר 2023, 60% מהמשרתים ביחידה עסקו בתפקידי הנדסה וטכנולוגיה - פי שניים מאשר לפני עשור. שינוי זה כלל צמצום בכמות המומחים בשפה הערבית והדחת מפקדים שנתפסו כמתנגדים לשימוש ב-AI.
גורם מודיעיני הסביר כי צה"ל דורש שקצין יחתום על כל המלצה ממערכות "עיבוד הנתונים הגדולות" שלו, וכן כי "הבשורה" וכלי AI אחרים אינם מקבלים החלטות באופן אוטונומי. שריאל תמך בפיתוח של "הבשורה" שתוכננה על בסיס מאות אלגוריתמים חזויים, המאפשרת לחיילים לעסוק במגוון עצום של נתונים המכונים בצה"ל "הבריכה". האלגוריתמים מספקים את הקואורדינאטות של מנהרות, רקטות ומטרות צבאיות אחרות - והמלצות שעוברות בדיקה של אנליסט מונחות בבנק המטרות על-ידי קצין בכיר.
גורם צבאי, שעבד בעבר על המערכות, אמר ל"פוסט" כי באמצעות זיהוי התמונות של התוכנה, חיילים יכלו לחשוף דפוסים עדינים, הכוללים שינויים מזעריים בצילומי לוויין של הרצועה המצביעים על כך שחמאס טמן משגר רקטות או חפר מנהרה חדשה בקרקע חקלאית - וכך נדחסה עבודה של שבוע ל-30 דקות.
כמה מקציני היחידה הביעו בעבר חשש שטכנולוגיית ה-AI, שהאיצה את קבלת ההחלטות, מסתירה את הפגמים הבסיסיים שבה. גורם צבאי בכיר לשעבר, ששוחח עם ה"פוסט", אמר כי בדיווחים שנמסרו לבכירים לא ציינו מה האופן שבו נגזר המודיעין, בין אם על-ידי גורמים אנושיים ובין אם מערכות AI - מה שהקשה על הערכת הממצאים. "התייחסו לכל מידע אותו הדבר", אמר הבכיר. "אני אפילו לא בטוח שהאדם שהכין את הדוח ידע את ההבדל בין פיסות המידע".
כך למשל, סיפרו שני בכירים צבאיים לשעבר, בדיקה פנימית גילתה שבכמה מערכות בינה מלאכותית לעיבוד השפה הערבית היו אי-דיוקים, לא הבינו מילות מפתח וביטויי סלנג.
מערכת "הבשורה" ותוכנה נוספת המכונה "לבנדר", מסייעות גם לחזות את מניין האזרחים שעלולים להיפגע במתקפות, באמצעות תוכנות כריית מידע המשתמשות בכלי זיהוי תמונה לניתוח צילומי רחפנים לצד מעקב אחר טלפונים חכמים המתחברים לאנטנות סלולריות כדי להעריך את מספר האזרחים באזור.
בשנת 2014 יחס האזרחים הנפגעים המקובל בצה"ל היה אזרח אחד למחבל בדרג גבוה", אמר טל מימרן, שהיה יועץ משפטי של צה"ל בעבר. במלחמה הנוכחית, המספר עלה לכ-15 אזרחים עבור פעיל חמאס אחד בדרג נמוך ו"גבוהה באופן אקספוננציאלי עבור כאלו בדרג בינוני וגבוה". כך לפי ארגון "שוברים שתיקה", המסתמך על עדויות של חיילי צה"ל. ה"ניו יורק טיימס" דיווח בשבוע שעבר כי המספר עומד על כ-20. בצה"ל אומרים כי ההערכות לגבי הנזק הנלווה תואמות לחוק הבינלאומי, המחייב מדינות להבדיל בין אזרחים ללוחמים ולנקוט באמצעי זהירות כדי להגן על חיי בלתי מעורבים.
הוויכוח הפנימי: המכונה והאדם
חלק מהתומכים בשימוש בטכנולוגיה טוענים כי הפעלה אגרסיבית של חידושים טכנולוגיים כמו בינה מלאכותית חיונית להישרדותה של מדינה קטנה המתמודדת עם אויבים נחושים וחזקים. "עליונות טכנולוגית היא מה ששומר על ביטחון ישראל", אומר בלייס מיסטל, סגן נשיא במכון היהודי-אמריקני JINSA. "ככל שישראל תהיה מסוגלת לזהות מהר את יכולות אויב ולהוריד אותן משדה הקרב, ככל שהמלחמה תהיה קצרה יותר, יהיו פחות נפגעים".
בנוסף לחששות הנוגעים לאיכות המודיעין שמקורו ב-AI, לפי שלושה גורמים, השימוש בטכנולוגיה עורר שינוי פרדיגמה מפלג בתוך צה"ל, שהעניקה עדיפות ליכולת טכנולוגית. 8200 הסמיך לפני זמן רב אנליסטים בדרגה נמוכה לעקוף את המפקדים הישירים שלהם להעביר אזהרות ישירות למפקדים בכירים. אך ייתכן שהשימוש באותן תוכנות דווקא פגע בנוהג הזה.
כזכור, מפקד 8200, תא"ל שריאל, הודיע לרמטכ"ל, רב-אלוף הרצי הלוי ולראש אמ"ן, אלוף שלומי בינדר, על התפטרותו מצה"ל בעקבות חלקו באחריות לטבח ב-7 באוקטובר. שני מפקדים בכירים לשעבר אמרו ל"פוסט" כי הם מאמינים שההתמקדות הגוברת בבינה מלאכותית הייתה אחת הסיבות המשמעותיות שישראל נתפסה לא מוכנה במתקפת הפתע. היחידה הקדישה דגש יתר על המידה לממצאים טכנולוגיים והקשתה על אנליסטים להעביר אזהרות למפקדים בכירים. "זה היה מפעל בינה מלאכותית", אמר גורם צבאי בכיר לשעבר. "האיש הוחלף במכונה".
שמו של שריאל נחשף בעקבות פרצת אבטחה שחשף ה"גרדיאן" הבריטי, שבמסגרתה ספר שפרסם באמזון הוביל לנתיב דיגיטלי אל חשבון גוגל פרטי על שמו, לצד ID ייחודי וקישורים למפות שבאותו חשבון. בספר שפרסם, "The Human Machine Team" (צוות המכונה האנושי, בתרגום חופשי), הוא מציג את נקודת המבט שלו על בינה מלאכותית וכיצד היא יכולה לשנות את מערכת היחסים בין אנשי צוות למכונות.
לפני שמונה למפקד 8200, העביר שריאל שנת שבתון באוניברסיטה לביטחון לאומי, מוסד שמממן הפנטגון בוושינגטון. פרופ' מאותה אוניברסיטה, ששוחח עם ה"פוסט", סיפר שהוא ושריאל חלקו חזון רדיקלי לגבי שימוש ב-AI בשדה הקרב. לפי החזון שמציג שריאל בספרו, בינה מלאכותית תיגע בכל היבטי ההגנה, גם בזמן שלום וגם בזמן מלחמה ובאמצעות טכנולוגיות מעקב, גבולות ישראל יהפכו ל"גבולות חכמים". לדבריו, אותן טכנולוגיות עשויות להחליף 80% ממנתחי המודיעין המתמחים בשפות זרות תוך חמש שנים בלבד.
כשזה שב ארצה, הוא פעל להוציא את תוכניותיו לפועל, ומונה בקיץ 2020 על-ידי הרמטכ"ל דאז אביב כוכבי למפקד היחידה. כבר אז מפקדים לשעבר שיתפו האחד את השני בחששות לגבי "היחס הדתי לבינה מלאכותית" המתפתח ביחידה תחת שריאל. יחידת העילית פיתחה מוניטין של איסוף מידע באמצעים מקוונים וטכנולוגיות סייבר פנימיות הנחשבות לטובות בעולם.
אך לפעמים הנפח העצום של המידע הכריע את האנליסטים. לדוגמה, פעילי חמאס השתמשו לעיתים קרובות במילה "אבטיח", כקוד לפצצה, סיפר אחד האנשים המעורים בפרטים ל"פוסט", אבל המערכת לא הייתה חכמה מספיק כדי להבין את ההבדל בין שיחה על אבטיח אמיתי לבין שיחה מוצפנת בין מחבלים. "אם אתה קולט אלף שיחות ביום, האם אני באמת רוצה לשמוע על כל אבטיח בעזה?", אמר אותו אדם.
שריאל האיץ את מאמצי כריית הנתונים ודגל, כאמור, בארגון מחדש של מאמצי המודיעין והצבא השקיע בטכנולוגיות חדשות שעיבדו אלגוריתמים במהירות, כהכנה לעימות צפוי עם חיזבאללה. כך למשל אפליקציה בשם Hunter אפשרה לחיילים בשדה הקרב לגשת ישירות למידע.
עוד לפני מתקפת הפתע, 8200 בנה זמן רב את בנק המטרות, ואנליסטים נדרשו לאשר את הממצאים לפני עם שני מקורות בלתי תלויים ולרענן את המידע באופן רציף. כך לפי שלושה גורמים המכירים את התוכנית. לפני שמטרה מוכנסת ל"בנק", היא צריכה להיות "מאומתת" על-ידי קצין בכיר ועורך דין צברי כדי להבטיח שהיא עומדת בחוק הבינלאומי. בכירים במודיעין, בראשם שריאל, האמינו שאותה למידת מכונה יכולה להאיץ את התהליך הזה באופן דרמטי.
"הם באמת האמינו שעם כל החיישנים שהיו להם מסביב ומעל עזה, אני לא אגיד מודעות מודיעינית מוחלטת, אלא שיש להם תמונה טובה מאוד של מה שקורה בפנים", אמר מיסטל, שעומד בראש ארגון המתמקד בשיתוף פעולה ביטחוני בין ארה"ב לישראל.
ובעקבות אותם אירועים, כיום, ציינו ב"פוסט" לפי שלושה גורמים, 8200 עושה מאמצים לגייס עוד אנליסטים דוברי ערבית, גם כאלו שיעריכו ויבקרו את התוכנות. במקביל, בכירים ישראלים כבר לא מתפארים בשימוש בבינה מלאכותית.
