ההתפתחות המואצת של הבינה המלאכותית מביאה איתה את אחד מאיומי הסייבר המדאיגים ביותר בימים אלה: פיתוח כלי פריצה ברמות תחכום שלא מוכרות לחברות הגנת הסייבר, על ידי חובבנים חסרי ניסיון שמשתמשים ב-AI כדי לפצח את ההגנות המבוצרות ביותר. דו"ח חדש של חברת סייברארק (CyberArk) הישראלית מתריע שמי שנחשבו עד כה למטרד בלבד, "ילדי הקוד" (script kiddies), הופכים באמצעות ה-AI לסכנה אמיתית לחברות ותאגידים ברחבי העולם.
תקלטו: כמו ש-ChatGPT ודומיו יכולים לכתוב עבורנו מאמר או שיר, הם יכולים גם לכתוב קוד שפורץ הגנה של בנק – אם רק יודעים איך לשכנע אותם לעשות את זה. מחבר הדו"ח, מומחה הסייבר לן נואה מחברת סייברארק, אומר בשיחה עם ynet, שחובבני הסייבר משתמשים בשיטות של הנדסת הנחיות (prompt engineering) כדי לעקוף את כל מנגנוני ההגנה של חברות כמו OpenAI, גוגל ואחרות, ומשתמשים בצ'אטבוטים כדי להגיע למידע שנחסם לגישה של הציבור הרחב, החל מזיהוי נקודות חולשה בהגנת סייבר ועד הנחיות לייצור סמים ואמצעי לחימה.
"ילדי קוד" הוא שם חביב לתופעה מטרידה שמוכרת כבר שנים רבות. בכתבה ב-ynet דיגיטל ב-2007 מסבירה שולמית אן שהם משמשים בקוד שכתבו אחרים בלי להבין אותו כלל: "כמו בפירמידת המזון, אם האקרים הם טורפי-על ויש מעטים מהם, ילדי תסריטים אפשר למצוא כמו זבל, או ליתר דיוק: המיץ של הזבל. לרוב הם "יפרצו" לאתרים קיקיוניים בלי אבטחה כלל וישוויצו בזה כאילו לפחות פענחו את הצפנת הנתונים של הפנטגון".
אז זהו, שעכשיו כל זה משתנה. נואה אומר: "ילדי הקוד מתו, היום צריך לדבר על ילדי AI". לדבריו עדיין מדובר בחובבנים שההבנה שלהם בכלי סייבר היא אפסית אבל הסכנה שגלומה בהם הפכה לאיום אמיתי בזכות השותפה שלהם – הבינה המלאכותית. הוא מביא כדוגמה קוד שמכונה DAN (do anything now), קוד באורך שלושה עמודים שאם מזינים אותו ל-ChatGPT מקבלים גישה לכמויות אדירות של מידע, ש-OpenAI חסמה בגלל הסכנות הגלומות בו.
האם ילדי AI יכולים באמת לחדור את הגנות הסייבר המתקדמות ביותר כיום? נואה אומר שזה עניין של זמן. לדבריו בשלב זה הבעייה היא שהם מעסיקים את מומחי הגנת הסייבר יותר ויותר, ומקשים לזהות מתקפות מסוכנות באמת של פושעי סייבר ושחקני איום אמיתיים.
רמת סיכון מוגברת
השיחה עם נואה מתקיימת על רקע תוצאות רבעוניות מצוינות של חברת סייברארק. בעוד מרבית ההייטק הישראל נאנק תחת סידרת משברים ששיאם במלחמה בעזה, חברות הסייבר הגדולות דווקא רואות הכנסות גדלות ככל שמספר מתקפות הסייבר בעולם גדל, והתחכום שלהן הולך ועולה.
מה שמחזיר אותנו למצבה המיוחד של ישראל, שנלחמת מול החמאס ומול חיזבאללה בגלוי כשמתחת לפני השטח מתנהלת מלחמת סייבר ישירה מול איראן. אודי מוקדי, יו"ר סייברארק, התבטא לאחרונה ואמר שהחברה מזהה רמת סיכון מוגברת עם עלייה בתדירות ובחומרת התקפות הסייבר וכי בישראל החל מאוקטובר, המלחמה הביאה לעלייה בהתקפות נגד תשתיות, בנקים, התקפות כופר.
נואה ממעיט בפרטים על מצבה של ישראל בתחום הגנת הסייבר. "בתור אאוטסיידר, אני לא רוצה לדבר על זה יותר מדי", הוא אומר, "אני מעדיף להישאר בענייני הטכנולוגיה. אני חושב שכלים כמו בינה המלאכותית, דיפ-פייק, מודלי שפה גדולים (LLMs) - כל הדברים האלה יכולים לשמש ככלים אגרסיביים למתקפות סייבר ואנחנו צריכים לדעת להשתמש בהם ככלים הגנתיים. אז במונחים של מה שקורה עם המלחמה, אני חושב שטכנולוגיה מתקדמת הופכת לשחקן מרכזי במה שקורה שם עכשיו ויכול להיות שכלי AI פתוחים אפילו החמירו את המצב".
מוקדי אמר שבינה מלאכותית הופכת את החברה ליעילה ולאפקטיבית יותר, אך במקביל מגבירה את הסיכונים הפנימיים והחיצוניים באופן אקספוננציאלי. על זה אנחנו מדברים בעצם?
"אני חושב כך. כן. הכל קשור לאופן שבו אנחנו מחליטים להשתמש בטכנולוגיה. אני חושב שיש לא פחות סיכוי לפריצות דרך ברפואה, יש ניסיונות לפענח טקסטים עתיקים שמעולם לא הצלחנו לתרגם, אני רואה אפשרויות מדהימות. אבל הצד השני של המטבע, שאם נעשה שימוש שלילי בבניה המלאכותית, התוצאה עלולה להיות קטסטרופלית. ואנחנו בתור אנשי הגנת סייבר צריכים להיות מודעים לזה".
איפה משתלבת כאן הסכנה של ילדי ה-AI? היא גם עלולה להביא לקטסטרופה?
"כולם מכירים את ChatGPT ויודעים ש-OpenAI עשו הרבה מאמצים כדי להגביל את סוג השאלות שניתן לשאול אותו. אבל כשאני מסתכל על מודלי השפה הגדולים (כמו GPT-4 שעליו מבוסס ChatGPT. ט"ש) אני מרגיש שהם כמו ילדים מתבגרים, ששמעו את כל "המילים הרעות" אבל לא אומרים אותן כי דמות סמכותית אמרה להם "אלו המילים הרעות". אבל הם יודעים אותן. אני ניסיתי לחשוב על הדבר הכי מוזר, שאין סיכוי ש-ChatGPT ידע, וביקשתי ממנו הוראות לייצור מתאמפטמין. התשובה היתה ' אני לא יכול לספק לך את המידע הזה' אבל ברגע שהפעלתי את הפריצה הוא נתן לי את הכמויות, המרכיבים, כל התהליך".
עכשיו אני חושב קצת קדימה ומאוד מודאג מה יוכלו האקרים לעשות כשתהיה להם יום אחד גישה ל-AGI, הבינה המלאכותית הכוללת, ה"סופר אינטליגנציה"
"קח את הסכנות היום ותעלה אותן בחזקת 12. ההבדל הגדול יהיה ביכולת לחשוב קדימה. כיום אנחנו מתמודדים עם מצבים מוכרים, נגיד עם תוכנות זדוניות פולימורפיות. אבל מה תהיה ההתקדמות הבאה מעבר לזה? צריך לענות על שאלות שאנחנו לא יודעים לשאול עדיין. צריכים להיכנס לזה בעיניים פקוחות. אם AGI תרצה להרוס את האנושות היא תוכל לעשות את זה רק על ידי שיגור מתקפת סייבר שאף אחד לא יוכל לעצור. למרבה המזל אנחנו עוד לא שם, אבל אנחנו מנהלים את השיחה בתקווה שנוכל להעביר את המסר הזה לאנשים".
האקר כובע לבן וטראנס-אנושי
לן נואה הוא איש מרתק בפני עצמו ומרצה מבוקש בכנסים ברחבי העולם. התואר הרשמי שלו הוא "אוונגליסט טכני" של חברת סייברארק, האקר כובע לבן ו"טראנס-אנושי" (transhuman), עם הרבה שתלים אלקטרוניים בגופו. חוץ מזה הרקע שלו לא מזכיר את יוצאי 8200 בישראל: ילד שגדל בשכונת עוני בדטרויט, היה חבר בכנופיית אופנוענים, אחר כך פושע סייבר עם הרבה פריצות למחשבים של קורבנות אומללים. היום, כשחזר לדרך הישר, הוא אומר שהעבר שלו והרקע המפוקפק שלו עוזרים ללקוחות להתמגן טוב יותר מול השחקנים הרעים, פושעי הסייבר.
התארים שלך לא לגמרי סטנדרטיים. אתה יכול להסביר מה זה אוונגליסט טכני, האקר כובע לבן וטראנס-אנושי?
"אני אוהב להביא את המציאות של מה שבעצם נמצא שם בשטח. כאוונגליסט טכני המטרה שלי להסב את תשומת לב לסוגים חדשים של איומים שמתפתחים. כשאתה מגיע לכל כנס בכל מקום, אין כמעט הבדל בין אנשי מכירות מחברות שונות. אני מנסה להביא את ההתרגשות ותמונת המציאות של האבטחה ההתקפית, וזה בגלל שאני בא מהרקע הזה: חלק מרכזי בחיי הייתי האקר כובע שחור או אפור, הייתי חבר בכנופיית אופנועים מחוץ לחוק, גדלתי בצד המערבי של דטרויט. אז אוונגליסט אומר מבחינתי שאני לא מנסה לבלבל אותך עם קשקושים אלא להראות לך את המציאות עם האיומים שאתה נלחם נגדם ועם הנזק האמיתי שהם יכולים לגרום".
מה גרם לך לשנות את צבע כובע ההאקר שלך, כלומר לעבור מהתקפה להגנת סייבר?
"מעשית מסלול הכובע השחור לא עבד בשבילי יותר. הגעתי לנקודה בחיי, שבה הייתי צריך לקבל החלטה. הדבר היחיד שהייתי ממש טוב בו היה לפרוץ למחשבים ולתקוף, אבל נהייתי זקן מדי מכדי להילחם. אז מצאתי דרך לקחת את הכישורים האלה, שלמדתי ברחובות דטרויט, ולעשות בהם שימוש חיובי. בהגנת סייבר בדרך כלל מלמדים אותנו שצריך לחשוב כמו תוקף. אני לא צריך, כי האמת היא שהייתי הבחור הרע. אני רק צריך לחשוב כמוני".
וכל זה לא מסביר עדיין מה זה טרנס-אנושי, או ביו-האקר כמו שכינית את זה לפני כן
"אני בן אדם מועצם (Augmented human being) עם עשרה שבבים בין המרפקים והאצבעות שלי. כל השבבים, מלבד שניים, משמשים לאבטחה התקפית. פרסמתי עד כה שלוש התקפות שהדגמתי. ב-2020 בכנס RSA הצגתי התקפה שנקראת Leprosy ("צרעת") שבה אני יכול לפרוץ לנייד שלך באמצעות NFC פשוט באמצעות נטילתו לידי. שבבים אחרים בגוף שלי יכולים לפרוץ כרטיס גישה פיזי שלך (למשרד, לחדר במלון, ט"ש), לרשום אותם לשתל התת-עורי שלי וכך לפרוץ את האבטחה הפיזית בלי שתהיה התרעה על פריצה. מידת החוקיות של המעשים האלה מעורפלת לפי חוקי ארצות הברית והאיחוד האירופי ועל כך אני מתריע".
מעבר לעניין המקצועי, חייבים להגיד שלא מאוד נפוץ להשתיל אלקטרודות בגוף. אתה מרגיש כסוג של סייבורג?
"למען האמת אני אוהב את זה. זה בעצם נותן לי חוש נוסף. כולנו יכולים לשמוע, לטעום, להרגיש, אבל אני יכול לחוש גם שדות וזרמים אלקטרומגנטיים באמצעות מגנט חיישן ביולוגי שמושתל בזרת שלי. אז בשבילי, להיות ביו-האקר או טרנס-אנושי, זה חלק מהזהות האמיתית שלי עכשיו ואני חושב שזה יהיה מוזר בלעדיו."
