פעם חשבנו שהבעיה העיקרית עם בינה מלאכותית יוצרת (GenAI) זה שהיא ממציאה דברים. כמה תמימים היינו אך לפני כמה חודשים. כעת, GenAI זה לא רק צ'אטבוט שמפטפטים איתו באתר, אלא גם אפליקציות AI שונות בסמארטפון ותוכנות AI במחשב האישי המסוגלות להחליף אותנו ולבצע פעולות במקומנו. זה מאוד מלהיב, אבל גם מאוד מסוכן.
"הסכנה הכי גדולה שזיהינו לאחרונה היא ש-OpenAI ואנת'רופיק שחררו גרסאות ChatGPT וקלוד (Claude) למחשב", טוען איתמר גולן, מייסד משותף ומנכ"ל חברת הסטארט אפ פרומפט סקיוריטי (Prompt Security). "זה כבר לא שאתה כותב לו הנחיה (prompt) באתר והוא מבצע. קלוד יכול ממש לשלוט במחשב שלך: הוא יכול ללחוץ על הכפתורים, להיכנס לאפליקציות, להריץ פקודות ב-SHELL וכדומה".
לדבריו, היכולות האלה מאפשרות ל-AI לבצע פעולות מגוונות כמו לכתוב מיילים עבור המשתמש, להכין תוכניות פיננסיות או לכתוב עבורו קוד. אבל יחד עם זה, הן חושפות את המשתמש לסכנות: "ה-AI מקבל המון הרשאות וזה מוליד חולשות ומתקפות חדשות, שחלקן נחשפו לאחרונה. המחשב שלך יכול לגשת פתאום לאתר זדוני באינטרנט שהזריק לו הנחיה (indirect prompt injection), ולשלוח את כל הקבצים שעל המחשב שלך, או להריץ קוד זדוני שפוגע בנתונים שלך".
סוכן עצמאי, אך בעייתי
היכולות החדשות של מערכות ה-AI השונות מוכרות כבר במה שנקרא "סוכני בינה מלאכותית" (AI agents): מגדירים ל-AI משימות לביצוע, ומבצע אותן מבלי שצריך לתת לו הנחיות שוטפות. הבעיה, כמו בכל טכנולוגיה חדשה שיוצאת לאוויר העולם, שמיד מגיעים החבר'ה הרעים ומוצאים לה שימושים שפוגעים במשתמשים, מרמים אותם ומנסים לגנוב ולהרוס.
4 צפייה בגלריה
עוד ועוד חברות טק נכנסות לתחום ה-"סוכני AI" שמטרתם לבצע פעולות עבורכם. אחת מהן היא כמובן מיקרוסופט.
(מיקרוסופט)
כמענה לתופעה, חברת פרומפט סקיוריטי פיתחה טכנולוגיה שמונעת שימוש לרעה ב-AI שלנו. השיטה - פיקוח על הטקסטים שנכנסים ויוצאים בין המשתמש לבין ה-AI, ומניעת זליגה של טקסטים זדוניים אל תוך המערכת. החברה הציגה את המוצר הראשון שלה בינואר השנה, ועכשיו היא יוצאת עם מוצר שני, שהוא למעשה סוכן AI שמשימתו היא לפקח על סוכני ה-AI שמותקנים במחשב. בקרוב יצא מוצר שלישי שמטרתו לפקח על סוכני ה-AI שנמצאים בסמארטפונים שלנו.
"מאז ינואר עולם ה-AI צמח משמעותית, אז התרחבנו בתחום הפעילות שלנו ויש לנו כעת סוכן אבטחה (כמו שקיים בחברות הגנת סייבר, ט"ש) שמטפל באפליקציות המותקנות על המחשב עצמו", אומר גולן. "השאיפה שלנו היא שכל אינטראקציה של המשתמש עם ה-AI תנוטר על ידינו. כרגע אף אחד בעולם לא עושה את זה, אז מבחינתנו זה גיים צ'יינג'ר רציני".
אז בעצם פיתחתם סוכן AI שפועל נגד סוכני AI?
"בדיוק. כמו שאומרים 'נלחמים באש עם אש', אז ככה גם בעולמות הבינה המלאכותית - הדרך היחידה להילחם ב-AI' היא להשתמש ביכולות AI".
עניין גדול של השוק ושל המשקיעים
פרומפט סקיוריטי הוקמה באוגוסט 2023 על ידי המנכ"ל איתמר גולן, וסמנכ"ל הטכנולוגיה ליאור דריהם, שניהם יוצאי 8200 ובוגרי חברות סייבר כמו צ'ק פוינט ואורקה סקיוריטי. היום (ד') החברה דיווחה על גיוס הון שני (גיוס A) בהיקף של 18 מיליון דולר - סכום משמעותי לשלב מוקדם שכזה, המגיע עשרה חודשים בלבד אחרי הגיוס הקודם, שעמד על 5 מיליון דולר. בדרך כלל כשזה קורה, זה מעיד על על עניין גדול מצד המשקיעים וצורך גובר בשוק.
גולן: "התחלנו לעבור מחברות של מאות עובדים לחברות ענק מרשימת הפורצ'ן 500, וזה נתן עוד חותמת להיתכנות של השוק הזה וליכולת שלנו, והחלטנו שאנחנו רוצים לנצח את הקטגוריה הזו. במקביל, התחילו להגיע הצעות מהקרנות הטובות בעולם להשתתף, שזה לא מובן מאליו בשוק הנוכחי, והיינו צריכים לבחור בין עשר הצעות שונות של קרנות וחברות שרצו להשקיע".
בסופו של דבר, סיבוב הגיוס הובל על ידי קרן Jump Capital, והשתתפו בו המשקיעה הראשונה Hetz Ventures וקרן Ridge Ventures, אבל גם חברות הגנת הסייבר הענקיות Okta ו-F5, מה שמעיד על הפוטנציאל שהן רואות בתחום הגנת ה-AI.
4 צפייה בגלריה
בכל הנוגע לבינה מלאכותית, "עדיף להילחם באש עם אש"
(התמונה נוצרה באמצעות מחולל התמונות DALL-E3)
אין ספק שחברות רבות רוצות להשתמש ב-AI, אך המכשול מבחינתן הוא הפחד מדליפת נתונים ואובדן שליטה. יכול להיות שעליתם על הגל בדיוק בזמן?
"בחודשים האחרונים אנחנו רואים עלייה עצומה בביקוש, בעיקר כי אפליקציות ה-AI החלו להגיע לשוק. לכל העסקים ברור מה הערך המוסף שלהן, אבל החסם הכמעט יחיד הוא נושא האבטחה. כשאנחנו מוכרים לארגון גדול, הוא משתמש בהרבה כלי AI ורוצה לדעת שיש לו שכבת הגנה נפרדת, בדומה למה שקורה בסייבר. זה מה שפרומפט מספקת".
תפנו גם למשתמשים פרטיים? אוכל להוריד את האפליקציה שלכם בחנות האפליקציות?
"אפשר למצוא אותנו בגוגל סטור עם תוסף לכרום. כרגע אנחנו מוכרים בעיקר לעסקים, לחברות בתחומים הפיננסיים, פארם, ביטוח וכו'. אבל אנחנו נמצאים בשיחות גם עם חברות שנותנות הגנה למחשבים בודדים, כמו מעין אנטי וירוס. זה לא קהל היעד המרכזי שלנו כרגע, אבל בעתיד יכול בהחלט להיות".
זה נראה שאבטחת AI הפכה לנושא חם כמעט כמו ה-AI עצמו. אתם מבחינים בתחרות שהופיע מולכם?
"תחרות היא אינדיקציה טובה. אם לא הייתה תחרות, כנראה שהיינו בתחום לא מעניין. עם הפוטנציאל שאנחנו חווים, כמובן שצצות לא מעט מתחרות, חלקן גם בארץ. כרגע אנחנו מנצחים מבחינת המוצר, אבל התחרות גוברת. אותי זה בעיקר משמח כי זה אומר שיש פה שוק אמיתי שהולך ומתפתח. מה גם שאני שמח לראות שמתוך 10 הסטארטאפים המובילים בעולם בתחום, כחצי ישראלים. זה אומר הרבה".
