קבוצת המחקר של חברת הסייבר הישראלית-אמריקאית אימפרבה (Imperva) חשפה היום (ב') שורת פרצות אבטחה בצ'אטבוט ה-AI הפופולרי ChatGPT. לדברי החוקרים, הפרצות האלה היו עשויות לאפשר להאקרים להשתלט על חשבונות משתמשים ללא צורך בפרטי ההתחברות. מדובר בבעיה קשה שהייתה יכולה לחשוף מידע רב, מכיוון שהצ'אטבוט משמש למשימות שונות וגם זוכר את היסטוריית השיחות עימו.
ישנם כיום כ-180 מיליון משתמשים רשומים בשירות, כך שהפרצה הייתה יכולה להשפיע על מיליוני משתמשים ברחבי העולם ולאפשר לתוקפים לקבל גישה מלאה לכל חשבון בפלטפורמה. ניתן היה להשתמש בחולשות דרך מנגנון העלאת הקבצים של ChatGPT ופונקציונליות הציטוט שלו מאותם קבצים. בנוסף, נמצאה חולשת XSS נוספת שמקורה היה בצורה ש-ChatGPT מצטט אתרי אינטרנט - כלומר היכולת שלו לקרוא אתרי אינטרנט. הדבר אפשר לחוקרי החברה להריץ קוד זדוני בפלטפורמת ה-AI על ידי הטמעה שלו באתר זדוני.
ריפרש
המלחמה על ההייטק / עם ליעד אגמון
47:31
המשמעות של פריצה מוצלחת היא שניתן לעשות כל דבר בחשבונות, כולל פעולות כמו מחיקה, יצירה ועדכון של נתונים ואף גישה אליהם. פרצות אלו דווחו ל-OpenAI ותוקנו במהירות.
רון מסאס, חוקר חולשות בחברת אימפרבה (imperva) שזיהה את הפרצות, הסביר בשיחה עם ynet כי מדובר בבעיות שקיימות בהרבה מאוד אתרים ושירותי אונליין: "הרעיון הוא לאפשר לדפדפן לנצל את הטוקן התחברות והזדהות של המשתמש המחובר". טוקן הוא כינוי לקוד שמשמש את הדפדפן כדי להזדהות מול השירות שאליו הוא מחובר, קצת כמו תעודת זהות. הוא כולל את פרטי ההתחברות ומאפשר לשירות לאשר את תקינותם.
"החקירה שלי התחילה בבחינה של מנגנון העלאת הקבצים של ChatGPT ופונקציונליות הציטוט שלו מאותם קבצים. על ידי העלאת קובץ זדוני וניצול של חולשות נוספות הצלחתי ליצור שיחה עם ChatGPT אשר ניתנת לשיתוף ואפשרה השתלטות מלאה על כל חשבון שניגש אליה", הסביר מסאס.
אלה אינן בעיות האבטחה הראשונות שמתגלות ב-ChatGPT, במאי שעבר התברר שהאקרים קיבלו גישה למערכות של OpenAI והצליחו לפרוץ אליהן, מה שהביא להשבתת הצ'אטבוט. דיווח חדש יותר מלפני כמה ימים מצא שקבוצות תקיפה והאקרים מנצלים את יכולות כתיבת הקוד של השירות כדי לבדוק נוזקות ולשפר את הביצועים של הקוד הזדוני שהם מפתחים. ישנם גם גורמים זדוניים שמשתמשים בשירות כדי להפיץ תעמולה פרו-פלסטינית ברשת.
פרצות וחולשות הן תופעה מוכרת בעיקר בפלטפורמות חדשות. לפעמים לוקח זמן רב עד שהמפתחים מצליחים לחסום את כולן. ועדיין, מדובר בבעיה קשה שממשיכה להטריד את התעשייה. עם זאת, קשה להתעלם מכך שלא ברור למה מפתחי ChatGPT לא ניסו פשוט להריץ את הקוד של האתר שלהם עליו כדי שיזהה את הפרצות בפלטפורמה בעצמו.
