האם השתבשה בינתן של מערכות בינה מלאכותית (AI) בעולם המקוון בעקבות משבר הקורונה? בחברת הסטארט-אפ הישראלית סופרווייז (Superwise), שמפקחת על התנהגות הבינה המלאכותית, מדווחים על בלבול רב וטעויות שאפיינו את מערכות הבינה המלאכותית עם תחילת המשבר: אתרי סחר מקוון מרכזיים נפלו קורבן לפושעי רשת, אתרי מכירות יצאו בקמפיינים שיווקיים מוטעים, מערכות בנקים חסמו מתן אשראי ללווים טובים ומערכות מסחר בבורסה הגבירו את ההיסטריה בשוקי המניות עם הוראות מכירה המוניות. ה-AI לא היתה איי איי איי.
עופר רזון, מייסד שותף ומנכ"ל סופרווייז, אומר כי יש צורך לרסן את הבינה המלאכותית, לשמור עליה כמו שמרטף: "אחד החששות המרכזיים הוא ביכולת לסמוך על AI שימשיך לתפקד בצורה מדוייקת לאורך זמן מכיוון שהמערכות מתנהגות כקופסה שחורה וקשה להבין איך הן מקבלות החלטות". הפיתרון של סופרווייז הוא בפיתוח AI לפיקוח על AI: הבינה המלאכותית של החברה בוחנת את דרך קבלת ההחלטות של הבינה המלאכותית של הלקוח, ומתריעה על קבלת החלטות מוטעית.
הצורך לרסן את הבינה המלאכותית מוכר כבר לחברות רבות שמשתמשות ב-AI כחלק ממהלך העסקים הרגיל. האלגוריתם של יוטיוב מצליח בדרך כלל לקלוע לטעמנו בהצעת סרטונים ומוזיקה אבל בזמן השידורים הישירים מהשריפה של קתדרלת הנוטרדם הוא קבע שמדובר בתמונות מאסון התאומים. מערכות להערכת האיתנות הפיננסית של מבקשי הלוואות העניקה לבני זוג בעלי חשבון משותף אשראי הרבה יותר גדול אם המבקש היה הבעל. בתקופת המחאה בהונג קונג מערכות בינה מלאכותית ליבו את אש המחאה עוד יותר. לאלגוריתמים יש הטיות, שלעיתים גורמות למבוכה ולעיתים לנזקים.
אולי זה המקום להזכיר ש"בינה מלאכותית" הוא שם קליט למערכות שאין דבר בינן ובין בינה. מערכות ה-AI אוגרות כמויות עצומות של נתונים ומצליחות לזהות בהן תבניות התנהגות, שעל פיהן המשתמש יכול לייצר תובנות וחיזויים. לא מדובר בחיקוי של בינה אנושית שהרי אדם לא מסוגל לסרוק כל כך הרבה נתונים. בני אדם כותבים את האלגוריתם שמפעיל את סריקת הנתונים ואיתור התבניות, והם גם אלה שקובעים באלגוריתם איך לפעול בהתאם לתבניות שנמצאו. הבעיה היא, שאם לפתע הנתונים משתנים, אזי גם התבניות בתוכם משתנות, אבל האלגוריתם נותר ללא שינוי, והתוצאה היא הוראות פעולה חסרות בינה.
מתברר שהנטייה של מערכות AI לפספס מדי פעם הופכת לירידה מהפסים של ממש כאשר הציבור משנה את דפוסי ההתנהגות שלו - וזה מה שקרה בשבועות האחרונים. כך למשל, במקרה של חברות לאימות רכישות בכרטיסי אשראי, שמפעילות בינה מלאכותית שמזהה חריגות בדפוסי התשלום של כל לקוח. רזון אומר כי פושעי הרשת ניצלו את השינויים בהתנהגות הקונים כדי לבצע רכישות בכרטיסי אשראי גנובים מבלי שמערכות ה-AI הצליחו לזהות את התבנית החריגה בתוך כמויות עצומות של נתונים חריגים ממילא. במקרים אחרים ההתנהגות החריגה בתקופת הקורונה גרמה לחסימת כרטיסי אשראי של לקוחות טובים. "במציאות החדשה האלגוריתמים פחות מתאימים כדי לתפוס את זה מהר", הוא אומר.
בעולמות השיווק ברשת התנהגות הקונים מאז תחילת משבר הקורונה השתנתה לחלוטין, ומערכות ה-AI של חברות השיווק פירשו אותה לא נכון. כך למשל הם הגיבו על ירידה בכמות הרכישות בחנויות ביציאה לקמפייני פרסום רחבים ולא אפקטיביים בעליל, שגרמו לבזבוז תקציבים מיותר לחברות. "עולם המסחר בבורסות נסמך מאוד על אלגוריתמים", אומר רזון, "ויש טענה שחלק לא קטן מהנפילות היתה בעיה של אלגוריתמים. אף אחד לא אמר אמר לאלגוריתמים 'אל תיבהלו, יש כרגע התקפת קורונה בעולם, אל תיכנסו ללחץ'".
מציאות חדשה
רזון אומר ששינויי ההתנהגות הקיצוניים גרמו לאלגוריתמים – אלה שנותנים חיזוי שמבוסס על למידה של התנהגות נורמלית של הצרכנים – להתמודד עם מציאות חדשה שהם לא מכירים. "אחת התובנות הגדולות בתחום ה-AI היא שאין פה קסם. מערכות AI הן מתקדמות אבל מישהו צריך לעשות להן בייביסיטינג, אחרת זה לא יעבוד".
תינוק ה-AI שעליו מדובר הוא פעוט בעייתי במיוחד, גאון מבחינה מתמטית אבל כזה לא ניתן להבין מדוע הגיע לתובנות אליהן הגיע. זו הסיבה שחברות שמפעילות AI לא מזהות מבעוד מועד כשהמערכת מגיעה לתובנות לא נכונות. כאן נכנסת הטכנולוגיה של סופרווייז, שמשתמשת בכלים של AI כדי לרסן את ה-AI הסורר. כי מי כמו בינה מלאכותית מסוגלת להבין בינה מלאכותית אחרת. הטכנולוגיה מופעלת כשירות בענן, ומאפשרת לחברה שרוצה להטמיע AI במערכות שלה לבחון מבעוד מועד וגם במהלך הפעולה, את תקינות התובנות של ה-AI.
"לקחנו את בעיית התנהגות המודל והפכנו אותה לבעיית חיזוי", אומר רזון, "האלגוריתם שלנו חוזה את התנהגות האלגוריתם הנבחן. פיתחנו טכנולוגיה שיודעת להגיד אם התנהגות האלגוריתם תקינה או לא תקינה, ואת זה אנחנו לומדים אוטומטית מהקלט והפלט שלו, בלי להסתכל על הקוד שלו".
אולי זה צריך להיות חלק מכל מערכת AI, אלגוריתם שבוחן את עצמו?
"אנחנו בטוחים שזה מה שיקרה. אנחנו עובדים עם חלק משחקני הפלטפורמה הגדולים בשיתוף פעולה ואנחנו מאמינים שבסופו של גבר כל מי שמפעיל AI יצטרך מערכת להבטחת פעולתו (Assurance AI) אבל גם יהיו ארגונים שירצו שהבחינה תיעשה על-ידי מערכת חיצונית שתבדוק איך המערכת שלהם עובדת".
חברת סופרווייז הוקמה ב-2019 על ידי האחים עופר רזון המנכ"ל ואורן רזון ה-CTO, לשניהם ניסיון של שנים רבות בעולמות ההייטק והבינה המלאכותית. ממש לפני תחילת הקורונה השלימה סבב גיוס Seed של 4.5 מיליון דולר, שישמש לקידום הפיתוח ולמאמצי חדירה לשוק האמריקאי. החברה מעסיקה כעשרה עובדים, שבימים האלה ממשיכים לעבוד כרגיל, אבל מהבית. "אנחנו כל היום בזום ושומרים על קשר, והאתגר הוא לשלב את הילדים בסדר היום", אומר רזון, "אני חושב שהתקופה הנוכחית תקדם אותנו בהרבה מובנים. אמרתי לצוות שאנחנו בתקופה טובה עם דולר שמתחזק ועם לקוחות אמיתיים שכבר חתמו על החוזה ועובדים איתנו, וכך בתקופה הזו אנחנו נתחזק".
