מזייפים: הישראלים שעושים דיפ פייק
סרטוני הדיפ פייק שמסעירים את העולם נוצרו, בין היתר, על-ידי קבוצות מחקר וחברות ישראליות, שעדיין מחפשות מודל כלכלי שיאפשר להן להתפרנס מזה. האם זו תחילתה של סצינת היי-טק ישראלי חדשה? כתבה שנייה בסדרה
סצנת הדיפ פייק העולמית סוערת ורוגשת עם כל קבוצת מחקר, שמפרסמת יכולות חדשות ליצור מציאות מסונתזת. אז היה לנו סרטון מזוייף של מארק צוקרברג מתרברב כיצד גנב מידע ממיליארד בני אדם, וגם קים קרדשיאן שמתוודה על העושר שלה, ואפילו פייק דונלד טראמפ, שמסביר את הפופולריות הרבה שלו ונראה כמעט אותנטי. והיה גם סרטון "אני אוהב את ריח הנפאלם בבוקר", שהפך ל"ריח הלחם המטוגן בבוקר".
>> דיפ פייק: כל כך פשוט לזייף את המציאות
המשותף לכל אלה, לעומת סרטון מונה ליזה המדברת או גריגורי רספוטין ששר ביונסה למשל, שהם פותחו על ידי חוקרים ישראלים. "ריח הלחם" פורסם על יד חוקרים אמריקאיים בהובלת ד"ר אוהד פריד הישראלי, וסרטוני צוקרברג וקרדשיאן הם בכלל מתוצרת כחול לבן. מתברר שיש בישראל קבוצת אנשים שמתמחה בסינתוז וידיאו ואודיו בכלים של בינה מלאכותית, והם אפילו מגיעים להישגים מדעיים ואקדמיים. בינתיים, הם רק צריכים למצוא דרך להתפרנס מזה.
סרטון הפייק-צוקרברג נוצר על ידי חברת Canny AI הישראלית, שיצרה גם את הסרטונים של קים קרדשיאן וטראמפ על פי הזמנה של אמנים בריטיים. הסרטון זכה להדים ברחבי העולם לאחר שהרשת החברתית של צוקרברג החליטה לא להסיר אותו כהוכחה למדיניות שלה, אחרי שסירבה להסיר את סרטון ננסי פלוסי, יו"ר הקונגרס, שהציג אותה בזדון כמגמגמת. הסטארט-אפ Canny AI, שהוקם על ידי ד"ר עומר בן עמי ויהונתן היימן ב-2018, הוא אחד הבולטים בתחום בישראל, והוא מתמחה בהשתלת תנועות שפתיים וגוף בווידאו נתון. בן עמי אומר שבשיטה הזו קל יחסית לייצר סרטון כמו של צוקרברג.
הטכנולוגיה המקבילה נקראת החלפת פנים (face swap) והיכרנו אותה בסרטונים כמו למשל זה שבו הושתלו הפנים של ג'ים קארי בסרטון של ג'ק ניקולסון. בישראל מפתחת את הטכנולוגיה הזו חברת הסטארט-אפ Deep Nen, שהוקמה ב-2018 על ידי דויד רינג ויובל נירקין. נירקין אומר שמדובר בטכנולוגיה מורכבת יותר מהזזת שפתיים, שכן היא כוללת לא רק החלפת פנים אלא הזזת הראש, תנועות גוף, העברת הבעות פנים ועוד.
המחקר העיקרי של החברה נעשה במסגרת עבודת הדוקטורט של נירקין, ולדבריו הוא עומד להציג מאמר חדש במסגרת כנס מקצועי בקרוב, שיביא למהפיכה בתחום: "אנחנו מצפים שהוא יעשה הרבה מאוד רעש. עד כה הכנת דיפ פייק היתה תהליך ארוך של איסוף דאטה ואימון ה-AI ואנחנו נציג טכנולוגיה, שבלחיצת כפתור תתן לך תוצאה מיידית ובאיכויות הרבה יותר גבוהות. כך אפשר לייצר כמות אדירה של דיפ פייק להפיץ לעולם בקלות".
חברה ישראלית שלישית שפעילה בתחום היא חברת Hour One, שהיא גם החשאית מכולן. החברה הוקמה על ידי אורן אהרון, איש הייטק ותיק, וליאור חכים והיא פועלת בינתיים "מתחת לרדאר". חיפוש מידע על החברה מוביל לאפס תוצאות ואפילו אתר החברה לא מסגיר הרבה על מעשיה והטכנולוגיה שלה. החברה מפתחת בישראל אבל פועלת בעיקר מניו יורק. אהרון מסביר ששלב ה"חמקן" הוא הכרחי כרגע, כדי ליהנות משוק לקוחות גדל ולמנוע כניסה של תחרות מצד חברות נוספות. לדבריו החברה מייצרת וידאו ואודיו בטכנולוגיה של בינה מלאכותית, "וידאו מאפס, לא עושים סינתוז של וידאו מקורי, אלא יותר כמו לייב אקשן".
אהרון הגיע להקמת החברה לאחר מספר שנים בהן היה סטארט-אפיסט וחמש שנים נוספות בקבוצת ההשקעות "קטליסט" של סמסונג בישראל. "בגלל שמכירים אותנו גם בצד המשקיעים וגם בצד הלקוחות אז כבר החברה מרוויחה ואין לנו סיבה לעורר את השוק. יש לנו עבודה ולא רוצים לעורר תחרות". הוא מספר שהלקוחות של החברה מגיעים מעולמות המדיה, החדשות הספורט ועוד. "אנחנו מייצרים מאות סרטונים ביום והתחזית היא שבסוף השנה נגיע לאלפים. החברות משתמשות במערכת בעצמן, אבל המערכת לא פרוצה, אי אפשר לייצר בה וידאו בלי שנדע מהו וכמובן שלא ניתן לייצר התקפות וכל הדברים הבעייתיים של דיפ פייק. פסלנו כבר הרבה מאוד הצעות".
הבעיה העיקרית שהחברות ניצבות בפניה היא המודל הכלכלי שמניע אותן. אם אין דרך להגיע להכנסות מהטכנולוגיה, לא יהיו לחברה לקוחות וגם משקיעים לא ירצו להזרים לה את התקציבים הדרושים להמשך פיתוח ולשיווק ומכירות. שוק הפרסום נראה יעד מרכזי של הטכנולוגיה. אחת הדוגמאות היפות לשימוש בטכנולוגיה למטרות חיוביות היה סרטון בכיכובו של דויד בקהאם למלחמה במלריה, שבו הוא מדבר בקולותיהם של חולי מלריה שהחלימו, בשפות שונות ובהתאמת שפתיים מושלמת. ההפקה היתה של חברת סטארט-אפ בריטית.
בן עמי מתאר שווקים אפשריים שבהם כבר יש פניות ושיתופי פעולה, כמו יצירת סרטים סאטיריים כמו אלה שכבר הופקו, בניית פורמטים חדשים לטלוויזיה וייצור סרטים שיווקיים כמו למשל לקוח שהפיק סרטוני שיווק לזמרים ולהקות לקראת מסע הופעות באירופה, עם התאמה לשפה המקומית בכל מדינה. "אנחנו מסתכלים קדימה ורואים משהו מאוד מהותי פה," אומר בן עמי, "טכנולוגיה שתוריד את מחסומי התרבות והשפה ותגיע בסוף גם לסרטים ולקולנוע. בעתיד נוכל ליצור מודל, נניח של קים קרדשיאן, שתייצר עותק דיגיטלי של עצמה ותוכל למכור רשיונות לשימוש בדמות שלה".
נירקין אומר שכמו בכל תחום חדש, אין כרגע הוכחה שהוא רווחי ולכן משקיעי הון סיכון דחו את פניית החברה. לדבריו שימושים עתידיים בטכנולוגיה יהיו להפקת פרסומות, וכבר יש מספר שיתופי פעולה בתחום, וגם הוליווד עשויה להיות שוק יעד, למשל עם החלפת הפנים של איש פעלולים בפנים של הכוכב שאותו הוא מחליף. "אפשר יהיה אפילו לשכור את הפנים של השחקן... יש פה שוק ענק שעוד לא הגדיר את עצמו אבל יהיה ענקי".
אהרון אומר כי החברה עדיין לומדת את האפשרויות הטמונות בתחום הזה: "זה מדהים כי זה מאוד מגוון, ואנחנו רוצים להבין את השוק ולמצוא איפה יש פוטנציאל יותר גדול. אני דיברתי על למידה עמוקה כבר ב-2015 כשאנשים עוד לא ידעו מה זה והיום הכל נהיה הייפ. לכן אני לא מנסה לייצר הייפ, אבל מתישהו זה יקרה, וטוב שתהיה לזה מודעות".
אור קרמר, מייסד שותף בחברת Beyondminds, שעוסקת ביעוץ בתחומי הבינה המלאכותית, אומר שהצלחת ההייטק הישראלי בתחומי הדיפ פייק מובטחת: "תחום הזה מבוסס על אלגוריתמים של למידת מכונה ו-AI וישראל היא האב רציני בכל הקשור ליכולות אקדמית ומחקרית בתחום. הרבה חברות פועלות בתחום זיהוי פנים, בתחומי הסייבר בשילוב זיהוי פנים וגם יש חברות בינלאומיות שפועלות בתחום שיש להם מרכזי פיתוח בישראל. אז כרגע זה יותר מפותח בארה"ב מאשר בארץ, אבל ללא ספק יש לנו פה האב רציני מאוד לנושא".
תחילת דרכם של רבים מאנשי הפיתוח בתחומים אלה יוצאת מהאקדמיה הישראלית. אחד הפיתוחים הראשונים שהוצגו היה של פרופ' דניאל כהן-אור מאוניברסיטת תל אביב שביחד עם הדוקטורנטית הדר אברבוך-אלאור הציג ב-2017 מערכת להנפשת תמונות סטילס של אנשים: סרטון וידאו שבו ראו את הדמות מהצילום כשהיא מחייכת, כועסת, משתאה - בהתאם לרגשונים המוכרים של פייסבוק.
באוניברסיטת בן גוריון בבאר שבע מפתחים טכנולוגיה משוכללת יותר כשהמטרה היא לקדם יכולת הגנה מפני תקיפות דיפ פייק במסגרת לוחמת סייבר עתידית. אולג ברודט, מנהל המחקר והפיתוח של מרכז הסייבר באוניברסיטת בן גוריון, אומר שהמרכז מאכלס 150 חוקרים, בהם כאלה שמפתחים יכולות דיפ פייק בתחום האודיו וגם הווידאו. "יש לנו כרגע דמו של זיוף קול, שבו אנחנו מקליטים אדם, ויכולים לייצר איזה משפט שאנחנו רוצים, ממש להקריא טקסט עם הקול שלו. בתחום הווידאו יש כרגע מחקר שרץ ויוצג בקרוב".
לדבריו יצירת דיפ פייק מעולם לא היתה קלה יותר: "זה כמו שירות Deep fake as a service, אתה יכול לשכור שרתים בסין ב-5,000 יואן ל-24 שעות והם יעשו עבורך כל מה שאתה רוצה מבחינת זיוף". ברודט מציין כי עולם ההייטק עדיין בחיתוליו בתחום זה: "עד עכשיו זה היה אקדמי ורק עכשיו אנחנו מתחילים לראות זליגה של זה לעולם האמיתי. בינתיים הכל היה קוריוזים ומאמרים אקדמיים ואתה עדיין לא רואה התקפות בעולם שמשתמשות בזה".
בראייה רחבה יותר של ההייטק הישראלי אפשר לזהות חברות נוספות, שפועלות בתחומי בינה מלאכותית וטיפול בתמונות וסרטוני וידאו – אבל לצרכי זיהוי ביומטרי ואבטחה. למעשה, חברות זיהוי ביומטרי משפרות את הטכנולוגיה שלהן על ידי ייצור דמויות פייק ואימון מערכת ההגנה לזהות אותו.
סטארט-אפ בתחום זה היה FST Biometrics, שהוקם על ידי אלוף (במיל') אהרון זאבי פרקש, מי שהיה ראש אמ"ן. החברה פיתחה טכנולוגיה שכינתה IMID ("הפרצוף שלך הוא המפתח שלך"), טכנולוגיה לזיהוי פנים וניתוח התנהגות גוף וקול כשהאובייקט נמצא בתנועה, כאמצעי בקרה בכניסות ויציאות ממקומות ציבוריים וכתחליף למפתח. החברה התמודדה עם מכשולים טכנולוגיים לא מעטים ולאחר מכן מול חשדנות וספקות של לקוחות פוטנציאליים. למרות זאת היא דיווחה על מכירות של כ-150 מערכות בעולם למשרדים ממשלתיים, חברות וגם בתי דירות גדולים בערים שונות בארה"ב והעריכה את פוטנציאל השוק ב-25 מיליארד דולר.
החברה הוקמה ב-2007, העסיקה בשיאה כ-60 עובדים וגייסה סכומי כסף משמעותיים וגם שורה של משקיעים נוצצים כמו אהוד ברק, צבי נטע והמשקיע גארי פגל (קרן GMF Capital), איתן ורטהיימר וגיא למל (קרן L.V. Holdings) והמשקיע האחרון שהצטרף אבי נאור, מי שהיה מייסד ומנכ"ל אמדוקס, שמונה ליו"ר החברה. בסך הכל גייסה החברה 38.7 מיליון דולר עד שנסגרה בסוף 2018. זאבי פרקש אומר היום: "אחרי שנה שנתיים ראינו שהמכירות לא מתקדמות והפסקנו. אבל החברה מאוד הצליחה טכנולוגית ונכנסה לשני פרויקטים של ספין-אוף בשוק הריטייל".
סטארט-אפ ישראלי אחר בתחום הביומטרי הוא D-ID, שפיתח טכנולוגיית בינה מלאכותית, שעושה בדיוק את ההיפך מזיהוי: משבשת את התמונות והסרטונים שלנו בצורה נסתרת, כך שאלגוריתמים לזיהוי פנים לא יצליחו לזהות אותנו מבלי שהדבר מפריע לעין אנושית לראות את התמונה. הטכנולוגיה נועדה להבטיח פרטיות למשתמשים שמוסרים את תמונותיהם לגופים וחברות. שוק היעד הוא חברות שמחזיקות במאגרי מידע רגישים ורוצות לעמוד בדרישות התקינה במקרה של פרימה ודליפת המאגרים. D-ID הוקמה על ידי גיל פרי, סלע בלונדהיים ואלירן קוטה ב-2017. החברה מעסיקה 25 עובדים וגייסה עד כה 10 מיליון דולר מאנג'לים וקרנות הון סיכון. הלקוח הראשון שהציגה היה חברת Cloudinary הישראלית, חברת ענן שמאחסנת תמונות וסרטי וידאו עבור 350 אלף חברות.
