הסטארט-אפ הישראלי שזייף את צוקרברג
סרטון מזויף של מייסד פייסבוק, שבו הוא מתרברב על העוצמה שצבר, הגיע לכותרות בעולם לאחר שהרשת החברתית הצהירה שלא תסיר אותו. "לא ציפינו לזה", אמר ל-ynet עומר בן-עמי, מייסד Canny AI שיצר את הסרטונים עבור שני אמנים מבריטניה. "אנחנו די מרוצים מכך שאפשר לזהות שזה לא אמיתי"
עומר בן-עמי, שייסד את Canny AI ביחד עם יהונתן היימן, בכלל לא היה מוכן לסערה הזאת. "לפני חודשיים פרסמנו ברשת סרטון שמציג את היכולות שלנו (מנהיגים מרחבי העולם שרים ב"ליפ-סינק" את השיר Imagine – י.מ)", הוא מספר, "בעקבות זאת פנו אלינו שני אמנים בריטיים - ביל פוסטרס ודניאל האו - כדי שניצור עבורם סרטונים לתערוכה בפסטיבל סרטים בשפילד".
בן-עמי והיימן יצרו עבור התערוכה שנקראת "ספקטרה" שלושה סרטונים מפוברקים בכיכובם של מארק צוקרברג ("דמיינו לכם לשנייה: אדם אחד, ששולט בתוכן שנגנב ממיליארד בני אדם, בכל הסודות שלהם, בחיים שלהם, בעתיד שלהם"), קים קרדשיאן ("לא אכפת לי שיש לי כל כך הרבה שונאים, כי הדאטה שלהם הפך אותי לעשירה הרבה מעבר לחלומות הכי פרועים שלי") ודונלד טראמפ ("חשבתם פעם למה אני כל כך פופולרי? בגלל אלגוריתם ודאטה... אני אחראי לשוד הכי גדול בהיסטוריה, ולאנשים אין מושג").
"הרעיון הוא להראות איך משתמשים בדאטה כדי לעשות מניפולציה", מסביר בן-עמי, "חשבנו שזו הזדמנות טובה להראות את היכולת של הטכנולוגיה שלנו. היה סיפור עם פייסבוק שלא הסכימו להוריד את הסרטון וזה יצר רעש. אני לא חושב שזאת הייתה הכוונה במקור. הרעיון האמנותי היה להראות איך ניתן לגרום לאנשים כמו צוקרברג להגיד דברים שהם לא באמת אמרו".
הסרטון ב"כיכובו" של צוקרברג פורסם באינסטגרם על-ידי פוסטרס ובצעד לא מובן מאליו, החליטה הרשת החברתית שלא להסיר אותו. "אנחנו נתייחס לתוכן הזה כמו שאנחנו מתייחסים לכל המידע השגוי באינסטגרם", נמסר מטעם הרשת החברתית, "אם בודקי עובדות חיצוניים יסמנו אותו כשגוי, אנחנו נסנן אותו מהעמודים של ההמלצות, למשל Explore ועמודי התגיות".
ההחלטה שלא למחוק את הסרטון התקבלה על רקע הביקורת הנוקבת על כך שפייסבוק סירבה להסיר סרטונים של ננסי פלוסי, יו"ר בית הנבחרים, שעברו מניפולציה על מנת לגרום לדיבור שלה להישמע לקוי. פייסבוק צמצמה את החשיפה של הסרטונים הללו, בגלל שאינם אמיתיים, והצהירה שהייתה נוהגת ככה גם אם צוקרברג היה הקורבן. רגע המבחן הגיע מוקדם מהצפוי.
לא ציפיתם לכזאת תשומת לב בינלאומית?
"לא, גם לא ספציפית סביב צוקרברג. זה פשוט קרה בגלל הסיפור עם ננסי פלוסי. אבל אנחנו כן שמחים שבסופו של דבר אנשים נחשפים למה שאפשר לעשות עם הטכנולוגיה". לדבריו, בימים האחרונים התקבלו לא מעט פניות בחברה, בעיקר מעיתונאים, אבל גם מלקוחות פוטנציאליים.
אלגוריתם של למידה עמוקה
הסטארט-אפ CannyAI הוקם בסך הכל בתחילת 2018 ולמעשה כרגע אין לו עובדים נוספים מלבד שני המייסדים. השניים פיתחו אלגוריתם של למידה עמוקה (Deep Learning) שמאפשר להם לשנות את תנועות השפתיים של שחקנים באמצעות למידה של תנועות השפתיים של מדובב. "השימושים הם בין היתר לוקליזציה של תוכן, דיבוב סרטים לשפות אחרות, תיקונים של סצינות במקום לצלם מחדש. בעתיד הרחוק אנחנו רוצים גם לבנות מודל פוטו-ריאליסטי של בן אדם, שיוכל לדבר עם אנשים".
בשביל להפיק את הסרטון המזויף של צוקרברג הם קיבלו מהאמנים הבריטיים סרטון אמיתי של מייסד פייסבוק שצולם בשנת 2017 ולצדו סרטון של שחקן שמקריא את המשפט שצוקרברג אמור "להגיד" בסרטון המפוברק. "האלגוריתם למד את תנועות הפנים של צוקרברג ואת תנועות הפנים של המדובב ויצר מחדש את תנועות הפנים של צוקרברג".
התוצאה לא מושלמת: הקול אינו קולו של צוקרברג, אין תיאום מוחלט בין תנועות השפתיים לקול ואפשר די בקלות להבין שמדובר במניפולציה. "אנחנו די מרוצים מזה שאפשר לזהות שזה לא לגמרי אמיתי", מודה בן-עמי. עם זאת, הוא מדגיש שאפשר להגיע לתוצאות יותר משביעות רצון כאשר משקיעים זמן רב בפרויקטים.
כמו כל מי שעוסק בתחום, גם ב-Canny AI מודעים לשימוש לרעה שעלול להיעשות בטכנולוגיה. "יהיה צריך להיות בעולם הזה שילוב של רגולציה, לצד סימון של תוכן שעבר מניפולציה על-ידי הפלטפורמות", אומר בן-עמי, "כמובן שגם אנחנו נסמן את הסרטונים שלנו איכשהו. אנחנו מקווים שבעתיד תהיה לנו גם יכולת לזהות סרטונים מזויפים שנוצרו על-ידי אחרים".
