"אני מבקש להביע תמיכה ביריבי, ג'רמי קורבין, לתפקיד ראש ממשלת בריטניה. רק הוא, ולא אני, יכול להחזיר את בריטניה לגדולתה" - זאת ההצהרה המפתיעה של בוריס ג'ונסון, ראש ממשלת בריטניה, בסרטון שמסעיר את הממלכה ביממה האחרונה. אלא שג'ונסון מעולם לא אמר את המילים האלה: בהמשך חושף בן דמותו שמדובר בלא יותר מסרטון דיפ פייק.
ג'ונסון תומך בקורבין. צפו בסרטון המפוברק
מאחורי הסרטון הזה עומדת חברת ייעוץ ומחקר בלתי-מפלגתית בשם Future Advocacy, שמבקשת להדגים לבריטים את הסכנות הכרוכות בטכנולוגיית הדיפ פייק, שמאפשרת לייצר סרטונים מזויפים בכיכובם של אנשים אמיתיים באמצעות בינה מלאכותית (AI). החשש הגדול הוא שהטכנולוגיה הזאת תסייע לגורמים זדוניים להטות מערכות בחירות, בין היתר באמצעות סרטונים מפוברקים של פוליטיקאים.
במסגרת הקמפיין הופץ גם סרטון מזויף של ג'רמי קורבין, מנהיג מפלגת הלייבור, שבו הוא "מצהיר" על תמיכה ביריבו ג'ונסון. בחודש הבא, על רקע משבר הברקזיט, יתמודדו השניים ראש בראש במסגרת הבחירות לפרלמנט הבריטי. בעיתון דיילי מייל ציינו כי מדובר בפעם הראשונה שבה מופצים סרטוני דיפ פייק של פוליטיקאים בריטים במהלך מערכת בחירות.
קורבין "תומך" בג'ונסון
מי שיצר את הסרטון - באמצעות הטכנולוגיה שמפניה הקמפיין מנסה להזהיר - הוא הסטארט-אפ הישראלי Canny AI שבעבר כבר יצר סרטוני דיפ פייק של דונלד טראמפ, מארק צוקרברג, קים קרדשיאן ואחרים. בשיחה עם ynet סיפר עומר בן-עמי, שייסד את החברה לצדו של יהונתן היימן: "אנחנו לא מתערבים בתוכן, אלא מספקים את השירות הטכנולוגי. קיבלנו את הסרטונים המקוריים של ג'ונסון וקורבין, ביחד עם סרטונים של החקיין שמחקה את שניהם, ולקח לנו בערך יום להחזיר להם את זה".
באמצעות אלגוריתם של למידה עמוקה (Deep Learning), המערכת של Canny AI שינתה את תנועות הפנים והשפתיים של ג'ונסון וקורבין בהתאם לתנועות של החקיין. לדברי בן-עמי, מאז שפורסם סרטון הדיפ פייק של צוקרברג בחודש יוני, החברה הצליחה לשפר את הסנכרון בין הקול לשפתיים וגם את הרזולוציה. גם הזמן שבו לוקח להם לייצר את הסרטונים התקצר.
הסרטון המפוברק של צוקרברג
אם צפיתם בשבוע שעבר בתוכנית הטלוויזיה "מועדון לילה" בקשת, נחשפתם לפרויקט נוסף שבו היו בן-עמי ושותפו מעורבים: ראיון "דיפ פייק" עם אביגדור ליברמן. הפרויקט הבא והמסקרן של Canny AI, בשיתוף MIT, הוא סרט שבו מוצג נשיא ארה"ב לשעבר ריצ'רד ניקסון כשהוא נושא נאום שנכתב למקרה שבו האסטרונאוטים של אפולו 11 לא יחזרו בשלום מהירח. נאום כזה אכן נכתב ב-1969, אך מעולם לא הוקרא כי לא היה בו צורך. בפרויקט זה הם משתפים פעולה עם חברה אוקראינית, שסינתזה את הקול של ניקסון בעזרת הקלטות אודיו אמיתיות שלו.
יש פרויקטים שלא תסכימו לעשות?
בן-עמי: "אנחנו לא חושבים שאנחנו צריכים להיות אלה שמצנזרים, אבל אנחנו מאוד מקפידים לא להסכים לפרויקטים שמיועדים לשימוש זדוני. עד עכשיו לא ממש נתקלנו בהצעות כאלה. בכל מקרה, אנחנו אומרים לכל לקוח שלנו שיש לו אחריות להבהיר שההקשר של הסרטון אינו אמיתי".
