צפו: רספוטין שר ביונסה
טכנולוגיית הדיפ-פייק הולכת ומתגלה כסכנה הגדולה הבאה. עכשין מציגים חוקרים יכולת להציג הבעות פנים של אדם מדבר או שר על בסיס תמונה בודדת שלו ופסקול. גם וידיאו הוא כבר לא הוכחה לכלום
טכנולוגיית הדיפ-פייק הולכת ומשתכללת, והיכולות שלה מדהימות, או אם תרצו – מפחידות. למשל הסרטון הזה, שבו נראה המיסטיקן הרוסי האימתני גריגורי רספוטין, כשהוא שר את הלהיט הקלאסי "האלו" של ביונסה, מראה שעשוי להדיר שינה מעיני כמה מאיתנו.
הבסיס ליצירה הזו הוא מחקר של חוקרים מאוניברסיטת Imperial College ומרכז המחקר לבינה מלאכותית (AI) של סמסונג בלונדון. הקבוצה פרסמה היום מאמר בו הראתה כיצד ניתן להפיק סרטון של אדם מדבר, שר ומביע רגשות – והכל על סמך תמונה בודדת שלו. מה שמיוחד בעבודה הנוכחית, היא היכולת לנתח פס קול של האדם ולהתאים את תנועות הפנים וההבעות לפסקול – והכל באמצעות בינה מלאכותית.
בחודשים האחרונים כבד נחשפנו למספר הדגמות של יכולות טכנולוגיית הבינה המלאכותית להתבסס על תנועות פנים ומחוות של אלפי בני אדם כדי לייצר אפקט הנפשה מלאה, אבל כאן לראשונה מודגמת היכולת לנתח גם פסקול בצורה מדוייקת ולהתאים אותו לתנועות הפנים. כך למשל הסרטון של אלברט איינשטיין מדגים טכניקה שבה משולב פס קול אמיתי של הפרופסור עם תמונה בודדת שלו. התוצאה היא סרטון של הרצאה שלו, שכנראה מעולם לא צולמה.
הסרטון השלישי מדגים יכולת מעניינת באמת: תמונה של אדם מותאמת לפס הקול של הדברים שלו, כך שהבעת הפנים בסרטון תואמת את טון הדברים: כעס, פחד, שמחה, עצב. גם אם מדובר בווידיאו שלא נראה ריאליסטי לחלוטין, עדיין אפשר להתרשם מהיכולת של הבינה המלאכותית ליצור חוויה כה עשירה בהתבסס על מעט מידע.
הכלים שמפתחות קבוצות המחקר האקדמיות אינן זמינות בינתיים כאפליקציות לציבור הרחב, ובכל זאת הטכנולוגיה כבר דולפת במהירות ומשמשת כמובן למטרות שאינן תרומה לקידום האנושות, ובראשן סרטוני פורנו כמו שכבר פורסמו, בכיכובן של גל גדות, סקרלט ג'והנסון ואחרות.
הבעיה המהותית יותר היא ביכולת להכניס דברים לפיהם של פוליטיקאים שמעולם לא אמרו אותם, כמו שכבר הודגם בסרטון עם ברק אובמה. החשש העיקרי הוא מהמניפולציה האפשרית של המערכת הפוליטית או הבינלאומית. סרטוני וידיאו נתפסים בדרך כלל כהוכחה ניצחת לאירועים שהם מתעדים. כעת מתאפשרים שני סוגים של הונאות: הצגת סרטונים מזויפים של אירועים שמעולם לא התרחשו, ומנגד פסילה של סרטונים אמיתיים המרשיעים עבריינים, בטענה שאין דרך להוכיח שאינם מזויפים. המגמה המדאיגה הזו כבר עוררה גופים ציבוריים ואפילו הגיעה לדיונים בקונגרס האמריקאי.
