הטכנולוגיה שתאפשר גם לכם לייצר דיפ פייק
כל אחד יוכל לייצר סרטונים מזוייפים בלחיצת כפתור באמצעות הטכניקה החדשה שהציג החוקר יובל נירקין במסגרת עבודת הדוקטורט שלו. עד כה טכנולוגיית הדיפ פייק הייתה בשימוש של חוקרים ומפתחים בלבד ויצירת סרטון בודד דרשה שעות וימים של עבודה. האם הרשת תוצף בסרטונים מזוייפים?
טכנולוגיית הדיפ פייק מתקדמת צעד משמעותי בדרך להפיכתה לזמינה לכל. החוקר הישראלי יובל נירקין מפרסם היום (ה') מאמר שבו הוא מציג את טכנולוגיית FSGAN, שמאפשרת לכל אדם לייצר סרטוני דיפ פייק בלחיצת כפתור ובאיכות חיקוי שעולה על כל מה שנעשה עד כה. בטכנולוגיה הנוכחית יצירת סרטוני דיפ פייק אורכת שעות ואפילו ימים.
בשיחה עם ynet אומר נירקין כי על בסיס הטכנולוגיה החדשה ניתן יהיה לייצר אפליקציה לטלפון, שתאפשר לכל אדם, ולא רק למומחי מחשבים, לייצר סרטונים מזוייפים בקלות. בכך למעשה ייעלם המחסום העיקרי שמונע את הצפת הרשתות בסרטוני דיפ פייק זדוניים.
טכנולוגיית דיפ פייק משתמשת בבינה מלאכותית (AI) כדי לייצר וידיאו מזוייף של אדם, שנראה אותנטי לחלוטין. בגרסתה הפשוטה מדובר בעיבוד של וידיאו קיים ושינוי תנועת השפתיים כך שייראה שהאדם אומר דברים שונים ממה שאמר במקור, כמו הסרטון המזוייף של מארק צוקרברג.
שיטה מורכבת יותר מכונה Face Swapping: כאן משתילים את פניו של אדם מסויים על סרטון שבו מצולם אדם אחר. צפו לדוגמה בסרטון של יוצר הדיפ פייק Ctrl Shift Face, שהשתיל את פניהם של השחקנים אל פצ'ינו, ארנולד שוורצנגר וטום קרוז על פניו של השחקן ביל היידר.
שיטה מורכבת אף יותר נקראת בניית פנים מחדש - Face Reenactment: בטכניקה הזאת ניתן לשנות את תנועות הראש והבעות הפנים של המצולם, כמו בסרטון שיצר
בר הללי שבו נראה בנימין נתניהו שר אופרה.
בטכנולוגיה הקיימת ליצירת דיפ פייק נדרש המפתח "לאמן" את הבינה המלאכותית במראה של האדם שאותו מחקים מזוויות שונות, על בסיס כמות גדולה של סרטי וידיאו ותמונות שלו. הטכנולוגיה החדשה שפיתח נירקין מבוססת על רעיון פשוט: בניית מאגר נתונים של תנועות וזוויות פנים על בסיס סרטונים של בני אדם רבים והתאמת תמונת האדם שאותו מחקים למאגר זה, כך שהתוצאה מתקבלת מיידית ואפילו ניתנת ליישום על וידיאו בשידור חי (סטרימינג).
נירקין מפרסם היום את המחקר, Generative adversarial networks for generalized reenactment, במסגרת עבודת דוקטורט באוניברסיטת בר אילן בהנחיית פרופ' יוסי קלר וד"ר טל הסנר. לדבריו, מדובר בטכנולוגיה שעולה ביכולותיה על זו שהציגה קבוצת המחקר של סמסונג בחודש מאי השנה: "הם הציגו סוג של אימון מהיר שנקרא Few Shots, שעדיין לוקח זמן. הטכנולוגיה שלנו יותר חזקה, יש לה בשורה יותר משמעותית ויש לה שימושים אפליקטיביים משמעותיים. הרי אף משתמש אפליקציה לא ירצה לחכות אפילו חמש דקות כדי לראות את התוצאה, ובשיטה הזו התוצאה תהיה מיידית".
כמקובל בעולם האקדמי, נירקין מתעתד לפרסם את הקוד לטכנולוגיה שפיתח כך שיהיה זמין לציבור, אם כי כמובן נדרשים ידע ויכולות פיתוח מתקדמות כדי להשתמש בו. נירקין גם מודע לחשש לשימוש לרעה שייעשה בטכנולוגיה שפיתח: "תהיה בעיה לזהות את הסרטונים שייוצרו באמצעות הקוד ואני לא רוצה לייצר יותר בעיות ממה שיש כבר עכשיו". אפליקציה שתפותח על בסיס הטכנולוגיה החדשה, הוא אומר, תוכל לפתור את הבעיה מכיוון שהיא תחייב את המשתמשים לייצר את הסרטונים שלהם בשרתי החברה שתציע את השירות, והיא תוכל לפקח על התכנים ולוודא שלא נעשים באמצעותה דברים בלתי חוקיים.
עם זאת, נירקין מדגיש כי יתנגד לפתיחת יכולות בניית פנים מחדש לציבור הרחב: "כשאתה מדבר על החלפת פנים, הטכנולוגיה לא יכולה לשמש באמת למעשים לא חוקיים כי זה משהו שאנשים מבינים מייד, אבל בניית פנים מחדש יכולה ליצור את הבעיות כי זו מניפולציה על הבן אדם". לדברי נירקין, חלק מהמחקר שלו מתמקד גם בטכנולוגיה לזיהוי אוניברסלי של דיפ פייק, שבאמצעותה ניתן יהיה לבדוק כל סרטון ולקבל תשובה מיידית אם הוא אותנטי או שעבר מניפולציות.
