תושבי מדינת ניו המפשייר בארה"ב הופתעו לקבל בימים האחרונים שיחת טלפון מוקלטת מנשיא ארה"ב, ג'ו ביידן. המסר בפיו של הנשיא ביידן היה עוד יותר מפתיע: הוא הפציר בהם לא לצאת להצביע בפריימריז של המפלגה הדמוקרטית שיתקיימו היום במדינה. "שמרו את הקול שלכם לבחירות בנובמבר", קרא להם.
"ההצבעה ביום שלישי רק תאפשר לרפובליקנים לבחור שוב בדונלד טראמפ", הסביר ביידן לתושבי ניו המפשייר, "הקול שלכם יעשה את ההבדל בנובמבר (מועד הבחירות לנשיאות - י"מ), לא ביום שלישי הזה". את ההודעה הוא פתח בביטוי שהפך להיות מזוהה עמו: "איזו ערימה של שטויות" (What a bunch of malarkey).
יש רק בעיה אחת: זה לא היה ביידן. במשרד התובע הכללי של ניו המפשייר אומרים שקולו של הנשיא זויף ככל הנראה באמצעות טכנולוגיית בינה מלאכותית שמכונה "דיפ פייק אודיו" ומאפשרת לשכפל את קולו של אדם בעזרת הקלטות קודמות שלו. מדובר ב"ניסיון לא חוקי" לדכא את ההצבעה בפריימריז הדמוקרטיים, אמרו במשרד התובע הכללי, וקראו למצביעים להתעלם מההודעה לחלוטין.
האזינו להודעה המוקלטת של "פייק ביידן"
מומחים הזהירו בחודשים האחרונים מפני שימוש לרעה בטכנולוגיות של בינה מלאכותית לשיבוש הבחירות לנשיאות שיתקיימו בנובמבר 2024. למעשה, מדובר בחשש חובק עולם: כשני מיליארד בני אדם בכ-50 מדינות צפויים ללכת לקלפיות השנה, וכלים של בינה מלאכותית יוצרת (GenAI), שהפופולריות שלהם זינקה בשנה האחרונה, מאפשרים להפיץ מידע כוזב בקנה מידה ענק כדי לפגוע בתהליך הדמוקרטי.
ריפרש
החברה הישראלית שהמציאה מחשב עם משקפיים במקום מסך / עם טמיר ברלינר
42:48
אם בעבר כדי לזייף את קולו של אדם היה צורך בידע טכני נרחב, היום זמינים ברשת מוצרי מדף שמאפשרים לכל אדם עם אוריינות טכנולוגית בסיסית ליצור זיופים כאלה במהירות ובזול. בשנה שעברה למשל, לקראת הבחירות לפרלמנט בסלובקיה, הופצה ברשתות החברתיות הקלטה שבה נשמע המועמד מיכל שימצ'קה מדבר על קניית קולות. גם במקרה הזה, מדובר היה בדיפ פייק.
אחד האתגרים שניצבים בפני הרשויות שמנסות להיאבק בתופעה הוא היכולת להבדיל בין הקלטה אותנטית לכזאת שנוצרה באמצעות AI. במקרה של ביידן, הכלי של חברת ElevenLabs, אחת החברות המובילות בתחום האודיו הסינתטי, קבע כי ההקלטה ככל הנראה לא נוצרה באמצעות בינה מלאכותית. בדיקה של הסטארט-אפ הישראלי Clarity, לעומת זאת, העלתה כי יש סבירות של יותר מ-80% שמדובר בדיפ פייק אודיו.
מיכאל מטיאסצילום: עומר הכהןמיכאל מטיאס, מנכ"ל ומייסד-שותף של Clarity, אמר בשיחה עם ynet כי מניתוח ראשוני של ההקלטה, עולה כי היא לא נערכה באמצעות כלים מתקדמים. "התחכום הוא לא בייצור", הסביר, "אלא בהפצה וביכולת של התוקפים להגיע באמצעות השיחות המוקלטות להרבה אנשים בניו המפשייר".
לדברי מטיאס, השאלה החשובה היא לא בהכרח מי עומד מאחורי ההקלטה, אלא כיצד ניתן לעצור מתקפות כאלה בזמן: "אנחנו בדרך למציאות שבה כל אחד יכול להיות התוקף. לפעמים אלה יהיו אנשים שלא בהכרח חשבו על מה שהם עושים. השאלה היותר חשובה היא איך אנחנו תופסים את המנעד הרחב של ההתקפות לפני שהן מופצות. בניו המפשייר חברות התקשורת היו אמורות לזהות שמישהו משתמש בשירותים שלהן כדי לפנות לאזרחים עם קול שזויף באמצעות בינה מלאכותית. הן היו צריכות לעצור את זה".
