פייק ניוז 2.0: אם היינו צריכים הוכחה לסכנות הטמונות בבינה מלאכותית גנרטיבית - כלומר כזו המייצרת תכנים ומדיה יש מאין - הסיפור הבא ממחיש זאת היטב. אמש החל חשבון מאומת בעל וי כחול בטוויטר להפיץ תמונה של פיצוץ ליד הפנטגון, מטה משרד ההגנה האמריקני. מספר חשבונות מאומתים נוספים החלו לצייץ מחדש את התמונה ובמהרה היא הפכה לוויראלית.
1 צפייה בגלריה
חשבון הטוויטר של סוכנות RT הרוסית מפיץ את תמונת הפייק של הפיצוץ בפנטגון
(צילום מסך: טוויטר)
בין החשבונות האלה היה גם אחד שהתחזה לסוכנות הידיעות בלומברג אך לאחר מכן התברר שהיה מדובר בחשבון מזויף. כמובן שאי אפשר היה לדעת זאת בהתחלה מפני שאילון מאסק ביטל את האימות שהיה נדרש לפני תקופתו כדי לקבל סימן וי כחול המעיד על כך שמדובר בחשבון מקורי.
עוד בנושא:
הפאניקה הייתה עד כדי כך גדולה שבמשך זמן קצר אפילו הבורסה האמריקאית סבלה מירידות שערים חדות בתגובה. התמונה עצמה נראית מאוד מציאותית, ולדברי מספר רב של מומחים היא כוללת מספר סימנים המעידים שיוצרה לכאורה על ידי בינה מלאכותית כלשהי.
החשבון שהפיץ את התמונה גם דאג להוסיף כיתוב ובו נכתב "פיצוץ גדול ליד מתחם הפנטגון בוושינגטון הבירה". טוויטר מיהרה לסגור את החשבון לאלתר, אך עד כה לא ברור מי או מה עומדים מאחורי הפייק. כאמור, כיום אין צורך ביותר מכרטיס אשראי כדי לקבל אימות לחשבון בטוויטר, אך גם זה לא מונע שימוש לרעה כפי שניתן לראות.
התמונה הייתה כל כך אמינה שהפילה בפח גם ערוצי תקשורת אמיתיים כגון Republic ההודי ו-RT הרוסי. האחרון היה המקור של הערוץ ההודי לידיעה ששודרה בזמן החדשות. ההשפעה על הבורסה הייתה הרסנית. מדד הדאו ג'ונס איבד כ-80 נקודות בדקות ספורות, אך חזר לעצמו לאחר מספר דקות. גם מדד ה-S&P 500 הציג מגמת ירידה, אך חזר למגמת צמיחה מספר דקות לאחר מכן.
ועדיין, הרעיון של פייק המופץ באופן נרחב ושמצליח לשכנע רבים שמדובר בתמונת אמת וגורם לכאוס קל במערכות מראה עד כמה מסוכנות טכנולוגיות בינה מלאכותית בידיים זדוניות. "ישנם סימנים מובהקים המעידים שהיא נוצרה על ידי AI", אמר ל-CNN האני פאריד, פרופסור מברקלי המתמחה בזיהוי פורנזי דיגיטלי. "רואים בבירור אפשר לראות טעויות מבניות שלא היינו רואים אם מישהו היה מסתפק בהוספת עמוד עשן לתמונה אמיתית".
