רשויות סין עצרו אדם במחוז גאנזו בצפון המדינה באשמת הפצת פייק ניוז שיצר בעזרת אפליקציית הבינה המלאכותית ChatGPT. המהלך הוא ככל הנראה אחד המעצרים הראשונים אי פעם בגין עבירה מעין זו. ממשלת סין חוקקה לאחרונה סדרה של תקנות המגדירות את מסגרת השימוש בבינה מלאכותית במדינה. אחד הסעיפים העיקריים בהן מתייחס להפצה של פייק ניוז תוך שימוש ב-AI.
עוד בנושא:
החשוד שזוהה רק על ידי שם משפחתו הונג, מואשם שעשה שימוש בצ'אט בוט של OpenAI על מנת לייצר כתבה ובה דיווח על תאונת רכבות קטלנית שהרשויות אומרות שמעולם לא התרחשה. האיש המשיך והפיץ גרסאות שונות של אותה כתבה שיוצרו גם הן על די ChatGPT, כך לפי הודעת משטרת סין והדיווח של ה-South China Morning Post. הכתבה זוהתה בסוף אפריל והרשויות מצאו את הגרסאות השונות שלה ברשת מהר מאוד. ההבדל היחיד בין הגרסאות היה מיקום התאונה כביכול. הכתבות הופצו לרשת הבלוגים החברתית של חברת ביידו הסינית על ידי 20 חשבונות שונים במקביל, מה שהעלה את החשד.
המשטרה זיהתה שהכתבות נוצרו על ידי החברה של הונג שאחראית על הוצאתם לאור של עשרות אתרי בלוגים. על פי המשטרה, הונג הודה בחשדות נגדו והסביר שהפעיל את הרשת כדי להפיץ כתבות בשינויים קלים, כדי להימנע מגילוי על ידי מערכות פיקוח תוכן של המדינה. לדבריו, הוא השתמש באתרים כדי לייצר תנועת גולשים ולהרוויח ממנה כסף לאחר שחברים הראו לו כיצד עושים זאת. הכתבות המזויפות הגיעו לקהל של כ-15 אלף קוראים לפני שהרשויות הורידו אותן.
אפליקציית ChatGPT אסורה לגישה במדינה, אבל סינים רבים משתמשים ב-VPN כדי לעקוף את החסימה. למעשה, מדובר באחת האפליקציות הפופולריות בחודשים האחרונים במדינה. הונג עצמו הואשם ב"הפרת סדר", סעיף כללי שמאפשר לרשויות לעצור גם מפיצי פייק ניוז. הונג עשוי להישלח לכלא לתקופה של בין 5 ל-10 שנים על העבירות.
