מטא (לשעבר פיייסבוק) מכריזה על מודל AI חדש בשם Few-Shot Learner (FSL), שישתלב בפעילות בקרת התוכן של החברה, ויזהה תכנים פוגעניים או מזיקים בפלטפורמות פייסבוק ואינסטגרם. לפי הודעת החברה, המודל החדש מהיר יותר מהמודלים המסורתיים, ובעל יכולת לזהות מגמות חדשות וסוגים חדשים של תכנים פוגעניים.
עוד בנושא:
מודלים של בינה מלאכותית לרוב דורשים אימון מקדים כדי ללמוד איך לזהות תכנים פוגעניים. התהליך כולל איסוף ותיוג של התכנים, ולפי מטא עשוי לקחת חודשים, בעוד שתכנים מזיקים מתפתחים במהירות גבוהה בהרבה - כתוצאה מאירועים אקטואליים, או כחלק מניסיון מכוון לעקוף את כלי הפיקוח הקיימים (למשל באמצעות איות שונה למילים שמפרות את מדיניות הפלטפורמה). המודל החדש לומד תוך כדי תנועה, ולפי מטא יקצר את טווח התגובה ממספר חודשים למספר שבועות, תוך שמירה על רמת הדיוק של המערכות המסורתיות.
מטא זוכה לביקורת באופן תדיר בנוגע לניטור התכנים בפלטפורמות שלה. לפני מספר חודשים נשיא ארה"ב ג'ו ביידן מתח ביקורת על האופן שבו דיסאינפורמציה הנוגעת לחיסוני קורונה מופצת בפייסבוק. במסגרת ההדלפה הגדולה של מסמכים פנימיים של החברה על ידי העובדת לשעבר פרנסס האוגן, נחשף כי החברה לא מצליחה לבלום הפצה של תכנים מסוכנים בשפות רבות, ורק אתמול פורסם כי פליטים בני הרוהינגיה תובעים מהחברה 150 מיליארד דולר מהחברה בטענה שדברי הסתה שהופצו בפייסבוק הובילו לאלימות נגדם במיאנמר.
2 צפייה בגלריה
פרנסס האוגן. המסמכים שהדליפה חשפו את אוזלת היד של פייסבוק לנטר תכני הסתה בשפות שונות
(צילום: AFP)
לפי הודעת מטא, המודל החדש יהיה מסוגל לזהות תכנים פוגעניים ביותר ממאה שפות, וישתלב בכלי הבינה המלאכותית הקיימים בפלטפורמות. המערכת החדשה תוזן בדאטה בשפות שונות, שמקורו בדוגמאות גנריות לשפה (תוך התייחסות לכל חלקי הפוסט - תמונותף טקסטים, לינקים וכו') במטרה להביא להבנה כללית של סוגים רבים של נושאים. בשלב הבא היא עשויה להיות מוזנת במעט דוגמאות מתויגות כדי ללמוד משימות חדשות. בנוסף, מוזן אליה טקסט מצומצם שמסביר את המדיניות חדשה. בחברה ציינו כי כשהמערכת נבחנה, נמצא כי פוסט שמערכת הבינה המלאכותית המסורתית פספסה, זוהה באופן נכון על ידי המודל החדש. לפי מטא, מערכות קודמות הסתמכו על הבנה והתאמה לדפוס מסוים שהמערכת למדה, ואילו FSL מאומנת ע"י שפה כללית וגם שפה שספציפית לנושא. בחברה השוו מערכות מסורתיות לחכות דיג שיכולות לתפוס רק סוג דגים מסוים, ואת FSL לרשת שיכולה לתפוס גם סוגים נוספים.
האזינו לריפרש, פודקאסט הטכנולוגיה של ynet
קורנליה קאראפצ'יה, מנהלת מוצר בצוות ה-AI של מטא, אמרה במפגש עיתונאים וירטואלי כי "בתחום בקרת התוכן, להיות מסוגלים למצוא ולתייג מספיק דוגמאות, שנוגעות לסוגיות מגוונות ולשפות שונות, עשוי להיות מאוד מאתגר. לכן חיוני עבורינו לפתח טכנולוגיות שמסתמכות פחות ופחות על מידע מתויג. הטכנולוגיה יכולה לעזור לנו להגיב למגמות חדשות מהר יותר, מבלי לחכות להמון דוגמאות. העובדה כי ניתן להזין במערכת גם הנחיות של המדיניות שלנו, מוסיפה לה ניואנסים של הבנה, זה נותן הקשר ועוזר להגיע להחלטות מדויקות יותר. זה אפשר לנו להתמודד עם בעיות חדשות, כמו תכנים שמנסים לעורר ספק או הרתעה מפני חיסוני קורונה. זה מאפשר לנו גם להתמודד בצורה טובה יותר עם בעיות ותיקות יותר, כמו דברי שטנה. זו טכנולוגיה שעדיין בחיתוליה, אבל אנחנו רואים בה הבטחה, ונמשיך לפתח אותה ולשפר אותה. התחלנו להשתמש בטכנולוגיה בחודשים האחרונים, סביב מספר סוגיות. בעתיד נוכל להשתמש בה ביותר שפות וסוגיות".
שילוב של מכונות ואנשים
קאראפצ'יה הסבירה כי המערכת החדשה לא תחליף את הבודקים האנושיים. "אנחנו משתמשים בשילוב של מכונות ואנשים, אחרת ההגנות שלנו לא מספיק טובות". לפי מטא, FSL מציפה יותר תכנים שהם "כמעט" הפרות תוכן, וכך צוותי המדיניות מיודעים יותר לגביהם כשהם מחליטים על קווי פעולה. "הטכנולוגיה החדשה לא תפחית את מספר העובדים, כי היא עוזרת למכונות ללמוד מהר יותר, אבל היא גם עוזרת לבדיקה האנושית ולתהליך הגדרת המדיניות להפוך למהירים ויעילים יותר", אמרה קאראפצ'יה. "הטכנולוגיה החדשה יכולה להציף דוגמאות לתכנים כדי שניתן יהיה לנסח כללים חדשים מהר יותר. גם בודקי התוכן לומדים מדוגמאות את מדיניות החברה". במטא אף אמרו כי בבדיקה של הטכנולוגיה נמצא כי אחוז הצפיות בתכנים שמפרים את מדיניות הפלטפורמה ירד אחרי שהושקה בפייסבוק ואינסטגרם.
האן פאנג, חוקר בצוות ה-AI של מטא, השיב לשאלת ynet האם בחברה מתכננים לשתף את הטכנולוגיה או התובנות עם רשתות חברתיות אחרות, כדי להגן גם על משתמשיהן. "חלק מהשיתוף נעשה דרך כתבי עת מדעיים", אמר פאנג. "בשנים האחרונות, פיתחנו הרבה חידושים בתחום ה-AI ושיתפנו אותם בכתבי עת, כך שאנשים מחוץ למטא יוכלו לבחון את היישום והפיתוח שלנו, ולנסות להתאים אותם אליהם. התקווה היא להמריץ את הפיתוח בכל תעשיית המדיה החברתית והטכנולוגיה בכלל".
לפי מטא, מדובר באבן דרך חשובה בדרך למערכות AI יותר אינטיליגנטיות וכלליות, שיוכלו ללמוד במהירות מספר משימות בבת אחת. "החזון ארוך הטווח שלנו הוא להגיע ליעילות וגמישות בלמידה, כמו אצל בני אנוש", נכתב בהודעת החברה.
