זה כבר מזמן לא סוד שהרשתות החברתיות מלאות במידע שקרי, ועדיין, רבים מאמינים לו בלי לבדוק את העובדות. ובעוד שלהפיץ שקר זה פשוט, להילחם בו כבר עלול להיות יותר מסובך. מיזם בשם SAVEE שנמצא בתחילת דרכו, מבקש לסייע לגולשים לנסח תשובות מבוססות מידע בקלות כשהם נתקלים במידע שקרי סביב השואה - נקודה רגישה במיוחד עבור ישראלים ויהודים. כדי לעשות זאת, ב-SAVEE משתמשים בטכנולוגיה החמה ביותר של הזמן האחרון - בינה מלאכותית גנרטיבית, ומתבססים על ChatGPT.
4 צפייה בגלריה
נלחמים בהכחשת שואה ברשת
(עיבוד תמונה. צילום: Farknot Architect, BONDART PHOTOGRAPHY / shutterstock.com)
"היום ברשתות החברתיות עולים מאות פוסטים ביום ברמות שונות של אנטישמיות והכחשת שואה או זילות שואה", מסביר עופר נידם (45), מהנדס אווירונאוטיקה, יזם סדרתי וממובילי פרויקט SAVEE. "הם מגיעים ל-7 מיליון אנשים ביום. כמעט 80% מתוכם נשארים באוויר לנצח", מוסיף נידם. "למרות שיש מיליוני אנשים שנחשפים ביום לאנטישמיות ברשתות החברתיות, והפוסטים נשארים באוויר, מי שנותן להם תגובה בדרך כלל זה כל מיני יהודים וישראלים טובים שנתקלים בהם. אבל ההשפעה שלהם מאוד קטנה כי הם לא נחשפים לרוב הפוסטים האלה, וגם כשהם נחשפים, ההשפעה של מכחיש שואה שיש לו מיליוני עוקבים חזקה יותר".
עוד בנושא:
הפרויקט התחיל במסגרת האקתון "ניצוץ לדורות", תחרות יזמית המתמקדת במיזמים לטובת שיפור חיי ניצולי השואה, חינוך והנצחת השואה, שנערכה זו השנה השלישית בחודש שעבר. "שמעתי על ההאקתון במקרה, והנושא נשמע לי מעניין וחשוב", מספר נידם. "אחרי שנרשמתי, התחברתי עם שתי מתכנתות אבל ביום ההאקתון הן בכלל לא הגיעו. אז בבוקר האירוע התחברתי עם עוד חמישה אנשים, ואחרי סיעור מוחות של שעתיים הגענו יחד לרעיון. 30 שעות אחר כך כשהצגנו את הדמו לשופטים - הם לא האמינו שנפגשנו רק יום לפני כן". הספונטניות השתלמה והמיזם החדש זכה במקום הראשון בתחרות. הדמו הציג בוט שניתן לתייג בטוויטר, ומנסח תשובה לטענות מכחישות שואה. אך כעת, התוכניות של המיזם להמשך הן רחבות יותר מפעילות בטוויטר בלבד.
אז איך זה עובד? בהינתן פוסט עם מידע שקרי הנוגע לשואה, בשלב הראשון SAVEE מנתח את תוכן הפוסט. הניתוח מתבסס על Botify, מיזם של אליה ליבשיץ, אחד מחברי הצוות, המאפשר יצירת בוטים מבוססי מסמכים ופועל בעזרת ה-API (ממשק תכנות יישומים) של ChatGPT. "אנחנו לוקחים פוסט וקודם כל מבינים על מה הוא מדבר, למשל על ליל הבדולח, גטאות וכו'", אומר נידם. בשלב הבא, הכלי מתבקש לנסח תשובה לטענה המובאת, בהתבסס אך ורק על מקורות מידע אמינים שהוגדרו לו מראש - כמו אתר יד ושם. "אחד הדברים שאנחנו רוצים לוודא זה שמה שאנחנו אומרים אמין במאה אחוז", הוא מסביר.
אבל דיוק הוא לא הפרמטר החשוב היחיד בתשובה שתתפרסם. "התשובה של המערכת צריכה לעמוד בכמה פרמטרים - היא צריכה לנסות לקרב, בשפה מתחשבת ועדינה. שלא תישמע שיפוטית או לוחמנית. המטרה שלנו היא לא לשכנע את האנשים שמעלים את התכנים האלה", נידם מדגיש, "אלא להגיע לאנשים שנחשפים אליהם. ותשובה חיובית שמנסה לקרב ומצביעה על הטעות גורמת לאנשים להגיד - 'רגע, אולי הוא באמת טועה, אני אלך לבדוק'".
4 צפייה בגלריה
חברי מיזם SAVEE הם אורי קסלר, סתיו כהן לסרי, עופר נידם, עידו שורץ, אליה ליבשיץ ויוני קסלר (אינו בתמונה). מצולמים ברגע הזכיה בהאקתון "ניצוץ לדורות"
(צילום: ויקטור לוי)
הוא ממשיך ומסביר כי "המטרה שלנו כרגע היא לבנות מכפיל כוח לאנשים שנחשפים לפוסטים כאלה ברשתות החברתיות. תוסף שיוכל למצוא את מקורות המידע, לנסח את התשובה בשבילם ולתת להם מראה מקום כדי שיוכלו לעשות העתק-הדבק לרשת החברתית ולהציג תשובה מנצחת לדיסאינפורמציה. היתרון של הבוט בדמו שפיתחנו, הוא שזה מאוד אוטומטי, לא צריך לעשות שום דבר חוץ מלתייג אותו. אבל אם אנחנו רוצים לפעול בכל רשת חברתית, זה מצריך לבנות מערכת אחרת עבור כל אחת מהן, בעוד שתוסף פשוט מתחבר לדפדפן בצורה עצמאית, ונפתח כשנמצאים ברשת חברתית. גם לזה יש חיסרון - הרבה מהרשתות החברתיות הן בסלולרי וזה לא נותן תשובה מספיק טובה לזה. אבל במצב הקיים, של כל הדיסאינפורמציה ברשת, כמות לוחמי המידע היא כלום, אז החשיבות הגדולה היא שניתן להם מכפיל כוח".
את המידע אתם מנתחים באמצעות API של ChatGPT וגם ניסוח התשובה נעשה באמצעותו?
"בדיוק, אנחנו עובדים מולו בכמה רמות. בתחילת הדרך וסוף הדרך. בניתוח על מה אנחנו מדברים, ובניסוח של התשובה שאנחנו מוציאים. באמצע יש רובד חשוב של ההזנה שלו במידע מקצועי ועיבוד שלו", אומר נידם ומסביר כי ברצונם לשתף פעולה לשם כך עם ארגוני הליגה למניעת השמצה, יד ושם ולוחמי הגטאות - איתם היו בקשר עוד בהאקתון.
אחת הבעיות הידועות עם בינה מלאכותית גנרטיבית היא שלעתים המודלים "הוזים" מידע. אתה יכול להיות בטוח במאה אחוז שהכלי שלכם לא ימציא עובדות שלא היו במקורות המידע?
"ב-ChatGPT אפשר להגדיר אילוצים, ולהגיד לו שהוא חייב להתחשב בהם. אז אם אנחנו אומרים לו שהוא יכול להתבסס רק על נתונים מסוימים, לא תהיה לו המצאה של נתונים. הרבה נופלים בזה כי כשאני מאפשר לו לעבוד עם בסיס נתונים מוגבל, חייבים לוודא שבסיס המידע גדול מספיק כדי לא לפספס נתונים. לכן אנחנו עובדים על כך שעיבוד הנתונים המוקדם יהיה מאוד עמוק".
בעוד שכרגע הכלי עוזר למשתמשים שנתקלים בפוסטים שקריים ובעייתיים, בשלב הבא ב-SAVEE מעוניינים לפתח את הכלי כך שיוכל גם לעשות חיפוש עצמאי ברשתות החברתיות ולהגיב לפוסטים כאלה באופן אוטומטי. נכון להיום, כל הפעילות סביב המיזם היא התנדבותית לחלוטין, ונוצרו במסגרתו שיתופי פעולה - למשל עם קהילת הקוד הפתוח של ישראל, ומול בתי ספר באשדוד במטרה לפתח ולשפר את הכלי עבור משתמשים פוטנציאליים. נידם אומר כי "אנחנו רוצים להוציא יישום פעיל ראשוני לקראת יום השואה, כך שגם אם לבסוף לא נמשיך לפתח את זה, אולי מישהו אחר ירים את הכפפה בעתיד". הוא מדגיש כי שיתופי פעולה הם קריטיים למטרת המשך הפיתוח, וקורא לגופים ויחידים להצטרף אליהם.
בעתיד, ייתכן שהפיתוח יהיה רלוונטי גם ליישומים מסחריים. "יש היום חברות בשוק שאחראיות על 'Brand awarness' למותגים שונים. הן מחפשות מה אנשים כותבים על חברות שונות ברשתות חברתיות, ומשתמשות בכלי AI כדי לנתח את המידע הזה. כל החברות שאנחנו מצאנו עוצרות בשלב הזה, כי מאוד קשה לייצר תגובתיות לדבר הזה ברשת, מאחר שקשה להגביל מודלים כך שלא יפיצו פייק ניוז, ולהכין להם מידע מראש. אם נצליח ברמה מספיק טובה לפתח מודל שמייצר תגובתיות ותשובות, אפשר לקחת את זה קדימה ולייצר תגובתיות מסחרית".
למידע נוסף על הפרויקט, הרשמה מוקדמת לשימוש בכלי והצטרפות למיזם, היכנסו לאתר SAVEE
