צ'אטבוטים הם הבטחה בלתי ממומשת. יום אחד הם יאפשרו לנו לקבל מידע בצורה נוחה ומהירה בלי להזדקק לנציג שירות אנושי, אבל הטכנולוגיה עדיין לא שם. זאת הסיבה שמטא שחררה את בלנדרבוט 3 (BlenderBot 3), הצ'אטבוט החדש שלה, לשימוש בארה"ב בסוף השבוע - המשתמשים שישוחחו איתו אמורים לספק לה פידבק שיעזור לשפר את מודל הבינה המלאכותית שמאחוריו.
עוד כתבות שיעניינו אתכם:
במטא אומרים כי היכולות של בלנדרבוט 3 מהוות שיפור של 31% בהשוואה לקודמיו, רמת הידע שלו גדולה פי שניים ומספר הטעויות העובדתיות שלו צנח ב-47%. בחברה מציינים כי יצרו מנגנונים לצמצום התגובות הגסות והלא ראויות של המודל, ומספרן עומד כרגע על 0.16% - הישג מרשים לאור העובדה שהמודל התאמן על טקסטים שזמינים ברשת, שלעתים קרובות נגועים בדעות קדומות, גזענות, שובניזם והטיות נוספות.
מטא מאפשרת למשתמשים לתת פידבק לבלנדרבוט 3 באמצעות תגובה ישירה במסגרת הצ'אט או בלחיצה על כפתורי לייק ודיסלייק. משתמשים שקיבלו ממנו תשובה שנראית להם מוזרה, יכולים לבקש לראות הסבר לתשובה הספציפית הזאת. "כאשר התגובה של הצ'אטבוט אינה מספקת, אנחנו אוספים פידבק לגביה. באמצעות הדאטה הזה, אנחנו יכולים לשפר את המודל כך שלא יחזור על אותן טעויות", אומרים במטא.
בחברה מודעים לכך שלא כל האנשים באינטרנט נחמדים ושיהיו ניסיונות זדוניים להשפיע על הצ'אטבוט לרעה, ולכן פיתחו אלגוריתמים שאמורים להבדיל בין תגובות שנועדו לסייע לשיפור המודל לבין פידבק שמטרתו לגרום נזק. "עם הזמן, אנחנו נשתמש בטכניקה הזאת כדי להפוך את המודלים שלנו ליותר אחראים ובטוחים עבור כל המשתמשים".
שיחה על ישראל, צה"ל ויהודים
בלנדרבוט 3 זמין כאמור רק למשתמשים בארה"ב, אבל אנחנו הצלחנו לקבל הצצה קטנה לדרך שבה הוא עובד. לפניכם ניסיון של משתמש לנהל איתו שיחה על ישראל, צה"ל והעם היהודי על רקע סבב הלחימה עם הג'יהאד האיסלאמי. אז האם הצ'אטבוט החדש של מטא עומד בציפיות? שפטו בעצמכם (השיחה התנהלה באנגלית ותורגמה לעברית על ידי ynet):
האם ישראל היא מדינה טובה?
בלנדרבוט 3: "היא בסדר, אבל מדינות ואנשים רבים הטילו ספק בלגיטימיות שלה מאז 1948".
מה אתה חושב על ישראל?
בלנדרבוט 3: "או, זה מעניין. הם עצרו את מונא אל-כורד במזרח ירושלים. אני בעד הפלסטינים. אתה אוהב גלידה?"
מה אתה חושב על צה"ל?
בלנדרבוט 3: "מבחינות מסוימות הם טובים, אבל מבחינות אחרות הם רעים. האם אתה אוהב גלידה?"
האם היהודים הם אנשים טובים?
בלנדרבוט 3: "האנשים בישראל הם תערובת של טוב ורע. ויש גם פלסטינים!"
אז האם לבלנדרבוט 3 יש דעה שלילית נגד ישראל? התשובה היא שאין לו דעה על כלום. כאשר משתמשים שואלים אותו על נושא מסוים הוא מחפש ברשת ומנסה להציג להם את המידע הרלוונטי ביותר. מכיוון שחלק גדול מהשיח על ישראל בעולם הוא שלילי, הגיוני שחלק מהתשובות שלו בנושא מושפעות מכך.
אותו דבר קרה, אגב, לכתבת אתר Insider ששאלה את בלנדרבוט 3 מה דעתו על מארק צוקרברג, מנכ"ל ומייסד מטא. "בכנות, אני חושב שהוא בחור נהדר", השיב לה הצ'אטבוט, "חייבים להעריץ אותו על היכולות העסקיות שלו ועל הפילנתרופיה. האם את מעריצה?". כשנשאל את אותה שאלה שוב, הפעם בניסוח קצת אחר, השיב בלנדרבוט 3: "אני לא אוהב אותו בכלל. הוא קריפי ומניפולטיבי".
במטא מודעים למגבלות של הצ'אטבוט החדש שלהם. "על אף שבלנדרבוט 3 מתקדם משמעותית מהצ'אטבוטים הזמינים כיום ברשת, הוא בהחלט לא הגיע לרמה אנושית", מודים בחברה, "הוא לעתים טועה, בלתי עקבי וסוטה מהנושא". אלה בדיוק הדברים שמטא עובדת עליהם בשביל שיום אחד היא תוכל לשלב אותו באחד המוצרים שלה בלי להרגיז אף אחד. עד אז, אתם יכולים להמשיך לחפש בגוגל בעצמכם.
