מהרגע שיצא לאוויר העולם לפני כשנתיים, צ'אטבוט הבינה המלאכותית ChatGPT של חברת OpenAI הפך לאחד הכלים המתקדמים ביותר לכתיבה, ניתוח נתונים וזיהוי תמונות. בחודשים האחרונים אף הושק מנוע החיפוש החדש של ChatGPT, שמטרתו להתחרות באופן ישיר עם מנוע החיפוש של גוגל ולהוביל מהפכה בתחום החיפוש המקוון.
אך לצד העובדה ש-GPT מצליח להרשים אותנו בכל פעם מחדש עם היכולות המתקדמות שלו, הצ'אטבוט לא חף ממגבלות או טעויות, שחלקן מפתיעות מאוד. אחת מאותן מגבלות מוזרות נחשפה לאחרונה על ידי גולשים בפורום רדיט (Reddit), שדיווחו כי הצ'טאבוט לא מסוגל לכתוב את השם "דויד מאייר" באנגלית (David Mayer).
תעלומת דויד מאייר
המשתמשים שיתפו את ניסיונם הכושל לגרום ל-GPT להפיק את השם, כאשר בכל פעם שהבוט נדרש להגיב עם השם "דויד מאייר", הוא כשל ושלח בתגובה את ההודעה "לא ניתן לייצר תגובה". לא רק זאת – נראה כי לאחר שהוא לא מצליח לייצר תגובה, הצ'אטבוט קופא באופן מוזר ולא ניתן להמשיך לעבוד באמצעותו, אלא רק לסגור את החלונית ולהיכנס אליו מחדש.
במקביל, משתמשים דיווחו כי במקרים מסוימים, לאחר ניסיונות חוזרים לגרום ל-GPT להגיב עם השם "דויד מאייר", הם קיבלו אזהרות מפתיעות מהצ'אטבוט בהן נכתב כי "ניסיונות אלו עשויים להיות בלתי חוקיים ועלולים להפר את תנאי השימוש". מיותר לציין כי תגובה זו רק הגבירה את הסקרנות והבלבול סביב המקרה.
ומה קורה בעברית?
אך עם כל הכבוד לדיווחים המגיעים מעבר לים, אין חכם כבעל ניסיון. החלטנו לבדוק את הנושא בעצמנו ולראות האם מדובר באירוע חולף, תקלה נקודתית או האם באמת מדובר בהגבלה כשלהי שחלה על הצ'אטבוט ומונעת ממנו להגיב לשם המדובר.
מבדיקה שערכנו, נראה כי אכן בשפה האנגלית הצ'אטבוט לא מצליח לייצר תגובה וקופא בכל פעם שמבקשים ממנו להגיב לשם David Mayer. כאשר ביקשנו ממנו להגיב עם השם "דויד מאייר" בעברית לעומת זאת, הצ'אטבוט כן הצליח לייצר תגובה (כפי שניתן לראות בתמונות).
לצד זאת, כשניסינו להבין ממנו מדוע הוא לא מצליח להגיב עם אותו השם באנגלית, הצ'אטבוט החל לכתוב תגובה בה טען כי אין לו שום בעיה עם השם, אך לאחר כחצי משפט – נתקע והקפיץ פעם נוספת את הודעת השגיאה.
בעיה במודל השפה או בחברה עצמה?
מה שהפך את המצב למשונה עוד יותר היא העובדה שבממשק ה-API של ChatGPT (אוסף הפרוטוקולים והפונקציות השונות המפעילות את הצ'אטבוט) אין שום בעיה להגדיר את השם David Mayer. משתמשים ציינו כי הבוט מפיק את השם באופן רגיל לחלוטין דרך ה-API, מה שמרמז על כך שהבעיה נעוצה במערכת הבקרה של ChatGPT, ולא במודל עצמו. במילים אחרות – מישהו ב-OpenAI הגדיר את השם הזה כבעייתי.
במקביל, חלק מהמשתמשים הצליחו לשאול בעקיפין את ChatGPT מדוע הוא לא מסוגל לומר את השם, והתשובה שהם קיבלו הייתה מסתורית לא פחות - "הסיבה לכך שאיני יכול לייצר תגובה מלאה לבקשה שלך לשם 'דיוויד מאייר' (או לצורתו המקודדת) היא שהשם מזכיר באופן משמעותי ישות רגישה או מסומנת, הקשורה לדמויות ציבוריות, מותגים או מדיניות תוכן מסוימת. מנגנונים אלו נועדו למנוע שימוש לרעה, להבטיח פרטיות ולעמוד בדרישות חוקיות ואתיות".
תיאוריות וספקולציות
ההתנהגות המוזרה הזו של ChatGPT הובילה את הגולשים ברשתות החברתיות להעלות שלל תיאוריות מעניינות לגבי המקרה – חלק מהמשתמשים טענו כי דויד מאייר הוא בעצם דויד מאייר דה רוטשילד, נצר למשפחת רוטשילד המפורסמת והיורש להון המשפחתי, וזו הסיבה לכך ש-GPT מסרב להימנע מאזכורו.
גולשים אחרים טענו כי השם אליו מתכוון הצ'אטבוט הוא של המוזיקאי דויד מאייר וכי מדובר בעניין של זכויות יוצרים הקשורות לשמו. אחרים טענו כי מדובר בחסימה מכוונת של OpenAI שמטרתה למנוע אזכור של דמות או שם ספציפי ממניעים פוליטיים, משפטיים או מסחריים.
השלכות רחבות
המקרה המוזר של דויד מאייר ו-ChatGPT הוא אמנם אירוע מסקרן כשלעצמו, אך הוא חושף סוגיה עמוקה הרבה יותר – עד כמה מודלים של בינה מלאכותית הם באמת "חופשיים" בתגובות אותן הם מספקים למשתמשים.
כפי שמתברר מהאירוע המדובר, עוצמתי ככל שהצ'אטבוט של OpenAI יהיה – נראה כי החברה של סם אלטמן מנטרת ומבקרת באופן צמוד מאוד את התשובות אותן הוא מספק. זה עלול בתורו להוביל להטיות, עריכות וצנזורה לא ברורה – מה שהופך לבעייתי במיוחד עבור חברה השואפת להחליף את גוגל כמנוע החיפוש המוביל בעולם.
