חברת OpenAI הודיעה בסוף השבוע כי היא בודקת תלונות של משתמשים על כך ש-GPT-4, מודל השפה שעליו מבוססת הגרסה בתשלום של הצ'אטבוט ChatGPT, הפך ל"עצלן" בשבועות האחרונים. "לא עדכנו את המודל מאז 11 בנובמבר, וזה בהחלט לא מכוון", כתבה החברה בחשבון הרשמי של ChatGPT ב-X (טוויטר לשעבר), "התנהגות של מודלים יכולה להיות בלתי צפויה, ואנחנו בודקים כיצד לתקן את הבעיה".
בימים האחרונים משתמשים ברשתות החברתיות טוענים כי GPT-4 מבקש מהם עוד מידע כדי לענות על השאילתות שלהם, או מספק להם מידע חלקי ודורש מהם להשלים את המשימות בעצמם. חלק סיפרו כי כדי להתגבר על הבעיה הם מבטיחים לצ'אטבוט תשר - שהוא כמובן לא יכול לקבל - או טוענים בפניו שהם סובלים ממוגבלות פיזית שבגללה אינם יכולים לבצע את המשימה בעצמם. חלק מהמשתמשים התבדחו על כך שסימני העצלות מעידים על כך שהצ'אטבוט המתקדם הגיע סוף-סוף לרמה אנושית.
העובדה שב-OpenAI לא יודעים להסביר את מקור הבעיה מהווה תזכורת לכך שמערכות של בינה מלאכותית, בניגוד לסוגים אחרים של תוכנה, הן למעשה "קופסאות שחורות" שגם המפתחים שעומדים מאחוריהן לא יודעים להסביר את תהליך קבלת ההחלטות שלהן. הבעיה הזאת הופכת ליותר ויותר דוחקת ככל שהיכולות של המערכות האלה משתפרות וההסתמכות של ארגונים וצרכנים פרטיים עליהן גדלה.
ב-OpenAI הסבירו כי "הרעיון הוא לא שהמודל איכשהו שינה את עצמו מאז 11 בנובמבר. זה פשוט ששינויים בהתנהגות של מודלים יכולים להיות עדינים - רק חלק מהפרומפטים (הפקודות של המשתמשים - י"מ) יכולים לחוות ירידה ברמה, וזה יכול לקחת זמן רב ללקוחות ולעובדים לזהות ולתקן את הדפוסים האלה".
ריפרש
גם ChatGPT לא היה יכול להמציא סיפור כזה / עם זוהר ברונפמן
26:43
סהר מור, מנהל מוצר בחברת סטרייפ שעומד מאחורי הניוזלטר AI Tidbits שעוסק בבינה מלאכותית, סיפר ל-ynet כי גם הוא הבחין בכך ש-ChatGPT החל לספק "תשובות קצרות ותמציתיות יותר", בין היתר במשימות הדורשת כתיבת קוד. "חשוב להבין שמודלים של בינה מלאכותית כמו GPT-4 הם לא ישויות סטטיות", אומר מור ,"הם מתפתחים באמצעות עדכונים ושיפורים מתמשכים. שינוי כזה יכול לקרות כאשר משיקים גרסה חדשה למודל. ייתכן שהגרסה הזאת התאמנה על דאטה סט יותר גדול, מבוססת על ארכיטקטורה שונה או עוצבה באמצעות שיטה אחרת של למידת חיזוק באמצעות פידבק אנושי (RLHF)".
בעיית העצלנות של ChatGPT אינה האתגר היחיד שעמו מתמודדת OpenAI בימים אלה: בשבוע שעבר חשפה גוגל את ג'מיני, מודל השפה המולטי-מודאלי החדש שלה, שמסתמן כאיום משמעותי על GPT-4. לפי נתונים שפרסמה גוגל, הגרסה הגדולה של ג'מיני, אולטרה, שצפויה לצאת לשוק בשנה הבאה, עוקפת את GPT-4 בשורה של מדדים.
בנוסף, בסוף השבוע הודיעה רשות התחרות והשווקים הבריטית (CMA) כי היא שוקלת לפתוח בחקירה על מנת לברר אם ההשקעה של מיקרוסופט ב-OpenAI פוגעת בתחרות בבריטניה. "היו לאחרונה כמה התפתחויות במבנה השליטה של OpenAI, שבכמה מהם מיקרוסופט מעורבת", הודיעה הרשות. ענקית הטכנולוגיה השקיעה 13 מיליארד דולר בסטארט-אפ הבינה המלאכותית ובמסגרת הדירקטוריון החדש שלו, שהוקם בעקבות פרשת הדחתו של המנכ"ל סם אלטמן והחזרתו לתפקיד כעבור חמישה ימים, היא תקבל לראשונה מעמד של משקיפה ללא זכות הצבעה.
אתר בלומברג דיווח במקביל כי גם נציבות הסחר הפדרלית בארה"ב (FTC) בודקת אם ההשקעה של מיקרוסופט ב-OpenAI מהווה הפרה של חוקי ההגבלים העסקיים. "הדבר היחיד שהשתנה זה שלמיקרוסופט יהיה משקיף ללא זכות הצבעה בדירקטוריון של OpenAI. זה מאוד שונה מהרכישה של דיפמיינד הבריטית על ידי גוגל", אמר בתגובה נשיא מיקרוסופט, בראד סמית', בניסיון להסיט את האש לעבר המתחרה הוותיקה שרכשה את חברת הבינה המלאכותית המדוברת ב-2014.
OpenAI עדיין לא התאוששה מסאגת הפיטורים של אלטמן. בסוף השבוע הודיע יו"ר הדירקטוריון החדש של החברה, ברט טיילור, כי שני עורכי דין מפירמת ווילמרהייל - אנג'ן סאהני והאלי ב. לווין - נבחרו לחקור את האירועים שהובילו להדחת אלטמן מהחברה. אלטמן והדירקטוריון היוצא של OpenAI סיכמו על קיומה של חקירה בנושא במסגרת ההסכם שהוביל לחזרתו לחברה בחודש שעבר. טיילור הודיע כי בינתיים הדירקטוריון "ימשיך לנקוט צעדים לחיזוק מבנה השליטה ב-OpenAI, בניית דירקטוריון מוסמך ומגוון עם אנשים יוצאים מן הכלל, ולפקח על המשימה החשובה של OpenAI להבטיח שבינה מלאכותית כללית (AGI) מיטיבה עם כל האנושות".
פרטים חדשים על הדחת המנכ"ל
בסוף שבוע פרסמו הוושינגטון פוסט ובלומברג פרטים נוספים על האירועים שהובילו להדחתו של אלטמן. מהדיווחים עולה כי בחודשים האחרונים פנו כמה בכירים ב-OpenAI לדירקטוריון והביעו דאגה מהתנהגותו של אלטמן. מהתלונות מצטייר דפוס של התנהגות מניפולטיבית, התעללות פסיכולוגית בעובדים וניסיונות לסכסך ביניהם. התלונות האלה היו פקטור משמעותי בהחלטת הדירקטוריון להדיח את אלטמן.
בנוסף, כמה מחברי הדירקטוריון האמינו כי אלטמן שיקר להם במסגרת המאמצים שלו להוביל לפיטוריה של חברת הדירקטוריון הלן טונר לאחר שהייתה שותפה לכתיבת מאמר אקדמי שמתח ביקורת על OpenAI. בין היתר טען אלטמן בפני אחד מהם כי עמיתתו לדירקטוריון, טאשה מקאולי, מאמינה שצריך לפטר את טונר. מקאולי הכחישה את הטענה.
בינתיים, עתידו בחברה של המדען הראשי והמייסד-שותף איליה סוצקבר, ישראלי לשעבר, לוט בערפל. סוצקבר, שהיה חבר בדירקטוריון היוצא של החברה, מילא תפקיד מרכזי בהדחתו של אלטמן אך התחרט לבסוף על מעשיו וחתם - לצד כמעט כל העובדים בחברה - על מכתב הדורש את החזרתו. בסוף נובמבר אמר אלטמן כי הוא לא נוטר טינה לסוקצבר וכי בחברה מתקיימים דיונים על מנת להחליט כיצד הוא "יכול להמשיך את עבודתו".
כעת מתברר כי הדיונים האלה טרם נשאו פרי: לפי דיווח של הביזנס אינסיידר, סוצקבר לא נראה במשרדי OpenAI בסן פרנסיסקו בשבוע האחרון. ביום רביעי האחרון הוא פרסם פוסט ב-X שבו כתב על לקחים רבים שלמד בחודש החולף. "אחד הלקחים האלה הוא שהביטוי 'המכות ימשיכו עד שהמורל יעלה' תקף לעתים הרבה יותר קרובות מאשר יש לו זכות", כתב סוצקבר. הפוסט נמחק כעבור זמן קצר.
