תביעתו של אילון מאסק נגד OpenAI וסם אלטמן שהוגשה בשבוע שעבר הפכה לשיחת היום בביצת ה-AI הקטנה של הסיליקון ואלי. רבים החלו לנתח את המסמכים שהגישו עורכי דינו של מאסק לבית המשפט והחלו לנסות להעריך את הסיכוי שהתביעה אכן תתקבל ותוביל למערכה משפטית. מכל הניתוחים עולות שתי טענות שעל פניו מדגימות שהסיכוי של מאסק אכן לא גבוה ושהתביעה עצמה מיועדת ככל הנראה לפגוע בשם המותג של OpenAI ולכבול אותה לשנים של הליכים משפטיים יקרים. בנוסף, אם מאסק ינצח בסופו של דבר, זה עשוי לפתוח פתח לתורמים או שותפים במלכ"רים לתבוע את הגופים להם תרצו אם אלה לא יעמדו באופן דקדקני בתנאי התרומה או אם יעשו בה שימוש שונה ממה שנקבע מראש.
הטענה העיקרית של מאסק ועו"ד מבוססת כאמור על תכתובת מיילים ושיחות מול סם אלטמן וגרג ברוקמן מייסדי החברה. בזמנו אלטמן הבטיח למאסק שהחברה לא מייעדת את עצמה לפתח בינה מלאכותית כללית - כלומר טכנולוגיית AI שמסוגלת לחשוב כמו בן אדם - ואם כן תפתח אותה היא לא מתכוונת להפוך אותה למקור רווח. זו הסיבה המקורית לכך ש-OpenAI הוקמה כמלכ"ר (מוסד ללא כוונת רווח), כדי למנוע את הפיכת הטכנולוגיה שתפתח למוצר מסחרי. ואולם, למרות שעל הנייר יש למאסק אכן טענה חזקה, ניתוח מעמיק של הדברים מעלה שזה לא בדיוק כך.
האמצעי העיקרי של מאסק להראות שאלטמן הוליך אותו שולל מתבססת על ההערכה שהחברה הצליחה לפתח משהו שאפשר להגדירו כבינה מלאכותית כללית (AGI). את הטענה הזו מבסס מאסק על מחקר שפורסם לפני כשנה שמדגים כיצד מודל השפה החדש GPT-4 הראה "ניצוצות של בינה מלאכותית כללית". עם זאת כפי שהניו יורק טיימס ציין אמש (שבת) מדובר היה "בטענה אמיצה". או במילים אחרות סיסמה שיווקית שנועדה יותר להראות למתחרות מאשר לציין הישג מדעי אמיתי. אגב, המחקר הזה לא עבר ביקורת עמיתים כמקובל זאת בגלל שהתבסס על אב-טיפוס של המודל בזמן שפותח. כלומר אף חוקר לא יכול לשחזר את הניסוי בגלל שהגרסה של המודל כבר השתנתה עשרות אם לא מאות פעמים מאז.
באופן אירוני מאסק צריך את המחקר הזה כי זו ההוכחה היחידה שיש לו על כך ש-OpenAI כן הצליחה לפתח AGI. אבל אם אפשר להאמין לראש המחקר במיקרוסופט, פיטר לי, לדבריו "למרות הסקפטיות, התחלתי לחשוב מאיפה לעזאזל זה מגיע?" בחברה באמת השתכנעו שיש להם ביד בינה מלאכותית כללית, או לפחות אחת שמראה סימנים כאלה. עם פרסומו המחקר עורר עניין רב וצוטט כ-1,500 פעמים במאמרים שונים וכתבות. הוא הפך לאחד המאמרים המצוטטים בעולם בחמש השנים האחרונות. אבל זה לא מנע ביקורת, גם מתוך מיקרוסופט עצמה.
ריפרש
הבינה המלאכותית לקחה בלי רשות. האם היא תשלם על זה? / עם ליטל הלמן
38:59
הבעיה היא שאף אחד לא יודע איך אמורה להיראות בינה מלאכותית כללית. האם זו מערכת שדומה לאדם? האם היא מתעצבנת כשמדברים אליה לא יפה? האם היא מסוגלת ללמוד לבדה ולאחר מכן להפעיל מערכות חיצוניות כדי ליישם את הידע שיש לה? אולי זה הכל יחדיו? בקיצור, אין אחדות דעים בנוגע: כיצד סימני AGI אמורים להיראות. עורכי המחקר עצמם הסתמכו על מחקר נוסף מלפני 30 שנה כדי להגדיר לעצמם את הכיצד. אבל גם המחקר הישן הזה היה בעייתי מפני שטען טענות שנתפסות היום כגזעניות על עליונות האינטיליגנציה של יהודים ואסייתיים לעומת שחורים והיספנים.
בהמשך ניתן לראות שגם המדען הראשי של מיקרוסופט, אריק הורביץ, הודה שמדובר בהחלטה (השימוש במחקר הבעייתי, ר''ק) "שעוררה פלצות" בדיעבד. GPT-4 רחוק מאוד מלעשות כל מה שמוח אנושי מסוגל לו. למעשה גם ב-OpenAI אומרים זאת. ג'ייסון קוון, סמנכ''ל האסטרטגיה של החברה שלח הודעה לעובדים בסוף השבוע בה הוא מציין שלמרות שמודל השפה מסוגל "לפתור הרבה מאוד בעיות קטנות בהרבה מאוד משימות, ביחס למוח אנושי ההפרש עדיין אדיר".
מעבר לבעייתיות של הוכחת GPT-4 כבינה מלאכותית כללית, גם האסטרטגיה של מאסק מבוססת על הערכות שאפשר להגדיר כיותר פילוסופיות מאשר מבוססות על עובדות משפטיות ברורות. אז למה באמת מאסק צריך את כל הטרחה הזו סביב תביעה שסיכויי הצלחתה קלושים? תביעה מעין זו תכבול לא מעט את OpenAI ותחסום אותה מלהצהיר שיש בידיה טכנולוגיית בינה מלאכותית כללית. כל עוד החברה נמצאת בתהליכים משפטיים היא תנסה למנוע הערכה שיש לה כזו טכנולוגיה. זאת אומרת שהמתחרות ינסו להתהדר יותר ביחס ל-OpenAI ואולי אף יצליחו. זאת ועוד, תביעות מעין אלה נוטות להעלות סיפורים שניתן להגדיר כ-"כביסה מלוכלכת", עוד צרה תקשורתית לסטארט-אפ. ולקינוח, כשהאדם העשיר ביותר עלי אדמות תובע אותך, הוא יכול להשקיע הרבה מאוד כסף בהארכת ההליכים - מה שהלכה למעשה מצר את צעדיה של OpenAI בשוק.
אסור לשכוח שגם למאסק יש חברה מתחרה ל-OpenAI ושגם היא מפתחת מודל בינה מלאכותית. החברה של מאסק, xAI, כבר הציגה את מודל השפה Grok בעל ההומור העוקצני והייחודי שפועל ב-X. ובניגוד ל-OpenAI כן מדובר בחברה מסחרית עם כוונות רווח. אבל אם יש משהו מעניין בכל התביעה הזו זה שהיא תאפשר להגדיר בצורה משפטית ותקדימית איך צריכה להיראות בינה מלאכותית כללית, מה תהיה המסגרת להפעלתה ואולי אפילו לבסס התחלה של רגולציה. שזה בסופו של דבר אחד היעדים המוצהרים של אילון מאסק. אסור לשכוח שמדובר לכל הפחות באדם שמצליח לשמור על שמו בכותרות בהקשרים יחסית חיוביים לרוב, למרות שבמקביל הוא יכול לעורר לא מעט אנטגוניזם בגלל מעשים או אמירות בעייתיות.
