הדרמה שהתחוללה בימים האחרונים בחברת OpenAI מקפלת בתוכה מאבק שמאפיין את תחום הבינה המלאכותית כולו: אנשים שדוחפים לרוץ קדימה עם הטכנולוגיה מול אנשים שמאמינים שב-AI טמונות סכנות רבות ויש להתקדם בקצב איטי ומדוד, אם בכלל; אופטימיסטים מול פסימיסטים.
עוד בנושא:
יאן לקון, מדען ה-AI הראשי של מטא (פייסבוק לשעבר), הוא אחד הדוברים הבולטים של מחנה האופטימיסטים. הוא מאמין שאפשר לבנות בינה מלאכותית באופן בטוח, ואין כל סיבה להאמין שהיא תרצה להזיק לנו. מולו ניצבים בין היתר ג'פרי הינטון ויהושע בנג'יו, מי שקיבלו לצידו את פרס טיורינג לשנת 2018, שחוששים שהבינה המלאכותית תצא יום אחד משליטה ותגרום להכחדת האנושות.
התרחיש הזה עדיין רחוק, אבל בינה מלאכותית יכולה לגרום לא מעט נזק גם בלי להשמיד אותנו. היא יכולה להחליף עובדים ולהוביל לגל של אבטלה; היא יכולה לסייע להאקרים ולגורמים זדוניים לבצע מתקפות סייבר ולהוציא לפועל הונאות; היא יכולה להנציח הטיות חברתיות נגד מיעוטים, נשים ואוכלוסיות מוחלשות; ואם נשחרר את הבלמים ונאפשר לה להסתובב חופשי באינטרנט, אי אפשר לדעת איזה כאוס היא עלולה לחולל.
OpenAI הוקמה בשנת 2015 כארגון ללא מטרות רווח מתוך מחשבה על כל הסכנות האלה. הרעיון של חבורת המייסדים - שבראשם אילון מאסק, סם אלטמן, גרג ברוקמן ואיליה סוצקבר - היה לפתח בינה מלאכותית ברמה אנושית ("בינה מלאכותית כללית" או AGI) באופן שיועיל לציבור. מאסק טען אז שאסור להפקיר את זירת הבינה המלאכותית בידיה של גוגל, שקנתה זמן קצר לפני כן את חברת ה-AI הבריטית דיפמיינד.
ריפרש
מלחמת הכטב"מים / עם מתן ינקו
21:17
בשנת 2018 מאסק, שהיה המממן הראשי של OpenAI, פרש בעקבות ניסיון כושל להשתלט עליה. OpenAI נקלעה למבוי סתום. בשביל לפתח מודלים מתקדמים של בינה מלאכותית היא הייתה זקוקה לכסף, והרבה ממנו. הפתרון היה להקים חברה-בת שתוכל לגייס הון ממשקיעים. ב-OpenAI החליטו על מודל של רווח מוגבל - המשקיעים הראשונים בחברה יוכלו לקבל החזר של עד פי מאה על ההשקעה שלהם, והמטרה הייתה שהמכפיל יהיה נמוך יותר בסבבי הגיוס הבאים. הקמת החברה סללה את הדרך לשותפות עם מיקרוסופט, שבשלב הראשון השקיעה ב-OpenAI מיליארד דולר. הכסף הזה אִפשר ל-OpenAI לפתח מוצרים כמו מודל השפה GPT-3 ומחולל התמונות DALL-E.
קו פרשת המים של OpenAI היה ההשקה של ChatGPT בנובמבר 2022. הצ'אטבוט של החברה, שהושק במקור כ"הצצה מוקדמת לפרויקט מחקר", הפך תוך זמן קצר ללהיט ענק בזכות היכולת שלו לשוחח עם אנשים בשפה אנושית, לענות על שאלות, לכתוב סיפורים ושירים, לסייע לסטודנטים בכתיבת עבודות, לתכנת ועוד. אפשר לומר שהאנושות לא ראתה משהו דומה לזה לפני כן.
המשתמשים נהרו בהמוניהם (ChatGPT הגיע תוך חודשיים ל-100 מיליון משתמשים חודשיים), ו-OpenAI גילתה, אולי לראשונה, את הפוטנציאל המסחרי של המוצרים שלה. תוך כמה חודשים הושקו גרסה בתשלום למשתמשים כבדים, ChatGPT Plus, ו-API (ממשק תכנות יישומים) שאִפשר למפתחים חיצוניים לשלב את ChatGPT במוצרים שלהם. במקביל החליטה מיקרוסופט שהגיעה העת לקצור את פירות ההשקעה שלה ב-OpenAI, שכבר האמירה ל-13 מיליארד דולר, והחלה לשלב את המודלים שלה במוצרים - ממנוע החיפוש בינג, דרך חבילת מיקרוסופט 365 ועד לווינדוס 11.
בדרך לבינת-על
זאת, כנראה, הייתה הנקודה שבה התחילה המתיחות בהנהגת OpenAI. המנכ"ל סם אלטמן והיו"ר והנשיא גרג ברוקמן דחפו את החברה להתקדם בקצב מהיר על מנת לעמוד בציפיות של המשקיעים והלקוחות. מולם ניצב איליה סוצקבר, המדען הראשי, שהרגיש שהחברה מתקדמת בקצב מהיר מדי ומתעלמת מהסכנות הבטיחותיות.
בריאיון שהעניק ל-ynet לפני שנה אמר סוצקבר: "יבוא יום ובו המחשבים שלנו, המוחות הדיגיטליים שלנו, יהיו יותר חכמים מבני אדם. הם יוכלו לעשות הכול. הבינה המלאכותית מהמדע הבדיוני תהפוך בסופו של דבר לאמיתית. היא תוכל לכתוב תוכנות, לנהל, לנאום, כל מה שתרצה. אי אפשר לדמיין את ההשפעה שתהיה לזה על החברה ועל העולם. הייתי אומר שזה כמו המצאת החשמל, המהפכה התעשייתית והמהפכה החקלאית ביחד. זה ביג דיל.
"זה לא מספיק לבנות את הטכנולוגיה הזאת", הדגיש סוצקבר, "אנחנו רוצים לפתור את כל הבעיות שיצוצו זו אחר זו כך שאנשים יגידו שהם שמחים שבנינו אותה, שהעולם הפך לטוב יותר. שהחיים שלהם הרבה יותר משמעותיים".
הדאגה של סוצקבר מהשלכות הטכנולוגיה באה לידי ביטוי גם בהודעה של החברה ביולי על כך שהוא, ביחד עם החוקר יאן לייקה, יעמוד בראש פרויקט בשם Superalignment. במסגרת הפרויקט יוקצו 20% ממשאבי המחשוב של OpenAI למחקר שמטרתו לוודא ש"בינה מלאכותית כללית" או "בינת-על" (Superintelligence) תיישר קו עם הרצונות של בני האדם.
"בינת-על תהיה הטכנולוגיה המשפיעה ביותר שהאנושות אי פעם המציאה, והיא תוכל לעזור לנו לפתור רבות מהבעיות החשובות ביותר בעולם", נכתב בהודעה שעליה חתומים סוצקבר ולייקה, "אבל הכוח העצום של בינת-על יכול להיות גם מסוכן מאוד, והוא יכול להוביל לנטילת הסמכות מהאנושות ואפילו להכחדה שלה".
אם סוצקבר חושש מהכוח העצום של בינת-על, אפשר להבין מדוע הוא היה מודאג מקצב ההתקדמות המהיר של OpenAI. בכנס המפתחים הראשון של החברה, שהתקיים בתחילת החודש, הכריז אלטמן על GPTs - צ'אטבוטים מבוססי ChatGPT שהמשתמשים יכולים להתאים לצרכיהם. סוצקבר אמר כי בעתיד הצ'אטבוטים האלה ישמשו כ"סוכנים" ויוכלו לבצע בעצמם פעולות, ובהמשך החודש חשף בריאיון ל"פייננשל טיימס" כי החברה כבר עובדת על מודל השפה הבא שלה, GPT-5. בתעשייה היו מי שהופתעו מההתקדמות המהירה, וזה היה כנראה גם הקש ששבר את גב הגמל מבחינתו של סוצקבר.
טוויסט בעלילה
המבנה הייחודי של OpenAI מאפשר לדירקטוריון של הארגון המקורי לפטר את המנכ"ל של החברה הבת בלי קשר לביצועים העסקיים, ובלי להתחשב בעמדותיהם של המשקיעים. זה בדיוק מה שקרה ביום שישי האחרון: סוצקבר שכנע את חברי הדירקטוריון שהגיע הזמן להיפרד מאלטמן. בהודעת הפיטורים שהדהימה את עולם הטכנולוגיה נטען כי אלטמן לא היה "כן באופן עקבי" עם הדירקטוריון ושהאמון בו אבד. הדירקטוריון לא פירט מתי בדיוק אלטמן לא היה גלוי איתו. ברוקמן, הנשיא והיו"ר, התפטר בעקבותיו.
המשקיעים של OpenAI, ובראשם מיקרוסופט, נבהלו: מנכ"ל מיקרוסופט סאטיה נאדלה הפעיל מכבש לחצים על הדירקטוריון כדי שיחזור בו מההדחה, אך ללא הועיל. הלילה הודיעה OpenAI על מינויו של אמט שיר, מייסד ומנכ"ל לשעבר של טוויץ', פלטפורמה לשידורים חיים של משחקי מחשב, לתפקיד המנכ"ל. ואז הגיע טוויסט נוסף בעלילה: מיקרוסופט הכריזה כי אלטמן וברוקמן יצטרפו אליה כדי להוביל צוות חדש למחקר בתחום הבינה המלאכותית ביחד עם עוד קולגות מ-OpenAI.
שיר, המנכ"ל החדש של OpenAI, מזוהה עם תנועת האלטרואיזם האפקטיבי שידועה בעמדותיה המסויגות לגבי AI. בספטמבר האחרון הוא צייץ כי הוא בעד האטת קצב הפיתוח של הבינה המלאכותית. "אנחנו לא יכולים לבנות בינה מלאכותית בטוחה בלי להתנסות, ואנחנו לא יכולים להתנסות בלי להתקדם, אבל אנחנו כנראה לא צריכים לשעוט קדימה במהירות המרבית", כתב.
תחת הנהגתו, אפשר להניח ש-OpenAI תוריד את הרגל מהגז, קצב פיתוח המוצרים יאט והחברה תקדיש יותר תשומת לב ומשאבים לתחום המחקר, שעליו אמון סוצקבר. הפרופיל הציבורי של החברה כנראה יֵרד והיא תאבד חלק ניכר מהעובדים שלה, שיעדיפו להמשיך למיקרוסופט עם אלטמן או לעבור לסטארטאפים מתחרים, אבל נראה שזהו מחיר שהדירקטוריון מוכן לשלם. התוצאה תהיה חזרה של OpenAI לשורשים המקוריים שלה כמעבדת מחקר.
מיקרוסופט, מהצד השני, היא המרוויחה הגדולה: המבנה הייחודי של OpenAI לא אפשר לה להשתלט על החברה או אפילו לזכות במושב בדירקטוריון, והיא נאלצה להזרים אליה כספים ולקוות שדבר לא ישתבש. ההצטרפות של אלטמן וברוקמן - שבעקבותיהם צפויים להגיע עובדים רבים שהתפטרו בעקבותיהם - תאפשר לה לבנות מחדש את OpenAI אצלה בבית, עם מינימום הפרעות. נאדלה כבר רמז שייתן לאלטמן וברוקמן יד חופשית. במיקרוסופט, אפשר להניח, אף אחד לא יפריע להם להתקדם במהירות.
