מעט מאוד המצאות או פיתוחים טכנולוגיים יצרו אימפקט עולמי כה דרמטי וכה מהיר כמו השקת ChatGPT לפני כשנתיים על-ידי חברת OpenAI. המערכת פתחה בבת אחת מרוץ מטורף בין ענקיות הטכנולוגיה לפיתוח יכולות בינה מלאכותית יוצרת ולשילובה במוצריהן, והיא מסמנת שינוי דרמטי בדרך שבה כולנו צורכים או יוצרים תוכן וטכנולוגיה כמעט בכל תחום. לפי הערכות, ענקיות הטכנולוגיה יוציאו בשנים הקרובות טריליון דולר על פרויקטים בתחומי הבינה המלאכותית.
4 צפייה בגלריה
אירוע הכרזת GPT-4o של OpenAI
אירוע הכרזת GPT-4o של OpenAI
אירוע הכרזת GPT-4o של OpenAI. מעט מאוד פיתוחים יצרו אימפקט כה דרמטי.
(צילום מסך: יוטיוב)
צ'אטבוטים מבוססי בינה מלאכותית פועלים על טכנולוגיה בסיסית המכונה "מודל שפה גדול", או LLM. נכון להיום, רוב המשתמשים מכירים את OpenAI, החברה ששוויה הוערך לא מכבר ב-157 מיליארד דולר, הודות לגרסאות GPT-3.5 ו-GPT-4, המשולבות בין היתר ב-ChatGPT, בכלים עסקיים שונים ועוד. אבל עיני העולם כולו נשואות כבר יותר משנה לגרסה המתוכננת הבאה, GPT-5 (המכונה בחברה גם בשם הקוד "אוריון"), שמבוששת לבוא, אף שההבטחה המקורית של החברה הייתה כי תושק כבר במחצית השנייה של 2024.

כמו רקטה שהתפוצצה באוויר

מנכ"ל OpenAI, סם אלטמן, התבטא פעמים רבות על התכונות המופלאות החדשות שתציע GPT-5. היא תהיה לדבריו, "קפיצת מדרגה משמעותית" במשימות רבות: בזכות יכולת הסקה הגיונית עמוקה יותר היא תסייע לתגליות מדעיות חדשות, ותדע גם לבצע לבדה משימות כמו הזמנת פגישות או טיסות. החוקרים מקווים שישולבו בה יכולות חשיבה מתקדמות מבעבר, עם פחות טעויות מבמודלים הקיימים, שסובלים עדיין מ"הזיות".
בכיר לשעבר ב-OpenAI אף אמר ל"וול סטריט ג'ורנל", כי אם אפשר להשוות את GPT-4 לתלמיד תיכון חכם, אז GPT-5 יהיה כבר בוגר דוקטורט. לפי ראיונות שנתן אלטמן עצמו, ניתן לקבוע "עם רמה גבוהה של ודאות מדעית" כי GPT-5 יהיה "הרבה יותר חכם" מאשר המודל הנוכחי.
4 צפייה בגלריה
GPT-5. אילוסטרציה
GPT-5. אילוסטרציה
GPT-5. אילוסטרציה
(צילום: photosince / Shutterstock)
הבעיה היא, שלפי כל הסימנים והשמועות הדולפות מהחברה – פרויקט הפיתוח של GPT-5 תקוע למדי: הוא מפגר בלוח הזמנים ובמקביל צורך סכומי עתק של מאות מיליוני דולרים מהחברה. יודעי דבר טוענים כי העלויות הגדלות והולכות מצננות גם את היחסים בין OpenAI לבין המשקיעה הכי גדולה שלה, מיקרוסופט.
לא ברור מתי - או אם בכלל – המודל יעבוד. על-פי כתב העת The Information נראה כי גם כשייצא, GPT-5 לא יהווה קפיצת מדרגה גדולה כמו קודמיו. מומחים שכבר בדקו אותו מדווחים כי למרות שביצועיו של המודל אכן עולים על אלו הקיימים, השיפור קטן יותר מזה שהיה בין GPT-3 ל-GPT-4.
מודלי AI נבחנים במהלך "ריצות אימון" - תקופה ממושכת, שיכולה להימשך מספר חודשים, ובמהלכה מוזנות אליהם כמויות עצומות של נתונים, בסיוע עשרות אלפי שבבי מחשב יקרים, בהוצאות חשמל ותחזוקה אדירות. לצורך העניין, אימון של שישה חודשים יכול לעלות כחצי מיליארד דולר.
4 צפייה בגלריה
כנס המפתחים של OpenAI
כנס המפתחים של OpenAI
מנכ״ל מיקרוסופט, סאטיה נאדלה, לצד סם אלטמן. מערכת היחסים מצטננת
(צילום: JUSTIN SULLIVAN / GETTY IMAGES)
OpenAI ביצעה לפחות שתי ריצות אימון יקרות כאלו למודל החדש, אבל בשתיהן התוכנה לא עמדה בתוצאות שחוקריה קיוו להן. ה"ניו-יורק טיימס" מדמה ריצת אימונים כושלת כזו לרקטת חלל שמתפוצצת בשמיים זמן קצר לאחר השיגור. החברה, טוענים מומחים, חייבת גם למצוא מקורות חדשים לאימון המערכת, איכותיים ואמינים יותר מאשר האינטרנט, בעיקר מתוך ספרים, פרסומים אקדמיים וכדומה. GPT-5 זקוקה ליותר נתונים מאשר GPT-4, שאומנה כבר על כל המידע הזמין באינטרנט - חדשות, פוסטים ברשתות החברתיות ומאמרים מדעיים.
כדי להתמודד עם הבעיה, OpenAI אכן פונה לאינספור חברות וארגונים בבקשה לקבל את רשותם (בתשלום כמובן) להשתמש בטקסטים שאינם זמינים ברשת. במקביל, גם אם לא יימצאו מספיק מאגרים נוספים כאלה, היא הקימה צוות שמנסה להבין כיצד ניתן לשפר בכל זאת את המודלים. בין האסטרטגיות שנבחנות - אימון על נתונים "סינתטיים" שנוצרו בעצמם על ידי בינה מלאכותית, וגם – ניסיון לשפר את המודלים באמצעות תוכנה.

חוששים מדליפות

בינתיים, OpenAI שכרה מהנדסי תוכנה ומתמטיקאים, שיספקו "הסברים מעמיקים" לתהליכים חישוביים, שיהיו ברורים לא רק לאנשים, אלא גם למודלי AI, וש"אוריון" תוכל ללמוד מהן ולשפר בעזרתם את ביצועיה. אך התהליך, למרבה הצער, נראה איטי למדי.
4 צפייה בגלריה
מירה מוראטי וסם אלטמן
מירה מוראטי וסם אלטמן
מירה מוראטי וסם אלטמן. האחרון הולך ומאבד את טובי המוחות של החברה
(צילום: Patrick T. Fallon / AFP)
במקביל החברה נאבקת בניסיונות של יריבותיה לצוד את החוקרים המובילים שלה: יותר מ-24 מנהלים בכירים, חוקרים ועובדים ותיקים עזבו את OpenAI השנה, כולל המייסד-שותף והמדען הראשי איליה סוצקבר וסמנכ"לית הטכנולוגיה מירה מוראטי. לא מכבר הודיע גם אלק רדפורד, חוקר מוערך ששימש כמחבר הראשי של כמה מהמאמרים המדעיים של OpenAI, על עזיבתו לאחר כ-8 שנים בחברה.
התחרות בין מעבדות הבינה המלאכותית גדלה עד כדי כך שחברות הטכנולוגיה הגדולות מפרסמות פחות מבעבר מאמרים על ממצאים אחרונים שלהן או על פריצות דרך מחשש שהחידושים יאומצו על-ידי המתחרים. ישנם אף חוקרים שהודו כי הם לא מוכנים לעבוד במטוסים, בבתי קפה, או בכל מקום שבו מישהו עשוי להציץ בעבודתם מעבר לכתף.
OpenAI היא לא החברה היחידה שנתקלת בקושי בניסיונות להתקדם לשלב הבא ב-AI. ברחבי התעשייה מתנהל ויכוח האם השיפור הקבוע וההדרגתי שהורגלנו אליו בתחום מתחיל להתייצב. איליה סוצקבר, שייסד לאחרונה חברת בינה מלאכותית חדשה (עם שלוחה בישראל), הכריז בכנס AI שנערך לאחרונה כי עידן מיקסום הנתונים הסתיים. "הנתונים לא גדלים כי יש לנו רק אינטרנט אחד", אמר.
בלית ברירה, OpenAI, כאמור, מתרכזת כרגע בניסיון לבנות "מודל חשיבה" מתקדם ויעיל יותר למודל שלה, בשילוב עם השיטה הישנה של אימון במידע נוסף. בשלב הזה לא ברור מתי, והאם, כל זה יתגבש לכדי גרסת GPT-5 חדשה.