בדרך לדמוקרטיזציה של AI? אמש (ב') חשפה ענקית השבבים אנבידיה מספר טכנולוגיות חדשות שצפויות לתדלק את המשך מהפכת הבינה המלאכותית לפחות לחמש השנים הקרובות. בין היתר נחשפה ארכיטקטורת בלאקוול (Blackwell) שכוללת שני שבבים, המעבד הגרפי החדש B200 שמורכב מ-208 מיליארד טרנזיסטורים ומעבד CPU "הופר" שכולם ארוזים ביחידה אחת. המהפכה הגדולה במארז הזה הוא שמדובר במעבד בעל עוצמה גדולה מאוד ביחס למה שיש כיום.
לדברי אנבידיה זה המעבד שיאפשר את הדמוקרטיזציה של הבינה המלאכותית לרמה שניתן יהיה להשתמש בה בעסקים קטנים ובינוניים. העלות השעתית לשימוש במעבד היא 1 דולר לשעה ולשנה מדובר על כ-4,500 דולר והוא גם חסכוני בצריכת חשמל. כבר כיום יש מחסור בשבבי H100 מהדורות הקודמים של אנבידיה, כך שהכנסת המעבד החדש לשוק אמורה להגדיל עוד את הביקוש לשבבים של החברה. באנבידיה מעריכים שהמהלך יסייע לחברה לשמר את הבכורה בשוק התשתיות לבינה מלאכותית.
עוד בנושא:
החברה הציגה במקביל עוד מספר חידושים שאמורים לסייע לה לשמר את הלקוחות הקיימים ולמשוך לקוחות חדשים גם מפלחי שוק שלא קשורים לטכנולוגיה כגון קמעונאות, פיננסים, בידור ועוד. לשם כך היא הציגה חבילת תוכנה בשם NIM שתאפשר לעשות שימוש בטכנולוגיות AI בקלות. זו השיטה של היצרנית כדי לשמר את ההובלה שלה - לספק למשתמשים וללקוחות סביבת תוכנה שמאפשרת להתאים את השימוש במעבדים לצרכים המיידיים של העסקים ואולי בעתיד גם של הצרכנים.
את הפתרון ניתן יהיה לקבל דרך מערכי מחשוב הענן של ענקיות הטק: מיקרוסופט, גוגל, אמזון ואורקל. כולן ימכרו את הגישה לשבבים החדשים. הם אמורים להיות יותר זולים בזכות החיסכון בחשמל שמגיע לרבע מהצריכה של מעבד מקביל כיום (H100) וזאת תוך הגדלת כוח החישוב פי חמישה.
כדי להמחיש את עוצמת השבב החדש, הוא מסוגל לעוצמת פעולה המקסימלית של כ-27 מיליון פרמטרים. לשם השוואה, מודל השפה הכי עוצמתי כיום, GPT-4, מבוסס על 1.7 טריליון פרמטרים. חוקרים מעריכים שככל שמספר הפרמטרים של המודלים האלה יגדל, כך יצמחו גם היכולות שלהם לבצע משימות מורכבות יותר.
לא מדובר בתענוג זול. שבב של אנבידיה מהדור הקודם שהוצג ב-2022, ה-H100, עולה בין 25 ל-40 אלף דולר ליחידה. כשהוא משולב בשרת מדובר על מכונה של כ-200 אלף דולר. עם זאת אנבידיה לא רוצה למכור שבבים, היא מעדיפה לשמור אותם אצלה ולמכור את הגישה לעוצמת החישוב שלהם במסגרת מנוי אנטרפרייז שלה שעולה כאמור כ-4,500 דולר לשנה למעבד גרפי. כמו ב-H100 ובהופר, גם בשבב החדש יש הרבה מאוד טכנולוגיה ישראלית שמגיעה ממלאנוקס. הרכישה מ-2020 הפכה את אנבידיה למובילה בזכות היכולת לשלב מערכת תקשורת נתונים סופר מהירה שפותחה כאן ביקנעם במשרדי מלאנוקס.
פרויקט "גרוט": רובוטים בתוך פחות מעשור
עוד שתי הכרזות מעניינות מאוד שולבו בסוף האירוע: הראשונה היא של פלטפורמת הפעלה של רובוטים בשם "פרויקט GR00T", שמיועד לאפשר פיתוח של סוגים שונים של רובוטים ואנדרואידים. מדובר במערכת שכוללת שלל פיתוחים המיועדים לתמוך בטכנולוגיה הזו. הרעיון הוא לאפשר לכל יצרן לתכנן לעצמו את הרובוט שיופעל בסיוע של בינה מלאכותית גנרטיבית בדיוק כמו ChatGPT.
דיפו טאלה, סגן נשיא בכיר למחשוב קצה (Edge), הסביר שרובוט שיפעל על הטכנולוגיה הזו יוכל לפעול בסביבה אנושית בצורה גמישה וידע להתמודד עם מצבים שלא הכיר, זאת בניגוד לרובוטים הקיימים שיכולים לעבוד רק עם תסריטים כתובים מראש. מכאן ועד שילוב של רובוטים בחיי היום-יום מדובר בפחות מעשר שנים, כך לפי הערכתו.
ההכרזה החמישית שהפתיעה רק קצת הייתה הודעת מנכ"ל אנבידיה, ג'נסן הואנג, על שיתוף פעולה עם אפל בתחום המציאות המעורבת. אנבידיה מפעילה כיום את פלטפורמת המציאות המדומה הגדולה והנפוצה כיום לתעשייה, ה-Omniverse. כעת משקפי הוויז'ן פרו של אפל יוכלו לפעול עם הפלטפורמה של אנבידיה ישירות ובלי צורך בהתאמות מיוחדות. אנבידיה מייצרת לאפל לגיטימציה למוצר שעד כה נתפס כנישתי.
בעוד במטא עוד לא התחילו לפזול לעולם המסחרי עם משקפי הקווסט, באפל כעת יוכלו לספק את המשקפיים לכל מי שירצה להשתמש במציאות מדומה בעולם העסקי. מדובר בפיתוחים שנעים מהפעלה של ציוד רפואי במהלך ניתוח ועד תכנון של מפעלים, דרך הדמיות שפלטפורמת אומניברס מפעילה.
הכתב הינו אורח אנבידיה בכנס GTC 2024 בסן חוזה