ענקית השבבים אנבידיה פרסמה אמש (ג') אפליקציה חדשה בשם Chat with RTX שמיועדת לאפשר הרצה של מודלי בינה מלאכותית יוצרת על מחשב רגיל. הרעיון הוא למנף את שבבי הגרפיקה של החברה לטובת הפעלה של מודל AI על המחשב של המשתמש. למה זה טוב? הפעלה של צ'אט בינה מלאכותית בסגנון ChatGPT או ג'מיני דורש התחברות לשרת המרוחק, כלומר על המשתמש להעלות קבצים או תמונות שהוא רוצה לעבוד עליהם. האפליקציה של אנבידיה מאפשרת לעקוף את הבעיה הזו ולהפעיל את היכולות של ה-AI ישירות על המחשב המקומי שלכם.
לדוגמה ניתן יהיה לנצל את האפליקציה כדי לסרוק כמויות גדולות של נתונים מכל הסוגים והמינים כדי למצוא מילות מפתח או נושאים מסוימים. משתמש שבדק את האפליקציה סיפר שהוא ניצל אותה כדי לסרוק אלפי עמודים של מסמכים משפטיים בדקות, משהו שהיה לוקח לו שעות וימים באופן ידני. הוא גם ניצל את היכולות של ה-AI כדי לבקש ממנה סיכום של הדיונים.
ריפרש
המלחמה על ההייטק / עם ליעד אגמון
47:31
מדובר בפריצת דרך משמעותית שמקרבת את השלב בו נוכל להריץ מודלים כאלה ישירות מכל מחשב שיש לנו - מ-PC ועד סמארטפון. במקום שנצטרך להעלות לענן של חברת AI נתונים או קבצים שאנחנו רוצים לנתח או לעבוד עליהם נוכל לעשות זאת ישירות על המחשב. אפשר למשל לנתח סרטוני יוטיוב ולקבל תמלול שלהם רק מהקטעים שחשובים לכם, אפשר גם לנתח גיליונות אקסל ועוד.
עם זאת האפליקציה עצמה עדיין לא מושלמת. היא סובלת עדיין מבאגים ולא פשוטה לשימוש עבור מי שחסר קצת ידע טכני בתחום או בטכנולוגיה. עם זאת היא מהווה סוג של סנונית ראשונה ליכולות הסיוע של טכנולוגיית בינה מלאכותית. סביר להניח שבעתיד נוכל למצוא יכולות כאלה בכל מערכת הפעלה, אך בינתיים האפליקציה דורשת שימוש בשבבים של אנבידיה כדי לפעול כהלכה ולהריץ את המודלים. מדובר בשבבים מסדרת RTX היוקרתית המיועדת לגיימרים בעיקר. על פי החברה ניתן להריץ אותה על שבבים מסדרות העילית RTX 4080, RTX 4090, או RTX 3080 ו-RTX 3090.
