פרופ' ג'פרי הינטון, זוכה פרס נובל לפיזיקה לשנת 2024, הוא גאון יוצא דופן, אדם צנוע ומאוד כנה וגלוי. באחד הראיונות שנתן השבוע, הוא סיפר על גאוותו בסטודנטים שלו, ובעיקר באיליה סוצקבר, ש"פיטר את הבוס שלו" סם אלטמן, מנכ"ל OpenAI, כך מדווח ה-Fortune.
אפשר לשער בוודאות שלא סאגת הפיטורים עצמם מנובמבר 2023, הם מה שמעניין את הינטון, אלא הסיבה שעמדה מאחורי זה - הניסיון של אלטמן להסתיר מההנהלה פיתוח לא אחראי של בינה מלאכותית. "עם הזמן התברר שסם התעסק הרבה פחות בבטיחות ה-AI ויותר בהפקת רווחים, ואני חושב שזה מצער", אמר הינטון. צריך אומץ כדי להגיד את זה על האדם הכי חזק בתעשייה המשפיעה ביותר של תקופתנו.
"הסנדק של הבינה המלאכותית"
ג'פרי הינטון נולד בלונדון ב-1947, אביו היה חוקר החיפושיות הווארד הינטון והוא נינו של המתמטיקאי ג'ורג' בול, יוצר האלגברה הבוליאנית. בהכשרתו הוא פסיכולוג קוגנטיבי ובעל דוקטורט בבינה מלאכותית מאוניברסיטת אדינברו. לאחר מכן עבד הינטון במספר אוניברסיטאות בארה"ב אבל סירב לקבל מימון מהצבא האמריקאי ועבר לקנדה. כיום הוא פרופסור באוניברסיטת טורונטו.
הינטון זכה כבר מזמן לתואר "הסנדק של הבינה המלאכותית". עבודתו בפיתוח רשתות נוירונים היא הבסיס למהפכת הבינה המלאכותית שהציפה את העולם בשנתיים האחרונות, ולמרוץ חסר התקדים לפיתוח בינה כוללת מלאכותית (AGI).
4 צפייה בגלריה
איליה סוצקבר וסם אלטמן באוניברסיטת תל אביב. הקרע בין השניים גרם לטלטלה בתעשייה
(צילום: אביגיל עוזי)
אבל במקום לנוח על זרי הדפנה, הינטון עומד בראש קבוצת מדענים, חוקרים ואנשי טכנולוגיה, המתריעים מפני סכנות הבינה המלאכותית. בשנה שעברה הינטון התפטר מעבודתו בגוגל, בטענה שהבינה המלאכותית שהיא מפתחת עלולה לשמש "שחקנים רעים" כדי לפגוע בבני אדם. בשנה שעברה, כשנשאל האם AI עלול לחסל את האנושות, הוא השיב: "זה לא בלתי עולה על הדעת".
אפשר למצוא מסר בהחלטה של ועדת הפרס בסטוקהולם לבחור בהינטון (לצד ג'ון הופפילד מאוניברסיטת פרינסטון), כזוכה הפרס בתחום הפיזיקה דווקא - הנובל הגיע לו ללא ספק, אבל תחום הפרס פחות חשוב. אגב, לפני שש שנים הינטון זכה בפרס טורינג, שנחשב ל"פרס הנובל" של מדעי המחשב.
לצידו זכו בפרס באותה שנה שני חוקרי AI מפורסמים לא פחות: יושוע בנאג'יו ויאן לקון. משלושתם, הינטון הוא בגדר "נביא הזעם" המתריע מפני סכנות ה-AI. בנאג'יו הצטרף גם הוא למאבק, אך לקון, שהיה סטודנט של הינטון והיום משמש כראש תחום ה-AI במטא, הוא דווקא אחד המזלזלים הבולטים בחששות אלו, ואפילו טבע את הכינוי "דומרס" (Doomers) - אנשי יום הדין. עכשיו, משלושתם, הינטון הוא זה שזוכה בפרס הנובל.
4 צפייה בגלריה
ההכרזה על זוכי פרס נובל בפיזיקה לשנת 2024, פרופ' ג'פרי הינטון ופרופ' ג'ון הופפילד
(צילום: Steffen Trumpf, Reuters)
כמו ג'נטלמן בריטי אמיתי, הינטון חלק שבחים לבנג'יו ולאקון. בראיונות שנתן אחרי הזכייה הוא נשמע נרגש ומבולבל וסיפר שהוא "בהלם" מהזכייה, ושלא היה לו מושג שהוא מועמד לפרס. הוא גם הביע פליאה על הזכייה בנובל לפיזיקה, אחרי שכסטודנט הוא נטש את לימודי הפיזיקה בעיקר בגלל המתמטיקה שהייתה מסובכת עבורו.
בינה מלאכותית בלתי ניתנת לשליטה
להינטון יש כאמור הערכה עמוקה לאיליה סוצקבר, הישראלי לשעבר ומי שהיה המדען הראשי ב-OpenAI ואחד ממייסדיה. סוצקבר עזב לקנדה לאחר התואר הראשון שלו והשלים דוקטורט בהנחייתו של הינטון.
ב-2012, במסגרת הפרויקט המשותף של השניים ושל דוקטורנט נוסף - אלכס קריז'בסקי, פותח אלגוריתם שהציג יכולות שטרם נראו עד אז בזיהוי עצמים בתמונה. זה היה צעד גדול לבינה המלאכותית, שהוביל שנים אחר כך לניסיון הנוכחי לפתח בינה מלאכותית כוללת.
4 צפייה בגלריה
החשש מפני בינה מלאכותית כוללת הוא מאוד מוחשי
(התמונה נוצרה באמצעות מחולל התמונות DALL-E3)
בהקשר זה, הרשתות הנוירוניות שהינטון עומד מאחורי הפיתוח שלהן, המהוות בסיס לבינה המלאכותית המודרנית, אינן ניתנות לחיזוי או לשליטה. הן בנויות כמו מוח אנושי, שהולך וגדל ומפתח יכולות חדשות עד ליום שבו יבין איך לשפר את עצמו בלי עזרת בני האדם. וזה עלול להיות יום הדין מפניו מתריע הינטון ורבים אחרים.
לצד זאת, הינטון לא קורא לעצירת הקידמה ופיתוח הבינה המלאכותית, אלא להתקדמות מדודה לצד מחקר מתמיד שנועד לוודא שכל הסכנות מובאות בחשבון. "אנחנו לא יודעים איך להימנע מהסכנות כרגע ולכן אנחנו זקוקים בדחיפות למחקר נוסף", כך הוא טוען.
לדבריו, יש מעט מאוד דוגמאות בטבע לדברים אינטליגנטיים שנשלטים על ידי דברים פחות אינטליגנטיים מהם, וזה מעורר חשש כשה-AGI תצא לאוויר העולם, היא תיקח את השליטה לידיה. "רוב האנשים בתחום הבינה המלאכותית אמרו שרשתות עצביות לעולם לא יעבדו. הם היו בטוחים שהדברים האלה הם סתם בזבוז זמן, ושהמערכת לעולם לא תוכל ללמוד דברים מסובכים כמו למשל הבנת שפה טבעית. הם טעו".
