מייסדי OpenAI, החברה שעומדת מאחורי הצ'אטבוט ChatGPT, קראו אמש (יום ב') להקמת סוכנות בינלאומית של האו"ם שתפקח על ההתקדמות בתחום הבינה המלאכותית.
עוד כתבות שיעניינו אתכם:
"אנחנו נצטרך בסופו של דבר משהו כמו הסוכנות הבינלאומית לאנרגיה אטומית (סבא"א) למאמצים בתחום הסופר-אינטליגנציה (הכוונה למערכות AI שיהיו חכמות יותר מבני האדם - י"מ)", כתבו המייסדים סם אלטמן, גרג ברוקמן ואיליה סוצקבר בפוסט שפרסמו באתר של OpenAI.
לדבריהם, "כל מאמץ מעל רף מסוים (או משאבים כמו כוח מחשוב) יהיה כפוף לרשות בינלאומית שתוכל לבדוק מערכות, לדרוש בדיקות, לבחון את הציות לסטנדרטים של בטיחות ולהציב מגבלות על היישום ועל רמת הבטיחות וכו'".
למה זה חשוב?
תחום הבינה המלאכותית מתפתח בחודשים האחרונים בקצב מסחרר, ואחת השאלות החשובות ביותר בימינו היא כיצד ניתן לפקח על המאמצים בתחום על מנת להגן על האנושות מפני בינה מלאכותית עם יכולות על-אנושיות. מכיוון שהרגולטורים נמצאים בדרך כלל כמה צעדים אחרי הטכנולוגיה, לעמדה של OpenAI - החברה שהציתה את מרוץ החימוש הנוכחי בתחום - יש השפעה משמעותית.
מה הם אומרים?
"כפי שאנחנו רואים את זה עכשיו", כתבו מייסדי OpenAI, "מתקבל על הדעת שבעשר השנים הקרובות, מערכות בינה מלאכותית יעברו את הרמה של המומחים ברוב התחומים, ויבצעו פעילות פרודוקטיבית ברמה של אחד התאגידים הגדולים ביותר כיום".
לדבריהם, להתפתחות הזאת יש יתרונות רבים - אבל גם חסרונות: "יכול להיות לנו עתיד הרבה יותר משגשג באופן דרמטי; אבל אנחנו צריכים לנהל את הסיכון כדי להגיע לשם. בהתחשב באפשרות של איום קיומי, אנחנו לא יכולים רק להגיב. אנרגיה גרעינית היא דוגמה היסטורית נפוצה לטכנולוגיה עם המאפיינים האלה; ביולוגיה סינתטית היא דוגמה אחרת".
כן, אבל
ב-OpenAI מדגישים כי הרגולציה שהם מציעים צריכה להתייחס לבינה מלאכותית מתקדמת יותר מזו שקיימת היום, ולכן הם קוראים להחריג פרויקטים מתחת לרף מסוים. "המערכות של היום ייצרו ערך אדיר לעולם", הם אומרים, "ולמרות שישנם סיכונים, הרמה של הסיכונים האלה מרגישה פרופורציונלית ביחס לטכנולוגיות אינטרנט אחרות".
הגישה הזו הובילה בעבר לביקורת על OpenAI, בטענה שהחברה מתמקדת בסיכונים עתידיים ואמורפיים שנמצאים במרחק שנים מאיתנו, וכך ממזערת את הסיכונים העכשוויים שהבינה המלאכותית מעמידה בפני החברה האנושית - פגיעה בפרטיות, הפרת זכויות יוצרים, שיבוש שוק העבודה, הדהוד של הטיות נגד נשים ומיעוטים ועוד.
התמונה הגדולה
אחרי פגישה עם הנשיא ביידן וסגניתו האריס ושימוע מוצלח (מבחינתו) בסנאט, אלטמן הפך לחביבם של המחוקקים בוושינגטון שנושאים אליו עיניים ומבקשים לשמוע את ההצעות שלו בנוגע לרגולציה עתידית על AI. לאחרונה הוא יצא לסבב של פגישות במדינות שונות בעולם, שבמסגרתו הוא צפוי להגיע גם לישראל. הבליץ הדיפלומטי של אלטמן עשוי להוביל לכך שהרגולציה בתחום ה-AI תגיע מוקדם יותר ממה שחשבנו, אבל גם לכך שהיא תעוצב לפי האג'נדה של אחת החברות המתקדמות ביותר בתחום.
