יובל נח הררי, ההיסטוריון והסופר הישראלי המוערך, מצייר תמונה מורכבת ומטרידה של עתיד האנושות בעידן ה-AI. בראיון מקיף שהעניק בסוף השבוע לפודקאסט האמריקאי Hard Fork, הררי חשף את חששותיו העמוקים מפני ההשלכות הרות הגורל של הטכנולוגיה על החברה האנושית – אם זו לא תפוקח.
"תרחיש יום הדין הבירוקרטי"
"אם נטעה בטיפול בה, הבינה המלאכותית עלולה לכבות לא רק את השליטה האנושית על כדור הארץ, אלא את אור התודעה האנושית עצמו, מה שיהפוך את היקום לממלכת חשכה מוחלטת" הזהיר הררי בראיון והדגיש כי לא מדובר בנבואה, אלא בתרחיש הגרוע ביותר, שצריך להיות מודעים אליו.
הררי, שספרו "נקסוס: קיצור תולדות המידע מתקופת האבן לבינה המלאכותית" (הוצאת כנרת זמורה דביר) יצא החודש למדפים, מתאר את מה שהוא מכנה "תרחיש יום הדין הבירוקרטי". לדבריו, "לא מדובר בתרחיש הוליוודי של רובוטים המנסים למרוד בבני האדם, אלא בתרחיש מעשי יותר בו העולם מתמלא בסוכנים מלאכותיים הנמצאים בצבאות, בבנקים, באוניברסיטאות ואפילו בממשלות שלנו, והם אלו שמקבלים החלטות במקומנו".
5 צפייה בגלריה
רובוטים לא ימרדו כנראה בבני האדם, אלא פשוט ייכנסו לכל תחום ויקבלו החלטות במקומנו.
(צילום: נוצר באמצעות Copilot Designer)
לקחים מההיסטוריה
הררי מזכיר בראיון את השפעתה של המצאת הדפוס על אירופה במאה ה-15 כדוגמה היסטורית לכוחה האפל של טכנולוגיה חדשה, שלא בהכרח מובילה לקדמה. "כמעט 200 שנה עברו מהרגע בו הוצג הדפוס באירופה, ועד לשיאה של המהפכה המדעית במאה ה-17," הוא מציין. "ובאותן 200 שנים אירופה חוותה את הגל הגרוע ביותר של מלחמות דת בתולדותיה ואת ציד המכשפות הנרחב ביותר שהיה עד אז ביבשת".
בהמשך, הררי הרחיב ודיבר על המהפכה התעשייתית של המאה ה-19. "אם הייתי נותן לאנושות ציון על הישגיה בטיפול בטכנולוגיה תעשייתית - הייתי אומר שקיבלנו ציון נכשל", הוא אומר. "אם במאה ה-21, כשאנחנו כבר מבינים שצריך לבנות חברות אנושיות סביב ה-AI, עוד פעם לא נדע לטפל בטכנולוגיה – זו תהיה בשורה רעה מאוד למיליארדי אנשים ברחבי העולם".
5 צפייה בגלריה
רה"מ בריטניה רישי סונאק בוועידת AI בשנה שעברה. האנושות חייבת לדעת כיצד לטפל בטכנולוגיה לפני שיהיה מאוחר מדי
(צילום: Justin Tallis / Getty Images)
סכנה לדמוקרטיה והשפעה על סכסוכים
אחד החששות המרכזיים אותם העלה הררי נוגע להשפעת הבינה המלאכותית על הדמוקרטיה. "השיח הדמוקרטי מתפרק. לא רק בארה"ב, אלא בכל העולם" הוא התריע. "יש לנו את טכנולוגיית המידע המתוחכמת ביותר בהיסטוריה, אבל אנחנו מאבדים את היכולת לנהל דיון הגיוני זה עם זה. הדמוקרטיה באמת על סף קריסה".
בדבריו, הוא התייחס גם להשפעה הפוטנציאלית של בינה מלאכותית על קונפליקטים צבאיים, כשהוא משתמש במלחמה בעזה כדוגמה: "אם אתה גר בבית שמופצץ על פי הוראות של בינה מלאכותית, זו האפוקליפסה שכולם מדברים עליה", הררי טען.
5 צפייה בגלריה
קמלה האריס ודונלד טראמפ. השיח הדמוקרטי מתפרק, ולא רק בארה"ב
(צילום: AP Photo/Alex Brandon, REUTERS/Brian Snyder)
בין חשש לתקווה
למרות אזהרותיו, הררי אינו שולל לחלוטין את השימוש בבינה מלאכותית, מודה כי הוא עצמו משתמש בכלים אלה לתרגומים ומביע התפעלות מיכולותיה הלשוניות. "כאדם המתמחה בשפה ומילים, אני נדהם מכמה טובה הטכנולוגיה הזו הפכה להיות, וכמה מהר זה קרה" הוא אומר.
עם זאת, הררי חשף את יחסיו המורכבים עם טכנולוגיה בחיי היום יום. הוא סיפר כי נאלץ לרכוש סמארטפון רק בשל הצורך לגשת לשירותים שונים, וכי הוא מקפיד להגביל את השימוש בו: "אני לא מניח את הסמארטפון ליד המיטה שלי, והוא לא הדבר הראשון שאני בודק בבוקר".
כאשר נשאל על הסיכוי להכחדה מוחלטת של האנושות כתוצאה מבינה מלאכותית, הררי העריך: "אני חושב שהכחדה מוחלטת היא בהסתברות מאוד נמוכה, סביב אחוז אחד ל-10%. אבל הסיכון עדיין קיים, וצריך להתחשב בו".
בסופו של הריאיון, הררי קרא לקיום דיון דחוף ומעמיק בהשלכותיה של הבינה המלאכותית. "אנחנו צריכים לנהל את השיח הזה עכשיו, לא בעוד ארבע או עשר שנים, כשיהיה מאוחר מדי", הוא הזהיר והדגיש את הצורך הדחוף בפעולה משותפת שתבטיח עתיד משגשג לאנושות בעידן ה-AI.
פורסם לראשונה: 18:01, 15.09.24
