ב-22 ביוני נערך בטורונטו, קנדה, עימות תיאורטי מעניין שעסק בשאלה "האם מחקר ופיתוח של בינה מלאכותית מהווה איום קיומי". חברי הפאנל היו כולם מדעני מחשב: מצד העונים בחיוב - יהושע בנג'יו, חתן פרס טיורינג, ומקס טגמארק, פרופסור ב-MIT, חוקר בתחום וסופר. מצד השוללים - יאן לקון, מדען הבינה המלאכותית הראשי של מטא וזוכה נוסף של פרס טיורינג, ומלאני מיטשל, פרופסור במכון סנטה פה ומדענית ידועה בתחום.
עוד כתבות שיעניינו אתכם:
כל אחד מהצדדים פתח בהצגת עמדתו. שלא במפתיע, דווקא לקון הציג נימוקים שמצאו חן בעיני הקהל שנכח בעימות, אבל החביאו בתוכם שני כשלים מרכזיים וחשובים. למה חשובים? משום שהם משמשים כדי לטעון נגד הצורך במחקר, פיתוח והשקעה בבטיחות של בינה מלאכותית. אכנה אותם "Trust me, I’m a doctor" וכשל החיקוי. בואו נשים בצד, רק לצורך הצגת הדברים, את הפוזיציה ממנה טוען לקון (עמדתו כמדען ה-AI הראשי של מטא, שללא ספק תסבול עסקית ממגבלות על מחקר ופיתוח בבינה מלאכותית) ונניח שהוא מנסה להיות ענייני ושקוף בכוונותיו.
(צפו בעימות המלא)
אחד הטיעונים המרכזיים של לקון הוא שמערכות הבינה המלאכותית המתקדמות ביותר שיש לנו היום רחוקות מרמת אינטליגנציה אנושית, ושהמבנה הפנימי (ה"ארכיטקטורה") של מערכות העתיד יהיה שונה. המסקנה שלו היא שאין מה להתכונן לעתיד לא ידוע שכזה. הזמן להתכונן יגיע כשנדע מה היא אותה ארכיטקטורה. אז יהיו לנו הכלים להתמודד מולה ולתכנן אמצעי זהירות מתאימים. "אנחנו נבנה אותן", הוא אומר, "הן לא יופיעו כך סתם. אם הן לא יהיו בטוחות, הרי שלא נבנה אותן מלכתחילה".
נכון, אפשר לבנות מערכות בצורה זהירה ובשלבים. אפשר, כפי שמציע לקון, להתחיל עם מערכת אינטליגנטית כחתול, להמשיך למערכת אינטליגנטית ככלב ואז כאדם, ובכל שלב לוודא שהן בטוחות. אבל, יש כאן לפחות שתי בעיות שאין ספק שלקון מכיר ובוחר להתעלם מהן (גישת "סמכו עליי, יהיה בסדר"): הראשונה, בני אדם תמיד שאפו לבנות דברים בצורה בטוחה, ובכל זאת נכשלו - צ'רנוביל, צוללות שקורסות לתוך עצמן, מזון תינוקות שגורם למוות ותחלואה חמורה הן רק כמה דוגמאות. לנוכח הסיכון הגבוה במקרה זה, כדאי להתחיל להתכונן.
ד"ר ארז פירטצילום: אלבום פרטיניסויי מחשבה רבים מדגימים את הקושי הספציפי בתכנון מערכות אינטליגנטיות בצורה בטוחה – מערכות בינה מלאכותית שפועלות בניגוד לתכנון ולרצון האנושי ומסוגלות לתמרן ולהתגבר על כל הכנה אנושית מוקדמת, מערכות שמנסות להשיג את מטרתן בצורה אופטימלית ומוצאות דרכים שלא חשבנו עליהן ולא רצינו בהן, מערכות אינטליגנטיות שמתגברות על סביבת הבדיקות ה"בטוחה", תוך תמרון ומניפולציה של הבודקים האנושיים ועוד. אם נטמון את הראש בחול, זה לא יעלם.
הבעיה השנייה, "כשל החיקוי", היא אפילו חמורה יותר. לקון משוכנע שנוכל לבנות מערכות שיחקו לא רק אינטליגנציה אנושית, אלא גם את התודעה ומגוון הרגשות האנושיים: "תהיה להן אמפטיה, יהיו להן רגשות... אני לא מאמין שנוכל לייצר מערכות ברמת אינטליגנציה אנושית מבלי שיהיו להן רגשות דומים לרגשות אנושיים. זו תהיה הדרך לשלוט בהן". במילים אחרות, הן יהיו כמונו, הן ירגישו כמונו, ולכן גם נוכל לשלוט בהן. הן לא יהיו זרות ומנוכרות.
עמדה כזו לגבי הקשר בין אינטליגנציה לבין אנושיות נראית מוגבלת וצרה – אינטליגנציה אנושית היא סוג אחד אפשרי של אינטליגנציה. רק חשבו על כל הדברים האנושיים הקשורים לרגשות שלא בהכרח יגיעו יחד עם אינטליגנציה מלאכותית: גוף (כולל החומר הביולוגי, אמצעי חישה, תחושות הגוף, ומה שנקרא embodiment, ההימצאות בתוך גוף שמתווך לנו את העולם), תרבות אנושית (חינוך, סביבה, היסטוריה, מסורת וכו'), פסיכולוגיה אנושית (הכוללת בין היתר גם לידה, השתייכות והתנהלות במשפחה ובחברה).
והרי כבר עכשיו אנחנו יוצרים מערכות שפועלות ברמת אינטליגנציה של חתול, כפי שאומר לקון עצמו, ללא כל מנעד הרגשות החתולי. בנוסף, גם אם נצליח בסופו של דבר ליצור מערכות מלאכותיות בעלות תודעה ורגשות, סביר מאד להניח שאלה יהיו תודעה ורגשות אל-אנושיים, משום שיהיו מבוססים ונטועים בגוף, "תרבות" ופסיכולוגיה אל-אנושיים. בנושא הזה אמרה גם מלאני מיטשל, "בת-קבוצתו" של לקון בעימות: "אינטליגנציה אנושית היא אינטליגנציה מאד ספציפית המותאמת בדיוק לאיברים הביולוגיים שלנו, ולבעיות הספציפיות שלנו. אנחנו שונים מתמנונים, מעכברושים, מווירוסים. יש לנו את הבעיות, הצרכים והמוטיבציות שלנו, ואנחנו נטועים בצורה עמוקה בסביבה פיזית, תרבותית וחברתית, וזה הדבר שמביא להיווצרותה של אינטליגנציה אנושית. מערכות בינה מלאכותית אמנם לומדות ממידע אנושי ותופשות היבטים מסוימים, אבל חסרות הבנה של העולם שבו אנחנו פועלים".
פחות טכנולוגיה, יותר רוח
כאמור, לקון מייצג כאן צד בוויכוח המתנהל כבר זמן מה. חשוב להבין שהציבור והחברה צריכים לשמוע טיעונים מדויקים לכאן או לכאן על מנת שיוכלו לגבש דעה בצורה אופטימלית. נכון להיום, מובילי הטכנולוגיה הם אנשים שקובעים חלק חשוב מסדר היום שלנו. מדובר באנשים שמומחיותם היא עסקים ומדעים והם יצירתיים, חכמים ואסרטיביים. אבל מוכשרים ככל שיהיו, הם אינם אנשי רוח, פילוסופים או מדעני חברה, ומומחיות כזו נדרשת גם היא כשמדובר בקביעת מסלולה העתידי התקין של החברה האנושית.
הזנחה של עשרות שנים מסתירה מעינינו את חשיבותם של טיעונים, של הבנה עמוקה באתיקה, פילוסופיה של הנפש והתודעה ומדעי החברה. פאנלים, עימותים, סיעורי מוחות, עדויות בסנאט או ועדות לקביעת מדיניות אינן יכולות להיות מורכבות רק, ואפילו לא בעיקר, מאנשי טכנולוגיה. כדאי וצריך לשמוע את דעתם המקצועית בהקשרים המתאימים – גבולות הטכנולוגיה, פיתוחים אפשריים בטווח הקצר, אפיקי מחקר חדשים ועוד – אבל חשוב לא פחות, ולדעתי אף יותר, לשמוע מומחים מתחומים אחרים הנוגעים ישירות לדברים שמדאיגים אותנו: פילוסופים, מדעני מוח, משפטנים, מדעני חברה. עד שלא נשכיל לעשות את זה, נמשיך להיות מוצפים בטיעונים כושלים ובניחושים לא מושכלים.
ד"ר ארז פירט הוא המנהל האקדמי של המרכז למדעי הרוח ובינה מלאכותית, אוניברסיטת חיפה והטכניון
