מחשב, לא חושב
המחשב לא מחקה תכונות אנושיות, הוא עוקף אותן. אך האם זה אומר שעליונותנו על המכונה הזו מובטחת לעד? הרשת הגלובלית מקרבת את היום שבו הם ישלטו בנו
בשבוע שעבר: על קיבעונות מחשבתיים
משחק השח הממוחשב, המשמש למן שנות ה-50 של המאה הקודמת כמין נייר לקמוס למדידת האינטליגנציה המלאכותית, יכול להמחיש את ההבדל בין הבנה לדמוי-הבנה. בינואר 1988 נשאל גרי קספרוב במסיבת עיתונאים אם מחשב יוכל לנצח רב-אמן לפני סוף המאה. בשום אופן, השיב קספרוב, ואם רב-אמן כלשהו מתקשה להתמודד נגד המחשב הוא ישמח לסייע לו בעצה. באוקטובר 1989 נערכה תחרות בין קספרוב לתוכנית השח "מחשבה עמוקה". התוכנית הייתה מסוגלת לסרוק יותר משני מיליון עמדות בשנייה, ואף על פי כן קספרוב ניצח בתוצאה 2:4. לעיתונאים הוא אמר שהוא הגן על כבוד האדם מפני המכונה. הוא גם הסביר את הסיבות לניצחונו: "כדי לשחק שח צריך יותר מסתם טקטיקה ומהלכים, צריך פנטסיה, צריך אינטואיציה". ללא תכונות אלו, אמר קספרוב, אין למחשבים סיכוי לנצח את האדם במאה הזאת.
במאי 1997 נערך קרב גומלין בין קספרוב לגרסה משופרת של תוכנית השח הקודמת, שהסבה את שמה ל"כחול עמוק יותר". קספרוב הפסיד בתוצאה 2.5:3.5. "כחול עמוק יותר" לא ניסתה לחקות את הפנטסיה האנושית, גם לא את האינטואיציה שלנו. היא הציגה אלגוריתמים טובים יותר, ובעיקר עוצמת מחשוב שהתבטאה ביכולת לבדוק 300 מיליון עמדות בשנייה. ואכן קספרוב הסביר שעוצמת המחשוב מילאה תפקיד מכריע בהפסדו וכי הדברים שהוא מצליח "לגלות בזכות האינטואיציה מתגלים למכונה על ידי ביצוע מיליארדי חישובים".
לענייננו, "כחול עמוק יותר" אימצה את העיקרון העומד ביסוד המטוס, האונייה והמכונית: היא לא ניסתה לחקות תכונות אנושיות כמו אינטואיציה - שהיא ממילא לא מסוגלת להבין - אלא עקפה אותן, תוך הסתמכות על מהירות חישוב מדהימה. אפשר אמנם לשפר את האלגוריתמים של המחשב, כפי שעשתה תוכנת השח "דיפ ג'וניור" בפברואר 2003, אבל הבעיה היסודית לא תשתנה במהותה. רמת ההבנה של ג'וניור זהה לזו של כחול עמוק: אפס.
בכל זאת, הפסדו של קספרוב מעלה שאלה מעניינת: מה יקרה כאשר יריצו סימולציות עוקפות הבנה וחשיבה במחשב המסוגל לבצע אלף ביליון חישובים בשנייה? מה יהיה כאשר נבנה מחשבים קוואנטיים שיהיו מסוגלים לבצע בזמן נתון מספר גדול יותר של חישובים ממספר האטומים ביקום? האם מחשבים אלה יְיַצְּגוּ רק עוצמת מחשוב מדהימה, או שמא יפתחו צורות הבנה וחשיבה שונות משלנו, מהירות ואיכותיות לאין ערוך? במלים אחרות, האם מתוך המהירות והמורכבות של מחשבים אלה תצוץ מאליה צורה אחרת של חשיבה והבנה, כפי שמהמורכבות של המוח האנושי התפתחה יכולת מנטלית שונה מכל החיות?
זו שאלה מעניינת, אבל בעייתית מאוד, כי ספק אם אנחנו מסוגלים לדמיין צורת חשיבה והבנה אחרת משלנו. עובדה, לא רק שאיננו מסוגלים לדעת מה חושב חתול, איננו יודעים גם מה חושב תינוק. יותר מזה: איננו יודעים גם איך להקנות חשיבה והבנה לילדינו. כל הורה טוב מנסה להעמיק את ההבנה של ילדיו ולהרחיב את יכולת חשיבתם, אבל הוא לא יוצר אצלם חשיבה והבנה. הוא משתמש במבני חשיבה והבנה הטבועים בהם מלידה, דוגמת הכושר הלשוני והיכולת שלנו לתפוס צורות, צבעים ותנועות. תכונות מולדות אלו של הבנה וחשיבה לא קיימות במחשב, ואנחנו לא יודעים איך להקנות להם אותן. עובדה, חלק ניכר מהידע על העולם רוכשים הילדים בעצמם. למשל, הם לומדים מניסיונם שאפשר לקשור חוט לצעצוע ולמשוך אותו, אבל כדי לדחוף אותו צריך גוף קשיח כמו מוט.
למחשב אין מבנים מולדים, אין חושים, אין רגשות. יתרה מזו, מכיוון שהמחשב לא לומד על ידי התנסות ישירה בחיים הוא לא חווה חוויות שמהן ניתן ללמוד דברים חדשים. לכן גם לא נוצרות בתוכו תובנות על בסיס של אינטואיציות וקשרים אסוציאטיביים לא לוגיים. אני רוצה להביא קטע משיחה בין הפסיכולוג הידוע פיאז'ה לילדה בת חמש, כדוגמה להבנה אסוציאטיבית שלא קיימת במחשבים:
פיאז'ה: ממה נוצרת הרוח?
ילדה: מהעצים.
פיאז'ה: מנין לך?
ילדה: ראיתי אותם עושים ככה בידיים שלהם (מדגימה על ידי הנפת ידיים).
למחשב אין ידיים, ולכן הוא לא יכול ליצור קשר אסוציאטיבי כזה. האדם, בניגוד למחשב, לא נולד טבולה ראזה. הוא מגיע לעולם עם תכונות מולדות, המעבדות את ההשפעות הסביבתיות בהתאם לאישיותו הגנטית. לכן תאומים בעלי מטען גנטי זהה מפתחים אישיות שונה מכיוון שהם מתנסים בתגובות ובחוויות סביבתיות שונות. איננו יודעים איך ללמד מחשב לעמוד על ההבדל בין הטיות שונות של הפועל "אהוב", כמו למשל ההבדל בין "דני אוהב תפוחים" לבין "דני אוהב חתולים". לכל ילד ברור שאהבתו של דני לחתולים לא מתבטאת באכילת בשר חתולים. למחשב אין כושר אבחנה כזה, כי הוא לא מבין את משמעות המושג אהבה. כאן קבור הכלב: תנאי הכרחי לקיומה של הבנה ולאפשרותה של חשיבה הוא הבנת התוכן והמשמעות של המידע הזורם אלינו מבחוץ או הנוצר אצלנו מבפנים. היכולת הזאת לא קיימת במחשב.
מחשב הוא מכונה לתפעול פורמלי של סמלים המורכבים משתי ספרות: אפס ואחד. המחשב לא מודע לתוכן המידע המעובד על ידו, כפי שהמתמטיקה לא מבחינה בהבדל בין 5 תפוחים לבין 5 תפוזים, שכן התוכן של מספר הוא ממד הנמצא מחוץ לעולמה של המתמטיקה. הוא הדין לגבי המחשב: אין אצלו אבחנה בין הפולסים האלקטרוניים לבין התכנים שפולסים אלה מייצגים. מבחינתו, פקודה לפתוח במלחמה גרעינית והוראה להפעיל ממטרות בדשא נבדלות זו מזו רק בארגון השונה של הסימנים הבינריים בתוך הפקודה האלקטרונית. והשאלה היא האם בעתיד יוכל מחשב "להבין" את תוכן המידע הזורם דרכו. אבל השאלה לא הייתה האם המחשב יוכל לחשוב ולהבין כמונו; השאלה הייתה האם נוכל לסלול כבישים עוקפי חשיבה והבנה, כדי להשיג תוצאות דומות - ואף טובות יותר - כפי ש"כחול עמוק יותר" עשתה במשחק השח וכפי שמערכות מומחה ממוחשבות עושות את זה בתחומים מוגדרים היטב.
קספרוב נגד המחשב. לבסוף נוצח (צילום: רויטרס)
מי מכיר את האיש שבקיר
למשל, האם נוכל לסלול כביש עוקף הבנה לתרגומים ולהבנת דיבור? המאמץ ללמד מחשבים לתרגם טקסטים החל במקביל לניסיונות ללמד מחשבים שח, וגם כאן היו עליות ומורדות. אבל בשלב מסוים היה נדמה שנפרצה הדרך, כאשר בלשנים ואנשי מחשבים ניסו לעקוף את הקושי הסמנטי בשיטות סטטיסטיות, ואף הגיעו לדיוק גבוה מאוד בתרגום טקסטים טכניים.
לכאורה, ההישגים שהושגו בתרגום ובהבנת הדיבור מצביעים על כך שהצלחנו לעלות על כביש עוקף סמנטיקה לשונית, אבל זו אשליה טיפוסית למה שקרוי כשל הצעד הראשון. דהיינו, ההנחה השגויה שהרמת רגל באוויר היא צעד ראשון במסע רגלי לעבר הירח, וכל היתר הוא רק שאלה של זמן ומאמץ. אנחנו יודעים בוודאות שכדי להגיע לירח צריך כלי תחבורה שונה לחלוטין מהרגליים. זאת בדיוק הבעיה של האינטליגנציה המלאכותית: היא לא מבינה. לנו אין בעיה לעמוד על ההבדל בין משפטים תקפים מבחינה תחבירית וסמנטית, לבין משפטים תקפים רק מבחינה תחבירית. למשל: המשפט "האיש בחלון השליך עציץ", לעומת משפט בעל תחביר תקף, אבל חסר משמעות תוכנית: "האיש בקיר השליך עציץ". מחשב לא מסוגל לעמוד על ההבדל בין שני המשפטים, כי כדי להבין למה "האיש בקיר השליך עציץ" הוא משפט חסר משמעות, נדרשת יותר מהבנה בלשנית. צריך הבנה של המציאות, ובמציאות האמיתית, בניגוד למציאות המדומה של המחשב, אנשים לא נמצאים בתוך קירות, כשם שקופסאות לא נמצאות בתוך עטים - אלא להפך.
כשל מחשבתי כזה נחשף במבחן הקרוי על שמו של המתמטיקאי אלן טיורינג. כדי לעקוף את הקושי שבהגדרת אינטליגנציה, טיורינג הציע מבחן מעשי: בחדר אחד יושב שופט, בחדר שני נמצא מחשב ובחדר שלישי אדם. השופט מעביר באמצעות המקלדת שלו שאלות לשני החדרים במטרה לגלות מי נמצא בהם. אם המחשב מצליח להסוות את זהותו בשיחה בת חמש דקות יש להכיר בו כבעל אינטליגנציה. והנה, למרות ההתקדמות העצומה שהתחוללה בעולם המחשבים ב-50 השנים האחרונות, שום מחשב לא הצליח לצלוח את המבחן הזה. טיורינג העריך כי בשנת 2010 יגיעו להצלחה מלאה, אבל הוא היה אופטימי מדי. לימדנו את המחשב לנתח בעיות הנדסיות מורכבות, לפענח תרשימי אק"ג, להנחית חללית על הירח, ואפילו לחשב במדויק את תוחלת החיים של חולים ביחידות לטיפול נמרץ, אבל איננו יודעים כיצד להקנות לו חשיבה רגילה והבנה כללית.
וזה בדיוק מה שעושה את המבחן של טיורינג לקשה: הוא דורש מהמחשב לגלות הבנה כללית - בלתי מתוכננת מראש - הנשענת על מספר גדול של עובדות ונתונים המקושרים ביניהם ברשת ענפה של קשרי ידע: קשרים רלבנטיים, קשרים רגשיים, קשרים של שכל ישר, קשרים לוגיים, קשרים כמותיים, קשרים ערכיים וקשרים אסוציאטיביים. את הקישוריות הרחבה והמגוונת הזאת יכולים לספק רק החיים עצמם ולא הסימולציות שלהם.
זוהי אם כן המשמעות של כשל הצעד הראשון: תוכנית מחשב מסוגלת לפצח משפט מתמטי קשה, אך אם היא תוזמן להרים כוסית קוניאק על הצלחתה לפתור את המשפט היא לא תבין מה רוצים ממנה, כי היא לא יודעת מה זה הצלחה ומה זה קוניאק. הוא הדין ב"כחול עמוק יותר": הידע שלה ייחודי וספציפי למשחק השח. לכן אם מארגני התחרות היו מחליטים לאפשר לצריח לנוע כמו פרש, "כחול עמוק" הייתה קורסת. חמור מזה, היא לא מסוגלת להקיש מהידע העצום שרכשה במשחק השח על משחקים דומים. על כן, למרות שניצחה את אלוף העולם בשח, היא תפסיד לילד בן עשר במשחק הדמקה. מעבר לכך, מבחן טיורינג, למרות קושיו, הוא כביש עוקף אינטליגנציה: מה שקובע את הצלחתו הוא מבחן התוצאה ולא מבחן ההבנה.
לכן, גם אחרי שמחשב יעמוד בהצלחה במבחן טיורינג לא יהיה בזה הוכחה שהוא באמת מבין וחושב. צריך לזכור: השגת תוצאה זהה להבנה איננה הוכחה להבנה. כאשר ילד מגיב בחיוך ללטיפה הוא לא מוציא לפועל פקודה לוגית המחקה התנהגות רגשית. הלטיפה מגרה את מרכז ההנאה במוחו, וזה מגיב בפעילות כימית המחלחלת בגופו כתחושה של עונג המקבלת משמעות רגשית שעשויה ללוות אותו כל חייו. במלים אחרות, כשם שהמסעים של "כחול עמוק יותר" אינם פרי של אינטואיציה ודמיון, וכשם שסימולציה של שבר ענן לא מורידה גשם אמיתי, כך החיוך של רובוט איננו תגובה אמיתית ללטיפה, אלא חיקוי חיצוני של תגובה אנושית.
אלן טיורינג. מבחן להגדרת אינטליגנציה
האם הרשת תשתלט עלינו
ההגינות מחייבת אותנו לשאול שמא הקביעה הזאת, המעניקה למכונה הביולוגית מעמד ייחודי ובלעדי ביצירת התודעה, איננה בעצמה קיבעון מחשבתי. נניח שהתודעה לא יכולה לפרוץ מתוך המורכבות של מחשב יחיד - מורכב ורב עוצמה ככל שיהיה - אין זה אומר שהיא לא יכולה לצמוח מתוך רשת האינטרנט, המייצגת כבר היום מאות מיליוני מחשבים ומיליארדי קשרים. ההערכה היא שתוך עשר שנים הקשרים בין פריטי המידע השונים לא ייקבעו מראש על ידי תוכניתן. הם ייעשו באופן עצמאי בידי סוכנים דיגיטליים של הרשת, בעקבות היכרות מעמיקה והולכת עם הגולשים שהם משרתים ועם הנושאים המעניינים אותם. על סמך היכרות זו הם יחזקו את הקשרים הרצויים לגולש, ובמקביל יסללו עבורו קשרים חדשים למידע שעשוי לעניין אותו. הסוכן הדיגיטלי יוכל לזהות פערי ידע אצל הגולש, ובעקבות זאת לחפש ביוזמתו אתרים ברשת המחזיקים בידע הרלבנטי ויפנה אליהם לספק לו את המידע החסר. התוצאה: הרשת הגלובלית תהפוך למערכת דינמית המחזקת ומחלישה את הקשרים בין דפי המידע, בדומה לתהליך של חיזוק הזיכרון במוחנו על ידי תגבור הקולטנים הכימיים בצמתים של תאי המוח.
ואמנם יש המרחיקים לראות בקשרים החדשים הנוצרים בין מכלול של פריטי מידע, על בסיס של רלבנטיות ישירה ואסוציאטיבית, אפיונים ראשונים להתפתחותו של מוח גלובלי בעל רמת חשיבה גבוהה בהרבה מהשכל האינדיווידואלי של כל אחד ממשתמשי הרשת, מכיוון שהוא יוכל לרכז ידע ממאות תחומי התמחות שונים. אם אכן כך, האינטליגנציה של המוח הגלובלי עשויה לעלות על יכולתנו להבין אותה, והיא תשתלט באמצעותה על העולם.
אני מטיל ספק בתחזית זו. התנאי להיווצרות מוח גלובלי הוא שהסוכנים הדיגיטליים יהיו אינטליגנטיים באמת. כלומר, לא כאלה שמדמים התנהגות אינטליגנטית על ידי השוואת נתונים כמותיים או באיתור מידע המתבסס על מלות מפתח. כדי שסוכנים אלה יהיו אינטליגנטיים באמת הם זקוקים להבנה, וכדי להבין צריך לדעת לחשוב. זה מחזיר אותנו לשאלה המקורית ששאלנו: האם ניתן להקנות תבונה וחשיבה למחשבים באמצעות כבישים עוקפים הבנה וחשיבה?
התשובה שלי היא לא. כי בניגוד למטוס שלא נדרש להיות ציפור, אלא רק לטוס מהר יותר מציפור, המחשב מתבקש לגלות הבנה אנושית בלי להיות בן-אנוש, ואת זה הוא לא יכול לעשות. מחשב יכול לספק כאלו הבנה אבל לא הבנה אמיתית. מוחנו הוא חלק ממערכת גדולה, הכוללת את ההורמונים המשפיעים על התנהגותנו ורצונותינו, את המידע שאנחנו מקבלים מהחושים ואת האינטראקציה בינינו לבין המציאות החיצונית והפנימית שלנו. כל אלה מהווים ביחד את התודעה שלנו, את אישיותנו. לעומת זאת, כשאומרים שהרשת הגלובלית של האינטרנט היא מרכז העצבים של המוח הגלובלי, המוח הגלובלי הזה מייצג אך ורק "רשת עצבית" החסרה ריגושים, חוויות, שאיפות ורציות.
עם זאת, בין שהמוח הגלובלי יהיה חכם באמת או רק כאילו חכם, תלותנו ברשת העולמית תלך ותגדל. תלות זו מגחכת את האמונה שטיפחנו למן שנות ה-50 של המאה הקודמת, כי יקרה אשר יקרה למערכת יחסינו עם המחשב, עליונותנו על המכונה מובטחת לעד, ולו משום שבכל רגע ניתן לנתק את המחשב מהשקע ולהשבית בכך את פעולתו. זה היה המסר המרכזי בסרטו של סטנלי קובריק ב"אודיסיאה בחלל". המחשב HAL גסס מול עינינו בעת שֶׁהַמַּחְבְּרִים שלו נותקו זה אחר זה מהחשמל. על התרגיל הזה לא נוכל לחזור בעתיד. הרשת הגלובלית עלולה להפעיל סנקציות כלפי כל מי שיסרבו לספק לה מידע, על ידי כך שתגביל את גישתם למידע או אפילו תחסום אותה לגמרי. זהו איום שאין להקל בו ראש, כי כבר היום חסימת מידע יכולה להביא לקריסת המערכות הכלכליות, החברתיות, הביטחוניות והשלטוניות של המדינה.
