לקראת מוח גלובלי?
האם נצליח במרוצת המאה ה-21 להקנות למחשב יכולות של חשיבה, הבנה ותבונה, והאם רשת האינטרנט תתפתח מעצמה, ללא התערבותנו, למוח גלובלי בעל רמת חשיבה גבוהה לאין שעור מהשכל האנושי?
מבין השאלות המסקרנות שיעמדו במוקד החשיבה המדעית-טכנולוגית במאה הזאת שתיים עוסקות ביחסים המורכבים והטעונים בין המוח האנושי למחשב, ולא בכדי. המוח הוא המעוז האחרון של עליונות האדם על המכונה, שכן בכל הקשור למהירות, לכוח, לעוצמת חישוב, לסיבולת ולאריכות ימים, המכונות הותירו אותנו הרחק מאחור. שתי השאלות הן: האם נצליח במרוצת המאה ה-21 להקנות למחשב יכולות של חשיבה, הבנה ותבונה, והאם רשת האינטרנט תתפתח מעצמה, ללא התערבותנו, למוח גלובלי בעל רמת חשיבה גבוהה לאין שעור מהשכל האנושי.
שורשיהן של שאלות אלו נטועים בשנות החמישים של המאה הקודמת, עת החלו לפתח אינטליגנציה מלאכותית באמצעות משחקים, כגון דמקה ושח. כבר בשנת 1949 הצביע קלוד שאנון, אבי תורת האינפורמציה, על משחק השח כעל זירה אידיאלית לחקירת הבינה המלאכותית. שכן הבעיות הצצות בו מוגדרות היטב מבחינת מסעי הכלים, חוקי המשחק ומטרתם הסופית (שח-מט). ואמנם, ב-1957 כתב אלכס ברנשטיין תוכנת מחשב למשחק השח, שהתבססה על העקרונות של שאנון. במושגים של ימינו, התוכנה של ברנשטיין היתה איטית ומאוד פרימיטיבית, אבל די היה בה כדי לעורר תקוות ורודות, במיוחד לאור העובדה שתוכנת הדמקה של ארתור סמיואל ניצחה באותה שנה את אלוף מדינת קונטיקט. הישג מרשים זה הביא את הרברט סיימון להכריז ב-1958, כי תוך עשר שנים יצליח המחשב לנצח את אלוף העולם בשחמט.
נבואתו של סיימון התבדתה. טיגרן פטרוסיאן זכה באליפות העולם בשח ב-1968, ואילו תוכנת השח המתקדמת ביותר זכתה אך בקושי לדירוג מקצועי כלשהו. מסתבר שמספר המסעים האפשריים במשחק השח הוא כה גדול עד כי היה בו כדי להביס את כל תוכנות המחשב, אבל זה לא מנע ממשחק השח הממוחשב להמשיך להיתפס כנייר הלקמוס למדידת האינטליגנציה המלאכותית. מפאת קוצר היריעה נפסח על רוח הנכאים שנפלה על אנשי הבינה המלאכותית בשנות ה-60 ועל התקוות המחודשות שהפיחו בהם שנות ה-70, ונדלג הישר לתחרות המסקרנת בין אלוף העולם גארי קספרוב לבין תוכנת השח "מחשבה עמוקה", שנערך ב-1989.
המחשב היה מסוגל לסרוק יותר משני מיליון עמדות בשנייה, מה שהקנה לו כביכול יתרון ברור על מתחרים אנושיים, אבל קספרוב לא התרשם. שנה קודם לכן הוא נשאל אם מחשב יוכל לנצח רב-אמן לפני סוף אותה מאה. בשום אופן, השיב קספרוב, ואם רב-אמן כלשהו נתקל קשיים בהתמודדות נגד המחשב הוא ישמח לסייע לו בעצה. קספרוב ניצח את "מחשבה עמוקה" בתוצאה 2:4. לעיתונאים הוא אמר שבניצחונו הגן על כבוד האדם מפני המכונה. הוא גם הסביר את הסיבות לניצחונו: "כדי לשחק שח צריך יותר מסתם טקטיקה ומהלכים, צריך פנטסיה, צריך אינטואיציה". ללא תכונות אלו, פסק, אין למחשבים סיכוי לנצח את האדם במאה הזאת.
אלגוריתמים טובים יותר
במאי 1997 נערך קרב הגומלין בין קספרוב לגרסה משופרת של תוכנית השח הקודמת, שהסבה את שמה ל"כחול עמוק יותר". קספרוב הפסיד בתוצאה 2.5:3.5. "כחול עמוק יותר" לא ניסתה לחקות את הפנטסיה האנושית, גם לא את האינטואיציה שלנו. היא הציגה אלגוריתמים טובים יותר, ובעיקר עוצמת מחשוב שהתבטאה ביכולת לבדוק 300 מיליון עמדות בשנייה. ואכן קספרוב הסביר שעוצמת המחשוב מילאה תפקיד מכריע בהפסדו וכי הדברים שהוא מצליח "לגלות בזכות האינטואיציה מתגלים למכונה על ידי ביצוע מיליארדי חישובים". אכן, "כחול עמוק יותר" לא ניסתה לחקות תכונות אנושיות כמו אינטואיציה ודמיון - שהיא ממילא לא מסוגלת להבין מהן - אלא עקפה אותן, תוך שימוש בעוצמת החישוב של המחשב.
הפסדו של קספרוב מעלה שאלה מעניינת: מה יקרה כאשר יריצו סימולציות עוקפות הבנה וחשיבה במחשב חזק מאלה הקיימים עכשיו? כבר עכשיו שוקד הפנטגון על פיתוח מחשב בעל כושר חישוב של מאה ביליון פעולות בשנייה. לכשתסתיים בנייתו הוא היה חזק פי 8,000 מ"כחול עמוק יותר". והשאלה היא מה יעשה לבינה המלאכותית מחשב בעל כושר פעולה של אלף ביליון חישובים בשנייה, או מחשב קוואנטי שיהיה מסוגל לבצע בזמן נתון מספר גדול יותר של חישובים ממספר האטומים ביקום? האם מחשבים אלה יְיַצְּגוּ רק עוצמת מחשוב מדהימה או שמא יפתחו צורות הבנה וחשיבה שונות משלנו, מהירות ואיכותיות לאין ערוך? במלים אחרות, האם מתוך המהירות והמורכבות של מחשבים אלה תצוץ מאליה צורה אחרת של חשיבה והבנה, כפי שמהמורכבות של המוח האנושי התפתחה יכולת מנטלית שונה מכל החיות?
זו שאלה מאוד מעניינת, אם כי בעייתית מאוד, שכן ספק אם אנחנו מסוגלים לדמיין צורת חשיבה והבנה אחרת משלנו. עובדה, לא רק שאיננו מסוגלים לדעת מה חושב חתול, איננו יודעים מה חושב תינוק. יותר מזה: איננו יודעים גם איך להקנות חשיבה והבנה לילדינו. כל הורה טוב מנסה להעמיק את ההבנה של ילדיו ולהרחיב את יכולת חשיבתם, אבל הוא לא יוצר אצלם חשיבה והבנה. כל שבידו לעשות הוא לגרות בהם תכונות מולדות, המעבדות את ההשפעות הסביבתיות, תוך שימוש במבני חשיבה והבנה הטבועים בהם מלידה, דוגמת הכושר הלשוני ויכולתנו לתפוס צורות, צבעים ותנועות.
תכונות מולדות אלו של השגה, הבנה וחשיבה לא קיימות במחשב ואנחנו לא יודעים איך להקנות לו אותן, שכן חלק ניכר מהידע על העולם רוכשים הילדים בעצמם: ילד לומד מניסיונו שאפשר למשוך צעצוע על ידי חוט, אבל לדחוף אותו אפשר רק על ידי עצם קשיח כמו מוט. למחשב אין ידיים, ומשום כך הוא לא יכול ליצור תובנה כזאת, ומכיוון שהמחשב לא לומד על ידי התנסות ישירה בחיים הוא לא חווה חוויות המרחיבות את הדעת והמעמיקות את תפיסת המציאות. המחשב נולד טבולה ראזה, ללא מבנים מולדים, ללא חושים וללא רגשות, משום כך לא נוצרות אצלו תובנות על בסיס אינטואיטיבי ורגשי, או קשרים אסוציאטיביים על בסיס לא לוגי.
בהעדר הבנה, המחשב עיוור לחלוטין להבחנות סמנטיות. לדוגמה, איננו יודעים איך ללמד מחשב לעמוד על ההבדל בין צורות שונות של הפועל "אהוב", כמו למשל ההבדל בין "דני אוהב תפוחים" לבין "דני אוהב כלבים". לכל ילד ברור שאהבתו לכלבים לא מתבטאת באכילת בשרם. למחשב אין כושר הבחנה כזה, כי הוא לא מבין את משמעות המושג אהבה. כאן קבור הכלב, שכן תנאי הכרחי לקיומה של הבנה ולאפשרותה של חשיבה הוא הבנת התוכן והמשמעות של המידע הזורם אלינו מבחוץ או הנוצר אצלנו מבפנים. היכולת הזאת לא קיימת במחשב.
המחשב לא מודע לתוכן
מחשב הוא מכונה לתפעול פורמלי של סמלים המורכבים משתי ספרות: אפס ואחד. המחשב לא מודע לתוכן המידע המעובד על ידו, כפי שהמתמטיקה לא מבחינה בהבדל בין 5 תפוחים לבין 5 תפוזים, שכן התוכן של מספר הוא ממד הנמצא מחוץ לעולמה של המתמטיקה. הוא הדין לגבי המחשב: אין אצלו הבחנה בין הפולסים האלקטרוניים לבין התכנים שפולסים אלה מייצגים. מבחינתו, פקודה לפתוח במלחמה גרעינית והוראה להפעיל את הממטרות בדשא נבדלות זו מזו רק בארגון השונה של הסימנים הבינריים בתוך הפקודה האלקטרונית.
מבחינה זו אין הבדל בין תוכנת המחשב של ברנשטיין משנת 1957 לבין "כחול עמוק יותר" משנת 1997. בשתיהן רמת ההבנה שווה לאפס. יש הסוברים שמצב זה עתיד להשתנות, וכי בטווח זמן נראה לעין נוכל לבנות מחשב בעל תודעה, שיהיה מסוגל להבין את תוכן המידע הזורם דרכו. הכיצד? הפילוסוף לוקאס משווה את התפתחות התודעה לתגובת שרשרת בביקוע אטום. הביקוע מתרחש כאשר גוש חומר בקיע עובר מסה קריטית מסוימת. ייתכן, אומר לוקאס, שגם המכונה תגלה הבנה ויוזמה עצמית כאשר תעבור מסה קריטית של מורכבות.
אני מרשה לעצמי לחלוק על דעה זו. גם התודעה של האדם המודרני לא פרצה בבת אחת מתוך המורכבות שכבר היתה קיימת אצל אבותיו מיליון שנה לפניו, אלא הבשילה בתהליך איטי וקופצני. ריי קוצווייל, מחברם של ספרים רבים על בינה מלאכותית, צופה כי בקרוב מאוד יהיו לנו מחשבים יותר אינטליגנטיים מבני אדם, ובעצם כולנו עתידים להיות תוכנות במכונות. כל זה יקרה, לדבריו, תוך כמה עשרות שנים, מכיוון שהטכנולוגיה מתקדמת בקצב אקספוננציאלי, וכמו כל תהליך אקספוננציאלי הוא מתחיל באיטיות, אבל משלב מסוים הוא מקבל תאוצה.
לדעת קורצווייל, טכנולוגיית המחשבים נמצאת על סף התפוצצות כזאת. לראיה, מאז שנות הארבעים של המאה הקודמת הוכפלו מהירות החישוב וקיבולת הזיכרון של המחשבים 32 פעמים, ובימינו עוצמת החישוב של שבבים אלקטרוניים מכפילה את עצמה כמעט כל שנה.
האמנם קיים קשר בין התקדמות טכנולוגית להבנה?
אני מטיל ספק בקשר בין התקדמות טכנולוגית להבנה. ניקח לדוגמה את הניסיונות ללמד מחשבים לתרגם טקסטים. מאמץ זה החל קצת אחרי הניסיונות ללמד מחשבים שח. בשלב מסוים אף היה נדמה שנרשמה פריצת הדרך, כאשר בלשנים ואנשי מחשבים עקפו בהצלחה מסוימת את הבעיה הסמנטית באמצעות שיטות סטטיסטיות, ואף הגיעו לדיוק גבוה מאוד בתרגום טקסטים טכניים. לכאורה הם הצליחו לעלות על כביש עוקף סמנטיקה לשונית, אבל זו היתה אשליה, והכשל שלה נעוץ בכשל הכללי והעקרוני של הבינה המלאכותית בכלל: העדר הבנה.
הנה דוגמה פשוטה: לנו אין בעיה לעמוד על ההבדל בין משפטים תקפים מבחינה תחבירית וסמנטית, לבין משפטים תקפים רק מבחינה תחבירית. למשל: המשפט "האיש בחלון השליך עציץ", לעומת משפט בעל תחביר תקף, אבל חסר משמעות תוכנית: "האיש בקיר השליך עציץ". מחשב לא מסוגל לעמוד על ההבדל בין שני המשפטים, כי כדי להבין למה "האיש בקיר השליך עציץ" הוא משפט חסר משמעות נדרשת יותר מהבנה בלשנית. צריך הבנה של המציאות, ובמציאות האמיתית, בניגוד למציאות הקיברנטית המדומה, אנשים לא נמצאים בתוך קירות. הוא הדין בהבחנה הסמנטית בין "קרע את הרשת", לבין "קרע את העיר", לבין "קרא את העיר", לבין "קרא את 'העיר'". הראה לי מחשב המסוגל להבחין בין המשמעויות התוכניות של כל אחד מביטויים אלה.
כישלונה של הבינה המלאכותית בהשגת תבונה נחשף במלוא קלונו בשנות ה-50 של המאה הקודמת, במבחן הקרוי על שמו של המתמטיקאי הנודע טיורינג. כדי לעקוף את הקושי שבהגדרת אינטליגנציה הציע טיורינג מבחן מעשי: בחדר אחד יושב בוחן, בחדר שני נמצא מחשב ובחדר שלישי אדם. הבוחן מעביר באמצעות המקלדת שלו שאלות לשני החדרים הסמוכים לו במטרה לגלות מי נמצא בהם. אם המחשב מצליח להסוות את זהותו בשיחה בת חמש דקות יש להכיר בו כבעל אינטליגנציה.
והנה, למרות ההתקדמות העצומה שהתחוללה בעולם המחשבים בחמישים השנים האחרונות, שום מחשב לא הצליח עד כה לצלוח את המבחן הזה. טיורינג עצמו העריך כי בשנת 2000 נגיע להצלחה של 70%, ואילו בשנת 2010 תושג הצלחה מלאה, אבל הוא לקה באופטימיות יתרה - לפחות לגבי היעד הראשון. מעבר לכך, מבחן טיורינג הוא כביש עוקף אינטליגנציה. דהיינו, מה שקובע את הצלחתו הוא מבחן התוצאה ולא מבחן ההבנה. לכן, גם אחרי שמחשב יעמוד בהצלחה במבחן טיורינג לא יהיה בזה הוכחה שהוא באמת מבין וחושב.
בחמישים השנים שחלפו למן הצהרתו לימדנו את המחשב לנתח בעיות הנדסיות מורכבות, לפענח אק"ג, להנחית חללית על הירח, ואפילו לחשב במדויק את תוחלת החיים של חולים ביחידות לטיפול נמרץ, אבל לא השכלנו להקנות לו חשיבה רגילה והבנה כללית. וזה בדיוק מה שעושה את המבחן של טיורינג לקשה: הוא דורש מהמחשב לגלות הבנה כללית - בלתי מתוכננת מראש - הנשענת על מספר גדול של עובדות ונתונים, המקושרים ביניהם ברשת ענפה של קשרים רלבנטיים: קשרי ידע, קשרים רגשיים, קשרים של שכל ישר, קשרים לוגיים, קשרים כמותיים, קשרים איכותיים וקשרים אסוציאטיביים. את הקישוריות הרחבה והמגוונת הזאת יכולים לספק רק החיים עצמם ולא הסימולציות שלהם. בל נשכח, סימולציה לעולם נשארת סימולציה. גם כאשר היא מדמה שבר ענן, שום גשם לא מרטיב את הכביש. ללא מערכת ענפה של קשרים רלבנטיים נוכל לכתוב תוכנה המסוגלת לפצח משפט מתמטי קשה, אך אם תוזמן התוכנה להרמת כוסית קוניאק לרגל הצלחתה היא לא תבין מה רוצים ממנה, כי היא לא יודעת מה זה הצלחה ומה זה קוניאק.
הוא הדין ב"כחול עמוק יותר": הידע שלה ייחודי וספציפי למשחק השח. לכן אם מארגני התחרות היו מחליטים לאפשר לצריח לנוע כמו פרש, "כחול עמוק" הייתה קורסת. חמור מזה, היא לא מסוגלת להקיש מהידע העצום שרכשה במשחק השח על משחקים דומים. על כן, למרות שניצחה את אלוף העולם בשח היא תפסיד לילד בן 10 במשחק הדמקה.
הרובוטים לא באמת מבינים
הוא הדין ברובוטים החדשים, הקונים את לבנו בשירותיהם המגוונים ובדמיונם לבני אדם, דמיון המטעה אותנו לחשוב שהם מבינים את הבקשות המופנות אליהם ושהם יודעים מה שהם אומרים. אנו נוטים לשכוח כי השגת תוצאה זהה להבנה איננה הוכחה להבנה. נניח שנלמד רובוט ביתי להבחין בין ספל קפה לכסא. לא בטוח שמיומנות זאת תספיק לו כדי להבדיל בין עציץ לכסא.
נניח שנורה לו להביא לנו ספל קפה משולחן הנמצא בקצה השני של החדר בלי להפיל את הספלים שלידו. לא בטוח שהוא יבין מזה שאסור לו להפיל את הכוסות שליד הספלים. נניח שנלמד רובוט להבחין בצבע צהוב ונורה לו להביא לנו את כל הדברים הצהובים בחדר. תוך שעה קלה הוא יערים לרגלינו ספר צהוב, מעיל צהוב, פרח צהוב, מפית צהובה וכיוצא באלה. אבל אם אחד הקירות בחדר צבוע בצבע צהוב הוא יתעקש להביא אלינו גם את הקיר. מחשב משול לאדם שמרכז ורניקה במוחו פגוע. אדם כזה מסוגל לדבר בשטף, אפילו ברהיטות, אבל דיבורו חסר משמעות. הוא מזהה אמנם את המילים של בן שיחו, אבל לא מבין את תוכנם.
כדי לתקוף בעיה זו בנו ב-M.I.T. שני רובוטים דמויי אדם (אנדרואידים), קוג וקיסמט, במטרה ללמדם התנהגות כמו אנושית. קוג בנוי מגֵו, ידיים, ראש, אוזניים ועיניים, באמצעותם הוא חוקר את סביבתו, בדומה לתינוק המתנסה בבעיות של כוח כבידה ושיווי משקל, מגע עם עצמים וכיו"ב, בעזרתם הוא קונה לעצמו תחושה מרחבית וחווה באורח בלתי אמצעי חוויות גופניות. "קיסמט" בנויה אך ורק מראש דמוי אישה, המגיב לסביבה בעיקר באמצעות הבעות פנים. החוקרים מאמינים שתגובותינו לרובוטים דמויי אדם ובעלי התנהגות אנושית כמו קוג וקיסמט יסייעו לרובוטים לרכוש יכולות אנושיות. דומני שיש כאן מידה רבה של תמימות או היתממות. כאשר ילד מגיב בחיוך ללטיפה הוא לא מוציא לפועל פקודה לוגית המחקה התנהגות רגשית.
הלטיפה מגרה את מרכז ההנאה במוחו, וזה מגיב בפעילות כימית המחלחלת בגופו ונתפסת בתודעתו כתחושה של עונג. החיוך של קיסמט אינו יותר מאשר חיקוי חיצוני של חיוך אנושי, אשר אין מאחוריו לא רגש, לא הבנה ולא שיקול דעת. במלים אחרות, כשם שהמסעים של "כחול עמוק יותר" אינם פרי של אינטואיציה ודמיון, כך גם הבעות הכעס והשמחה של קיסמט אינם אלא סימולציה של תגובה אנושית. החיוך של קיסמט נבדל מהבעת הכעס שלה רק בארגונם השונה של הסימנים הבינריים בתוך הרצף האלקטרוני.
האם התודעה יכולה לצמוח מהאינטרנט?
עם זאת, ההגינות מחייבת אותנו לשאול שמא הקביעה המעניקה למכונה הביולוגית מעמד ייחודי ובלעדי ביצירת פנומן התודעה איננה בעצמה דעה קדומה שמטרתה להגן על עליונותנו. נניח שהתודעה לא יכולה להיבנות מעצמה מתוך המורכבות של מחשב יחיד - מורכב ורב עוצמה ככל שיהיה, אין זה אומר שהיא לא יכולה לצמוח מתוך רשת האינטרנט, המייצגת כבר היום מאות מיליוני מחשבים, מיליארדי קשרים וקרוב לשני מיליארד דפי מידע. הבעיה בגודש זה של מידע שהוא מטופל על ידי בינה מלאכותית נטולת הבנה.
עקב כך, מנועי החיפוש הקיימים זקוקים לחודשים כדי לסרוק את כל הרשת בחיפוש אחר מידע רלבנטי, ובזמן הנדרש להם לאיתור המידע המבוקש נוספים מיליוני דפי מידע חדשים. המאמץ מתמקד אפוא בהחדרת אינטליגנציה לרשת, בין השאר על ידי קביעת הקשרים בין פריטי המידע השונים על ידי סוכנים דיגיטליים של הרשת, באופן עצמאי, בעקבות היכרות מעמיקה והולכת שלהם עם הגולשים שהם משרתים. על סמך היכרות זו הם יחזקו את הקשרים הרצויים לגולש בנושאים המעניינים אותו, ובמקביל יסללו עבורו קשרים חדשים למידע שעשוי לעניינו.
הסוכן הדיגיטלי יוכל לזהות חסרים במידע שבידי הגולש, ובעקבות זאת יחפש ביוזמתו אתרים רלבנטיים ברשת, ואף יפנה אליהם לספק לו את המידע החסר. פעילות זו אמורה להפוך את הרשת הגלובלית למערכת דינמית המחזקת ומחלישה את הקשרים בין דפי המידע, בדומה לתהליך של חיזוק הזיכרון במוחנו על ידי הגברת האותות הכימיים בצמתים של תאי המוח. ואמנם, יש הרואים בקשרים החדשים הנוצרים בין מכלול פריטי מידע, על בסיס של רלבנטיות ישירה ואסוציאטיבית, איפיונים ראשונים להתפתחותו של מוח גלובלי בעל רמת חשיבה גבוהה בהרבה מהשכל האינדיווידואלי של כל אחד ממשתמשי הרשת, מכיוון שהוא יוכל לרכז ידע ממאות תחומי התמחות שונים. הואיל וכך, אומרים העתידנים, תוך זמן קצר יחסית תעלה האינטליגנציה של המוח הגלובלי על יכולתנו להבינה, ומשם דרכו של המוח הגלובלי סלולה להשתלטות על העולם.
הסוכנים אינם אינטיליגנטים
אני מטיל ספק בתחזית הזאת. התנאי להיווצרות מוח גלובלי הוא שהסוכנים הדיגיטליים יהיו אמנם אינטליגנטים. שכן, להבדיל מהנירונים במוחנו, אשר אינם נדרשים לשכל ולהבנה, אלא רק להעברת מידע כימו-חשמלי לנירונים אחרים, כל אחד מהסוכנים הדיגיטליים מתפקד למעשה כמוח בעל תודעה עצמאית, משום שהוא נדרש לעבד את המידע הנמצא ברשת ולהגישו באופן מושכל לגולש. מכאן, רשת האינטרנט תוכל למלא תפקיד של מוח גלובלי רק אם הסוכנים הדיגיטליים שלה יהיו אינטליגנטיים באמת, וכדי להיות אינטליגנטיים באמת הם חייבים לא רק לחשוב ולהבין, אלא גם להרגיש.
בל נשכח, המוח מתפקד לא רק כמרכז עצבים המעבד את המידע מהחושים. הוא אחראי גם לאינטראקציה בינינו לבין המציאות החיצונית והפנימית שלנו. יתרה מזו, הוא חלק ממערכת מקיפה יותר, הכוללת את הפעילות ההורמונלית המשפיעה על התנהגותנו ועל רצונותינו. כל הקונגלומרט הזה של מערכות ומנגנונים, העומד בבסיס התודעה שלנו והקובע את אישיותנו, לא קיים במחשב ולא ברשת האינטרנט. שני אלה מחקים פן צר אחד של התודעה האנושית, הפן השכלי, ועם פן יחיד כזה לא ניתן ליצור חשיבה והבנה באיכות אנושית.
הכשל העיקרי בפיתוח בינה מלאכותית טמון אפוא באי הבנת ההבדלים המהותיים בינה לבין אינטליגנציה ביולוגית. האינטליגנציה פותחה בטבע על ידי הברירה הטבעית כחלק בלתי נפרד ממערכת מסועפת של תכונות שכליות וגופניות התורמות להישרדותם של בעלי החיים והמגבירות את כשירותם הדארווינית, ולא כתכונה העומדת בפני עצמה. הבינה המלאכותית, לעומת זאת, התמקדה מלכתחילה אך ורק ברכיבים מסוימים ומוגבלים של האינטליגנציה. לכן, כשאומרים שהרשת הגלובלית של האינטרנט עתידה להיות מרכז העצבים של המוח הגלובלי, אלו דיבורים בעלמא, שכן לרשת הזאת ולמוח הזה אין ריגושים, אין חוויות, אין שאיפות, אין רציות, אין פחדים, אין חושים ואין כל שאר המרכיבים העושים את השכל האנושי למה שהוא.
רשת בעלת הבנה סמנטית
כל מה שהרשת הגלובלית של האינטרנט מציע לנו הוא סוכנים דיגיטליים פרימיטיביים, הפועלים בעיקר על בסיס נתונים השוואתיים ועל איתור מידע על סמך מלות מפתח. לאחרונה הוצעה דרך חדשה להפיכת רשת האינטרנט לרשת אינטליגנטית בעלת הבנה סמנטית, כדי לאפשר לה לטפל לא רק בשמות תואר ובהיקשים לוגיים. אבל כשקוראים איך בעלי הרעיון מתכוונים לעשות את זה מתברר שמדובר באותה גברת בשינוי אדרת, גברת חסרת הבנה, לא כל שכן חשיבה.
זה מחזיר אותנו להבחנה המהותית בין הבנה לדמוי הבנה ולאפשרות של סלילת כבישים עוקפים להבנה ולחשיבה. מסופקני. כי בניגוד למטוס שלא נדרש להיות ציפור, אלא רק לטוס מהר יותר מציפור, המחשב מתבקש לגלות הבנה אנושית בלי להיות אנוש, ואת זה הוא לא יכול לעשות. מחשב יכול לספק כאלו הבנה, אבל לא הבנה אמיתית. הנה דוגמה של כאלו הבנה. סטודנט של מרווין מינסקי, מאבות הבינה המלאכותית, הזין למחשב סיפור מעשה על איש עסקים עשיר שבתו נחטפה על ידי המאפיה, ואשר שחרורה הותנה בקבלת דמי כופר גבוהים. הסטודנט ביקש מהמחשב לנתח את סיפור המעשה ולהציע לאיש העסקים דרכי פעולה חלופיות. המחשב הריץ שוב ושוב את הסיפור, ניתח אותו מכל צדדיו, אבל התקשה להגיע להמלצה, כי הוא לא הבין למה חשוב כל כך לאיש העסקים לקבל בחזרה את בתו.
עם זאת, בין שהמוח הגלובלי יהיה חכם באמת או רק כאלו חכם, תלותנו ברשת העולמית תלך ותגדל. תלות זו מגחכת את האמונה שטיפחנו למן שנות ה-50 של המאה הקודמת, כי יקרה אשר יקרה למערכת יחסינו עם המחשב, עליונותנו על המכונה מובטחת לעד, מכיוון שבכל רגע ניתן לנתק את המחשב מהשקע ולהשבית בכך את פעולתו. זה היה המסר המרכזי בסרטו של קובריק "אודיסיאה בחלל". המחשב HAL גסס מול עינינו בעת שֶׁהַמַּחְבְּרִים שלו נותקו זה אחר זה מהחשמל. על התרגיל הזה לא נוכל לחזור בעתיד. הרשת הגלובלית עלולה להפעיל סנקציות כלפי כל מי שיסרבו לספק לה מידע, על ידי כך שתגביל את גישתם למידע או אפילו תחסום אותה לגמרי בפניהם. זהו איום שאין להקל בו ראש, כי כבר היום חסימת מידע יכולה להביא לקריסת מערכות חברתיות ושלטוניות של המדינה.
לפנייה לכתב/ת 
