מסתורי החדר הסיני
גם אם המחשב יצליח בעתיד לבצע פעולות מסובכות, אין זה אומר שהוא יבין את משמעות של הדברים. כך מראה ניסוי "החדר הסיני" שבמסגרתו אדם הסגור בחדר מתרגם מילים מסינית לאנגלית באמצעות מילון מיוחד, מבלי שהוא מבין דבר
ג'ון סרל, פילוסוף אמריקני חשוב, אינו פוסל על בסיס עקרוני אפשרותה של מכונה חושבת. עובדתית, טוען סרל, המוח הביולוגי הוא המנגנון היחיד הידוע לנו המסוגל לחשוב. להמחשת ההבדל בין תוכנית מחשב לבין השכל האנושי הגה ניסוי מחשבתי המכונה "החדר הסיני".
סרל דימה את עצמו נעול בחדר עם חבילת טקסטים בשפה הסינית. מאחר שאינו מבין מילה בסינית, הטקסטים שהחזיק בידו היו ממש "סינית" בשבילו.
כעבור זמן מה נכנס שליח לחדרו ובידו חבילה שנייה של טקסטים כתובים אף הם בסינית, אבל בלוויית ספר הדרכה בשפה האנגלית, המורה לסרל איך לחבר את הסמלים הסיניים בחבילת המסמכים הראשונה עם הסמלים הסיניים בקובץ השני.
לא עברו אלא דקות אחדות והכניסו לחדרו קובץ שלישי של סמלים סינייים בלוויית דף הוראות בשפה האנגלית המורה לו כיצד לזווג אלמנטים מסוימים מהקובץ השלישי עם שני הקבצים הראשונים. אחרי כמה ימי תרגול רכש סרל מיומנות כה רבה בתפעול ההוראות, עד כי צופה זר היה ממאן להאמין שבחדר יושב אדם שאינו מבין מלה בסינית.
החדר שיודע סינית
הניסוי המחשבתי של "החדר הסיני" נועד להמחיש עד כמה מגוחכת הטענה שהפקת פלט הזהה לתוצר של הבנה מעידה על הבנה. למחשבות ולתוכנות שלנו, אומר סרל, יש תכנים מנטליים, בעוד שתוכניות המחשב ריקות מתוכן ומשוללות יכולת להבין תכנים.
והוא מוסיף: אם הפעולות שביצעתי בחדר לא גרמו לי להבין סינית, אין שום סיבה להניח שתוכניות המחשב גורמות למחשבים להבין את תוכנן. סיכומו של דבר, סרל טוען שאי אפשר להתעלם מהייחודיות של המוח האורגני המאפשר למידע שקולט הגוף באמצעות החושים ליצור תהליכים מנטליים, הגורמים לנו לחוש רעב והנאה.
"החדר הסיני" עורר גל סוער של תגובות מצד הגרעין הקשה של אנשי הבינה המלאכותית שסירבו לראות בכשרים המנטליים תכונה ייחודית ובלעדית של אורגניזמים ביולוגיים.
אחת הטענות המרכזיות העלתה את הסברה הבאה: אמנם סרל לא מבין סינית, אבל החדר בכללותו – הכולל אותו, את חבילת הטקסטים, את ספר ההדרכה ואת דף ההוראות – מבין.
המוח כטרנזיסטור משוככל
סרל השיב בדוגמה לא פחות מחוכמת. נניח שעלה בידינו לפתח טכניקה חדשנית המאפשרת להחליף את תאי המוח בטרנזיסטורים, המסוגלים למלא את הפונקציה "הפשוטה" יחסית של העברת האותות החשמליים בין הנירונים.
כיוון שכך, בעל המוח לא יחוש כל הבדל כאשר נחליף בזה אחרי זה את הנוירונים במוחו בטרנזיסטורים. בעל המוח ימשיך לדבר, לקרוא, להבין ולחוות חוויות בדיוק כמו מקודם. אבל מה יקרה כאשר נחליף את הנוירון האחרון במוחו בטרנזיסטור?
לשיטתו של סרל תיווצר אנומליה: אף שהטרנזיסטורים ממלאים בהצלחה את תפקיד הנוירונים במוח, בעל המוח אמור באותו הרגע לחדול להבין, מכיוון שמוחו יהיה מורכב אך ורק מהחומר הדומם של הטרנזיסטורים, והוא עתה מחשב לכל דבר, הווי אומר: משולל הבנה. מסקנה, דין המוח הטרנזיסטורי כדין סרל בחדר הסיני: הוא יפעיל סמלים בלי להבינם.
דומה כי סרל הלך כאן צעד אחד קדימה מדי. שכן קשה להשוות את מרכיביו הדלים של החדר הסיני למוח האנושי באותה מידה שקשה לצמצם את פעילות הנוירונים – לרבות ויסות הפעילות ההורמונלית מהמוח - לתפקיד המוגבל של הטרנזיסטורים.
יתר על כן, החדר הסיני אמנם מראה שאפשר להשיב על כל השאלות שהוצגו לסרל בלי להבין מילה אחת סינית, אבל מי שנדרש לגלות הבנה מלאה של הקשר בין חבילת הטקסטים הראשונה לבין חבילת הטקסטים השנייה ובין שתי החבילות הללו לקובץ השלישי של הסמלים הסיניים ולדף ההוראות בשפה האנגלית איננו סרל אלא מי שתכנן והכין את הניסוי המחשבתי הזה.
ולראיה, אילו סרל היה נשאל להתרשמותו מהסיפור הכתוב בחבילת הטקסטים הראשונה לא היה יודע מה להשיב. לעומת זאת, אם החבילה היתה כתובה באנגלית הוא לא היה מתקשה להצביע על חולשותיו של הסיפור או על יופיו.
מבחינת המחשב, ההבנה נמצאת בממד שמחוצה לו. דומה הדבר לאפיית עוגה. אפשר להגדיר בנקל את כל מרכיבי המתכון: כמות הקמח והחמאה, מספר הביצים, כמות השמרים, הווניל והסוכר – לרבות הטמפרטורה של התנור ומשך האפייה, אבל את טעמה של העוגה אי אפשר לגזור מאף אחד מהמרכיבים הללו, כי הטעם מצוי בחכו של הטועם.
לפנייה לכתב/ת 
