האם המחשב יחבר סונטות?
לפני כחודשיים עבר מחשב לראשונה את מבחן טיורינג, והעולם סירב להשתכנע. למה באמת התכוון טיורינג, האם יש מחשב שיודע סינית ומה הקשר של משפחת סימפסון לכל הסיפור?
העתידן ריי קורצוויל, אולי הפנים המוכרות ביותר של רעיון "הסינגולריות" והתפתחות הבינה המלאכותית, היה אמור לזכות לפני כחודשיים בהתערבות ששוויה עשרים אלף דולר. מדובר אמנם בסכום מצחיק עבור אדם כמו קורצוויל, אולם על הכף היתה מונחת גם יוקרה רבה. בהתערבות שלו עם היזם מיצ' קאפור, קורצוויל טען וממשיך לטעון, כי עד שנת 2029 בינות מלאכותיות יעברו בהצלחה עם "מבחן טיורינג", המבחן שהפך ברבות השנים לנייר הלקמוס לאחת השאלות המורכבות והמדוברות של המאה ה-20 וה-21: האם מחשב יכול לפתח תודעה אנושית ו"לחשוב"?
לפני כחודשיים, התרחש אירוע שהיה אמור להכות את עולם המחשבים, הבינה המלאכותית וחקר התודעה האנושית בתדהמה, ולשלשל לכיסו של קורצוויל את הסכום המיוחל. המחשב "יוג'ין גוסטמן", מחשב–שיחה המתחזה לילד בן 13 מאוקראינה, עבר בהצלחה את המבחן.
בתחרות "מבחן טיורינג 2014", אשר אורגנה על ידי החברה המלכותית של לונדון בסימן שישים שנים למותו של איש החזון, התחרו מתכנתים ומומחי מחשבים מרחבי העולם. בתחרות הצליח "יוג'ין" לשטות ב-33 אחוזים מהשופטים ולגרום להם לחשוב שהם מדברים עם ילד אנושי ולא עם מחשב. בכך, הגשים לכאורה המחשב את התחזית של טיורינג מ-1950, בה נקבע כי עד שנות ה-2000, מכונות יצליחו לשטות בשופטים לפחות ב-30 אחוזים מהמקרים לאחר שיחה של חמש דקות. אולם למרות ההצלחה, מארגני התחרות ויוצרי המחשב ספגו יותר ביקורות משבחים. חלק מהביקורות התמקדו בתחרות עצמה וקבעו כי המחשב לא באמת הצליח לעבור את המבחן. אחרים ניסו לטעון שמבחן טיורינג כבר מזמן אינו רלוונטי לשאלת הבינה המלאכותית הממוחשבת. אם כן, מהי באמת משמעות ההצלחה (או הכישלון) של יוג'ין? ולאן צועד עולם הבינה המלאכותית מכאן?
לידתו של המבחן
כדי לבאר מעט את הדברים, נחזור אחורה בזמן עד לשנת 1950. ארבע שנים לפני מותו מאכילת תפוח מורעל, פירסם המתמטיקאי הגאון אלן טיורינג מאמר בכתב העת Mind בשם"Computing Machinery and Intelligence". במאמר, העלה טיורינג את השאלה: האם מכונה יכולה לחשוב? על מנת לנסות לענות עליה, הוא פיתח מבחן אותו הוא כינה "מבחן החיקוי".
טיורינג ביקש מקוראיו לדמיין שני אנשים, גבר ואישה, שיושבים בשני חדרים נפרדים. אדם שלישי, בתפקיד שופט, צריך לגלות מי מהאנשים משתייך לאיזה מין- מבלי לראות את פניהם. לשני הצדדים אסור לענות תשובה ישירה, רק לנהל שיחה עם החוקר. בעוד תפקיד האישה לסייע לחוקר, תפקיד הגבר הוא להטעות אותו, ולגרום לו לבצע את הזיהוי ההפוך. המבחן כולו מתבצע בממשק טקסטואלי בלבד- כלומר באמצעות כתיבה, בלי דיבור או קלט ויזואלי. לאחר מכן, טיורינג מבקש מהקוראים לנסות לדמיין כי הגבר מוחלף במכונה. לפי טיורינג, אם תצליח המכונה לשטות בחוקר, נוכל להגיד בבטחה שהיא "חושבת". במילים אחרות, השפה, יותר מכל דבר אחר, היא זו שמעידה על מחשבה, תודעה או "נפש".
המבחן, אשר ברבות השנים קיבל את השם "מבחן טיורינג" הפך לסמל הדיון סביב התפתחות הבינה המלאכותית. הוגי דעות מתחום מדעי המחשב ופילוסופיית התודעה ניסו גם לשכללו ויצרו לו וריאציות שונות: למשל "מבחן האינטליגנציה המינימלית" אשר מתבסס על תשובות של "אמת" או "שקר" בלבד; "מבחן טיורינג הטוטאלי" שמוסיף קריטריונים נוספים כגון היכולת לתאר חפצים נצפים ולתמרן חפצים; והמעניין מכולם, "מבחן אברט", שהומצא על ידי מבקר הסרטים רוג'ר אברט, במסגרתו מחשב צריך להצליח לספר בדיחה שתצחיק קהל אנושי.
יוג'ין גוסטמן- נבל מתוחכם
כאמור, למרות ההתרגשות הראשונית סביב הצלחתו של המחשב יוג'ין, זו דעכה במהירות רבה בעקבות מבול של ביקורות. הביקורת העיקרית נסבה סביב תמימותם של השופטים. ריי קורצוויל, למרות הזדמנות הפז לזכות בהתערבות, טען בהוגנות כי השופטים הקלו מדי על יוג'ין. יתרה מכך, הוא טען כי עצם העובדה שהמחשב התחזה לילד בן 13 מאוקראינה אשר אנגלית אינה שפת אימו הינה הגבלה קשה מדי שהופכת את המבחן ללא הוגן. הוכחה נוספת למוגבלותו של יוג'ין הגיעה בדמותו של "ראיון" שביצע המגזין Business Insider עם המחשב, אשר הפך במהרה לאנדרלמוסיה של גיבובי משפטים לא הגיוניים. בעיני רבים, יותר מהוכחה לעליונות המחשבים, היוותה הצלחתו של יוג'ין הוכחה לקלות שבה ניתן לשטות בבני אנוש הרעבים לפרסום.
למרות הביקורות, אין ספק שהצלחתו של יוג'ין מהווה אבן דרך בתולדות הבינה המלאכותית. המחשב/ילד אוקראיני אמנם אינו מתקרב לאינטליגנציה הרב-גונית של מחשבים אינטליגנטים כמו "ווטסון" של IBM, או לעוצמת החישוב של מחשבי-על כגון זה של "שביל החלב" הסיני, אולם הוא מוכיח כי עם תכנות נכון, מחשבים יכולים "לקרוא" את הפסיכולוגיה האנושית ולשטות בבני אדם בקלות יתרה. יש להניח שעם חלוף השנים יופיעו מחשבי שפה ייעודיים מוצלחים עוד יותר, כאלו שיצליחו לעבור את המבחן בהצלחה רבה יותר ולשטות באחוזים ניכרים יותר של שופטים. האם בשלב זה נוכל להגיד בבטחה שמחשבים הינם "חושבים"? כאן מתחיל הוויכוח האמיתי. ברוכים הבאים ל"חדר הסיני".
פילוסופיה? זה נשמע לי כמו סינית
באופן מבריק, עוד במאמר המקורי עצמו מ-1950 מעלה טיורינג מספר התנגדויות אפשריות למבחן שלו. בין השאר הוא מזכיר התנגדויות מתחום התיאולוגיה והדת או התנגדויות טכנולוגיות. אולם את הטיעון המעניין מכל, הוא מכנה "טיעון התודעה". במאמר, מצטט טיורינג את מנתח המוח פרופסור ג'ופרי ג'פרסון אשר טען: "רק כאשר מכונה תוכל לכתוב סונטה... נוכל להסכים שהיא שוות ערך למוח... אין מכניזם (מלאכותי) שיכול להרגיש הנאה מהצלחה, לחוש יגון כאשר שסתומיה ניתכים, לחוש תחושת חמימות ממחמאה, אומללות מטעות, להיות מוקסמת מסקס, או לחוש כעס או דיכאון כאשר היא לא משיגה את מטרתה." הטיעון נוסח בבהירות רבה יותר בשנות ה-80 על ידי הפילוסוף ג'ון סירל, שטען נגד מבחן טיורינג כהוכחה לבינה מלאכותית "חזקה", במה שכונה ניסוי "החדר הסיני".
במאמר "Minds, Brains, and Programs", מבקש מאיתנו הפילוסוף ג'ון סירל לדמיין את התרחיש הדמיוני הבא: אדם שאינו דובר סינית מוכנס לחדר נעול. בחדר נמצאת קופסאות, המלאות בסימנים שונים בשפה הסינית וכן ספר המכיל הוראות באנגלית, כיצד לחבר סימנים מסוג אחד לסוג אחר. מבחינתו, לסימנים אין שום משמעות - הם יכולים להיות בסינית, ביפנית או אפילו סתם בג'יבריש. אולם באמצעות ההוראות שבספר, מתאמן האדם בחיבור הסימנים לסימנים אחרים, ורוכש מיומנות רבה בתפעולם. בשלב מסוים, דרך חריץ בחדר, מוכנסים דפים עליהם רשומות שאלות בשפה הסינית, שהוכנסו לשם על ידי אנשים דוברי סינית. האדם, באמצעות המיומנות שרכש וספרי תפעול הסימנים שברשותו, רושם תשובות על גבי דף אחר ומוציא אותן מחריץ אחר בחדר. עבור האנשים שמחוץ לחדר, מדובר בתשובות לשאלות בסינית. מבחינתם, בחדר יושב אדם דובר סינית. אולם לאדם שבתוך החדר אין מושג מה משמעות השאלות או התשובות. לא באמת ניתן להגיד שהאדם "יודע סינית".
סירל מבקש מאיתנו לחשוב על האדם שבחדר כמטאפורה לאופן פעולת המחשב. ספרי ההדרכה והסימנים הם התוכנה. הדפים עם השאלות עליהם הם הקלט, בעוד שהתשובות שהאדם בחדר כותב הינם הפלט. כפי שלא ניתן להגיד שהאדם שבחדר יודע סינית, כך לא ניתן להגיד שהמחשב "יודע" סינית, או כל שפה אחרת. המחשב בסך הכל מבצע סימולציה של שיחה, אולם לא מבין את משמעותה. במילים אחרות, סירל מנסה לטעון כי היכולת לשלוט בשפה לא מעידה על תודעה או על נפש.
עטלפים וקומקומים
גם הטיעון של סירל אינו חף מביקורת. כך למשל, ביקורת "המערכת" קובעת שאולי לא ניתן לחשוב על האדם שבחדר כמי שמבין סינית, אולם האדם בצירוף ספר ההוראות, הסימנים והחדר כולו - יודעים גם יודעים סינית. סירל מצידו לא מתבלבל. מבחינתו, גם אם נכווץ את החדר הסיני כולו לגודל של שבב מחשב ונחווט אותו למוחו של אדם, עדיין אין המשמעות כי האדם למד את השפה. לפי סירל, שליטה בשפה לא מעידה על הבנת המשמעות שמאחורי המילים. באותה מידה, ניתן להגיד כי הקומקום "יודע" מתי רותחים המים, וכי חיישן המרחק ברכב "יודע" מתי הרכב עומד להתנגש בקיר. מדובר בסך הכל במכונות שתוכנתו לבצע פעולה מסוימת, בעוד שלתודעה האנושית יש את תכונת הסובייקטיביות הייחודית רק לה.
וכאן למעשה נחשף את ליבו של הוויכוח: למה אנחנו מתכוונים כשאנחנו אומרים "לחשוב"? האם המוח הוא בסך הכל מכונה משוכללת, או שקיים בו רכיב נוסף שהופך אותו לייחודי? הפילוסוף תומאס נייג'ל טען למשל כי לעולם לא נוכל לתאר "איך זה להיות אדם" במונחים פיזיקליים, כמו שלעולם לא נוכל לענות על השאלה "איך זה להיות עטלף?"
העתיד הוא אינטליגנטי
הוויכוח ממשיך להתנהל במרץ בקרב פילוסופים, מדעני מוח ומומחי בינה מלאכותית כאחד. קורצוויל למשל, עדיין דבק בעמדה כי מבחן טיורינג הינו המבחן האיכותי ביותר אשר מסוגל להעיד על הפצעתן של בינות מלאכותיות אמיתיות. ובינתיים, תחרות בינה מלאכותית חדשה שממומנת על ידי תאגיד Nuance, מציעה פרס של 25 אלף דולר ליוצר של בינה מלאכותית שתצליח לעבור את "מבחן ווינוגרד" הנקרא על שמו של טרי ווינוגרד, פרופ' למדעי המחשב מאוניברסיטת סטנפורד. ווינוגרד מציע שאלות מתוחכמות שהתשובה אליהן איננה חד-משמעית. לדוגמא: "ראובן ניחם את משה כי הוא היה מרוגז. מי היה מרוגז?" בעוד שהתשובה תהיה ברורה למדי לבן אנוש, מחשב צריך לפתח הבנה עמוקה יותר של השפה על מנת להצליח ולענות על שאלה שכזו. פרופ' גארי מארקוס, בטור לניו-יורקר, מציע מבחן משעשע יותר. מארקוס מציע לתת לבינה מלאכותית לצפות בסרטון יוטיוב ולאחר מכן לענות על שאלות כגון: "מדוע רוסיה פלשה לקרים?" או "מתי לצחוק בפרק הזה של משפחת סימפסון?"
ובינתיים, בזמן שבני האנוש הנחותים ממשיכים להמציא מבחנים, בינות ממוחשבות ממשיכות להתפתח בקצב מואץ. גוגל עובדת על מחשב שמסוגל ללמוד, ווטסון של IBM מתרחב לעוד ועוד תחומים מקצועיים והצאצאית המבריקה של "סירי" כבר נמצאת בפיתוח. האם קורצוויל עתיד לזכות בעשרים אלף הדולרים שלו? נדע בקרוב.
