מה יקרה כשרובוטים יתחילו לנהל את העניינים?
חוקרי הבינה המלאכותית בטוחים שהעולם ישתנה בעקבות פיתוחם של מחשבים ורובוטים חכמים מאוד שידעו לשכפל את עצמם ולהסתגל לתנאים משתנים. אבל הדעות חלוקות בשאלות מתי יקרה הדבר, לאן זה יגיע, ומה עלינו לעשות בנידון
המכונות החכמות של היום מתוכננות בעיקר לביצוע מטלות מסוימות בתנאים ידועים. אבל המכונות של מחר אולי יהיו עצמאיות יותר. "ככל שהמשימות שנטיל על המכונות יהיו מסובכות יותר, כן יהיה עליהן להסתדר יותר בעצמן" אומר הוד ליפסון, מהנדס מכונות ומחשבים מאוניברסיטת קורנל.
ככל שנחזה מראש פחות בעיות, אומר ליפסון, נצטרך להסתמך יותר על כושר ההסתגלות וקבלת ההחלטות של המכונות. כשמכונות לומדות עוד ועוד כיצד ללמוד, הוא אומר, "נדמה לי שזה מוביל למודעות ולמודעות עצמית".
המכונה לומדת את עצמה
גם אם חוקרי המוח חלוקים בעניין הבסיס הביולוגי של המודעות, נראה שהמורכבות היא חלק מרכזי בה, ולכן אפשר שמחשבים בעלי חומרה ותוכנות סתגלניות ומשוכללות ייעשו מודעים לעצמם יום אחד.
אחד הסימנים לכך שהמכונות הגיעו להכרה הזאת עלול להיות הכרזת מלחמה פתאומית על בני האדם, אם להאמין לסרטים כמו "שליחות קטלנית". המומחים סבורים שלא נופתע כל כך.
המסקנה הזאת נובעת מהתבוננות בבני אדם. אנחנו מיוחדים ברמת המשכל שלנו שמאפשרת לנו "למשוך את עצמנו" למעלה שוב ושוב, גבוה יותר ויותר, אומר סלמר ברינגסיורד, לוגיקן ופילוסוף מן המכון הפולי טכני רנסליר. להבדיל מבעלי החיים, שכמו נעולים ב"כלא קוגניטיבי מקובע לעד" הוא אומר, בני האדם מסוגלים להשתחרר מן המגבלות הקוגניטיביות שלהם.
ברגע שהמכונה תבין את עצם קיומה ואת המבנה שלה, היא תוכל לתכנן לעצמה שכלולים. "זה יהיה מדרון חלקלק מאוד" אומר ויל רייט, יוצר משחקי ה"סימים" (Sims) ואחד המייסדים של סדנת הרובוטיקה Stupid Fun Club בברקלי שבקליפורניה. מיד אחרי שמכונה כלשהי תגיע למודעות עצמית, יתחיל השיפור העצמי, ואז "יתחיל להיות מעניין" הוא מוסיף. בכל דור יהיו עוד שיפורים, ומשך דור של מכונה יכול להיות כמה שעות בלבד.
במילים אחרות, אומר רייט, המודעות העצמית תביא לשכפול עצמי ולשיפור המכונות בלי מעורבות של בני אדם בתהליך. "אני אישית תמיד פחדתי מן התרחיש הזה יותר מהרבה תרחישים אחרים", לגבי גורל האנושות, הוא אומר. "זה יכול לקרות עוד בחיינו. ומרגע שתהיה בכוכב הלכת עוד צורה של בינת-על, אי אפשר לדעת מה יהיה".
מי מתכנת את מי?
לא הכול מודאגים כמוהו. הרי המכונות נשמעות בסופו של דבר להיגיון של התכנות שלהן, ואם יתוכנתו כהלכה, אומר ברינגסיורד, "המכונה לא תרכוש כוחות על טבעיים". אפשרות מדאיגה אחת, הוא אומר, היא שבינה מלאכותית משופרת תשולב בכלי נשק או במכונת לחימה, בהסתר, במקום שאינו תחת פיקוח. חוץ מזה, "הייתי אומר שאנחנו יכולים לשלוט בעתיד", אם נשתמש בבינה המלאכותית באופן אחראי, אומר ברינגסיורד.
האם המכונה תוכל לגבור על יוצריה? (צילום: סי די בנק)
הופעתה של בינה מלאכותית חכמה כזאת לא תבוא "כמו פלישה של חוצנים מכניים שיבואו לקחת את מקומנו", מסכים העתידן והסופר הנודע ריי קורצווייל. המכונות, הוא אומר, ילכו בדרך שתשקף את האבולוציה של בני האדם. ואולם, בסופו של דבר, מכונות מודעות לעצמן ומשפרות את עצמן יתפתחו ויצאו מתחום שליטתם של בני האדם ואף מתחום הבנתם, הוא מוסיף.
ההשלכות המשפטיות של מכונות הפועלות שלא בשליטת בני אדם אינן ברורות, לכן "אולי כדאי לחשוב על הדברים האלה", אומר ליפסון. אפשר לנסח כללי אתיקה כדוגמת "שלושת חוקי הרובוטיקה" של איזאק אסימוב המנוח, שקובעים, ביסודו של דבר, שאסור לרובוט לפגוע באדם או להניח לאדם להיפגע. אבל יהיה קשה לשמור על הכללים האלה ברגע שהרובוטים יתחילו לתכנת זה את זה, ויסלקו את ההוראות של בני האדם. חוקי אסימוב "מניחים שאתה הוא המתכנת את הרובוט", אומר ליפסון.
ואולם, יש השואלים אם בני האדם צריכים לשלוט בגזע הבינה המלאכותית החדש הזה בכלל. "מי אמר שהאבולוציה אינה אמורה ללכת בכיוון הזה?" שואל רייט. "האם הדינוזאורים היו צריכים לחוקק חוק שאוסר על היונקים לגדול ולהשתלט על עוד חלקים בכדור הארץ?". אם יתברר שאי אפשר לשלוט בדבר, הבה נקווה שנוכל לחלוק בשלום את כוכב הלכת עם חברינו מבוססי הסיליקון.
הכתבה התפרסמה בגיליון אוקטובר-נובמבר של המגזין "סיינטיפיק אמריקן - ישראל" בהוצאת אורט.
לפנייה לכתב/ת 
