סטיבן הוקינג מזהיר בפני הסכנות האמיתיות של המכונות
מה מסוכן יותר למין האנושי - מכונה עם בינה מלאכותית או האדם? אם אתם שואלים את סטיבן הוקינג אז תשובתו תהיה שהכל קשור באיך שהאדם מתכנן את התוצר של המכונה. למכונה אין מניעים, שלא נאמר זדוניים - אבל לבני אדם יש
הפיזיקאי סטיבן הוקינג, שביום יום עסוק בחיפוש אחר חורים שחורים וחייזרים פינה כמה שעות מלוח הזמנים הצפוף שלו על מנת לענות על שאלות המעניינות את הציבור. על השאלה האם ההתפתחות הטכנולוגית תביא לאבטלה גבוהה ולעוני - ענה הוקינג שאי השיוויון רק יגדל: "אם מכונות ייצרו את כל מה שבני אדם צריכים, התוצאה הישירה מכך תלויה באיך שהתוצר שלהם יחולק. או שבני אדם יהנו מההטבות שזה יביא אם יחלקו זאת עם כלל הציבור, או שבני אדם יחיו בעוני קשה אם אותם בעלי מכונות יצליחו לשמור את כל העושר אצלם. עד כה זה נראה שהאופציה השנייה היא שתתרחש, שכן אי שיוויון רק הולך ומתרחב".
ארוע שאלת השאלות שיזם האתר Reddit, הוצג לקהל הרחב כבר בסוף יולי, אך בגלל מגבלותיו של פרופ' הוקינג - שכן הוא מסוגל לכתוב רק מספר מילים בדקה זאת בעזרת הטכנולוגיה של אינטל שמזהה את תזזות פניו, התשובות פורסמו לפני יומיים. סינון השאלות נעשה על ידי הצבעה לשאלות הכי מעניינות ופרופ' הוקינג ניסה לענות על כמה שיותר. מרביתן עסקו בבינה מלאכותית ועל האיום שהיא כביכול מהווה על האנושות.
באחת מהשאלות, מתייחס השואל למכתב עליו חתום הוקינג, לצדם של דמויות בולטות בעולם המדע והיזמות כמו אילון מאסק וסטיב ווזניאק ובו הם קוראים להשקיע את מירב המשאבים לחקר תחום הבינה המלאכותית ופיתוחו: "מערכות הבינה המלאכותית חייבות לעשות את מה שאנחנו רוצים שתעשה". על השאלה האם בינה מלאכותית תתעלה יום אחד על יכולותיו של המוח האנושי ואיפה פרופ' הוקינג חושב שכדאי לעצור, הוקינג לא נותן תשובה ישירה אלה מרמז על הבאות. "האבולוציה שלנו היא תמיד להיות חכמים ומפותחים יותר מאבותינו", הוא השיב.
הוא מביא כדוגמא את האדם שהתפתח מהאבותיו הקדמונים, או כמו שאייינשטיין חכם יותר מהוריו. "כשהאנטליגניציה המלאכותית תתעלה על היכולת של בני האדם לעצב אינטיליגנציה מלאכותית - אז יהיה זינוק שהתוצאה שלו תהיה להתעלות על האדם יותר מאשר האדם מתעלה על חלזונות למשל".
ההשוואה לסרטי שליחות קטלנית היא בלתי נמנעת, כמובן. אחת השאלות שזכו להכי הרבה הצבעות ותגובות היא של מורה שמלמד רובוטיקה שמספר כיצד בסוף כל שיעור הוא ותלמידיו מגיעים לנושא השתלטות המכונות על חיינו והסכנות שבכך. הוא מאשים את הסיקור התקשורתי ואת תצוגתם של מקרי קצה שגורמים לבני אדם להרתע מפיתוחים טכנולוגים בעוד שבינה מלאכותית חפה ממניעים ומוסר רע. הוקינג הסכים כי התקשורת נוטה לסלף את הנושא שכן הסיכון בבינה מלאכותית אינה זדוניותה אלא המטרות שתשיג והיכולות שלה. אם אותן מטרות לא עולות באותו קנה עם מטרותיה של האנושות - אז אנחנו בצרות.
