הבינה המלאכותית שפיתחו ישראלים בגוגל מעוררת חשש בעולם
שירות "גוגל דופלקס", שמאפשר קיום שיחות טלפון על ידי בינה מלאכותית, הוא פרויקט שפותח בישראל ומעורר חשש וביקורת
במהלך ההדגמה יוצאת הדופן של מנכ"ל גוגל סונדאר פיצ'אי, נראה כיצד התוכנה מתקשרת למספרה ומצליחה להזמין תור בתוך זמן קצר, תוך שהיא מנהלת שיחה טבעית בקול אנושי וסגנון דיבור טבעי להפליא (כולל המהומים אנושיים לחלוטין כמו "ממ-הממ"). המוקדנית מהצד השני לא חשדה לרגע שהיא מדברת עם מכונה.
את פרויקט "דופלקס" הגו והובילו מהנדסים ישראלים בגוגל, בראשם יוסי מטיאס, סגן נשיא בגוגל ומנהל מרכז המו"פ של גוגל ישראל, והמהנדסים יניב לויתן ומתן קלמן. "גוגל דפלקס הופכת את המשימות לקלות יותר. השיחה מתקיימת ברגע ללא מעורבות המשתמש", כתבו מטיאס ולויתן בפוסט בבלוג הרשמי של גוגל. לפוסט אף צורפה תמונה של קלמן ושל לויתן נהנים מארוחה שהוזמנה באופן אוטומטי באמצעות שיחת טלפון מגוגל דופלקס.
ההדגמה היתה מפתיעה ומרשימה וזכתה לשבחים רבים על כך שהיא מהווה הישג טכנולוגי גדול – אף שלא ידוע מתי תהפוך למוצר של ממש. אך עד מהרה החלו להתעורר גם הספקות, החששות והביקורת. בראש ובראשונה, המבקרים טענו כי מערכת בינה מלאכותית שמקיימת שיחה עם בן אדם, חייבת קודם כל להזדהות כמחשב ולא כאדם בשר ודם.
יש שהעלו שאלות מוסריות על ההשלכות האפשריות של טכנולוגיה המסוגלת להתחזות באופן מלא ובהצלחה לבן-אדם – למשל, מעתה אנו עלולים לנהוג באי-אמון וחשדנות כלפי כל שיחת טלפון, ולתהות אם מדובר באדם או מכונה. יש מומחים שאף שכינו את הטכנולוגיה כזו שתוכננה לצרכי הונאה והטעייה. "זה מזעזע", כתב בטויטר זנייפ טופקצ'י, פרופסור ומומחה לטכנולוגיה. "עמק הסיליקון אבוד מבחינה מוסרית, ולא למד דבר".
בגוגל נכנסו למגננה. בראיון ל-Cnet, מטיאס סיפר כי החברה עובדת על הפיתוח כבר מספר שנים, ואמר כי "אנחנו צריכים לחשוב היטב כיצד לקיים את האינטרקציות האלה. אנו מאמינים שהדרך הנכונה לעשות זאת היא עם שקיפות מלאה". בגוגל מיהרו להרגיע ולהבהיר: "שקיפות בטכנולוגיה היא חשובה. אנו מתכננים את המערכת הזו עם גילוי נאות מובנה, כך שההיא תזהה את עצמה כהלכה. הצגנו על הבמה הדגמה, ואנו מצפים לקבל פידבקים ככל שאנחנו מפתחים אותה למוצר של ממש".
