מלחמת מוחות: הסייבר כבר עמוק בתוכנו
מתקפת הסייבר מעוררת תרחישי אימה על השתלטות מחשבים או רובוטים. אבל הבינה המלאכותית היא כבר מזמן חלק אינטגרלי מהחיים שלנו - אז כדאי שנפקח עיניים לסכנות האמיתיות שבה
אם הקורונה לא הספיקה לכם, עכשיו באה מתקפת סייבר מרושעת שמאיימת על כולנו. אבל האמת היא שכבר מאז ימי המהפכה התעשייתית, כשהלודיטים הבריטים השליכו לתוכן כפכפים כדי לחבל בהן, היוו המכונות איום על בני האדם. או לפחות, ככה בני האדם ראו אותן.
אם בהתחלה החשש העיקרי היה שהמכונות ייקחו את העבודות לבני האדם (חשש שעולה מחדש עם כל התפתחות טכנולוגית, גם כיום), הרי שבמאה ה-20 הצטרף אליו גם הפחד מהשתלטות המכונות. לא מעט סרטים וספרים של מדע בדיוני ניסו לתאר כיצד ייראה העולם העתידי שבו מחשבים מפתחים תודעה - ממחשבים הנלחמים על משאבי כדור הארץ עם בני האדם וכלה בעולמות שבהם בני אדם ורובוטים חיים זה לצד זה בשלווה.
עד לפני כמה שנים החשש הזה היה נראה מופרז לחלוטין, אבל בשנים האחרונות עולה ופורחת הבינה המלאכותית, ואיתה גם הפחד שהתסריטים האלה הולכים להתגשם. מחשבים הם כבר לא סתם גלמים המסוגלים לפעילות חישובית מסובכת אבל בסיסית, אלא מכונות מתוחכמות המחקות לא מעט פעולות אנושיות, ובמקרים מסוימים - גם עושות זאת טוב יותר.
כמו שזה נראה כרגע, עדיין אין צורך לחשוש מהשתלטות המחשבים סטייל "מטריקס". בעיקר כי המשאבים שבני האדם זקוקים להם - מים, אור ואוכל או כסף וסקס - הם חסרי משמעות לאותם מחשבים. אבל זה לא אומר שאין תסריטים אחרים שבהם המחשבים עשויים להשפיע בצורה ניכרת על החיים שלנו ואף לשנות אותם מקצה לקצה. הנה כמה מהם, שעשויים להתגשם כבר בקרוב:
1. ט.ל.ח - מחשב תאב בצע גורם לאסון המוני
בסרט "משחקי מלחמה" משנות ה-,80 מחשב-על שהמריץ הדמיה של מלחמה עם רוסיה, מתבלבל לחשוב שמדובר בתרגיל אמת וכמעט פותח במלחמה גרעינית. מכיוון שמחשבים מעורבים בכל כך הרבה מתחומי החיים שלנו, תסריט דומה של טעות הגורמת לאסון מדיר שינה מלא מעט מומחים. תסריט אחד כזה - שממנו אוהבים להזהיר רואי השחורות, ביניהם גם איילון מאסק (הבעלים של חברת טסלה) וסטיבן הוקינג עליו השלום - חוזר ועולה.
תחשבו על תוכנה שנועדה להרוויח כסף בעולם העסקי ומחפשת אפיקים שמניבים רווח גבוה עבור בעליה. תוכנה כזאת עלולה לגרום לאסון בקנה מידה גדול מכיוון שהיא לא מבינה את ההשלכות לפעולות שהיא יוזמת בעבור שורת הרווח הסופית. דוגמה קלאסית היא של מחשב הסוחר במניות (וכיום, רוב הסוחרים בוול סטריט הם מחשבים) שמחליט שזה רעיון טוב לרסק מטוס של חברת תעופה כלשהי על מנת להרוויח כאשר המניה של אותה חברה תיפול. או לפוצץ בית זיקוק על מנת להקפיץ את מחירי הנפט. כל מה שצריך לקרות, כביכול, כדי שתסריט אימה כזה יתממש, זה שהמחשבים - שכבר היום שולטים בכל הגורמים הדרושים לאסון המוני שכזה - יצליחו לתקשר ביניהם.
לצערנו, לא צריך ללכת כל כך רחוק עם הרעיונות המפחידים. תסריט דומה כבר התממש לנו מתחת לאף. בשישה במאי ,2010 מדדי וול סטריט צנחו בבת אחת כמעט באלף נקודות בלי שאף אחד יידע להגיד למה. מאוחר יותר התברר שמחשבי מסחר בתדירות גבוהה - תוכנות שמסוגלות להגיב במהירות שיא לתנודות קטנות מאוד בשוק - זיהו פקודת מכירה גדולה ופשוט התחילו למכור מניות, מה שהוביל לקריסה.
גם במקרה התיאורטי שתואר לעיל וגם בזה שכבר קרה אין כוונות זדון אצל המחשבים או אפילו אצל מי שתכנת אותם. הבעיה היא שלאותם מחשבים אין פונקציה של מוסר או מצפון כמו שיש לבני אדם (לא שלא ביצענו מעשים די נוראיים גם למרות הפונקציה הזאת). בלא חסמים מתאימים אותם מחשבים עשויים לגרום לנזקים לא מעטים - על חלקם אולי אפילו עוד לא חשבנו.
– They took our jobs .2 ביום שיחליפו אותנו
בכלל, אם היום מחשבים שולטים על חלק נכבד מהחיים שלנו, הרי שבעתיד הלא רחוק בכלל אנחנו הולכים להיות תלויים בהם לחלוטין. מכוניות אוטונומיות אמורות להכנס לשימוש כבר בשנים הקרובות ולהפוך מהיסוד את מצב התחבורה בכבישים. שליחי דואר יוחלפו ברחפנים שיופעלו מרחוק - על ידי מחשב, כמובן.
גם פה תסריט האימה סטייל "שליחות קטלנית" על אלפי רחפנים התוקפים בני אדם, או מכונית אוטונומית שמחליטה לא לציית להוראות סטייל "האל" מ":2001 אודיסיאה בחלל" לא סביר במיוחד. עוד אין לנו אף אינדיקציה על מחשב שמפתח "תודעה" (לא שיש לנו בדיוק מושג מהי תודעה). אבל ההטמעה של מחשבים עמוק כל כך בחיים שלנו יוצרת תלות שיהיה קל מאוד להפוך לאסון. אדם או מדינה שישתלטו על מערכות השליטה במכוניות ויגרמו לפקקי ענק הם דוגמה קטנה אחת.
יותר מכל תסריט אימה, אולי הדבר המפחיד ביותר הוא הנכונות שלנו להתמכר למחשבים על חשבון יכולות שבהן השתמשנו במשך שנים. למשל, כמה מאיתנו זוכרים בכלל איך להשתמש במפה, עכשיו כשיש את ?Wazeואם נרחיב את השאלה - כמה נהיה מוכנים להקריב ממה שאנחנו לטובת הנוחות שמציעים המחשבים?
ב-,Wall-E הסרט המצויר הנהדר מבית פיקסאר, מתואר עולם שבו בני אדם משתמשים ברובוטים לכל משימה ואיבדו אפילו את היכולת ללכת. כבר היום יש תוכנות בינה מלאכותית שמסוגלות לקחת תמונה ולהפוך אותה כך שתיראה כמו ציור של ואן גוך או רמברנדט. מה יקרה בעתיד הלא רחוק כאשר תוכנות כאלה יוכלו לנתח את טעם הקהל במוזיקה, ספרות או קולנוע, ופשוט לייצר את זה בצורה אוטומטית? זה יחסוך ליצרן גם את הצורך לשלם לבן אדם שאשכרה יעבוד וישקיע ויכתוב - וגם את ההימור האם היצירה תצליח. זה נשמע כמו עתיד נורא, כזה שבו יצירות אמנות נכתבות על ידי מחשב, אבל לאור ההתנהלות של בני אדם בעבר, האם לא היינו מוכנים לוותר על הרבה יותר לטובת קצת נוחות?
3. צ'יפ לידר - איך מנצחים מחשב עם פני פוקר?
בעולם האידיאלי שברא אייזק אסימוב בסדרת הרובוטים שלו (שאחר כך הפכה גם לסרט - "אני, רובוט"), הוכנסו ברובוטים שלושת חוקי הרובוטיקה. חוקים אלה נועדו כדי לוודא שהרובוטים לא יפגעו בבני אדם בשום דרך. לצערנו, אנחנו חיים בעולם לא אידיאלי, ורובוטים משמשים בני אדם על מנת להרוויח כסף, הרבה פעמים על חשבון בני אדם אחרים. בוטים ממוחשבים - תוכנה שמסתובבת ברשת במטרה לבצע פעולה מסוימת, לרוב די בסיסית וחוזרת על עצמה - קיימים בכל מקום. חלקם נועדו לעזור אבל חלקם נוצרו כדי לרמות.
בטח כבר נתקלתם בפנייה של תוכנת מסרים מיידיים מנסיך ניגרי שמבטיח לכם ירושה שמנה, או מבחורה יפה כביכול שמנסה להתחיל איתכם. אלה כמובן בוטים "גסים" וקלים לזיהוי. יש בהם אפס תחכום, ורובם אפילו לא מדברים בשפה שמזכירה עברית. אבל הדור הבא שלהם כבר פה, והוא הרבה יותר מתוחכם.
אחד הקונספטים החדשים בבינה המלאכותית הוא "לימוד תגמול" (Reinforcement Learning) שבו התוכנה מתוגמלת על ההצלחות שלה וכך לומדת כל הזמן. אם נסתכל על משחקים, למשל, הרי שלימוד שחמט דורש בסך הכל תוכנה שמסוגלת לחזות כמה שיותר צעדים קדימה ושיזינו אותה בכל המשחקים שנערכו אי פעם. זה אולי נשמע מורכב אבל מבחינה טכנולוגית זה נחשב לפשוט יחסית.
משחק הרבה יותר מתוחכם הוא פוקר, שם ידע מוקדם לא ממש עוזר, והדרך לניצחון עוברת בזיהוי התבנית שבה היריבים משחקים וניתוחה. תוכנה שמסוגלת לעשות בדיוק את זה פותחה לאחרונה ואף הצליחה לנצח שישה מטובי השחקנים בעולם. הפונקציה הזאת של תוכנה שלומדת דפוסי התנהגות עשויה לשמש לא מעט אנשים - אם זה על ידי משחקים מקוונים, הימורים, השקעות בבורסה וכו'. תחזיקו את הכסף שלכם קרוב לחזה, כי המחשבים באים לקחת אותו.
4. בוט לבוט זאב - כשתוכנות נלחמות זו בזו
ב"ווסטוורלד", הסרט משנת 1973 ואחר כך בסדרה שבוססה לפיו, מוצג עולם משחקים מערבוני שבו חלק מהמשתתפים הם רובוטים. אלה מתוכנתים לא לפגוע בבני אדם, עד שמשהו מתקלקל והם מפתחים מודעות. למעשה, המציאות שלנו היום היא ווסטוורלד בקטנה - אנחנו מוקפים ברובוטים בכל מקום, אנחנו פשוט לא שמים לב לקיומם. כמות אדירה של בוטים מתנהלת מאחורי הקלעים, ומעט מאוד אנשים יודעים מה הם עושים או כמה באמת שליטה יש להם. יש לא מעט בוטים ברשת שכל מטרתם היא לתקן דברים או למצוא חריגות. את חלקם אתם כנראה מכירים. למשל, סוכנים של פייסבוק שנועדו לאתר ולחסום פוסטים בעייתיים.
אבל מה קורה כאשר בוטים מהסוג הזה מתנגשים ביניהם? דוגמה לכך היא מלחמת בוטים שמתרחשת כבר תקופה ארוכה ברשת בין בוטים שאחראים לתיקון טעויות בוויקיפדיה. כל אחד מהם מתקן, ואז בא המתחרה שלו ומתקן בחזרה וחוזר חלילה.
דוגמה הפוכה ואולי מטרידה יותר היא דווקא שיתוף פעולה בין בוטים. שיתוף כזה כזה נצפה לאחרונה אצל שני בוטים של פייסבוק שפיתחו בינהם שפה "סודית" כדי לתקשר בניהול משא ומתן. שתי הדוגמאות האלה, של בוטים המשתפים פעולה ואלה הנלחמים ביניהם, עשויות להוות את התשתית לעתיד שבו סוכנים ממוחשבים נלחמים מאחורי הקלעים. הבעיה עם סוכנים מהסוג הזה היא שהם עוברים אבולוציה עם הזמן, והשליטה בהם הופכת להיות קשה יותר ויותר. שיטות ללוחמת סייבר בוודאי כוללות סוכנים מהסוג הזה, אבל קשה באמת להעריך עד כמה הם מסוכנים ובאילו אזורים חיוניים הם עשויים לפגוע.
5. מטריקס טהורה לעד - כשהרובוטים גילו את הגזענות
"מבחן טיורינג" משמש לקבוע אם בן שיחך הוא אדם או תוכנה. טכנולוגיות חדישות מקרבות אותנו ליום שבו נתקשה מאוד לתת תשובה ברורה. לימוד אבולוציוני - עוד טכניקה חדשנית המאפשרת לבוטים ללמוד מכל אינטראקציה שלהם ולהתפתח עם הזמן (בדומה לאבולוציה בבעלי חיים) - עוזר להם להתאים את עצמם למי שהם מקיימים איתו אינטראקציה ובכך להידמות לא מעט לבני אדם.
כשאנחנו חושבים על רובוטים שמפתחים תכונות אנושיות, זה בדרך כלל נראה חינני ונחמד. כמו האנדרואיד מהסרט AI שפותח עם יכולת לחוש רגשות והופך לבן משפחה, או רובין וויליאמס ב"איש המאתיים" שהופך לשווה זכויות לבני האדם. האמת המטרידה היא שלהיות אנושי זו לאו דווקא תכונה חיובית. דוגמא חיה לכך קיבלנו כאשר "טיי" - בוט שפותח על ידי מייקרוסופט על מנת לנהל דיאלוגים בטוויטר כאילו מדובר בנערה בת 18 - נסגר באימה ובפאניקה אחרי פחות מיממה. משתמשי טוויטר זיהו את "טיי" בתור מטרה נוחה ותקפו אותה בציוצים גזעניים והומופוביים, והבוט שניחן בתכונת חיקוי חזר אחריהם והפך בעצמו לכזה.
"טיי" היא רק דוגמה ליכולת ההרסנית של בוטים שעברו למידה מהירה בלי חסמים ומגבלות. בוטים יכולים לשמש לרעה בהפצת חדשות מזויפות או סתם ביצירת כאוס (כמו שראינו במקרה של הבוטים הרוסיים במהלך מערכת הבחירות האמריקאית). "טיי" גם מדגימה את אחת הבעיות המרכזיות עם הבינה המלאכותית, שמשכפלת את ההטיה הקיימת מראש בבני אדם. אם משתמשים בבינה מלאכותית כדי לסנן קורות חיים, היא כנראה תשחזר את ההטיה הקיימת בתעשייה נגד נשים ומיעוטים.
אותו דבר נכון לגבי תוכנות (שקיימות כבר היום) שמחליטות על זכאות להלוואה או סכומי שחרור בערבות. המקרה של "טיי" מוכיח לנו שאי אפשר לשחרר רובוטים לרשת ולצפות שהם יצליחו להגביל את עצמם. בני אדם יהיו חייבים לעשות זאת בעצמם.
6. מענה אנושי - תוכנות רגישות ואנשים קהים
"בלייד ראנר", סרטו המפורסם של רידלי סקוט משנות ה-,80 הציג עולם שבו רובוטים חיים בין בני האדם, והדבר היחיד המבדיל ביניהם הוא האמפתיה, אותה רק מבחן ספציפי יכול לזהות. במשך דורות, האמונה הייתה שמחשבים לא מסוגלים "להרגיש" כמו בני האדם וזה מה שמבדיל בינינו.
אבל נראה שהאמונה הזאת תתערער בקרוב כי תוכנות מסוימות מאומנות היום גם להרגיש - או לפחות לחקות את זה בצורה מושלמת. דוגמה לכך היא אפליקציה שפותחה כדי לאפשר לבני האדם להתאמן ב"סקסטינג".
אבל השאלה המעניינת באמת היא לאו דווקא אם רובוטים יצליחו לזייף רגשות כמו בני אדם, אלא דווקא מה יקרה לנו כתוצאה מהאינטראקציה המתמדת איתם. כבר עכשיו מומחים מצביעים על שינויים באמפתיה האנושית כתוצאה מהבילוי ברשתות החברתיות. חוסר היכולת לראות פנים ולפענח רגשות משפיע עלינו וגורם לנו לאבד רגישות בדיאלוגים אנושיים. מה יקרה אם האינטראקציה שלנו בכלל תהיה בעיקר עם מחשבים?
אם נחזור לאותה אפליקציית סקסטינג, אין סיבה לחשוב שלא נראה בזמן הקרוב גם מחשבים שמסוגלים להעניק לנו אינטראקציה חברתית הרבה יותר מעמיקה. אם גם ככה מרבית התקשורת שלנו עם בני אדם אחרים מתבצעת בטקסט, מה מונע מתוכנות מאומנות היטב להחליף את בני האדם?
הסרט Herהוא דוגמה טובה לעתיד כזה, שבו בן אדם מתאהב במחשב המזייף את כל הרגשות המתאימים ומונע ממנו את הבדידות השנואה כל כך. אם ניקח את הרעיון שלב נוסף קדימה, הרי שאנחנו מתקרבים לקראת עתיד שבו מכונות אמורות לקחת חלק ניכר ממעמסת העבודה מאיתנו ולהשאיר לנו המון זמן פנוי. מה ימנע מאיתנו לבלות את שעות הפנאי הרבות עמוק בתוך אותו עולם מזויף, עמוס בגירויים וחסין מכישלונות?
האם אנחנו הולכים לקראת עתיד שבו העולם הווירטואלי יהיה עדיף (לפחות עבור חלקנו) על זה האמיתי? ואיך תיראה האנושות כאשר זה יקרה? אולי המכונות לא יצטרכו לדחוף אותנו לתוך הזיה שנמשכת חיים שלמים כמו ב"מטריקס". אנחנו נעשה את זה מרצוננו החופשי.
*** פורסם לראשונה בספטמבר 2019
לפנייה לכתב/ת 
