מהי החרטה הכי גדולה בתולדות הטכנולוגיה האנושית?
לכאורה, המנצח המתבקש בתחרות הלא־קיימת הוא רוברט אופנהיימר, שכדי לפתח חרטה בסדר הגודל שלו אתם צריכים להמציא פצצת אטום, לבצע בה ניסוי מוצלח במדבריות ניו־מקסיקו, ואז לחזות בעיניים כלות באופן שבו ממשלתכם מטילה אותה על שתי ערים יפניות מאוכלסות. ומאותו רגע לאכול סרטים - גם של כריסטופר נולאן - לשארית חייכם, ולהגיד דברים כמו "עכשיו הפכתי למוות, הורס עולמות". או: "אין בי חרטה על בניית הפצצה, זה נעשה נכון. באשר לדרך שבה השתמשנו בה - אני מבין למה זה קרה, אבל אין בי תחושה שזה נעשה נכון. הממשלה שלנו הייתה צריכה לנהוג ביתר ישירות ובהירות בלספר לעולם וליפן מה משמעות הפצצה".
לא רוצים לפספס אף כתבה? הצטרפו לערוץ הטלגרם שלנו
כתבות נוספות למנויי +ynet:
ובכן, אם תלחינו את המילים האלה תקבלו את "בלדה לנאיבית", אבל לא מוכרחים להגיע לרמות אופנהיימריות כדי להתחרט נחרצות על המצאותיכם. קחו למשל את אזא רסקין, אחד היזמים הבולטים בעמק הסיליקון (ובנו של ג'ף רסקין, שהיה ממפתחי המקינטוש), שהמציא המצאה זעירה בהרבה מפצצת אטום, אבל כזו שלפי חישוביו גבתה חיים בהיקף לא פחות: רסקין המציא את, ובכן, הגלילה האינסופית.
6 צפייה בגלריה
''הפכתי למוות''. רוברט אופנהיימר ואלברט איינשטיין מתוך הסרט ''אופנהיימר''
(צילום: באדיבות Tulip Entertainmen)
כן, היכולת הזו שלא הייתה שם קודם פשוט לגלול את הרשת החברתית עוד ועוד, תוך שהיא מתרפרשת שוב ושוב ומכניסה אותך למצב שאינו לחלוטין שונה מזה של כל מהמר פעור־אישונים מול מכונת מזל בקזינו; או היכולת לגלול את אתר האינטרנט מבלי להגיע לעולם לתחתיתו, כי – כמו כמה ממשלות – בעצם אין לו תחתית.
מי חשב על זה? אזא רסקין.
מה רסקין חשב לעצמו כשחשב על זה? הוא פשוט חיפש בגוגל ב־2006 ונתקל, בתחתית עמוד תוצאות החיפוש, במספרים קליקביליים שהובילו לעמודי תוצאות נוספים. זה עיצבן אותו. "אל תכריחו את המשתמש לבקש עוד תוכן, פשוט תנו לו אותו", הוא כתב אז בבלוג שלו, והסביר כי הצורך להמתין לטעינת עמוד נוסף קוטע את חוט המחשבה והריכוז של המשתמש.
מבוקשו ניתן לו כמעט מיד.
ורסקין - איש מצפוני שהתמחה בממשקי משתמש בקוד פתוח - לא הפסיק להתחרט מאז, ולמעשה נכנס למצב כמעט דיכאוני כשהבין את רמת ההתמכרות ובזבוז הזמן שהדבר הזה גורם בעולם, ובעיקר ברשתות חברתיות. כי ענקיות האינטרנט מיהרו לנצל את הרעיון שלו בכל דרך אפשרית, וכך קורה שברגע שסרטון יוטיוב מסיים להתנגן, הבא בתור כבר נטען אוטומטית, ורק כנסו לאינסטגרם לחפש תמונה או שתיים; כעבור חצי שעה עדיין תמצאו את עצמכם גוללים ומרגישים את חייכם הולכים ומתרוקנים מאוויר וממשמעות. בחדר מלון בהלסינקי, לשם נסע כדי לערוך חשבון נפש עם עצמו, רסקין חישב ומצא שהפיצ'ר שהמציא מבזבז לאנושות מדי יום, 200 אלף פרקי זמן של חיי אדם.
בקיצור, קראו לו "אופנהיימר הדיגיטלי". והוא מכה על חטא בכל הזדמנות: "האמנו במאה אחוז שאנחנו הופכים את העולם למקום טוב יותר עם האינטרנט", הוא אמר ל"הטלגרף" הבריטי ב־2019, והוסיף כי כיום הוא מבין שהאנושות מתמודדת עם "שני סיפורים סופר־עתיקים: אחד, היזהר במה שאתה מבקש כי אתה עלול לקבל את זה, ושתיים: ממציאים שמאבדים שליטה בהמצאותיהם".
איך מכפרים על 200 אלף חיי אדם? ביום?
6 צפייה בגלריה
''הלוואי שלא הייתי ממציא את מכונת הזמן מהגיהינום הזו''. הדלוריאן מ"בחזרה לעתיד"
(צילום: AFP)
רסקין צירף אליו את טריסטאן האריס, לשעבר מנהל המוצר של גוגל שהזהיר גם הוא, בפגישה פנימית ב־2013, שהחברה מיישמת פרקטיקות שמנצלות את הפסיכולוגיה האנושית כדי לשדוד זמן, ובתמורה גוגל קידמה אותו לתפקיד החלול "אחראי אתיקה מוצרית", שאיפשר לו לעזוב את החברה שלוש שנים מאוחר יותר מבלי לחולל שום שינוי. הוא פצח בקמפיין תחת הסלוגן "זמן מנוצל כהלכה", רק כדי לראות את מארק צוקרברג מאמץ את הלוגו הזה לפיד החדשות הפייסבוקי - אחד ממחסלי הזמן הגדולים והמיותרים בתבל - ואת גוגל ואפל מוסיפות פיצ'רים של ניהול זמן לסמארטפונים, כמעין כסת"ח לאופן שבו המכשירים האלה ממכרים אתכם לשארית חייכם.
סם אלטמן, מנכ"ל החברה שהמציאה את ChatGPT, אמר לעיתונאים שהוא סובל מ"נדודי שינה" וחושש שעשה "משהו רע מאוד", ואז העיד מול תת–ועדה של הסנאט על עיסתו במילים: "אני חושש שאם הטכנולוגיה הזו תשתבש, היא תשתבש באופן רציני ביותר"
בסוף האריס ורסקין שילבו כוחות בניסיון לעצור יחד את מה שהם מכנים "הטכנופליפסה": התמכרות, הסחת דעת, דיסאינפורמציה, קיטוב והקצנה - כולם תוצרים של תעשייה שעושה את הכסף הגדול שלה באמצעות לכידת זמן ותשומת לב, שאותם היא משיגה דרך הצפת תכנים קשים ומעוררי אמוציות. "הדבר שעליו אני הכי מתחרט", הידהד רסקין את אופנהיימר, "הוא שלא ארזתי את ההמצאות שלי בפילוסופיה או בפרדיגמה שהן נועדו לשמש, והייתה איזו נאיביות אופטימית במחשבה שההמצאות יתקיימו בוואקום ולא יישלטו על ידי כוחות השוק". הוא גם הטיף ש"אם אתה לא יכול להבין מה יהיו השפעות הטכנולוגיה שאתה עומד לשחרר, אולי זה סימן שאתה לא אמור לעשות את זה".
לכו ספרו את זה לסם אלטמן, ולעוד בערך 350 איש שפיתחו בינה מלאכותית שמסוגלת, עקרונית - עם קצת עזרה מחברים - לכתוב את הטקסט הזה במקומי, ורק אז נעצרו כדי לשאול את השאלה הישנה: אלוהים, מה עשינו?
אלטמן הוא מנכ"ל OpenAI, החברה שהביאה לעולם את ChatGPT, בינה מלאכותית שאתם מוזמנים לדבר איתה על זה בשעה שהיא מאיימת לייתר את מה־שזה־לא־יהיה שאתם עושים למחייתכם. בתחילת השנה אלטמן אמר לעיתונאים שהוא סובל מ"נדודי שינה" וחושש שעשה "משהו רע מאוד", ואז העיד מול תת־ועדה של הסנאט על עיסתו במילים "אני חושש שאם הטכנולוגיה הזו תשתבש, היא תשתבש באופן רציני ביותר". הוא קרא להחלת רגולציה ממשלתית על הבינה המלאכותית וחתם, יחד עם 350 בכירים אחרים בתעשייה ההייטק - כולל אילון מאסק - על מכתב שבו קרא ל"בלימת הסיכון של היכחדות על ידי AI". במילים אלו.
כמה להיבהל? לא מאוד. מדובר באותו אלטמן שאמר ל"האטלנטיק" שאין בו חרטה על פיתוח ChatGPT, והוסיף שהאנושות פשוט תצטרך להסתגל לעובדה שהיא חולקת את כדור הארץ עם אינטליגנציה נוספת שתשנה הכול, משוק העבודה ועד מערכות יחסים. גם אילון מאסק, אגב, סיים לחתום על מכתב האזהרה - ורץ להקים חברת בינה מלאכותית משלו.
"להגיד לך שהם מתחרטים כמו אופנהיימר או אלפרד נובל - שפיתח את הדינמיט ואז התחרט והשיק פרס לקידום השלום? אני לא חושב שיש פה חרטה כזו, או שיש לה מקום כיום", אומר פרופ’ יוסי קשת, חוקר בינה מלאכותית בתחומי שפה ודיבור בטכניון ומדען ראשי בחברת איולה. "כי בניגוד לאופנהיימר ונובל, הפעם יש פה עניין כספי מטורף. הפעם היזמים מרוויחים אישית סכומי עתק, ואף אחד שהרוויח ככה לא התחרט עד היום".
ובפועל, הוא אומר, בוא; הבינה המלאכותית לא באמת תכתוב את הכתבה הזו במקומי בקרוב. "הפעולה החשיבתית שלה היא מיצוע מתמטי הסתברותי, על סמך מה שכבר ראתה שכבר נכתב בעבר ויכולת להכליל. אבל לתת לה לכתוב את ה'אנה קרנינה' החדש? זה לא קורה בשום צורה, היא יכולה לכל היותר לעשות מיצוע של רומנים רוסיים, אבל לא להחליף את הסופר. כל השאר זה רק הייפ".
אז להירגע? תלוי את מי שואלים. "בכל מה שקשור ל־AI, חרטה תופיע רק אם נבין שהגולם קם על יוצרו, וזה בהחלט יכול לקרות, וכשנתחרט כבר יהיה מאוחר מדי", אומר שי שלו־שוורץ, מנהל הטכנולוגיות של מובילאיי ופרופסור למדעי המחשב באוניברסיטה העברית. "אבל אפילו לגבי פצצת האטום, אני חושב שאם אופנהיימר לא היה מפתח אותה והגרמנים היו מגיעים אליה קודם, מצבנו היום לא היה טוב יותר, נכון? אז בסוף, בכל פיתוח, צריך להשוות לאלטרנטיבות, ואם מישהו לא מפתח משהו, יבוא מישהו אחר ויפתח אותו. מי שצריך להתחרט זה מי שמחליט על שימוש לרעה בטכנולוגיה".
אז ממשלות צריכות להגביל רגולטורית פיתוחים כמו בינה מלאכותית?
"באופן כללי אני חושב שרגולציה זה דבר נכון, אבל זה צריך להיעשות בצורה שלא תעצור את הקִדמה. ואחת הבעיות היא תמיד דילמת האסיר. תסתכל על משבר האקלים למשל; נשיא ארה"ב אומר: 'אם אני אוריד את פליטת המזהמים אצלי, אבל סין, רוסיה ואחרות ימשיכו לפלוט, יצאתי פראייר ולא פתרתי את הבעיה'. וזה נכון לגבי רגולציה של כל פיתוח טכנולוגי. אם מדינת ישראל תחליט לעשות רגולציה על פיתוח AI, זה לא ימנע פיתוח AI שיוכל להחריב את האנושות במקום אחר. אז צריך קואליציה כלל־עולמית, וזה קשה מאוד".
גם ממציא האמוג'י - מורה למחשבים בשם סקוט פלדמן - לא קלט איזה ג'יני שיחרר לעולם. "לפעמים אני מרגיש כמו ד"ר פרנקנשטיין", הודה בראיון, "היצור שלי התחיל כמשהו פשוט, אבל הלך למקומות שאני מסתייג מהם"
מה שמבטיח כמעט תמיד שמישהו יתחרט, וכמעט אף פעם לא יהיה מדובר בגוף מסחרי או בממשלה. "הדבר שהכי מפחיד אותי הוא עידן הפוסט־אמת, העובדה שאין נגישות לעובדות נכונות או רצון לצרוך אמת, ו־AI יכולה לתרום לזה בזכות היכולת שלה לייצר דברים בקנה מידה גדול יותר", אומר פרופ' יואב שוהם, שותף מייסד ב־AI21 Labs, חברת הבינה המלאכותית הישראלית המובילה, וראש הוועדה המדעית בתוכנית הלאומית לבינה מלאכותית. ועדיין, הוא מבהיר, "התקדמויות טכנולוגיות מפחידות אותנו יותר מאשר פוגעות בנו, ותמיד הן מקדמות את המין האנושי. דווקא ב־AI יש הרבה שימת לב לנושא של אתיקה, לא בהכרח כי רוצים לעשות את הדבר הנכון אלא בגלל שעסקית זה עדיף, כי אם המכונה תתחיל לעשות דברים מעליבים, לא ישתמשו במוצר".
ואם AI תחליף אותי בעבודה, לא תתחרט? בשבילי, לפחות?
"למה אתה חושב שהחיים שלך כמשרת של המכונה לא יהיו הרבה יותר נוחים?" שוהם צוחק. "תשמע, יש משרות שיתייתרו. כבר עכשיו אנחנו לא צריכים לנווט בכביש כמו פעם, מקצועות העריכה הלשונית נעלמים, אבל האם זה מייתר תפקיד של עורך ברמה העילית? לא, זה רק נותן לו להתרכז בדברים שבהם באמת מותר האדם, וזה כל הסיפור. אני יותר מודאג שיקרה ההפך: AI פחות חזקה ממה שאנשים חושבים, והם יתאכזבו כשינסו להשתמש בה מעבר לתחומים מסוימים".
אבל מאז שאנשי הבינה המלאכותית התחילו להשמיע קולות של סליחה שפיתחנו, החרטה הטכנולוגית - תסמונת של, בעיקר, ממציאים ומפתחים שגילו את הבייבי שלהם בידיים הרבה פחות שקולות, אחראיות או חנוניות משלהם – חזרה להטיל צל כבד.
היא לא ממש חדשה, החרטה. תמיד היה לנו משהו ממנה, גם לפני ובעיקר אחרי אופנהיימר ונובל. ההיסטוריה הטכנולוגית האנושית רצופה מתחרטים, ואפשר להבין אותם לפחות במקרים שבהם מדובר בפיתוח ישיר של נשק. קמרן לוגמן, שפיתח בשנות ה־80 את תרסיס הפלפל עבור ה־FBI, התחרט בראיון מ־2011 על השימוש שנעשה בהמצאתו לפיזור מפגינים לא אלימים ("ראיתי איך מפזרים את מפגיני 'אוקיופיי וול סטריט' והדבר הראשון שעלה לי בראש היו הילדים שלי, רק מחווים דעה ונורים באמצעים כימיים").
גם מיכאיל קלצ'ניקוב כתב, בערוב ימיו, מכתב מפורסם לפטריארך הכנסייה האורתודוקסית הרוסית שבו הביע חרטה על הנשק האוטומטי שפיתח. "הכאב הרגשי בלתי נסבל... השאלה שלא נותנת לי מנוח היא זו: אם הרובה שלי לקח חיים רבים כל כך, האם ייתכן שאני, מאמין נוצרי, אשם במותם?" (תשובתו הנאה של דובר הכנסייה: "גישתנו חד־משמעית: כשכלי נשק משמשים להגנה על המולדת, הכנסייה תומכת הן בממציאיהם והן בחיילים שמשתמשים בהם").
אבל אין צורך לפתח כלי משחית כדי להיתקף חרטה, וגם ממציא האמוג'י – מורה למחשבים בשם סקוט פלדמן, שהיה הראשון להבין, לפני 37 שנה, שאפשר לסמן לתלמידיו :-) כאיתות מחויך בסיומה של בחינה – לא קלט איזה ג'יני שיחרר לעולם וכיצד קירב את האנושות, צעד אחד יותר מדי, לעידן הקקי המחייך. "לפעמים אני מרגיש כמו ד”ר פרנקנשטיין – היצור שלי התחיל כמשהו פשוט, אבל הלך למקומות שאני מסתייג מהם", הודה בראיון ב־2013.
שייקח מספר. לפניו ואחריו בתור עומדים אית'ן צוקרמן, ממציא החלונות הפרסומיים הקופצים באתרי אינטרנט ("אני כתבתי את הקוד לשיגור החלונות האלה והרצת פרסומות בתוכם. אני מתנצל, כוונותינו היו טובות") ודונג ניויין, מפתח המשחק הממכר "פלאפי בירד" לטלפונים ניידים, שאחרי יותר מ־50 מיליון הורדות ודיווחים על אינספור מכורים, הוריד ביוזמתו את המשחק ב־2014 וצייץ: "אני לא יכול לסבול את זה יותר".
נראה זניח? מה לגבי חרטתו הכנה של סר טים ברנס־לי, ממייסדי הרשת ומי שקבע את הסימן // שמוכרח לבוא, מאז ולעולם, אחרי כל http: בכל כתובת אינטרנט? "האמת, כשחושבים על זה, אין בזה צורך", האיש נזכר באיחור ניכר.
וגם וינסנט קונר, טיפוגרף שהמציא ב־94' את הפונט "קומיק סנס" לטובת תוכנית לחינוך ילדים למדעי המחשב, לא הבין מה הוא ממיט על האנושות. הפונט הילדותי במכוון הפך כמעט בלתי נמנע בתפריטי מסעדות גרועות, בתכתובות פנים־משרדיות מטעם בוסים פסיביים־אגרסיביים ובכמה מהאתרים הגרועים ברשת. "האיש מרגיש קרינג'י לגבי המפלצת הפונטית שיצר, ולעיתים נדירות מאוד משתמש בה בעצמו, אבל משתדל להישאר מנומס כשהוא מזדמן לחברת אנשים שנרגשים להימצא בחברת היוצר", דיווח מהשטח ה"וול סטריט ג'ורנל".
אגב, מיקרוסופט רכשה את הפונט מקונר בשלב די מוקדם, כך שהוא יכול להתחרט גם על כל התמלוגים שלעולם כבר לא יראה מתפוצתו העצומה.
וגם אם מדובר, בשלב זה, בנחמה זעירה, טוב לדעת שרוברט פרופסט, ממציא הקיוביקל המשרדי (הוא קרא לזה במקור "אקשן אופיס"), הספיק לשחרר, בטרם מת בשנת 2000, הודעת חרטה על תרומתו למה שכינה בעצמו "אי־שפיות מונוליטית", והאשים כי, "הם המשיכו לכווץ את ההמצאה שלי עוד ועוד, עד שהפכה לקיוביקל".
משמח במידה גם לדעת שוולי קונרון, הכלבן שהכליא לברדור ופודל ליצירה המונומנטלית לברדודל - שהפכה לסוג של שגעת אמריקנית - התחרט עמוקות. "גרמתי הרבה נזק", אמר לעיתונאים, "ויצרתי הרבה בעיות. יש הרבה כלבים חולים ונטושים שם בחוץ, ואנשים ממשיכים עם ההכלאות במקום להפסיק. על כל כלב מושלם כזה, תמצאו כלבים משוגעים רבים".
בראש – או תחתית – הרשימה נמצא, איך לא, דוק אמט בראון (בגילומו המשכנע של כריסטופר לויד), ממציא הדלוריאן, שלאחר שהביא את מרטי מקפליי לכמה מקומות סבוכים – ואת "בחזרה לעתיד" לשני סרטי המשך מיותרים – אמר רק: "הלוואי שלא הייתי ממציא את מכונת הזמן מהגיהינום הזו, היא לא הביאה שום דבר מלבד אסונות".
חרטה זקוקה לזמן, ובעיקר להיעדר יכולת או נכונות לראות קדימה ולחזות את הנולד. לג'סטין רוזנשטיין, ממציא כפתור ה"לייק" בפייסבוק, לא היה מושג עד כמה תחבל המצאתו בהערכה העצמית של, בעיקר, אנשים צעירים. לקרל בנץ, מפתח הרכב המונע בדלק, לא הייתה דרך לחזות פקקי תנועה וזיהום אוויר, וגם תומס מידג'לי, מדען מבריק שהביא לעולם את דלק העופרת המלא ואת גז הפריאון – רק כדי לפתור בעיות כמו מנועים נוקשים ומקררים שייצרו קרח – לא ידע שיוגדר, לאחר מותו, כ"מי שהייתה לו יותר השפעה על האטמוספרה מאשר לכל אורגניזם בודד אחר בכל ההיסטוריה של כדור הארץ" (הגדרתו של ההיסטוריון הסביבתי ג'יי.אר מקניל).
לא; ממציאים ומפתחים עובדים, לפני הכול, בשירות המצאותיהם, וכשיזמים טכנולוגיים מדברים – יותר מדי, אגב – על לשנות על העולם, הם כמעט אף פעם לא לוקחים בחשבון אופציה של שינוי לרעה. "זו היכולת שלנו להטיל ספק שתחרוץ את עתיד הציוויליזציה", כתב הפיזיקאי זוכה הנובל ריצ'ארד פיינמן, אבל בעידן שבו טכנולוגיות חדשות מאומצות לשימוש נרחב בזמן שיא, אין כמעט מתי לעצור לרגע ולהטיל קצת ספק.
קחו בחשבון – כפי שכתבה רייצ'ל בוסטמן, מחברת ספר בנושא, למגזין "וויירד" – שלרדיו לקח יותר מ־50 שנה להגיע ל־99 אחוז ממשקי הבית בארה"ב, לטלוויזיה זה לקח 38 שנה; ואילו אינסטגרם נזקקה רק לשלושה חודשים כדי להגיע למיליון משתמשים אחרי שהושקה ב־2010, וטיקטוק ספרה את המשתמש המיליארד שלה רק ארבע שנים לאחר ההשקה. מהירות ותפוצה בסדרי גודל כאלה לא משאירות זמן לזהירות, למתינות, להחלטות מושכלות או לשליטה בסוגי השימוש. היזמים, מצידם, מחויבים כיום לתנועה וגדילה מואצות כל הזמן, ומעל כולם מרחף הציווי הנצחי לזוז מהר ולשבור דברים.
כך שהמקרים שבהם חרטה אפשרית נלקחת בחשבון מראש הופכים נדירים – ועדיין, הם מתקיימים פה ושם. פיתוח המכונית האוטונומית של מובילאיי, למשל, הוא דוגמה אחת, ושלו־שוורץ זוכר ש"כשבאנו לפתח אותה אמרנו: מה המגבלות? מה צריך להבטיח, איך זה יעבוד? מכיוון שמדובר במכונה שיכולה להיות מסוכנת, זו מין חיה שצריך להגדיר מראש מה מותר ומה אסור לה לעשות, איך היא צריכה להתנהג במצבים מסוימים, ויצרנו מודל מתמטי שאמור לשרת את הרגולטורים באיך להתייחס לדבר הזה. הגדרנו למשל כמה שמירת מרחק מרכב אחר, כמה הרכב צריך להיות זהיר וסובלני לטעויות של אחרים, מה סביר ולא סביר שאחרים יעשו, מה זה מצב מסוכן. בעצם נתנו לרגולטור מראש כלים לבחור איפה למתוח את הקו בין הצד הבטוח לצד השימושי של זה".
אתה רואה מצב שבכל זאת תתחרטו בעתיד?
"רכבים אוטונומיים הם בעיניי דבר שיעשה טוב לאנושות, ישפר את העולם וגם יקטין את מספר התאונות הקטלניות, כך שאין לנו שום חרטה. אולי החרטה היחידה היא אכזבה מכך שלמרות שהצענו את המודל הזה כבר ב־2017, הוא לא אומץ כמעט בשום מקום מלבד סין. הרגולטורים לא הרימו את הכפפה".
פרופ' יונתן דובי: "להתחרט על טכנולוגיה זו תפיסה קצת רומנטית; אתה יכול להתחרט על הדרך שבה נעשה שימוש בטכנולוגיה. אופנהיימר לא התחרט על זה שהם גילו איך לפצח את האטום. הוא התחרט כשהוא חש שיש לו 200 אלף הרוגים על הידיים"
ובכלל, חרטה זה לחובבנים. תשאלו את פרופ' יונתן דובי מהמחלקה לכימיה באוניברסיטת בן־גוריון, שהתפרסם בשנים האחרונות בהתנגדותו הגורפת לרעיון ההתחממות הגלובלית, ובפרט לרגשות האשמה האנושיים בעניינה. "חד־משמעית אנחנו צריכים להפסיק לאכול את עצמנו על זה", הוא מרגיע. "אין שום עדויות משמעותיות שכל השינוי בטמפרטורה של משהו בכדור הארץ נובע מריכוז פחמן דו־חמצני. זו תזה מאוד חלשה מדעית, וזה שיגידו לך אותה בביטחון וידפקו על השולחן לא יהפוך את זה לנכון".
אני לא מתווכח איתו – לא לשם כך התכנסנו – אבל ככלל, דובי לא בעד חרטה משום סוג, והוא מקפיד לשים טיימר לרבע שעה בכל פעם שהוא נכנס לפייסבוק כדי למנוע מעצמו אחת, "כי אחרת אני אבלה שם שלוש שעות".
בכלל, הוא אומר, חרטה טכנולוגית היא לא רעיון ממשי. "טכנולוגיה היא לא דבר רע או טוב. בסופו של דבר, אם טכנולוגיה תופסת, זה סימן שהיא מביאה ערך. זה שיש לה חסרונות - נו, לכל דבר יש חסרונות, העולם מורכב. אבל להתחרט על טכנולוגיה זו תפיסה קצת רומנטית; אתה יכול להתחרט על הדרך שבה נעשה שימוש בטכנולוגיה. אופנהיימר לא התחרט על זה שהם גילו איך לפצח את האטום. הוא התחיל להתחרט כשהוא חש שיש לו 200 אלף הרוגים על הידיים. אבל הוא ידע מראש שיזרקו את הפצצה והוא לא חשב שזה לא רעיון טוב. אז חרטה זה משהו מאוד רגשי, ולטכנולוגיה צריך לבוא בצורה הרבה יותר ניטרלית".
אז עדיף לא להתחרט בכלל?
"אם אתה רוצה באמת חרטה טכנולוגית, כולנו צריכים להתחרט על זה שחנקנו את המחקר בתחום האנרגיה הגרעינית. יש לנו מקור אנרגיה יציב, זמין, יכול להיות זול, אבל בגלל טמטום קולקטיבי וטיפשות פוליטית, חנקנו במערב את המחקר בתחום מאז שנות ה־70. חלק מהטעות היה הפחד הנורא מפיצוץ גרעיני – ואלה שני דברים שונים על הסקאלה של הפיזיקה. לא יכול להיות פיצוץ גרעיני בתחנת כוח גרעינית, זה כמו שתשים חלב על השולחן ותחכה שהוא יהפוך לגבינת גאודה. עכשיו מתחיל איזה רנסנס גרעיני, כי כולם מדברים על חשמל בלי פליטות, אבל יש לנו להדביק פער של 50 שנה".
וברמה האישית, אין שום טכנולוגיה שאתה מתחרט עליה?
"מבחינתי אפשר היה לדלג על הפקס ולהתקדם ישר לאימייל".
המקרה של אזא רסקין - שפיתח את הגלילה האינסופית לנוחות המשתמש רק כדי לראות את ענקיות האינטרנט מנצלות אותה להגברת ההתמכרות ומשך השהייה - הביא אותו להקים את "המרכז לטכנולוגיה אנושית", שבמסגרתו הציג שלושה פתרונות שעשויים למנוע בעתיד מיזמים להתחרט על פיתוחיהם.
הפתרון הראשון הוא קוד פתוח שיחתים את משתמשיו מראש על המקבילה הדיגיטלית לשבועת היפוקרטס רפואית המפרטת "שימושים נכונים ולא נכונים". שימוש לא נכון עשוי להביא לשלילת רישיון השימוש.
הפתרון השני מגדיר את סדר הגודל של השימוש העתידי, כך שבכל פעם שהפיתוח יגיע לאבן דרך נוספת – 100 אלף משתמשים, מיליון, מיליארד וכו' – היזם יידרש להגיש בקשה מחודשת לרישיון, בהתבסס על ההשלכות החיוביות והשליליות כפי שהתבררו עד כה.
הפתרון השלישי הוא הקמת "מועדון ספק", מהסוג שרסקין הקים בעצמו – פורום שמשמש קבוצת יזמים שעובדים על רעיונות שאינם מתחרים, ומשתפים זה את זה בספקות ובתמיהות לגבי מוצריהם. כל הדיונים נשארים בתוך החדר והמטרה, על פי רסקין, היא להפחית בורות ולהגביר "מודעות של ענווה".
פורסם לראשונה: 00:01, 08.09.23
