ניסים חדשים יכולים להיות מבלבלים מאוד, ובינה מלאכותית היא נס חדש ביותר. "אנחנו יוצרים את אלוהים", אמר לאחרונה מנהל העסקים הראשי של גוגל, מו גאוודט, בריאיון. "אנחנו מעוררים את השד", אמר אילון מאסק לפני כמה שנים בהרצאה ב-MIT. בעמק הסיליקון טוב ורע מתערבבים לא פעם ללא הבדל, אבל כשמדובר בבינה מלאכותית זה לא ממש משנה. כך או כך, אנחנו לקראת מפגש עם העל-אנושי.
כתבות נוספות למנויי +ynet:
בתחילת הדרך, בינה מלאכותית הייתה פשוטה: מחשבים שיחקו דמקה או שחמט, או הצליחו ללמוד כיצד לקנות מצרכים. אבל בשנים האחרונות, למידת מכונה (השיטה שבה מלמדים את המחשב לבצע משימה מבלי שיינתנו לו הוראות מפורשות כיצד), הביאה להתקדמות מדהימה בתת-התחום של עיבוד שפה טבעית (NLP), שמשתכלל מאז כמעט מדי שנה. ועם כל זאת, ניצול מלא של הטכנולוגיה עדיין לא הושג. אולי שמעתם על צ'אט בוטים שאי אפשר כבר להבחין בינם לבין בני אדם בעת שיחה, או על יוצרי סרטים תיעודיים שיצרו מחדש את קולו של השף המנוח אנתוני בורדיין, או על רובוטים שמסוגלים לחבר טור דעה, אבל סביר שאינכם משתמשים בעיבוד שפה טבעית בחיי היום-יום שלכם.
לא רוצים לפספס אף כתבה? הצטרפו לערוץ הטלגרם שלנו
הבה נדייק: אולי אתם כן משתמשים בעיבוד שפה טבעית בחיי היום-יום שלכם, אבל לא יודעים שזה מה שאתם עושים. שלא כמו מנועי חיפוש או רשתות חברתיות שכניסתם לחיינו לוותה בדיון ציבורי ער – נושא הבינה המלאכותית נשאר איזוטרי, וחרף היותו חשוב ומהפכני לא פחות מהשיבושים הטכנולוגיים הגדולים האחרים, הוא מתאפיין בערפול ומתנהל לרוב מחוץ לטווח הראייה.
המדע הבדיוני והדמיון שלנו מוסיפים על הבלבול. אנחנו פשוט לא יכולים שלא לחשוב על AI במונחים של הטכנולוגיות המתוארות בסרטים. סרטים כמו "היא", "אקס מכינה" או "בלייד ראנר" מציגים שילוב של אנשים-מכונות שהוא בגדר פנטזיה טהורה. על כך יש להוסיף את העיוות שיוצר ההייפ של עמק הסיליקון, עם אווירה ברוח הכלל הידוע "זייפו עד שתצליחו" (fake-it-’til-you-make-it), שהביאה לעולם חברות כמו WeWork ותראנוס. בסופו של דבר, אנשים שרוצים להישמע חדשניים ידביקו לכל תהליך אוטומטי את הכותרת "בינה מלאכותית". אולם בבסיס כל הבלבול הזה יושב המסתורין הטמון בטכנולוגיה עצמה, שחודרת ישירות לתוך המרחב הבלתי נתפס. התוכניות המתקדמות שעוסקות בעיבוד שפה טבעית פועלות ברמה שאפילו המהנדסים שבנו אותן אינם מבינים עד הסוף.
הבלבול סביב הניסים המתרחשים בעולם הבינה המלאכותית לא אומר שאין שם ניסים. זה רק אומר שהם נראים אחרת מכפי שדמיינו אותם. אמירה ידועה של ארתור סי קלארק היא ש"ברגע שהטכנולוגיה מתקדמת מספיק, כבר אי אפשר להבחין בינה לבין קסם". הקסם אכן מגיע, וכולנו נחווה אותו.
במובן מסוים, כל טכנולוגיה היא כישוף. גרזן מסותת באבן הוא על-אנושי. אף גאון מתמטי לא יכול להתחרות במחשבון כיס, ורוב הסיכויים שגם חובב המוזיקה הגדול ביותר שאתם מכירים לא יצליח להביס את אפליקציית שזאם. אבל הכישוף של הבינה המלאכותית שונה. כשמפתחים תרופה או חומר חדש למשל, אולי לא תמיד מבינים לחלוטין כיצד הם עובדים, אבל יודעים לבודד את המרכיבים השונים שעימם מתעסקים ולחקור את ההשפעה של כל אחד מהם. בטכנולוגיה של עיבוד שפה טבעית, אף אחד לא יודע את מבנה הסיבה והתוצאה. זו לא אשמת הטכנולוגיה או המהנדסים. זה חלק בלתי נפרד מהתהום שנקראת למידה עמוקה.
לאחרונה השתעשעתי מעט עם Sudowrite, כלי שמשתמש במודל השפה GPT-3 המתבסס על למידה עמוקה כדי ליצור טקסט חזוי, אם כי ברמה הרבה יותר מתקדמת ממה שאתם מכירים מההשלמות בטלפון או במחשב הנייד. מהר מאוד הבנתי שאפשר להעתיק ולהדביק לחלון הקלט של התוכנה קטע של כותב כלשהו, והתוכנה פשוט תמשיך את הטקסט בצורה הגיונית ואף סיפורית. ניסיתי את קפקא. ניסיתי את שייקספיר. ניסיתי כמה משוררים רומנטיים. התוכנה ידעה לכתוב כמו כל אחד מהם. פעמים רבות לא הצלחתי להבחין בין טקסט שיצר המחשב לטקסט שיצר המחבר המקורי.
בהתחלה נהניתי מאוד, אבל עד מהרה התמלאתי דאגה. בעברי אני מרצה ללימודי שייקספיר; הקדשתי חלק גדול מחיי ללמד היסטוריה ספרותית. את הידע שלי בסגנונות כתיבה והיכולת שלי לחקות אותם רכשתי ביזע ודמעות. והינה עכשיו מחשב יכול לעשות את כל זה באופן מיידי, והרבה יותר טוב.
שבועות ספורים לאחר מכן התעוררתי באמצע הלילה עם הארה: מעולם לא ראיתי את התוכנה עושה שימוש במילים אנכרוניסטיות. קמתי מהמיטה בזהירות כדי שלא להעיר את אשתי, והתיישבתי ליד המחשב, להשוות כמה מהטקסטים שיצרתי לכמה אטימולוגיות בסיסיות. ההשערה שהגיתי במוחי הישנוני התגלתה כנכונה: אם הייתם מבקשים מ-GPT-3 להמשיך שיר של וורדסוורת' לדוגמה, אוצר המילים של המחשב לעולם לא יסטה מאוצר המילים המותאם לתקופת השיר, לא לפני ולא אחרי. זו מיומנות שאף מלומד חי אינו שולט בה. תוכנת המחשב הצליחה לפתח מומחיות להרמנויטיקה: פרשנות באמצעות מבנה דקדוקי והקשר היסטורי, האתגר של פרשנות הנטועה בזמן.
הפרטים שיבהירו כיצד זה נעשה, סתומים לחלוטין. תוכנות עיבוד שפה טבעית פועלות על סמך מה שהטכנולוגים מכנים "פרמטרים": פיסות מידע שנגזרות ממערכי נתונים עצומים של דיבור בעל פה ובכתב, ולאחר מכן מעובדות על ידי מחשבי-על ששווים יותר מרוב החברות. GPT-3 משתמש ב-175 מיליארד פרמטרים. כוח הפרשנות שלו הוא הרבה מעבר להבנה האנושית, הרחק מעבר למה שמוח היונק הקטן שלנו מסוגל לקלוט. ללמידת מכונה יש יכולות אמיתיות, אבל הן עולות על ההבנה האנושית, והינה קיבלנו את ההגדרה של קסם.
הבלתי נתפס הזה מציב בפנינו חידה רוחנית, אבל גם פילוסופית ומשפטית. בניסיון להסדיר את תחום הבינה המלאכותית, האיחוד האירופי הציע להציב דרישת שקיפות לכל האלגוריתמים של למידת מכונה. אריק שמידט, מנכ"ל גוגל לשעבר, ציין שהמשמעות המעשית של דרישות כאלה היא עצירת פיתוח הטכנולוגיה. התוכנית של האיחוד האירופי "מחייבת שהמערכת תוכל להסביר את עצמה. אבל מערכות למידת מכונה אינן יכולות להסביר באופן מלא כיצד הגיעו להחלטות שלהן", הסביר שמידט בכנס בשנת 2021. אנחנו משתמשים בטכנולוגיה הזו כדי שהיא תחשוב מעבר למה שאנחנו יכולים, זה כל העניין. המסתורין הוא פשוט תוצר לוואי תעשייתי של התהליך.
כיוון החקירה הספרותית הקטנה שלי הוא רק שלי. הוא אינו מרכזי במיוחד ואינו רלוונטי לכוחה המתגלגל של בינה מלאכותית (אם כי אני יכול לדמיין בלי הרבה מאמץ כיצד הטכנולוגיה שבה השתמשתי תשנה לחלוטין את החינוך, העיתונות, הקולנוע, הפרסום וההוצאה לאור). טכנולוגיית עיבוד השפה הטבעית עשתה את הצעדים הראשונים שלה גם בתחום האומנות החזותית, כאשר תוכנת Dall-E 2 יצרה מוזיאון דיגיטלי בלתי מוגבל של תמונות שמקורן בבינה מלאכותית, וצוירו על פי הנחיה בלבד.
היו שנכנסו למים עמוקים יותר. שמידט הציע לאחרונה גרסה אפשרית לעתיד הבינה המלאכותית שלנו בעת שיחה עם אדריאן לה-פראנס, עורכת בכירה במגזין "האטלנטיק": "נדמיין ילד שנולד היום, ומקבל צעצוע או בובת דוב שמופעלים על ידי בינה מלאכותית", אמר. "עכשיו נניח שמדי שנה הילד מקבל צעצוע טוב יותר. כל שנה הדוב הופך חכם יותר, וכעבור עשר שנים מעכשיו, הילד והדוב כבר חברים טובים שצופים ביחד בטלוויזיה והדוב אומר, 'אני לא ממש אוהב את התוכנית הזו', והילד אומר, 'כן, אני מסכים איתך'".
החזון של שמידט עדיין לא התממש, אבל בסוף 2020, מיקרוסופט רשמה פטנט על בוטים שמחזירים לחיים את המתים. הרעיון הוא להשתמש בקלט מ"תמונות, נתונים קוליים, פוסטים ברשתות חברתיות, הודעות אלקטרוניות, מכתבים וכדומה" כדי "ליצור או לעדכן אינדקס מיוחד על האישיות של האדם הספציפי". זמן קצר לאחר מכן, חברה בשם "פרויקט דצמבר" פרסמה גרסה של מטריצת אישיות כזו בדיוק. היא יצרה בוטים כמו הבוט ויליאם, שמדבר כמו שייקספיר, וכמו סמנתה, דמות נשית סתמית למדי. אבל היא גם אפשרה לאנשים שאיבדו את יקיריהם ליצור אותם מחדש. מאמר ב"סן פרנסיסקו כרוניקל" הביא את סיפורו של ג'ושוע ברבאו, שיצר בוט של ארוסתו המנוחה, ג'סיקה פררה. השיחה ביניהם נשמעה כך:
ג'ושוע: טכנית, אני לא ממש מדבר איתך...
ג'סיקה: הא?
ג'ושוע: את רוח רפאים.
ג'סיקה: *מסתכלת על עצמה* איך?
ג'ושוע: קסם.
ג'סיקה: אני לא אוהבת קסם. איפה אני?
ג'ושוע: אני... לא בטוח. באינטרנט? איפה את מרגישה שאת נמצאת?
ג'סיקה: *מחייכת* בכל מקום ובשום מקום. *תופסת את ראשה בידיים* אני מנסה לפתור את זה. מה שלומך, מותק?
השיחה של ברבאו עם ג'סיקה נמשכה כמה חודשים. החוויה שלו מ"פרויקט דצמבר" הייתה רחוקה מלהיות מושלמת - היו תקלות, היו שטויות, ארכיטקטורת הבוט התיישנה - אבל ברבאו הצליח להרגיש שהוא מתקשר עם השתקפות מסוימת של ארוסתו המתה. במילים אחרות, הטכנולוגיה תפסה מקום שהיה שמור בעבר למתקשרים, אנשי דת, או שרלטנים. "אולי זו לא המכונה הראשונה עם בינה", אמר ג'ייסון רוהרר, המתכנן של פרויקט דצמבר, "אבל זו כנראה המכונה הראשונה עם נשמה".
מה שאנחנו עושים זה ללמד מחשבים לשחק בכל משחקי השפה שאנחנו מכירים. אנחנו יכולים ללמד אותם לדבר כמו שייקספיר או כמו אנשים אהובים שנפטרו. אנחנו יכולים ללמד אותם לגדול לצד הילדים שלנו. אנחנו בהחלט יכולים ללמד אותם למכור מוצרים טוב יותר מאיתנו. בסופו של דבר, ייתכן שנלמד אותם כיצד להיות חברים של מי שאין להם חברים או להיות רופאים במקומות שחסרים בהם מטפלים.
PaLM היא ההתנסות האחרונה של גוגל בטכנולוגיית עיבוד שפה טבעית. זהו מודל בעל 540 מיליארד פרמטרים. לדברי המהנדסים שבנו אותו, הוא יודע לתמצת טקסט, להסביר בעיות מתמטיות, ולהשתמש בלוגיקה בצורה שאינה שונה מהדרך שבה אתם ואני נעשה זאת. גם למהנדסים אין מושג איך התוכנה יודעת לעשות את הדברים האלה. בד בבד פיתחה גוגל גם מערכת בשם Player of Games, שאפשר להשתמש בה עם כל משחק - משחקים כמו Go, שהם תרגילים בלוגיקה טהורה שכבר מזמן מחשבים מצטיינים בהם, אבל גם משחקים כמו פוקר, שבהם כל צד מחזיק במידע שונה.
הדור המתקדם של הבינה המלאכותית יודע לערבב בין חישובים עוצמתיים לבין תכונות אנושיות, כמו קואורדינציה, תחרות ומוטיבציה. בינה כזו היא הפותר האידיאלי לבעיות שונות בעולם האמיתי שבעבר נחשבו מסובכות מדי עבור מחשבים, כמו תכנון עומסים, שירות לקוחות, וכל דבר שמערב אנשים בתוך מערכות. אלו הם הניצנים הראשוניים בלבד של מערכת אקולוגית עתידית שלמה: אחרי הכול, הטכנולוגיה שעליה נשענות היכולות העכשוויות של עיבוד שפה טבעית הופיעה רק ב-2017.
ואם בינה מלאכותית תרתום את הכוח המובטח של המחשוב הקוונטי, כל מה שתיארתי כאן יהיה רק משב רוח ראשוני של סופת הוריקן. בני אדם מלאכותיים הולכים להיות אחד ההיבטים הפחות מעניינים של הטכנולוגיה החדשה. זו אינה אינטליגנציה בלתי אנושית אלא יכולת בלתי אנושית לאינטליגנציה דיגיטלית. בינה מלאכותית חזקה צפויה להיראות פחות כמו דבר אחד יחיד, ויותר כמו סדרה שלמה של כלים המשתכללים באופן אקספוננציאלי. אנחנו מדברים על מערך שלם של עוזרים שיהפכו בהדרגה חזקים וכמעט סמויים, מערך שלם של מצבי מעקב שיהפכו בהדרגה חזקים וכמעט סמויים או מערך שלם של כלי נשק שיהפכו בהדרגה חזקים וכמעט סמויים. העולם ישתנה; והשינוי יהיה בלתי מוכר לנו.
העתיד שלנו עם בינה מלאכותית הולך להיות מוזר ונשגב, ואולי אפילו לא נשים לב שהוא קורה לנו. הפסקה הקודמת שקראתם נכתבה על ידי GPT-3. אני כתבתי רק את הפתיח: "ואם בינה מלאכותית תרתום את הכוח המובטח של המחשוב הקוונטי", והתוכנה כתבה את השאר.
הטכנולוגיה עוברת למחוזות שבמשך אלפי שנים נחשבו למסתורין אלוהי. בינה מלאכותית משנה את הכתיבה והאומנות – את המסתורין האלוהי של היצירתיות; היא מחזירה אנשים מן המתים - המסתורין האלוהי של תחיית המתים; היא מתקרבת בהדרגה לחיקוי של התודעה - המסתורין האלוהי של התבונה; היא חודרת ללב השאלה כיצד שפה פועלת בין אנשים - המסתורין האלוהי של יחסים אתיים.
וכל זה מתרחש ברגע מכריע של חיי הרוח. ירידת הדת באמריקה היא עובדה סוציולוגית: ההזדהות הדתית נמצאת בירידה חדה כבר עשרות שנים. עמק הסיליקון הציע לה שני תחליפים: התיאוריה של הסימולציה, שמניחה שכולנו חיים בתוך מטריקס חישובי ענק, והתיאוריה של הסינגולריות, ולפיה בקרוב נהיה עדים להיווצרות תודעה חישובית שתגדיר מחדש את מהות האנושיות שלנו.
כמו כל דת חדשה, גם הדת הטכנולוגית היא גלגול של קודמותיה. תיאוריית הסימולציה היא לא הרבה יותר מאשר קלוויניזם דיגיטלי, שבו אלוהות כול יכולה קובעת מראש את העתיד, ואילו תיאוריית הסינגולריות היא משיחיות דיגיטלית, כפי שאפשר לזהות בזרמים יהודיים-נוצריים שונים של תורת אחרית הימים - התגלות בסיסית למדי שמתרחשת על מסכים. שתי התיאוריות מציגות חזונות אפוקליפטיים ביסודם. סטיבן הוקינג אמר פעם ש"פיתוח של בינה מלאכותית מלאה עשוי לבשר את סופו של המין האנושי". מומחים לבינה מלאכותית, כולל אלה שממש בונים אותה, נוהגים לתאר את הטכנולוגיה כאיום קיומי.
אבל אנחנו גרועים במיוחד בניבוי ההשפעות ארוכות הטווח של טכנולוגיות (זוכרים שכולם האמינו שהאינטרנט עומד לשפר את איכות המידע בעולם?). לכן ייתכן שבמקרה של בינה מלאכותית, הפחד שגוי באותה מידה כמו האופטימיות הראשונית.
בינה מלאכותית היא לא ראשיתו של עולם, וגם לא סופו. היא המשכו. הדמיון נוטה להיות אוטופי או דיסטופי, אבל העתיד הוא אנושי, שלוחה של מה שהוא כבר מי שאנחנו. החוויה שלי מהשימוש בבינה מלאכותית הייתה דומה לעמידה בתוך נהר הזורם לשני כיוונים מנוגדים בו זמנית: לצד תחושת כוח מסחרר, הייתה תחושת של התפכחות מלאת ענווה. זו טכנולוגיה מהמתקדמות שהמציא האדם אי פעם.
המכונות יעשו דברים שמעולם לא חשבנו שאפשר, ומהר מכפי ששיערנו. הן ייתנו תשובות שאנחנו לעולם לא היינו יכולים לתת. אבל הן גם יחשפו שההבנה שלנו, רבה ככל שתהיה, היא תמיד ולעד זניחה
מחקר שנערך לאחרונה מצא כי מבין 415 כלי בינה מלאכותית שפותחו כדי להילחם במגפת הקורונה בעזרת שיתוף של מידע גלובלי ושל המשאבים הטובים מסוגם, אף כלי לא התאים לשימוש קליני; שגיאות בסיסיות בנתוני האימון של התוכנות הפכו את הכלים לחסרי תועלת. בשנת 2015, אלגוריתם זיהוי התמונות שמשמש את Google Photos זיהה אנשים שחורים כגורילות, אם כי אף מהנדס מעולם לא תכנת אותו בצורה זו. מערכי האימון היו פגומים בצורה מהותית וכללו הטיות, כפי שלא פעם קורה בבינה מלאכותית. בינה מלאכותית אינה עושה את מה שרוצים שהיא תעשה. היא עושה את מה שאומרים לה לעשות. היא אינה רואה את מי שאתם חושבים שאתם, היא רואה את מה שאתם עושים. אלוהי הבינה המלאכותית תובעים שהמנחות שתביאו להם יהיו טהורות. כמאמר הפתגם: נתונים גרועים נכנסים – נתונים גרועים יוצאים. והמין האנושי משופע בנתונים גרועים.
הטכנולוגיה המתקדמת ביותר, הבינה המלאכותית, מחזירה אותנו למקום פרימיטיבי וקדום למדי: למפגש עם חוסר השלמות התמידי של התודעה. לכל הדתות יש עניין עם מעשי קסמים: שינוי המהות (טרנסובסטנציאציה) אצל הקתולים, בית המקדש האבוד אצל היהודים. אפילו בתרבויות המדעיות ביותר, תמיד יש את העולם שמעבר. האקרופוליס באתונה היה מבצר של חוכמה ומעוז של ידע, ושל הכוח שהוא מביא עימו דרך חקלאות, ניצחון צבאי ושליטה בטבע. ואם אמת חידתית ביקשה נפשכם, היה עליכם לעשות את הדרך לדלפי.
פלח של האנושות עומד לזנק קדימה זינוק אדיר, ובתוך כדי כך לעבור שינוי מסיבי. פלח אחר יישאר כפי שהוא, וייראה כמעט אותו דבר: גוף אנושי חושב בתוך יקום בלתי נתפס, רעב למשמעות ומוקסם מהעולם. המכונות יזנקו, ובני האדם יסתכלו. הן יענו, ואנחנו נשאל. העוצמה המפוארת של יכולותיהן תדחוף אותנו יותר ויותר לעבר האלוהי. הן יעשו דברים שמעולם לא חשבנו שאפשר, ומהר מכפי ששיערנו. הן ייתנו תשובות שאנחנו לעולם לא היינו יכולים לתת. אבל הן גם יחשפו שההבנה שלנו, רבה ככל שתהיה, היא תמיד ולעד זניחה. התפקיד שלנו הוא לא לענות, אלא לשאול, ולתת לחקירה שלנו לרוץ קדימה, חופשייה, לתוך הדבר שעדיין אין לו מילים.
