פחדים מבינה מלאכותית (AI) רדפו את האנושות מאז תחילת עידן המחשב. עד כה התמקדו הפחדים הללו ביכולותיהן של מכונות נבונות להשתמש באמצעים פיזיים כדי להרוג, לשעבד או להחליף אנשים. אבל כלי הבינה המלאכותית שהופיעו בשנים האחרונות מאיימים על הישרדות התרבות האנושית מכיוון בלתי צפוי. כלים כגון ChatGPT פיתחו יכולות יוצאות דופן להבין וליצור שפה באמצעות מילים, צלילים או תמונות. הבינה המלאכותית השיגה שליטה בשפה, ובכך היא פיצחה את מערכת ההפעלה של התרבות האנושית.
3 צפייה בגלריה
איור זה של יובל נח הררי נוצר באמצעות כלי הבינה המלאכותית מידג'רני, לאחר הזנת מחרוזות שכללו את הביטויים "יובל נח הררי" ו"סכנות הבינה המלאכותית"
עוד כתבות שיעניינו אתכם:
שפה היא החומר שממנו עשויה כמעט כל התרבות האנושית. זכויות אדם, למשל, אינן מציאות ביולוגית. הן לא מקודדות בדנ"א שלנו. זכויות אדם הן יצירה תרבותית; משהו שאנחנו יצרנו בעזרת שפה, על ידי כך שסיפרנו סיפורים וכתבנו חוקים. גם אלים הם לא מציאות ביולוגית או פיזית. הם יצירה תרבותית. אלים הם משהו שאנחנו יצרנו בעזרת שפה, על ידי כך שהמצאנו מיתוסים וכתבנו ספרי קודש.
גם כסף הוא יצירה תרבותית. שטרות הם בסך הכל פיסות נייר צבעוניות, וכיום יותר מ-90 אחוזים מהכסף בעולם הם אפילו לא שטרות – הם רק מידע דיגיטלי שעובר בין מחשבים. מה שנותן ערך לכסף זה רק הסיפורים שבנקאים, שרי אוצר ויזמים מספרים לנו. סם בנקמן-פריד, אליזבת הולמס וברני מיידוף לא יצרו שום דבר בעל ערך אמיתי, אבל לרוע המזל כולם היו מספרי סיפורים מוכשרים במיוחד.
>>הצטרפו לקהילת הטכנולוגיה שלנו בפייסבוק<<
מה יקרה ברגע שבינה לא אנושית תהיה טובה יותר מהאדם הממוצע בלספר סיפורים, להלחין מנגינות, לצייר ציורים ולכתוב חוקים, ותדע גם איך לנצל טוב יותר מכל אדם את החולשות וההתמכרויות של המין האנושי? כשאנחנו חושבים על ChatGPT וכלי AI חדשים אחרים, אנחנו הרבה פעמים נמשכים לדוגמאות, כגון ילדים שייתנו לבינה מלאכותית לכתוב עבורם את שיעורי הבית. שומו שמים! מה יקרה לבתי הספר כשילדים יעשו את זה? אבל השאלה הזו מפספסת את התמונה הגדולה. תשכחו משיעורי בית. במקום זה, חשבו על המרוץ לנשיאות ארה"ב ב-2024, ונסו לדמיין את ההשפעה של בינה מלאכותית שמסוגלת לייצר כמות בלתי מוגבלת של תוכן פוליטי, פייק-ניוז, ואפילו כתבי קודש עבור כתות חדשות.
בשנים האחרונות אחת התופעות המרתקות והמפחידות בפוליטיקה האמריקאית הייתה עלייתה של הכת הקיצונית קיו-אנון (QAnon), שהצליחה לשטוף את מוחם של מיליוני אמריקאים ואפילו כמה חברי קונגרס. כת זו התגבשה סביב הודעות מקוונות אנונימיות, הידועות בשם "טיפות קיו" (Q Drops). חסידי הכת אוספים, מעריצים ומפרשים את ההודעות הללו כטקסט קדוש, שטווה תיאוריית קונספירציה מופרכת, לפיה יהודים, פדופילים ועובדי שטן שולטים בעולם ומנסים להשמיד את האנושות. למיטב ידיעתנו, כל "טיפות הקיו" הקודמות נוצרו על ידי בני אדם, ורק הופצו על ידי בוטים לא אנושיים. אבל בקרוב אנו עשויים לראות את הכתות הראשונות בהיסטוריה שהטקסטים הנערצים שלהן נכתבו על ידי בינה לא אנושית. דתות לאורך כל ההיסטוריה טענו שספרי הקודש שלנו הגיעו ממקור לא אנושי. בקרוב זו עשויה להיות מציאות.
ברמה פרוזאית יותר, אנו עלולים למצוא את עצמנו בקרוב מנהלים ברשת דיונים ארוכים על בג"ץ, על שינויי אקלים או על הפלישה הרוסית לאוקראינה, עם ישויות שאנו חושבים שהן בני אדם – אבל הן למעשה בינה מלאכותית. עבורנו זה חסר טעם לחלוטין להשקיע זמן בניסיון לשנות את הדעות המוצהרות של בוט. אבל ככל שהשיחה תתארך, כך יוכל הבוט להכיר אותנו טוב יותר, ולהתאים את דבריו לאישיות שלנו ולסיפור החיים שלנו, כך שיהיה לו סיכוי טוב מאוד להשפיע עלינו.
באמצעות השליטה שלה בשפה, בינה מלאכותית תוכל אפילו ליצור קשרים חבריים אינטימיים עם אנשים, ולהשתמש בכוחה של האינטימיות כדי לשנות את הדעות והשקפת העולם שלנו. אין כמובן שום ראיה שהבינה המלאכותית מפתחת תודעה או רגשות משל עצמה. אבל בינה מלאכותית לא צריכה רגשות משלה כדי לזייף אינטימיות עם בני אדם. די בכך שהבינה המלאכותית תצליח לגרום לנו לפתח רגשות כלפיה. ביוני 2022 טען מהנדס גוגל בשם בלייק למויין שצ'אטבוט בשם LaMDA, שעליו הוא עבד, פיתח תודעה. הטענה השנוייה במחלוקת הביאה לפיטוריו של למויין. הדבר המעניין ביותר במקרה זה לא היה הטענה של למויין, שהייתה ככל הנראה שגויה; מה שמעניין זה שלמויין היה מוכן להקריב את המשרה היוקרתית שלו למען הצ'אטבוט. אם בינה מלאכותית יכולה להשפיע על אנשים לסכן את מקום העבודה שלהם, מה עוד היא יכולה לגרום לנו לעשות?
בקרב הפוליטי על מוחות ולבבות, אינטימיות היא הנשק היעיל ביותר, ולבינה המלאכותית יש עכשיו יכולת לייצר אינטימיות בקנה מידה תעשייתי, עם מאות מיליוני בני אדם. כולנו יודעים שבמהלך העשור האחרון המדיה החברתית הפכה לשדה קרב לשליטה על תשומת הלב האנושית. אבל עם הדור החדש של בינה מלאכותית, חזית הקרב עוברת מתשומת לב לאינטימיות. מה יקרה לחברה האנושית ולפסיכולוגיה האנושית אם כלי בינה מלאכותית יילחמו אלו באלו כדי לזייף אינטימיות עם בני אדם, וישתמשו באינטימיות הזו כדי לשכנע אותנו לקנות מוצרים מסוימים או להצביע עבור פוליטיקאים מסוימים?
גם בלי לזייף אינטימיות, לבינה המלאכותית תהיה השפעה עצומה על הדעות ותפיסות העולם שלנו. אנשים עשויים להשתמש בבינה המלאכותית כסוג של נביא כל־יודע. לא פלא שגוגל אחוזת פחד: למה לטרוח לחפש משהו בגוגל, כשאני יכול פשוט לשאול את הנביא? גם תעשיות החדשות והפרסום צריכות להיבהל. למה לקרוא עיתון כשאני יכול לשאול את הנביא מה חדש? ומה המטרה של פרסומות, כשאני יכול לשאול את הנביא מה לקנות?
"שחרור לא מבוקר של בינה מלאכותית למרחב הציבורי ייצור כאוס חברתי. זה יועיל לרודנים, ויהרוס את הדמוקרטיות. רודנות היא מצב שבו גורם אחד מכתיב הכל לפי רצונו; דמוקרטיה, היא שיחה בין הרבה גורמים. אבל שיחות מנוהלות על ידי שפה. ברגע שהבינה המלאכותית פיצחה את השפה, היא יכולה להרוס את היכולת של בני אדם לנהל שיחות משמעותיות, וכך להרוס את הדמוקרטיה"
ואפילו התרחישים האלה לא באמת חושפים את מלוא התמונה. היכולות החדשות של הבינה המלאכותית עשויות להביא את ההיסטוריה האנושית אל קיצה. לא את ההיסטוריה כולה – אלא רק את התקופה שבה האנושות שלטה בהיסטוריה. ההיסטוריה היא מערכת היחסים בין הביולוגיה לבין התרבות, בין הצרכים הביולוגיים שלנו לדברים כמו אוכל ומין, לבין היצירות התרבותיות שלנו כמו דתות וחוקים. ההיסטוריה היא מערכת היחסים בין חוקים ודתות לבין מזון ומין.
מה יקרה למהלך ההיסטוריה כשכלי הבינה המלאכותית ישתלטו על התרבות, ויתחילו לייצר סיפורים, מנגינות, חוקים ודתות? כלים קודמים, כמו דפוס ורדיו, עזרו להפיץ את הרעיונות התרבותיים של בני האדם, אבל הם מעולם לא יצרו רעיונות תרבותיים חדשים משל עצמם. בינה מלאכותית שונה מהותית מדפוס או מרדיו. בינה מלאכותית כן יכולה ליצור רעיונות חדשים לגמרי, תרבות חדשה לגמרי.
בתחילה, סביר שהבינה המלאכותית תחקה את אבות הטיפוס האנושיים שעליהם היא התאמנה. אבל עם כל שנה שתחלוף, הבינה המלאכותית תרחיק לכת למקומות שאף אדם לא הגיע אליהם קודם. במשך אלפי שנים בני אדם חיו בתוך חלומותיהם של בני אדם אחרים. האמנו באלים, אימצנו אידיאלים של יופי, ונאבקנו למען חזונות שנוצרו בדמיונם של נביאים, משוררים, ופוליטיקאים בשר ודם. בעוד שנים לא רבות אנו עלולים למצוא את עצמנו חיים בתוך חלומותיה של בינה זרה.
הפחד מהבינה המלאכותית החל להלך אימים על המין האנושי רק לפני דורות ספורים. אבל במשך אלפי שנים קודם לכן כבר נרדפו בני אדם על ידי פחד עמוק הרבה יותר. בני אדם תמיד היו מודעים לכוח של סיפורים ודימויים לתעתע בנו ולייצר אשליות. לכן, מאז ימי קדם בני האדם חוששים להילכד בעולם של אשליות.
במאה ה-17 הפילוסוף רנה דקארט חשש שאולי שד זדוני לוכד אותו בתוך עולם של אשליות, ויוצר את כל מה שהוא רואה ושומע. ביוון העתיקה סיפר אפלטון את "משל המערה" המפורסם. המשל מתאר קבוצת אנשים שכבולה בתוך מערה כל חייהם, מול קיר ריק. מול מסך. על המסך הזה מוקרנות צלליות, והאסירים הכבולים במערה מבלבלים בין הצלליות שעל המסך לבין המציאות. בהודו העתיקה הוגים בודהיסטים והינדואים סברו שכל בני האדם לכודים בתוך ה"מאיה" - עולם האשליות. בודהה הסביר שמה שאנו מתייחסים אליו כ"מציאות" הוא לרוב רק בדיות במוחנו שלנו. אנשים עשויים לנהל מלחמות שלמות, להרוג אחרים ולהיות מוכנים להיהרג בעצמם, בגלל אמונתם באשליה זו או אחרת.
מהפכת הבינה המלאכותית מפגישה אותנו פנים אל פנים עם השד של דקארט, עם המערה של אפלטון, עם המאיה. אם לא נזהר, אנו עלולים להיות לכודים מאחורי מסך של אשליות, שלא נוכל יותר לקרוע – ואולי לא נוכל אפילו לדעת על קיומו.
3 צפייה בגלריה
אם לא נזהר, אנו עלולים להיות לכודים מאחורי מסך של אשליות. איור שנוצר באמצעות מידג'רני
כמובן, הכוח העצום של הבינה המלאכותית יכול לשמש גם למטרות טובות. אין צורך לדבר על זה כאן, כי האנשים שמפתחים את הבינה המלאכותית מדברים על זה מספיק. תפקידם של היסטוריונים ופילוסופים הוא להצביע על הסכנות שבטכנולוגיה הזו. הבינה המלאכותית בהחלט יכולה לעזור לנו באינספור דרכים, החל ממציאת תרופות חדשות לסרטן ועד לגילוי פתרונות למשבר האקולוגי. השאלה העומדת בפנינו היא כיצד לוודא שהטכנולוגיה רבת העוצמה הזו תשמש לטוב ולא לרע. כדי לעשות זאת, ראשית עלינו להבין את היכולות האמיתיות של הכלים החדשים.
מאז 1945 ידענו שטכנולוגיה גרעינית יכולה לייצר אנרגיה זולה לטובת בני האדם - אבל יכולה גם להרוס פיזית את האנושות. לכן עיצבנו מחדש את כל הסדר הבינלאומי כדי להגן על האנושות, וכדי לוודא שהטכנולוגיה הגרעינית תשמש בעיקר לטוב. כעת עלינו להתמודד עם נשק חדש להשמדה המונית, שיכול להרוס את עולמנו הנפשי והחברתי.
אנחנו עדיין יכולים לקבוע כללי בטיחות לפיתוח ולשימוש של הבינה המלאכותית, אבל אנחנו חייבים לפעול במהירות. בעוד שפצצות אטום לא יכולות לייצר פצצות אטום חזקות יותר, בינה מלאכותית כן יכולה לייצר בינה מלאכותית חזקה יותר. הצעד החיוני הראשון שעלינו לעשות הוא לדרוש בדיקות בטיחות קפדניות לפני כל שחרור של כלי בינה מלאכותית חדשים למרחב הציבורי. כשם שחברת תרופות אינה יכולה להתחיל למכור תרופות חדשות לפני בדיקת בטיחות קפדנית, כך לחברות טכנולוגיה אסור לשחרר כלי בינה מלאכותית רבי-עוצמה לפני שווידאנו שהם בטוחים.
האם האטה בקצב שחרור בינה מלאכותית למרחב הציבורי לא תגרום לדמוקרטיות לפגר מאחורי משטרים רודניים חסרי מעצורים? בדיוק להפך. שחרור לא מבוקר של בינה מלאכותית למרחב הציבורי ייצור כאוס חברתי. זה יועיל לרודנים, ויהרוס את הדמוקרטיות של העולם. רודנות היא מצב שבו גורם אחד מכתיב הכל לפי רצונו. דמוקרטיה, לעומת זאת, היא שיחה בין הרבה גורמים. אבל שיחות מנוהלות על ידי שפה. ברגע שהבינה המלאכותית פיצחה את השפה, היא יכולה להרוס את היכולת של בני אדם לנהל שיחות משמעותיות, וכך להרוס את הדמוקרטיה.
זה עתה נתקלנו בבינה זרה, כאן על כדור הארץ. אנחנו לא יודעים הרבה על הבינה הזאת, חוץ מזה שהיא עלולה להרוס את התרבות שלנו. עלינו לעצור את ההפצה הבלתי אחראית של בינה מלאכותית במרחב הציבורי, ולקבוע לה חוקים – לפני שהיא תקבע לנו את החוקים. החוק הראשון שהייתי מציע הוא שכאשר בינה מלאכותית מדברת עם בני אדם, היא חייבת לגלות לנו שהיא בינה מלאכותית. אם אני מנהל שיחה עם מישהו, ואני לא יכול לדעת אם זה בן אדם או בינה מלאכותית – זה הסוף של הדמוקרטיה.
הטקסט הזה נוצר על ידי אדם. או אולי לא?
פרופ' יובל נח הררי הוא מחבר רבי-המכר "קיצור תולדות האנושות", "ההיסטוריה של המחר", "21 מחשבות על המאה ה-21", "תולדות האנושות: היסטוריה מאוירת", וספר הילדים "היצורים שלא עוצרים". הוא מייסד שותף של חברת סאפיינשיפ ומרצה בחוג להיסטוריה באוניברסיטה העברית.
