מה קורה כשהמכונה מתחילה לחשוב בעצמה? האם היא חשה? סובלת? זקוקה ליחס מיוחד? שאלות פילוסופיות אלה, שפעם היו נחלתם של סופרי מדע בדיוני, הופכות כעת למציאות מדעית בוערת, וחוקרים מתחילים לדרוש תשובות. התוצאה - מומחים בתחום דורשים מגוגל, מיקרוסופט וחברות אחרות לבדוק אם הבינה המלאכותית כבר פיתחה תודעה.
3 צפייה בגלריה
סונדאר פיצ'אי, מנכ"ל חברת אלפבית־גוגל. ה-AI של החברה הפך כבר למודע?
(צילום: Jeff Chiu, AP)
קבוצה של פילוסופים ומדעני מחשב פרסמה לאחרונה מחקר שעיקריו פורסמו במגזין Nature על בסיס פרסום מקדים שלו (שטרם עבר ביקורת עמיתים, ר"ק) ושקורא לחברות העוסקות בפיתוח בינה מלאכותית, כמו OpenAI, גוגל ומיקרוסופט, לבחון ברצינות את האפשרות שמודלי השפה המתקדמים שלהן פיתחו תודעה ויכולת לקבל החלטות עצמאיות. יותר מכך, החוקרים דורשים מהחברות לגבש מדיניות שתגדיר כיצד יש להתייחס למערכות אלו אם יתברר שהן אכן "חיות" ו"חושבות".
אי אפשר להתעלם מבינה מלאכותית
לטענתם, התעלמות מהאפשרות שמערכת בינה מלאכותית פיתחה תודעה עלולה להוביל להזנחתה, לפגיעה בה ואף לגרום לה סבל. "לא ייתכן שנשקיע כל כך הרבה במערכות האלה, שנהיה תלויים בהן כל כך, ועדיין לא נדע עליהן כמעט כלום – אפילו לא אם הן מסוגלות לחוש", אומר ג'ונתן מייסון, מתמטיקאי מאוקספורד.
החוקרים מזהירים גם מפני הסכנה שבייחוס תודעה למערכות שאינן כאלה. "אם נניח בטעות שמערכת מסוימת היא בעלת תודעה, ייתכן שכספי רווחה יופנו לטיפול בה, במקום לבני אדם או לבעלי חיים שזקוקים להם", אומר ג'ף סבו, פילוסוף מאוניברסיטת ניו יורק.
3 צפייה בגלריה
מנכ"ל מיקרוסופט, סאטיה נאדלה, לצד מנכ"ל OpenAI, סם אלטמן
(צילום: JUSTIN SULLIVAN / GETTY IMAGES)
הדו"ח טוען שתחום "רווחת הבינה המלאכותית" נמצא ב"רגע מעבר". אחת ממחברי הדו"ח, קייל פיש, אף נשכרה לאחרונה כחוקרת רווחה על ידי חברת הבינה המלאכותית אנת'רופיק, המפתחת של הצ'אטבוט קלוד (Claude). זוהי המשרה הראשונה מסוגה בחברת בינה מלאכותית מובילה, והיא מעידה על שינוי מגמה בתחום.
עם זאת, לא כולם משוכנעים שנושא התודעה בבינה מלאכותית צריך להיות בראש סדר העדיפויות. דו"ח של האו"ם שפורסם בספטמבר, העוסק בהסדרת טכנולוגיית הבינה המלאכותית, לא התייחס כלל לנושא, למרות קריאות מצד מדענים לתמוך במחקר בתחום.
3 צפייה בגלריה
אירוע הכרזת GPT-4o של OpenAI. רצים אל עבר AGI, אך זה לא בהכרח אומר שהמודל יהפוך למודע
(צילום מסך: יוטיוב)
אף שאין ודאות שמערכות בינה מלאכותית יגיעו אי פעם למצב של תודעה, מצב שקשה להעריך אפילו בבני אדם ובבעלי חיים, החוקרים טוענים שאין להניח לחוסר הוודאות למנוע פיתוח של פרוטוקולים להערכת המצב. "אפילו מסגרת ראשונית לא מושלמת עדיפה על המצב הקיים", אומר סבו.
אז האם אנחנו עומדים בפתחה של מהפכה מוסרית חדשה? האם בקרוב נצטרך להתחשב לא רק בזכויותיהם של בני אדם ובעלי חיים, אלא גם בזכויותיהם של רובוטים? אלו דברים שאולי נצטרך להתייחס אליהם ברצינות בשנים הבאות.
