בינה מלאכותית לא כתבה את הכתבה הזאת, אבל לא כי אין לה את היכולת. מספיק לבקש מ-ChatGPT, ממשק הצ'אט החדש של חברת OpenAI, ליצור כתבה על סכנותיו שלו, ותוך כמה שניות תקבלו אחת שתיראה כאילו נוצרה על ידי אדם. אולי לא כותב מוכשר במיוחד או בעל תובנות מעניינות, אבל בהחלט מישהו שיכול להרכיב משפטים אנושיים.
עוד כתבות שיעניינו אתכם:
היכולת הזו, לקבל טקסטים אנושיים למדי לפי דרישה, נראית במבט ראשון קסומה. ההסתייגויות הסטנדרטיות, כמו "נכון, זה צריך עריכה, אבל…" ו"הניסוח הזה בסדר, אבל לי יש אחד יותר טוב", מתגמדות אל מול הפוטנציאל שקל מאוד לדמיין. במקום לעבוד שעתיים על מכתב המלצה, אפשר לבקש אחד מ-ChatGPT ולערוך אותו בעשר דקות. לא בטוחים איך להתחיל מייל זועם לספק שירות? מאגר הטקסטים העצום שעליו התאמן ChatGPT יציג לכם עשרות פסקאות פתיחה טובות. חשוב לא פחות, הוא יוכל לשנות ולערוך את עצמו בתגובה להבהרות ושאלות המשך.
על פניו, ChatGPT גם מציע פתרון אפשרי לתסכול שרבים מאיתנו חווים בשנים האחרונות כשאנחנו מנסים להשתמש במנועי חיפוש. הרשת מלאה בתוכן בינוני, וגרוע מכך, בתוכן בינוני שכל תפקידו הוא לפתות מנועי חיפוש להציג אותו במעלה התוצאות. זה לא מקרי שכמעט כל מתכון ברשת כולל מאות (אם לא אלפי) מילים של טקסט לפני שהמתכון עצמו מופיע, ושהרבה תוצאות חיפוש מובילות אתכם לאתרים שמקיאים עליכם הררי תוכן לפני שהם מספקים לכם תשובה לשאלה שהביא אתכם אליהם. מ-ChatGPT, לעומת זאת, אפשר לבקש את רשימת כל הפוקימונים של הדור הראשון, והוא פשוט ידפיס לכם רשימת שמות. אפשר לשאול אותו מי היה ראש הממשלה השלישי של אורוגוואי והוא יענה. אפשר לברר איתו מה לבשו חיילים בריטיים במלחמת קרים, ולקבל תשובה תוך שניות.
וזה גם מה שכל כך מסוכן ב-ChatGPT. מדובר במפגש ראשוני בינינו לבין טכנולוגיה שרובנו לא מבינים. כשסופר המדע הבדיוני ארתור סי. קלארק כתב ש"לא ניתן להבחין בין טכנולוגיה מתקדמת דיה לקסם", הוא דיבר על הצד המלהיב של חוסר היכולת להבין איך טכנולוגיה מתקדמת עובדת, אבל ההצהרה הזאת נכונה באותה המידה למגבלותיה של טכנולוגיה חדשה. כי מאחורי ההתלהבות, תמיד מסתתרות מגבלות.
לחפש ברשת? הגזמתם
יש שני דברים שאתם חייבים לדעת על מוצרי בינה מלאכותית מהסוג של ChatGPT, ולזכור אותם בכל אינטראקציה שלכם איתם. הראשון הוא שמדובר במוצר סגור, עם מידע שהוטען לתוכו בתהליך האימון. הוא לא יכול לחפש מידע ברשת ולא יכול להסתמך על מקורות מידע חיצוניים. השני הוא שמטרתו אינה להגיד לכם את האמת. בניגוד למנועי חיפוש, שמנסים למצוא את התוצאה הנכונה ביותר לשאילתה שלכם, המוצר הזה מנסה למצוא את התשובה הכי סבירה מבחינה סטטיסטית.
זה לא מאוד אינטואיטיבי, במיוחד כש-ChatGPT כן נותן לכם מידע נכון ומפורט - מה שבהחלט קורה. אבל המנוע שמאחוריו לא עושה את זה כי יש לו מאגר ידע או יכולת לשאוב מידע ממקורות אמינים. מה שנותח במהלך האימון שלו זה קשר בין מילים בטקסטים שהוא שאב ממקורות רשת פומביים ורשתות חברתיות. אז כששואלים אותו מה צבעו של מגן דוד בדגל ישראל והוא עונה ש"מגן דוד הוא כוכב בעל שש צלעות בצבע כחול", זו תשובה שמתקבלת כי היא דומה לצירופי המילים שהוא ראה במהלך האימון שלו.
אם תבקשו מ-ChatGPT לכתוב שלוש פסקאות על כותב שורות אלה, תקבלו פרטים ביוגרפיים מומצאים לגמרי, שמשום מה תמיד גורסים כי מדובר במוזיקאי. הסיבה לכך היא שלא היה עליי מספיק מידע באנגלית בחומרים עליהם הוא עבר אימון - גם גוגל לא בדיוק מציג מידע ביוגרפי עליי בעמוד התוצאות. אם תבקשו ממנו שלוש פסקאות על טום הנקס, הן כבר תהיינה הרבה יותר הגיוניות. אבל מה אם לוקחים את דוריה למפל - אשה מפורסמת מספיק בשביל שגוגל יציג מידע ביוגרפי אודותיה מחוץ לתוצאות החיפוש גם כשמחפשים את שמה באנגלית, אבל רוב הטקסטים שעוסקים בה הם בשפה העברית? ניסינו כמה פעמים. בפעם הראשונה שביקשנו מהמערכת לכתוב שלוש פסקאות הוא החליט שדוריה למפל היא דמות מספרי הארי פוטר, בפעם השנייה שהיא עיתונאית אמריקאית, ובפעם השלישית שהיא מעצבת אופנה.
ראש הממשלה שאול מופז
זה גם אומר שתוכלו לשאול אותו על דברים בפירוש לא נכונים, והוא ישמח לענות לכם. בקשו ממנו רשימה של עשרה ראשי ממשלת ישראל? הוא ייתן לכם אחת. בקשו ממנו להוסיף עוד עשרה? הוא ישמח לספק לכם גם אותם, כולל אנשים שלא נבחרו לראשות הממשלה לעולם. אין לו מושג כמה ראשי ממשלה היו לישראל, אבל הוא תמיד מנסה למצוא את צירופי המילים שיענו על השאלה. שאול מופז? נשמע כמו שם שהופיע לא מעט בקרבת מקום לאזכורים של ראשות ממשלת ישראל. זאב שרף? גם.
מפתחי המוצר מודעים למגבלותיו ומנסים להזהיר אתכם בכל מקום אפשרי שאין לו ידע עדכני ושאינו יכול לבדוק דברים ברשת, אבל זה לא תמיד עובד. בניסוח אחד של שאלה אודות מסעדות בחיפה, הוא מספר לי שאין לו דרך להמליץ על מסעדות. בניסוח אחר, שאפשר לתרגמו כ"תן דוגמה ל-10 מסעדות בחיפה" הוא שמח לתת דוגמה, אבל הדרך שבה הקשר בין השאלה לתשובה מנותח גורם לו לתת רשימה של 10 מסעדות לא קיימות. מבחינתו, הוא נתן רשימה למסעדות שסטטיסטית נשמעות כמו מסעדות חיפאיות.
אם בנקודה הזו אתם חושבים שמדובר בחבלי לידה, בעיות ראשוניות של טכנולוגיה חדשה שייפתרו מהר מאוד, אני ממליץ לכם להיזכר מתי בפעם הראשונה חשבתם משהו דומה על רכב אוטונומי, או על תלת-ממד בלי משקפיים בסרטים. אנחנו עדיין בשלב שבו רכב אוטונומי הוא חלום רחוק, וסרטי תלת-ממד עדיין דורשים משקפיים מגושמים. ההיסטוריה של הבינה המלאכותית, טכנולוגיה שמדענים מתעסקים בה כבר יותר מיובל, מלאה בנקודות של אופטימיות נלהבת, כשנראה שממש עוד מעט נגיע לבינה מלאכותית דמויית אדם מבחינת יכולת חשיבה. והיא עדיין לא כאן.
למעשה, אפשר לנחש בזהירות שאפילו גישה חינמית ל-ChatGPT היא זמנית. חברת OpenAI שפיתחה את המערכת היא חברה מסחרית, וכרגע היא לא מייצרת הכנסות - רק הוצאות שהולכות וגדלות בכל פעם שאני מנסה לגרום ליישום לכתוב מכתב בשם חברת החשמל שמזמין את פיקצ'ו להפיק חשמל עבור ישראל בשבתות.
אבל מה עם כתיבה יצירתית? כאן, כמו שכתבתי בתחילת הכתבה, ChatGPT עושה עבודה שבמבט ראשון נראית פחות מועדת לטעויות. כל עוד העובדות לא מעניינות אתכם, אלא רק סגנון וניסוח, הוא יכול להשתמש במאגר העצום של קשרים-בין-מילים כדי לתת לכם רעיונות ובסיס לשיפורים עבור שאילתות סטנדרטיות. אבל גם באליה הזו יש קוץ: היצירתיות של המערכת הזו היא מאוד נוסחתית. מכתבי ההמלצה שהיא מייצרת דומים מאוד אחד לשני, וכך גם מכתבי ברכה. כל פרט מידע ייחודי שתוסיפו ישתקף בטקסט בצורה מאוד פשטנית, לפעמים תוך התאמה מלאה לדרך שבה אתם ניסחתם אותו בבקשתכם.
האם הבינוניות הזו היא תוצר של מגבלות האימון של ChatGPT, או דווקא של התוכן באינטרנט עליו הוא אומן? הרי הרשת מלאה בתוכן לא יותר יצירתי ממה שהצ'טבוט הזה יודע לייצר, אז אולי אנחנו בעצם אשמים שלא נתנו לו דברים טובים מספיק להתאמן עליהם. ואם אלה אנחנו, האם זה באמת משנה שמדובר בתוכן בינוני? אם אנחנו מוכנים להיות סלחניים לתוכן בינוני של אנשים אחרים, למה שלא נקבל בהבנה גם תוכן בינוני שנוצר על ידי בינה מלאכותית?
אנשים שמוכנים לשלם גרושים לכותבים בינוניים כדי שאלה ייצרו תוכן בינוני שתפקידו הוא לתחמן מנועי חיפוש, בהחלט יכולים לראות ב-ChatGPT מתנה משמיים. גם אם הוא ימוסחר, ויתומחר, זה כנראה יהיה זול משמעותית מלקחת כותב אנושי. במקרה כזה, הבינה המלאכותית גם לא תוכל להוות תחליף למנועי החיפוש וגם תוריד את איכות התוצאות שאנחנו מקבלים בהם.
הדרך הכי הגיונית, לדעתי, להתייחס ל-ChatGPT ודומיו היא כאל משהו שבין צעצוע לבין כלי נגינה. אני מבקש ממנו לכתוב מכתב הזמנה ממנכ"ל חברת החשמל לפיקצ'ו להגיע לישראל כדי להפיק חשמל בשבת לא כי אני לא יכול לכתוב אחד כזה בעצמי בכמה דקות, אלא כי מצחיק אותי שהרובוט חסר-הבינה אשכרה מוכן לבצע את המטלה המוזרה הזאת. אני נותן לו לכתוב שיר על מערכת יחסים רומנטית בין כונן קשיח ללוח אם כדי לראות איך הוא חורז ברמה של ילד קטן.
ברגע ששוכחים מהמדע הבדיוני, ומההצהרות הטכנו-אוטופיסטיות, זה כל מה שנשאר כאן. לא צוהר אל העתיד, ולא פוטנציאל שרק מחכה להתממש - אלא צעצוע כיפי ועכשווי, שמתאים לדצמבר 2022 ובטח יתיישן מהר מאוד. ואז? זו שאלה ש-ChatGPT ישמח לענות לכם עליה, אבל לא הייתי מאמין למילה שהוא כותב.
