חברת OpenAI הציגה אמש (יום ג') כלי לזיהוי טקסטים שנכתבו על ידי מודלים של בינה מלאכותית מסוגו של ChatGPT שהיא פיתחה בעצמה. הכלי אמור לסייע בין היתר למורים המודאגים משימוש בצ'אטבוט המתקדם לרמאות בעבודות ובבחינות, אולם ב-OpenAI מדגישים שאי אפשר לסמוך עליו לחלוטין.
עוד כתבות שיעניינו אתכם:
הכלי החדש נקרא AI Text Classifier (מסווג טקסטים של בינה מלאכותית) והוא זמין לשימוש באתר של OpenAI. בחברה אומרים כי אחוזי ההצלחה שלו בזיהוי טקסטים שנוצרו על ידי בינה מלאכותית עומדים על 26% בלבד, וכי ב-9% מהמקרים הוא זיהה בשוגג תכנים שנכתבו על ידי בני אדם ככאלה שנוצרו באמצעות AI. ככל שהטקסט ארוך יותר, אחוזי ההצלחה גדלים.
ב-OpenAI קוראים למשתמשים לא להסתמך באופן בלעדי על המסווג החדש ולהשתמש בו ככלי עזר בלבד. "אנחנו משחררים את המסווג הזה לציבור על מנת לקבל תגובות ולהבין אם כלים לא מושלמים כמוהו הם יעילים", אומרים בחברה, "העבודה שלנו על זיהוי טקסט שנוצר על ידי בינה מלאכותית תימשך, ואנחנו מקווים לשתף שיטות טובות יותר בעתיד".
ב-OpenAI מצביעים על שש מגבלות משמעותיות של הכלי החדש:
- הוא מאוד לא אמין כאשר מזינים אליו טקסטים באורך של פחות מ-1,000 תווים
- הוא עשוי לסווג בביטחון רב טקסט שנוצר על ידי בני אדם כטקסט שנוצר על ידי בינה מלאכותית
- מומלץ להשתמש בו לבדיקת טקסטים באנגלית בלבד. הביצועים שלו בשפות אחרות הרבה פחות טובים, והם עוד יותר גרועים כאשר מבקשים ממנו לבדוק שורות קוד
- לא כדאי להסתמך עליו בזיהוי טקסטים שניתן לצפות את ההתפתחות שלהם - למשל רשימה של 1,000 המספרים הראשוניים הראשונים
- ניתן לערוך טקסט שנוצר על ידי בינה מלאכותית על מנת לחמוק מזיהוי. אומנם ניתן לעדכן את המסווגים ולשפר אותם, אבל מדובר במרדף של חתול ועכבר
- קשה לכייל רשתות נוירונים לסיווג מידע שלא נמצא בדאטה סט שעליו הן התאמנו. לכן הכלי החדש עלול לסווג באופן שגוי ובביטחון רב טקסטים שהם מאוד שונים מאלה שעליהם הוא התאמן
המנכ"ל פסימי
מאז ש-ChatGPT הושק בנובמבר 2022, השימוש בו לטובת כתיבת עבודות ושיעורי בית או לרמאות בבחינות הפך לתופעה שמטרידה את מערכות החינוך ברחבי העולם. בתי ספר בניו יורק, סיאטל, לוס אנג'לס וערים אחרות כבר אסרו על השימוש ב-ChatGPT, ולפי הניו יורק טיימס הוא גרם למכללות בארה"ב לעצב מחדש את תוכניות הלימודים שלהן.
סם אלטמן, מנכ"ל ומייסד-שותף של OpenAI, התייחס בחודש שעבר לבהלה סביב ChatGPT במערכת החינוך. "הסתגלנו למחשבונים ושינינו את מה שאנחנו בודקים בשיעורי מתמטיקה, אני מניח", אמר בריאיון לפודקאסט Strictly VC. "זאת (הכוונה ל-ChatGPT - י.מ) גרסה יותר קיצונית של זה, אין ספק, אבל גם היתרונות הרבה יותר גדולים".
באותו ריאיון הביע אלטמן פסימיות לגבי האפשרות שכלים לזיהוי טקסטים שנוצרו על ידי בינה מלאכותית יפתרו את הבעיה: "עשויות להיות דרכים שבאמצעותן אנחנו יכולים לעזור למורים לזהות תוצרים של מערכות כמו GPT. אבל בכנות, אדם נחוש יצליח לעקוף אותן. אנשים יבינו איזו כמות מהטקסט הם צריכים לשנות".
