התקשורת האמריקנית דיווחה בסוף השבוע על מקרה חריג ומביך למדי שבו עורך דין נעזר ב-ChatGPT – הצ'אטבוט שהפך בחודשים האחרונים ללהיט עולמי – והסתבך כאשר הגיש לבית המשפט מסמך שבו מצוטטים תקדימים משפטיים שמעולם לא היו ולא נבראו, אלא הומצאו על ידי אותה תוכנת מחשב, שכל גולש יכול לנצל את האינטליגנציה המלאכותית המתקדמת שלה למטרות שונות ומגוונות.
התיק שבו התרחשה המבוכה הקשה מתנהל בבית משפט בניו יורק ועוסק בתביעת פיצויים שהגיש אדם בשם רוברט מטה נגד חברת התעופה "אביאנקה איירליינס", בטענה כי רשלנות של אחד מעובדיה גרמה לו להיפצע מעגלת שירות בטיסה של החברה ב-2019. כדי לחזק את דרישתו לפיצויים צוות עורכי הדין שלו הגיש לבית המשפט מסמך שבו מצוטטים כמה תקדימים משפטיים שנקבעו לכאורה בתיקים קודמים. המסמך מצטט למשל תיקים המכונים "שאבון נגד איג'יפט-אייר" ו"פטרסון נגד איראן-אייר", שבהמשך התבררו כהמצאה.
מי שחשף שמדובר בבדיה מוחלטת היה צוות ההגנה של חברת התעופה, שדיווח כי בבדיקה שערך לא מצא אף הוכחה לקיומם של תקדימי העבר המדוברים. החודש קבע גם השופט קווין קסטל שלפחות שישה מהתיקים שצוטטו במסמך הומצאו יש מאין, וכי נכללים בו גם "ציטוטים מזויפים ואסמכתאות מזויפות". לדבריו מדובר במקרה "חסר תקדים" של הגשת מידע מומצא לבית המשפט.
עורך הדין שייצג את התובע בדיונים הוא פיטר דו-לוקה, אבל מי שלקח אחריות על עריכת התחקיר המביך הוא עמיתו סטיבן שוורץ, עורך דין בעל ניסיון של 30 שנה. בתגובה כתובה שהגיש לבית המשפט ביום רביעי האחרון, הביע שוורץ "צער רב" על כך שהסתמך על ChatGPT. השופט קבע לשוורץ וגם לדו-לוקה שימוע בחודש הבא, שבו ייתכן כי יוטלו עליהם סנקציות שונות.
בתגובה שלו טען שוורץ כי לפני המקרה הנוכחי מעולם לא עשה שימוש בצ'אטבוט עבור תחקירים משפטיים, וכי לא ידע שהמידע שמספק ChatGPT עלול להיות שגוי. הוא הבטיח כי לא יעשה בו שימוש נוסף בעתיד, מבלי לוודא "באופן מוחלט" את אמינות המידע שיקבל. לתגובה שהגיש צורפו צילומי מסך משיחה וירטואלית שניהל עם ChatGPT, ונראה מהם שעורך הדין ניסה לוודא מול הצ'אטבוט שהתיקים שהציג בפניו נכונים – והצ'אט הבטיח לו שהם אכן אמיתיים.
באחד מצילומי המסך שואל שוורץ את התוכנה אם תיק בשם "ורגסי נגד צ'יינה סאות'רן איירליינס" הוא תיק אמיתי, והצ'אטבוט משיב: "כן, זה תיק אמיתי". שוורץ שואל אותו: "מה המקור שלך?", והצ'אט משיב לו כי ערך "בדיקה חוזרת" וכי אכן מדובר בתיק אמיתי שניתן למצוא לו אסמכתאות במאגרי מידע משפטיים כגון Westlaw או LexisNexis. "אני מתנצל אם התגובות הקודמות שלי עוררו אי-נוחות או בלבול כלשהם", הוסיף ChatGPT בצ'אט עם עורך הדין.
• לקריאה נוספת: תמונה של פיצוץ בפנטגון שנוצרה באמצעות AI גרמה לפאניקה
ChatGPT פותח על-ידי חברת OpenAI והושק בנובמבר 2022, ומאז כאמור הפך ללהיט עולמי עם יותר מ-100 מיליון משתמשים. מדובר בתוכנת מחשב מבוססת בינה מלאכותית שיכולה לשוחח עם הגולשים בצורה המזכירה בן אדם רגיל, והם יכולים לנצל אותה לשלל משימות – מפתרון בעיות מתמטיות ועד ניסוח נאומים ועבודות אקדמיות. הצ'אטבוט נעזר במידע מהאינטרנט כפי שנסרק עבורו בשנת 2021, ולמשתמשים מובהר כי הוא עלול לספק מידע שגוי. השימוש הגובר בצ'אטבוט הזה ובצ'אטבוטים מתחרים מעורר כעת חשש מהסכנות של בינה מלאכותית, בהן גם הפצה של מידע שגוי.
