בחודש שעבר קיבלתי הפתעה בדואר: דו״ח על עבירת חניה שמעולם לא ביצעתי. נטען בו כי חסמתי נתיב תחבורה ציבורית סמוך לביתי, למרות שהחניתי את הרכב כחוק, במקום המיועד לו לצד המדרכה. כמה שעות לאחר מכן - דוח נוסף. לקראת הערב - דוח שלישי. כולם על אותה עבירה.
חרד, התקשרתי לקו השירות של רשות התחבורה המטרופולינית של ניו יורק (MTA), שם קיבלתי מנה הגונה של נזיפות והנחות מוטעות עוד לפני שהקשיבו לטענותיי. אחרי שהמוקדנית סיימה לגעור בי על כמה שאני לא בסדר ושאין מה לעשות עם המצב, היא הקשיבה לפרטי המקרה והעבירה לבחינה את התמונות שסיפקתי על חנייה נאותה.
בעיית הממשל הדיגיטלי
למחרת הגיע מייל התנצלות. מתברר שאני לא לבד, ואלפי אזרחים שומרי חוק קיבלו דוחות חניה בטעות באותו יום ובאותו אזור של מנהטן. הסיבה לתקלה - מצלמות חדשות שהותקנו על גבי שמשות האוטובוסים בעיר ובעזרת מערכת בינה מלאכותית חילקו דו״חות באופן אוטומטי לכל רכב שכביכול חסם את הנתיב. מדהים איך ניו יורק יכולה להיות בעת ובעונה אחת גם העיר המתקדמת בעולם, וגם אחת המפגרות בו.
אלא שכנראה מרוב להיטות לספק תוצאות, המצלמות החכמות שלחו אלפי דוחות לרכבים שחנו דווקא בצורה נכונה וחוקית. ב-MTA, שרק בקיץ האחרון חגגו את הטכנולוגיה החדשה, התנצלו ואמרו כי במקרה זה היו ״באגים בתוכנה, הן במיפוי אזורי המדרכה והן בעיתוי האזהרות עצמן - אבל כולם נפתרו כעת".
4 צפייה בגלריה
תארו לכם שבארץ אוטובוסים יחלו לחלק דוחות (לצילום אין קשר לכתבה)
(צילום: Roman Yanushevsky / shutterstock)
אבל המקרה הזה מדגים בעיה רחבה יותר. אמש חתמה מושלת מדינת ניו יורק, קאת׳י הוקול, על חוק תקדימי שאמור למנוע תקלות כאלה בעתיד ולהכניס את השימוש בבינה מלאכותית במגזר הציבורי למגבלות ברורות. גם ברמה המקומית חוששים שהשימוש ב-AI יוצא מכלל שליטה והחוק מבטיח לסמן עידן חדש בתחום הממשל הדיגיטלי.
כל הרשויות במדינה מחויבות מעתה לבצע הערכות מקיפות לכל תוכנה המשתמשת באלגוריתמים, מודלים חישוביים או טכניקות AI. הממצאים צפויים להתפרסם בדו"חות שיגיעו לשולחנה של המושלת ויוצגו באופן שקוף לציבור הרחב, שיוכל לדעת מעתה איזה בוט מטפל במקרה שלו. החוק מגדיר גם “תחומים רגישים", כמו דמי אבטלה או סיוע במעונות יום, שבהם נאסר להסתמך בכלל על מערכות בינה מלאכותית לקבלת החלטות - אלא אם כן יש פיקוח אנושי צמוד.
מענה לחששות
נדבך נוסף של החוק החדש מונע שימוש בבינה מלאכותית במטרה לשנות את תנאי עבודתם של עובדי ממשל, להגביל את שעותיהם או להחליפם במערכות טכנולוגיות. יוזמי המהלך מסבירים שהוא נועד לבלום את החשש הגובר מפני פגיעה בזכויות עובדים בעולם שהולך ומטמיע טכנולוגיות מתקדמות בקצב מסחרר.
המגבלות החדשות מנסות בנוסף לתת מענה לחששות הקלאסיים הקיימים נגד בינה מלאכותית - ענייני אבטחת מידע, פרטיות, אמינות ומניעת פייק ניוז. המערכות הגנרטיביות, כידוע, נוטות ל"הזיות", ולעיתים קרובות מפיצות מידע כוזב, חוזרות על עיוותים סטטיסטיים ואף שקרים מוחלטים, הכל בניסיון לרצות את המשתמש.
בניו יורק מקווים שהחוק החדש יספק פתרון ולו חלקי לבעיות אלו, אך המדינה אינה לבדה במערכה. מספר מדינות בארה"ב, בהן קולורדו וקליפורניה, כבר החלו לצעוד בכיוון דומה ופועלות מקומית. כך, לדוגמה, חוק "Colorado AI Act", שייכנס לתוקף ב-2026, מחייב מפתחים להימנע מהטיה או אפליה במערכות ״שמקבלות החלטות משמעותיות״.
בקליפורניה, החל משנת 2025, יידרשו פלטפורמות מקוונות לזהות ולחסום תכנים מטעים הקשורים לבחירות, כחלק מחבילת חוקים שנחתמה בספטמבר האחרון. חובה נוספת על החברות תהיה לדווח פומבית על סט המידע שמשמש לאימון המערכות שלהם.
בארה"ב מאמינים כי הרגולציה הזו תגן על הציבור - צעד ראשון ליצירת "מעקה בטיחות" שימנע שימוש חסר אחריות בבינה מלאכותית. אבל מומחי AI חוזרים על המנטרה שבעידן שבו הטכנולוגיה מתקדמת מהר יותר מהחקיקה, ספק אם מאמצי הרגולציה של ניו יורק ושל שאר מדינות ארה"ב יצליחו להקדים את המגמות העתידיות או אף להדביק את הקצב שלהן.
כזכור בשנה שעברה כינס הנשיא ג׳ו ביידן את ענקיות ה-AI למעין כינוס חירום בבית הלבן, כאשר זמן לא רב לאחר מכן הוא כבר חתם על צו נשיאותי ראשון לפיקוח על AI, במה שתואר כ"מערכת הפעולות החזקה ביותר שממשלה בעולם נקטה אי פעם בנושא בטיחות, אבטחה ואמון של AI".
בפועל, המסמך נותר בגדר הנחיות כלליות בלבד, כאשר העקרונות בו רבים, אבל פרקטיקה - אפס. ישראל, אגב, הייתה שותפה לדיונים בנושא. אך למרות הצטרפותה לאמנה בינלאומית של מדינות המערב בספטמבר האחרון ומסמך עקרונות משותף שפורסם של משרד המשפטים ומשרד החדשנות, המדע והטכנולוגיה - עדיין אין חקיקה רוחבית שתמנע שימוש בעייתי בבינה מלאכותית. אל תתפלאו אם בקרוב מאוד גם אתם תקבלו דו"ח חניה ממערכת חכמה, אך מעט מבולבלת.
