בשיתוף משלחת האיחוד האירופי למדינת ישראל
למרות שלעיתים נראה כי מדובר בעתיד הרחוק, בינה מלאכותית (AI) משפיעה על חיי היום שלנו כבר עכשיו: איזה סרט נראה, איזה אלבום נשמע בדרך לעבודה או במהלך נסיעה ארוכה, באיזה מסלול ניסע ואיזה פרסומת נראה בחיפוש באינטרנט.
כולנו שמענו על תוכנות זיהוי פנים, אך אלה מהוות רק את קצה הקרחון בעולם של בינה מלאכותית. למעשה, למערכות בינה מלאכותית יתרונות משמעותיים בתחומים רבים, כמו בריאות, תחבורה, סביבה וביטחון לאומי, הן יכולות לשפר ביצועים, לייעל הקצאת משאבים ואפילו להילחם בהתחממות הגלובלית.
יחד עם זאת, לצד היתרונות המשמעותיים למערכות ה-AI קיימות גם מגוון של בעיות בהפעלתן, בעיקר בשל הטיות על רקע מגדר, מוצא ואפילו גיל. למידת מכונה יכולה לנטר פעולות אנושיות, לאסוף מידע מקיף ומשמעותי ולנתח אותו באופן יסודי.
רגולציה בשוק הדיגיטלי
בעקבות החשש מסיכונים אלה ומפגיעה משמעותית בזכויות אדם, כתוצאה מהשימוש בבינה מלאכותית, פרסמה הנציבות האירופאית תקנות חדשות כחלק מאסטרטגיית השוק הדיגיטלי של האיחוד האירופי, שמטרתן לקדם שינוי בתחום שעד כה נוהל ללא רגולציה משמעותית.
תכליתו של מהלך זה היא לספק כללים גמישים שיתייחסו לסיכונים הנשקפים ממערכות בינה מלאכותית ולייצר ביטחון משפטי והגנה רחבה על זכויות אדם, כך נוכל ליהנות מהיתרונות הרבים שיש לטכנולוגיה להציע לנו.
ד"ר אביב גאון, מרצה בבית הספר רדזינר למשפטים באוניברסיטת רייכמן וחוקר של התחום מסביר כי תקנות הבינה המלאכותית באירופה הולכות כמה צעדים קדימה מבחינת הסתכלות מחושבת על התקדמות הטכנולוגיה בעולם. "יש כאן לא מעט יתרונות חיוביים, ודאי על רקע ההשפעה חוצת הגבולות והחברות שיש לאיחוד האירופי בעולם", הוא אומר ומוסיף כי בין החידושים בתקנות ניתן למצוא גם ניסיון להגדיר מהן מערכות בינה מלאכותית ולעשות הבחנה בין דרגות הסיכון השונות.
תקנות האיחוד האירופי קובעות דרגות של סיכון: סיכון מינימלי, סיכון מוגבל, סיכון גבוה וסיכון בלתי קביל (unacceptable).
בקטגוריה האחרונה נמצאות מערכות לדירוג חברתי המוכרות לנו מסין. התקנות מבקשות לאסור שימוש ב"ניקוד חברתי" מבוסס בינה מלאכותית בידי משטרים ורשויות ציבוריות ואף קובעות כללים מוגדים החלים על מגוון מערכות בעלות סיכון לפגיעה בזכויות אדם.
מערכות בינה מלאכותית המהוות סיכון גבוה לבטיחות ולזכויות יסוד תהיינה כפופות לדרישות ספציפיות לפני שיינתן להן אישור לשיווק בשוק האירופי. מדובר בסט של דרישות מורכבות, למשל, בדיקות מקדימות של פוטנציאל הנזק, אמצעי פיקוח אנושיים מתאימים ורמה גבוהה של אבטחת מידע. חברה שתפר את הכללים בפיתוח או בשימוש בבינה מלאכותית צפויה לקנס בגובה של 6 אחוזים מההכנסות השנתיות שלה ושלא יפחת מ-30 מיליון אירו.
רגולוציה שאינה פוגעת בחדשנות
נראה כי הרגולציה המוצעת מודעת לצורך שלא לפגוע בחדשנות. הדבר מאפשר למדינות החברות באיחוד האירופי להקים "ארגזי חול" רגולטוריים של בינה מלאכותית, בפיקוח רשויות לאומיות מוסמכות, בהן יוכלו חברות לבדוק טכנולוגיות חדשניות בסביבות מבוקרות (שמטרתן להפחית את הנטל הרגולטורי).
הצעת החקיקה המוצעת מהווה צעד חשוב בהסדרת טכנולוגיות בינה מלאכותית ועליה לקבל את אישור הפרלמנט האירופי ומועצת האיחוד האירופי. אין ספק כי לחקיקה תהיה השפעה גדולה על פרטים וחברות שעשויה להתרחב לכול העולם.
ומה בנוגע להשפעה על החברות בישראל כתוצאה מכללי הרגולציה החדשים? ובכן, בדומה לרגולציית הפרטיות האירופית (GDPR) גם רגולציית הבינה המלאכותית תהיה משמעותית ביותר עבור מגוון של חברות שמוכרות לשוק האירופי. נראה כי ההשפעה של התקנות עלולה להיות אף מרחיקת לכת מתקנות הפרטיות באירופה ותדרוש מחברות לחשוב גם על פיתוח מדיניות אתיקה כחלק מתהליכי הבקרה בארגון.
בשיתוף משלחת האיחוד האירופי למדינת ישראל
