משתמשים ברמקול חכם? מישהו שומע אתכם
תחקיר של בלומברג חושף כי אלפי עובדי אמזון מאזינים לקטעי קול שמופנים אל אלכסה - הסייעת הקולית. אמנם מדובר בהליך למידה שגרתי עבור בינה מלאכותית, אבל מרבית המשתמשים כלל לא מודעים אליו
עבור המשתמשים הישראלים - רמקולים חכמים הם ממש לא מוצר חובה בכל בית, בעיקר בגלל שהסייעות הקוליות עדיין לא מסוגלות להתמודד עם השפה העברית. אבל בעולם המערבי יש כבר מיליוני רמקולים כאלה, באמצעותם אפשר לעשות הרבה יותר מרק לנגן שירים. למשל, לשלוט על הטלוויזיה, לבצע רכישות, להכין שיעורי בית או לקבוע פגישות. למרות הפופולריות העולה, עדיין מדובר במוצר בעל חסם כניסה משמעותי: לא המחיר ולא העיצוב או הפונקציונליות, כי אם החשש מהצבת מכשיר הקלטה בתוך הבית - כזה שאפשר יהיה להאזין לנו.
תחקיר חדש של בלומברג חושף כי לפחות במקרה של אמזון, יש מי שמקשיבים לקטעי הקול המופנים אל אלכסה - הסייעת הקולית המופעלת על גבי רמקולי אקו. מתברר שכדי לאמן את אלכסה בצורה טובה יותר, אלפי עובדי אמזון אנושיים לגמרי צריכים להקשיב לבקשות, הוראות ושאלות של משתמשים. הם מתמללים את קטעי הקול, מפרקים אותם לחלקים, מנתחים ומתייגים את המידע שנאסף, בתהליך שנקרא "למידה מפוקחת". המידע הזה מוזן חזרה ונועד לשפר את האלגוריתם של אלכסה, ובעצם לעזור לה להפוך להיות חכמה יותר.
התהליך הזה הוא חלק בלתי נפרד מאימון של בינה מלאכותית והוא מתרחש בצורה דומה גם בחברות אחרות שעוסקות בלמידת מכונה. למעשה, למרות שהוא כולל טכניקות משמימות של ניתוח מידע - הוא נחשב ליעיל ביותר כשמסתכלים על התמונה הכללית. אלא שהעובדה שאלפי עובדי אמזון חשופים לקטעי קול מתגלה כבעייתית, בייחוד לאור העובדה שמרבית המשתמשים בכלל לא מודעים לפרקטיקה הזאת.
התחקיר הראה למשל כי העובדים נוהגים לשתף קטעי קול מביכים או מצחיקים במיוחד עם שאר חבריהם למשרד. בנוסף, קטעי הקול עשויים לחשוף מידע רגיש או כזה שמאפשר זיהוי של הדוברים. במקרים מסויימים, אלכסה גם מקליטה אירועים חריגים בבית - כמו תקיפות מיניות, מקרי אלימות או פשיעה. גם כאן מדובר בחשיפה למידע רגיש - ואפילו כזה שכבר נעשה בו שימוש במסגרת הליכים פליליים.
לפי בלומברג, בשנה שעברה בלבד נרכשו למעלה מ-78 מיליון רמקולים חכמים של מותגים שונים ברחבי העולם. התחקיר חושף כי העובדים האמונים על תמלול וניתוח קטעי הקול של אלכסה, מנתחים בממוצע כ-1,000 כל אחד, במהלך יום עבודה.
ענקיות טכנולוגיה נוספות המפעילות סייעות קוליות צריכות להתמודד עם הסוגיה הזאת. לפי גוגל, תהליכי למידה מפוקחת שנעשים על הסייעת הקולית מוקפדים מאוד והם כוללים ניתוח קטעים שאין בהם שום פרט מידע מזהה, ותוך שיבוש הקול. לפי התחקיר, קטעי הקול שמגיעים לעובדי אמזון מכילים שמות פרטיים, מספר סידורי של המכשיר ומספר חשבון.
