בכנס בתחום הבינה המלאכותית והלמידה העצמאית של מכונות (ICML) שנערך לאחרונה בארה"ב עסק בנקודת החולשות המרכזיות שמתגלות כעת בתחום, דווקא משום הרגישות הרבה של המחשבים והאמצעי החישה שלהם.
בכנס הראו חוקרים ממעבדת Labsix, תמונות של צב שהודפס במדפסת תלת ממד, ושל כדור בייסבול שהמחשב זיהה ברוב הפעמים כרובה או כמכונת אספרסו, בהתאמה. הסיבה לכך לא היתה טעות בתוכנה, אלא דווקא יכולת הקליטה הרגישה של המחשבים שזיהו בתמונות את המידע הסמוי שנדחס אליהן, ושתעתע בהם על חשבון העין האנושית הרגילה.
החוקרים העמיסו מידע נוסף, בטווחים ובצפיפות שהעין האנושית לא רואה, וכך למעשה הצליחו לשטות במכונה שפענחה את מה שהיא רואה. תרגיל חריף יותר הראה, כיצד ניתן לשנות את פענוח הראייה של מכונית אוטונומית, כך שהיא לא תראה שלט עצור, אלא דווקא שלט הגבלת מהירות ל-45 מייל לשעה. ההטעיה היתה על ידי הדבקת מדבקות שקופות על השלט, כאלו שחיישני הרכב שרגישים יותר מהעין האנושית כן ראו.
באופן דומה, הראו לאחרונה חוקרים כי הם יכולים להשמיע צלילים שהאוזן האנושית לא שומעת ודרכם להפעיל סייעניות אישיות כמו סירי ואחרות שרגישות יותר מהאוזן שלנו, ושומעות את הפקודות האלו. כך על ידי מנעד צלילים גבוה, נתנו למחשבים הוראות להתחבר לשרתים ולעמודים זדוניים שהשתלטו למעשה על המחשב.
החוקרים שהשתתפו בכנס ציינו כי אכן יהיה צורך להגדיר מחדש את הטווחים של מה שמחשבים רואים, כדי למנוע מפגיעה בתוכנות מהסוג הזה על ידי מסרים סמויים. חוקר אחר בכנס ציין כי "האקרים יודעים לזהות את צורת הפעילות של התוכנה, את הדרך שבה היא מפרידה צבעים או עוברת שלבים והם יכולים לשתול בדרך מידע אחר שהמשתמש לא יראה, לכן יש יותר לעסוק בנושא ולייצר הגנות על התוכנות שידעו להבחין בהטעיות האלו".
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו
