תארו לכם מצב בו אתם נוהגים בטסלה או ברכב החשמלי החדש שלכם ובמקום לעצור לפני צומת סואן, הרכב מזהה את תמרור העצור כתמרור מהירות 80, נכנס לצומת סואן במהירות, וגורם לתאונה קטלנית.
פרופ' עופר הדר מבית הספר להנדסת חשמל ומחשבים ופרופ' משה זיפר מהמחלקה למדעי המחשב באונ' בן גוריון, טוענים כי מצב כזה הוא ריאלי לחלוטין וכי "התקפת סייבר יכולה להיות גם פיזית". המחקר של השניים צפוי להיות מוצג בכנס העשור של סייברטק גלובל תל-אביב, אשר ייערך בשבוע הבא בשיתוף מערך הסייבר הלאומי.
תקיפות סייבר פיזיות
לטענת החוקרים, תוקפי רכבים אוטונומיים נעזרים במדבקות פיזיות אותן הם מדביקים על תמרורים בכבישים, והן גורמות למערכת הראייה הממוחשבת של הרכב לזהות אותם באופן שגוי, מה שכאמור מאוד מסוכן.
"המדבקות מבצעות התקפה פיזית על האלגוריתמים לזיהוי וסיווג של אובייקטים ברכבים אוטונומיים, המבוססים על בינה מלאכותית, זאת על מנת לזהות ולסווג תמרורים ועל מנת להתוות את נתיב הנסיעה. הן משנות מספר פיקסלים בודדים וגורמות למערכות ה-AI ברכב להבין אחרת את התמרורים".
במחקר של פרופ' הדר, נבדקו האלגוריתמים עליהם מסתמכות מערכות הראייה הממוחשבת, שהם אלגוריתמים חינמיים וזמינים להורדה, ומבוססים על מחקר רב של חברות ומכוני מחקר שונים.
עבודת המחקר בוצעה באופן דיגיטלי על ידי הפעלת מודלים על תמונות וכן באמצעות הדפסה והדבקה של מדבקות פיזיות על תמרורים, כאשר פרופ' הדר ניסה לאתר את אופן הזיהוי של המדבקות ולתקן אותן באופן דיגיטלי באמצעות עיבוד תמונה, כך שהרכב יראה אותן כשקופות.
הפתרון שמצאו החוקרים מתבסס על טכניקת inpainting, המשלימה את החלק החסר המוסתר על ידי המדבקה. טכניקה כזו משמשת למשל בתמונות ישנות בהן חסרים חלקים או שהתקבלו בהן קמטים המפריעים לשלמות התמונה ונדרשים להסרה.
הפתרון שמצאו החוקרים מתבסס על שיטות AI לאימון הרשת באמצעים טכנולוגיים חכמים על מנת לעקף את הבאגים שהושתלו במדבקות, המשנים מספר פיקסלים בכל תמונה ומטעים כך את מערכות הרכב.
שדה הקרב של העתיד
"התקפות Patch פיזיות כאלה לא נותרות רק על כבישי הארץ", מזהירים החוקרים, "שדה הקרב העתידי יתבסס ברובו על רובוטים ומערכות מתוחכמות ולא מאוישות, ומערכות כאלה יהיו פגיעות להתקפות מדבקה כאלו".
"חיילים יכולים להדביק אותן על המדים, והכטב"ם שמזהה אובייקטים באמצעות מערכת AI יזהה אותם לדוגמא כסלע, או גוף דומם אחר ולכן יעקוף ולא יפגע בהם, והם יוכלו לפגוע באויב ללא חשש. לכן הפתרון שנמצא במחקר, יהפוך להכרחי בשדה הקרב של המחר".