זאב בעור של כבש: הטכנולוגיה שמזהה את המחבל הבא

הסתה ברשת – צמד מילים שאין ישראלי או ישראלית שלא מכירים, במיוחד לאחר 7 באוקטובר. אבל כידוע, ההסתה והאלימות לא תמיד נשארים באינטרנט - פעילים קיצוניים באירופה ובארה"ב, רובם ממוצא מוסלמי, פועלים באופן אקטיבי על מנת לפגוע בגורמים ישראליים ויהודים בנקודות שונות בעולם, כשהם מהווים איום ברור ומיידי.

אבל איך מוצאים אותם? האם ניתן לאתר מבעוד מועד את אותם "מועדים לפורענות" ולהזהיר את גורמי הביטחון מהם? ובכן, מסתבר שגם כאן, הטכנולוגיה הישראלית נמצאת בחזית ועונה על האתגר.

הסטארט-אפ RealEye פיתח שתי מערכות, "מסד" (Masad) ו"פורטרס" (Fortress) שמטרתן לאתר ולבנות פרופיל מדויק, עד כמה שניתן, על אותם פעילים וגורמים מסוכנים. מבחינת הצבת "דגל אדום" אם תרצו, לפצצה מתקתקת שצריך לשים עליה עין.

החברה, שקיימת בסך הכל שנה וחצי, מורכבת מאנשי מודיעין וטכנולוגיה, והיא הספיקה עד כה לגייס כ-1.1 מיליון דולר ולהפוך לספק של גורם ביטחוני ישראלי, כל זאת במטרה לספק תובנות ומודיעין המבוססים על נתונים לרשויות החוק, ההגירה והביטחון.

המסלול המורכב להקצנה

הדרך להקצנה איננה לינארית. אלו המכונים "רדיקלים מהדור הראשון", עוברים לרוב אינדוקטרינציה (הנחלת רעיונות) באידיאולוגיות קיצוניות במקומות שונים בסביבתם, כמו למשל מסגדים, לאחר מכן משתמשים בפלטפורמות דיגיטליות שונות במטרה להפיץ דעות מסוכנות.

פעמים רבות וכפי שניסיון העבר כבר הוכיח, ההקצנה הזו לא נשארת ברשתות החברתיות. האתגר הוא לפיכך למצוא את המחט בערימת השחת – אותם רדיקלים שעברו הקצנה כה חמורה, עד כי הם מהווים איום ממשי ופיזי.

האתגר הופך למסובך עוד יותר עם הופעתם של "רדיקלים מהדור השני". אנשים אלה מגיעים לעתים קרובות מרקע יציב, והקצנתם מגיעה מחשיפה לנרטיבים קיצוניים ברשת. דוגמה טראגית לכך הייתה באירוע הירי בשנת 2019 בסופרמרקט כשר בניו ג'רזי. על פי הדיווחים, היורים, שני אנשים ללא היסטוריה קודמת של אלימות, הוקצנו לאלימות באמצעות תוכן קיצוני מקוון אליו נחשפו.

לדבריו של קווין כהן, מנכ״ל ומייסד RealEye, "המטרה שלנו היא לתאר ולאפיין התנהגות באינטרנט וברשתות החברתיות המעידה על מסוכנות מצד אינדיבידואלים, המהווים איום במרחב".

פירוק רשת השנאה

אבל זיהוי האיומים המקוונים אינו מספיק. מניעה יעילה של אלימות מחייבת זיהוי כאמור של המסלולים המובילים אליה, ופיתוח כלים טכנולוגיים מתוחכמים לשם כך. כאן נכנסת לתמונה הטכנולוגיה ששינתה את חיינו בשנתיים האחרונות - הבינה המלאכותית.

מודלים מתקדמים יכולים להבדיל במהירות ואפקטיביות בין התנהגות מקוונת נורמטיבית, לבין כזו שיש בה כוונות זדוניות. זה מאפשר לממשלות וארגונים אזרחיים לזהות סכנות פוטנציאליות ולמנוע אותן במגוון דרכים: מניטור ומעקב, ועד מניעת כניסה של אנשים לשטחי מדינות.

"הטכנולוגיה שלנו מנתחת כמות עצומה של 'טביעות אצבע' דיגיטליות ומזהה סימנים למסוכנות פוטנציאלית, וזה גם מה שמבדיל אותנו מפתרונות קונבנציונליים אחרים", אומר רועי צינמן, מנהל המוצר הראשי של RealEye.

איזון בין אבטחה לפרטיות

יחד עם הרצון למנוע מההסתה והאלימות באינטרנט וברשתות החברתיות להפוך לאלימות בפועל, המאבק בשנאה ברשת מצריך פעולה מאוזנת ועדינה, המשלבת מסגרת אתית ושמירה על פרטיות וחופש הביטוי, כך טוענים ב-RealEye. 

"באמצעות טיפוח שותפויות בין ממשלות, ארגונים אזרחיים ומומחי טכנולוגיה, ניתן לספק אבטחה טובה יותר לאלו הנמצאים תחת מתקפות מקוונות העלולות להפוך לפיזיות, תוך שמירה על פרטיות המשתמשים באינטרנט וברשתות החברתיות", מסכם כהן.