בשבוע שעבר, חשפה משטרת הונג קונג תרמית מתוחכמת שבה הצליחה אשת פיתוי להונות עשרות גברים בסכומי עתק של עשרות מיליוני דולרים. אותם גברים קיימו במשך תקופה ממושכת שיחות וידיאו רומנטיות לכאורה עם אותה יפייפיה מסתורית, והסכימו להעביר לחשבונות קש סכום כולל של לא פחות מ-46 מיליון דולר. ואולם, חקירת המשטרה העלתה כי אותה דמות ששבתה בקסמה גברים רבים כלל לא הייתה אישה אמיתית אלא תוצר של דיפ-פייק.
דיפ-פייק (Deep Fake) היא טכנולוגיה שמצליחה לטשטש בצורה משכנעת את ההבדל בין אמת לזיוף, עד כדי כך שעין אנושית בלתי מזוינת תתקשה לזהות את התרמית. הודות לקפיצת המדרגה בתחום הבינה המלאכותית, הדיפ-פייק היא כיום טכנולוגיה מתקדמת וזמינה מאי-פעם, אשר מהווה סיכון מוחשי על יציבות של מדינות, שמם הטוב של אנשי ציבור וסלבריטאים - ולמעשה על כל אחד ואחת מאיתנו.
חברת הסטארט-אפ הישראלית רבילנס (Revealense) פיתחה טכנולוגיה מבוססת AI לזיהוי דיפ-פייק, שאינה מתבססת על איתור אלמנטים גרפיים חריגים בסרטון אלא באמצעות ניתוח מאוד מדוקדק של התגובות הרגשיות של הדמויות בסרטון, כדוגמת שפת הגוף, מצמוץ העיניים, שרירי הפנים ואפילו זרימת הדם המתבטאת בגוון העור. כאשר המערכת מזהה אי-הלימה בין אותם סממנים רגשיים של הדמות בסרטון לבין מה שמצופה מבני אנוש, היא מתריעה על כך שייתכן כי מדובר בדיפ-פייק.
בשיחה עם "ישראל היום" הסביר עמית כהן, סמנכ"ל המוצר של החברה: "הטכנולוגיה שלנו מבוססת על מחקר של התנהגות אנושית. בנינו מודלים של AI עם יכולות מהעולם הפסיכולוגי שיודעים לעקוב אחר התגובות הרגשיות הבלתי נשלטות שלנו".
המטרה: להשפיע על דעת קהל, לפגוע במוניטין - ולגנוב כסף
דיפ-פייק הפך בשנים האחרונות לסיכון משמעותי בזירה הפוליטית והגיאו-פוליטית. ימים ספורים לאחר הפלישה הרוסית לאוקראינה בתחילת 2022, פורסם סרטון וידיאו ובו נראה נשיא אוקראינה זלנסקי מודיע בסבר פנים חמורות על כניעה וקורא לחייליו להניח את נשקם. "במקרה הזה, הסרטון הופק ברמה נמוכה והיה קל לזהות שמדובר בזיוף, אבל המקרה הזה גרם לתהודה גדולה בקרב ממשלות ומדינות והמחיש את הסיכון העצום הגלום בדיפ-פייק. מאז התחום התפתח מאוד והסרטונים נהיו יותר ויותר מתוחכמים. לעיתים, שותלים בתוך סרטון אמיתי רק קטע קטן שהוא זיוף", אמר כהן.
ואמנם, גם טייוואן נאלצה להתמודד עם שטף של סרטוני תעמולה מזויפים שהופצו במדינה מכיוונה של סין בניסיון להשפיע על הבחירות שהתקיימו בטייוואן בתחילת השנה. ממשלת טייוואן אף הקימה צוות משימה ייעודי למלחמה בדיפ-פייק הסיני. גם הרשויות בארצות הברית, ובראשן משרד ההגנה (DoD), הקצו תקציבים חסרי תקדים למאבק בדיפ-פייק לקראת הבחירות בחודש הבא. "כדי להזים סרטוני דיפ-פייק, צריך להגיב מהר, ובשביל זה צריך גם טכנולוגיה שתספק חותמת שמדובר בזיוף".
תחום נוסף שבו הדיפ-פייק הפך לכלי עוצמתי בידי האקרים וכנופיות סייבר הוא התחום הפיננסי. בחודש פברואר חשפה אותה משטרת הונג קונג מקרה שבו עובד בגוף פיננסי העביר סכום של 25 מיליון דולר לאחד מלקוחותיו על סמך שיחת וידיאו שקיים עם סמנכ"ל הכספים של אותה חברה לקוחה. גם כאן, התברר כי אותו "סמנכ"ל כספים" היה דיפ-פייק ותו לא, אך העובד לא הצליח לזהות זאת.
"מלבד האובדן הכספי, התרמיות הללו פוגעות מאוד במוניטין של גופים פיננסיים, ועל כן הם מוטרדים מאוד מהתופעה. עולם נוסף שחש איום מוגבר על רקע טכנולוגיית הדיפ-פייק הוא עולם הידוענות. ידוענים חוששים שיעשו שימוש בטכנולוגיה כדי לסלף את דבריהם ולפגוע בשמם הטוב. למעשה, אלו הם שווקי היעד העיקריים שלנו: גופי ממשל וביטחון, גופים פיננסיים ועולם הידוענים", סיפר כהן.
לדברי כהן, כולנו צריכים להפנים את סכנות הדיפ-פייק ולנקוט באמצעי זהירות. "בכל הנוגע לסרטונים שאנחנו רואים ברשת, עצתי היא תמיד להיות ספקן ולבדוק מה המקור של הסרטון. כאשר מדובר באינטראקציה אישית שלנו עם מישהו שרוצה מאיתנו פרטים אישיים, תמיד תבררו כי האדם שמדבר איתכם הוא אכן האדם שהוא מציג את עצמו".
איך תוכלו לזהות דיפ-פייק?
כאמור, טכנולוגיית הדיפ-פייק הולכת ומשתכללת, ועם הזמן יותר קשה להבחין בזיוף בעין בלתי מזוינת. עם זאת, פעמים רבות הסתכלות ביקורתית ומודעת תעזור לנו שלא ליפול במלכודת.
התמקדו בפרטים הקטנים: תוכנות דיפ-פייק מפספסות לעיתים בפרטים הקטנים. צללית שאינה במקומה, פרופורציות לקויות, שלט עם כיתוב לא ברור.
התמקדו בהקשר: שאלו את עצמכם, האם ההקשר של הסרטון הגיוני? כדאי לוודא אם סגנון הדיבור ותוכן דבריו של האישיות בסרטון תואם את מה שאתם יודעים ומכירים.
התחקו אחר המקור: מי הפיץ את הסרטון? המקור שמפיץ את הסרטון הוא לעיתים תמרור האזהרה הגדול ביותר. האם הסרטון הופץ על ידי ערוץ תקשורת מכובד, גוף רשמי או מקור מפוקפק שאינכם מכירים.
אל תפיצו את הסרטון: אם יש לכם ספק באשר לאותנטיות של הסרטון, אל תפיצו אותו הלאה. פעמים רבות מטרת הסרטונים הללו היא להפיץ דיסאינפורמציה - אל תשתפו פעולה.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו