סוף למסיבת התחפושות? הסטארט-אפ הישראלי שנלחם בדיפ-פייק 

בחודש שעבר, לאחר עוד אחד מציוציו האנטישמיים של קניה ווסט, התקבצו מיטב הסלבריטאים היהודים של ארצות הברית לצלם תשדיר נגד אנטישמיות: ממארק צוקרברג ועד ג'רי סיינפלד. ממילה קוניס ועד סקרלט ג'והנסון - כולם לבשו חולצות עם סמל של "חמסה" שעושה אצבע משולשת לקניה ווסט, לצלילי "הבה נגילה". 

התגייסותם המהירה של כל כך הרבה מידועני העילית סביב מטרה כה חשובה הייתה מרשימה - והתשדיר הפך לוויראלי. אך עד מהרה התגלתה האמת: מדובר בסרטון דיפ-פייק, אף אחד מהידוענים הללו לא השתתף בתשדיר, או אישר את השימוש בדמותו.

גם אם במקרה זה כולנו יכולים להזדהות עם המטרה שמאחורי הסרטון, איכותו הריאליסטית, והעובדה כי נחשף כזיוף רק אחרי ש"המשתתפים" מחו על השימוש הבלתי מורשה בצלמם, המחישו את האיום הגדול שטומנת בחובה הבינה המלאכותית על היכולת של ידוענים לשמור על שמם הטוב ועל הקניין הרוחני שלהם. למעשה, לא רק עליהם - איום זה מרחף מעל כל אחד ואחד מאיתנו.

חברה ישראלית מנסה להילחם בצדדים הבעייתיים יותר של התופעה באמצעות מעין גלאי שקר מתקדם שבוחן בינה מלאכותית.

מי שמשמיעה בתוקף את דעתה בנושא היא סקרלט ג'והנסון. לאחר הפצת הסרטון המזויף, פרסמה השחקנית הודעה ובה נאמר: "אנחנו מוכרחים לגנות את השימוש לרעה ב-AI, ללא קשר למסר שמאחורי הזיוף, ולא - נאבד אחיזה על המציאות. יש גל AI בגובה אלפי מטרים והוא מגיע לשטוף את כולנו".

ג'והנסון ביקרה בחריפות את המחוקק האמריקני על כך שאינו עושה מעשה ומתמודד עם המצב החדש. בעוד ארה"ב מתעכבת בתגובתה, מי שהפך ללפיד בראש המחנה בכל הנוגע לרגולציה דיגיטלית הוא האיחוד האירופי. באוגוסט 2024 נכנס לתוקף באיחוד "חוק ה-AI", שבין היתר מחייב פלטפורמות חברתיות כמו פייסבוק, טיקטוק ואינסטגרם לנקוט אמצעים כדי לזהות ולתייג תכני דיפ-פייק, ולהסירם במקרים מסוימים. 

"רגולציית-היתר" הנהוגה באיחוד האירופי, כך לטענת המבקרים, הפכה למקור של חיכוך בין האיחוד האירופי לענקיות הטכנולוגיה, שסופגות לא אחת קנסות כבדים על הפרה של תקנות בתחומי הפרטיות, השקיפות וההגנה על המשתמש.

רומן עם "בראד פיט"

כעת, גם בצד השני של השלולית האטלנטית מנסים מחוקקים משתי המפלגות, לקדם חקיקה למלחמה בדיפ-פייק, הכוללת גם קנסות לפלטפורמות. עם זאת, ההיתכנות של חקיקה כזו במאזן הפוליטי הנוכחי בארה"ב אינה ברורה. הממשל הנוכחי מייצג תפיסה לפיה רגולציות על תוכן פוגעות בחופש הביטוי ולא אחת נגועות בהטיות פוליטיות. לכן, בפלטפורמות כמו X ופייסבוק ניתן לזהות מגמה מתעצמת של פיקוח מינימלי על תכנים.

טכנולוגיות של דיפ-פייק קיימות כבר כמה שנים, אך שתי בעיות מנעו מהדורות הקודמים שלהן להיות יעילות: ראשית, הן התבססו על כלים מורכבים של עריכה ומניפולציה של וידיאו. כדי להפיק סרטונים כאלה, היה צורך במיומנות גבוהה ובהשקעה של זמן רב. אולם הבעיה הגדולה יותר הייתה שהסרטונים לקו באמינותם וקל היה לזהות כי מדובר בזיוף גם בעין בלתי-מזוינת.

התמונה השתנתה, תרתי משמע, עם הופעת טכנולוגיית הבינה המלאכותית היוצרת (GenAI). כיום, באמצעות מודלי וידאו גדולים (VLM) כל אחד יכול לייצר סרטוני דיפ-פייק לפי פקודה וברמת אמינות גבוהה מאוד. הקלות שבה ניתן לייצר סרטונים מזויפים בתסריטים שונים הפכה את הטכנולוגיה לכלי עוצמתי במיוחד, שבאמצעותו ניתן להוציא לפועל הונאות פישינג והנדסה חברתית. המטרה של ההונאות הללו היא לגרום לנו "מרצוננו החופשי" למסור מידע או להעביר כספים.

בארה"ב, השימוש בדמותם של ידוענים כחלק מתרגילי עוקץ הפך ל"מכת מדינה" של ממש. בשנה שעברה, נפוצו ביוטיוב סדרת מודעות שבהן הופיעו סלבריטאים כמו טיילור סוויפט, ג'ו רוגן, אופרה ועוד, כשהם מספרים לצופה על כך שהוא זכאי לקבל מהמדינה צ'ק בגובה של 6,000 דולר. המודעות הללו, שמטרתן הייתה לשדל אנשים למסור את פרטי האשראי שלהם, השיגו חשיפה של כ-200 מיליון צפיות, מבלי שהפלטפורמה נקטה צעד לחסום אותן.

עוד תופעה נפוצה היא תרגילי עוקץ רומנטיים. לפני כמה שבועות, אישה בצרפת חשבה שהיא מנהלת התכתבות רומנטית דרך האינסטגרם עם לא אחר מאשר בראד פיט ובאמצעות מניפולציות רגשיות העבירה למתחזה כ-850 אלף דולר, כביכול לצורך ניתוח חירום. שתי נשים בספרד, שגם הן חשבו שהן מנהלות קשר מקוון רומנטי עם פיט, איבדו כל אחת 325 אלף דולר, ואישה מסן דייגו חשבה שהיא מנהלת רומן עם קיאנו ריבס - ואיבדה את כל חסכונותיה.

הסממנים הרגשיים הנסתרים

לצד חקיקה וענישה, התעשייה מחפשת גם פתרונות טכנולוגיים יעילים - אתגר לא-פשוט לאור ההתקדמות המהירה של הטכנולוגיה. חברת הסטארט-אפ הישראלית רבילנס (Revealense) פיתחה טכנולוגיה מבוססת-AI שמאפשרת לבצע "אבחון רגשי" של אנשים המופיעים בסרטון וידאו. 

הפלטפורמה של החברה מבצעת ניתוח מאוד מדוקדק של התגובות הרגשיות של הדמויות בסרטון, כדוגמת שפת הגוף, מצמוץ העיניים, שרירי הפנים ואפילו זרימת הדם המתבטאת בגוון העור. כמעין "גלאי שקר", המערכת יודעת לזהות אי-הלימה בין דבריו של הדמות בסרטון לסממנים הרגשיים הנסתרים מהעין.

במקור, החברה פיתחה את המערכת ככלי לסיוע בטיפולים פסיכולוגיים, אבחונים תעסוקתיים וגם ככלי לניתוח מודיעין בעולם הצבאי. אולם, עם עלייתו של הדיפ-פייק, בחברה הבינו כי ניתן לייעד את הפתרון גם ככלי למאבק בתופעה.

בשיחה עם "ישראל היום", מספר סמנכ"ל המוצר של החברה, עמית כהן, כי החשש בקרב ידוענים מפני תופעת הדיפ-פייק הוא ממשי: "הבינה המלאכותית היוצרת הפכה את יכולות ההתחזות לכמעט מושלמות. הנכס הגדול ביותר של ידוענים הוא המוניטין ושמם הטוב. הם חוששים מאוד שישתמשו בטכנולוגיות הללו כדי להציב אותם במצבים מביכים ובעייתיים. גם ידוענים בישראל הביעו בפני את החשש הזה, והם מחפשים דרכים להתגונן".

לדברי כהן, הטכנולוגיה מתקדמת מאוד מהר ואמצעים קודמים לזיהוי זיופים מאבדים במהרה מיעילותם. "טכנולוגיות קודמות התמקדו בין היתר בניתוח סממנים כמו פעימות לב וזרימת דם, אך כיום יש טכנולוגיות של דיפ-פייק שמסוגלות לחקות אפילו דקויות ביולוגיות מעין אלה".

"הטכנולוגיה שלנו נוקטת גישה שונה. את החזות הגופנית ניתן אולי לזייף, אבל לא את הנפש", מסביר כהן. "לכל בן אדם יש 'אופי' ייחודי המתבטא בהתנהגותו. אנחנו לוקחים סרטונים שבהם האדם מבטא את האופי האותנטי שלו, למשל כשהוא כועס או שמח, צוחק או מתרגש, ובאמצעותם יוצרים 'טביעת אצבע מנטלית', כדי לבדוק האם יש סתירה או התאמה בין הדגימה הזו לבין סרטון כלשהו. כך, ברמת דיוק מאוד גבוהה, אנחנו יכולים לספק חותמת האם מדובר בזיוף או בסרטון אותנטי".