ד"ר לירן ענתבי
חוקרת טכנולוגיה וביטחון
חוקרת בכירה ומנהלת תוכנית טכנולוגיות מתקדמות במכון למחקרי ביטחון לאומי, INSS. מרצה באקדמיה ויועצת לארגונים ולחברות בנוגע לדיפ־פייק, מדיניות טכנולוגית, בינה מלאכותית וטכנולוגיות מפציעות נוספות
ד"ר לירן ענתבי, כבר ב־2019 איום הדיפ־פייק - טכנולוגיה מבוססת בינה מלאכותית ליצירת סרטונים, צילומים או קטעי קול מזויפים - הוגדר על ידי ארגוני המודיעין האמריקניים כאיום האסטרטגי החמור ביותר לביטחון הלאומי. הדברים הופכים רלוונטיים במיוחד משום שאנחנו נמצאים בשנה שבה תצביע כחצי מאוכלוסיית העולם בבחירות שונות ברחבי הגלובוס, ובמקביל – יותר ויותר קונפליקטים ומלחמות מתגלעים מעל פני השטח.
"הבחירות שיתקיימו השנה בקרב יותר מ־60 מדינות הן הניסוי האנושי הגדול בהיסטוריה, והכל קורה תחת מתקפה כבדה של פייקים, אסימטריה בולטת בין דמוקרטיות, ומבצעי השפעה של מדינות וגורמים אחרים. הדברים אקטואליים בעיקר משום שכאשר האנושות נדרשת לקבלת החלטות קריטיות - אנשים מפקפקים במציאות, באמת. כבר היום אזרחים רבים לא סומכים על הליכי הבחירות במדינות שלהם, ואיום הדיפ־פייק מערער לחלוטין את הקונסטלציה. רבים סבורים שהתמודדות עם תוצרי בינה מלאכותית, ישירים ועקיפים, היא מעבר ליכולות ההתמודדות של מדינות".
בואי נתבונן, למשל, בעימות בין ביידן וטראמפ. לאחר עימות שכזה, שהיה רע מבחינת ביידן, עשויים חורשי רעתו להפיץ עוד אינספור קטעים שמביכים אותו ומציגים אותו כסֶמי־דמנטי.
"זו בהחלט אחת הסכנות של דיפ־פייק. כשהמציאות מתכתבת עם התוכן המזויף, שמופץ בצורה רחבה ומהירה, קשה לעצור אותו. כבר בחודש ינואר השנה תושבי ניו המפשייר קיבלו הודעת פייק טלפונית, המכונה 'רובו-קול', מהנשיא ביידן, כביכול, שקרא להם להישאר בבית בשעת בחירות. עם עוד קצת תחכום והפצה, הנזקים יכולים להיות משמעותיים, קל וחומר כשמדובר במבצעי השפעה מתמשכים. המבצעים הללו שוחקים את אמון האזרחים במערכות הממוסדות, וגורמים להם, למשל, לא להתחסן או להצביע אחרת בגלל מידע מוטעה".
אבל הדבר המבהיל הוא שלעיתים גם ללא תחכום אפשר להגיע להישגים תודעתיים, באמצעות צ'יפ פייק – דיפ־פייק פשוט שלא מצריך עבודת הכנה רבה.
"נכון. עוד לפני העימות האחרון, כשעלו הטענות על גילו של ביידן וספקות צצו לגבי כשירותו - חיפשו מתנגדיו סיטואציות שמאששות את התזה הזאת. שבועות לפני העימות הופץ סרטון שבו נראים מנהיגי העולם עומדים במדשאה כדי להצטלם, ואילו ביידן נראה מדדה לכיוון אחר, עד שמישהו בא וליווה אותו למקום הנכון. הרושם הוא היעדר חיבור לסיטואציה מצידו.
"זה נראה רע, אבל רק בדיעבד התברר שהסרטון הזה לא צולם לאורך, אלא לרוחב. וכשמסתכלים על כל הצילום לרוחב, רואים שביידן משוחח למעשה עם צנחן שבדיוק צנח בצד השני של הדשא ומברך אותו, ורק לאחר מכן קוראים לו לבוא ולהצטלם. זו מניפולציה זולה שאפשר היה לעשות לפני הבינה המלאכותית".
ללמוד מהסינים
אם סרטון כזה מופץ ביום הבחירות ומגיע לתפוצה נרחבת – עשויות להיות לו השפעות קריטיות. מדובר ביום קצר, כשכל אירוע יכול ליצור מומנטום שישפיע דרמטית על אופי הבחירה, מבלי יכולת לתקן.
"אני מסכימה. זאת אומרת, אם יופץ דיפ־פייק שיערער את אמינות אחד המועמדים וייצור נטייה להצבעה למועמד אחר, ממש רגעים ספורים לפני פתיחת הקלפיות ובאופן שלא מאפשר טיפול הולם בסיטואציה, ההשפעה השלילית עלולה לפגוע בהליך הדמוקרטי. אלה דברים שבעבר לא היו קיימים בעוצמות האלה.
"כך, למשל, אם מעצמה מסוימת רוצה להתערב לטובת מועמד, ותצליח לשחוק את יריביו, בין שבאופן מתמשך ובין שבסמוך לפתיחת הקלפיות - כן, זו יכולה להיות הטיה משמעותית של בחירות. והסכנה הזאת ממשית - מדינות שאינן דמוקרטיות שינסו להתערב בבחירות ברחבי העולם. הסכנה היא גם מבית, כשמפלגות קיצוניות עלולות להשתמש בקמפיינים, בוטים ודיפ־פייק כדי לערער את מערכות הבחירות השונות".
איך מתמודדים?
"לצערנו, הרגולציה מפגרת מאחור בכל מה שקשור לדיפ־פייק. בארה"ב, גם אם רואים חקיקה ורגולציה בנושא זה בהקשר של בחירות, האכיפה יחסית מוגבלת. גם בישראל האכיפה בעייתית. המונח דיפ־פייק הופיע לראשונה במסמך רשמי של מדינת ישראל לפני כשלוש שנים, בפסק דין של ועדת הבחירות המרכזית לכנסת, בעקבות פניית יש עתיד, על סרטון שבו נוצר דיפ־פייק של יאיר לפיד בנושא שותפות פוליטית יהודית־ערבית. פסק הדין הורה ליוצרי הסרט לציין בפונט גדול יותר שמדובר בפייק. בבחירות לאחר מכן כבר ראינו קמפיין בנושא ה'שתֶפת' שקורא לצמצום שיתופי התוכן במקרים של חוסר ודאות באותנטיות שלהם".
ואכן, הנזק שעלול להיווצר מפייק ניוז ודיפ־פייק קשור להתנהגות הציבור, למודעות שלו לנושא.
"חינוך הציבור הוא חשוב. חשוב לפתח ביקורתיות בקרב אנשים, בעולם שבו יש סיכוי סביר שהם צופים ב'מציאות' סינתטית, וזאת לצד ההבנה שהכוח הגדול של הפייק הוא לא בהכרח בדבר עצמו, אלא בהפצתו".
בישראל מבינים את זה? ב־2022 כתבת במחקר שהובלת שארגז הכלים של המדינה להתמודדות עם דיפ־פייק לוקה בחסר. האם חל שינוי מאז?
"אני לא מכירה צעדים גדולים ומשמעותיים שנעשו בתחום הזה. באופן כללי, המדיניות שלנו בכל מה שקשור לאיומי בינה מלאכותית וחדשות כזב עדיין לוקה בחסר. רואים לעיתים יוזמות נקודתיות, אבל למדינת ישראל יש בעיה במדיניות טכנולוגית באופן כללי, וזאת בשל שנים ארוכות שבהן הממשלות שלנו עסקו בדברים אחרים, ולא במרדף קריטי שמדינות רבות משתתפות בו. שווה לנגד עיניך את יום הבחירות בישראל, וסרטון מזויף של אחד המועמדים משנה דרמטית את ההצבעות. זה תרחיש סביר, וישראל לא מוכנה אליו".
לאיזו מדינה אנחנו צריכים לשאת עיניים?
"לסין יש מדיניות טובה בהקשר של דיפ־פייק. אין אצלם רשתות חברתיות, והם בכל זאת פעלו בנושא באמצעות חקיקה. נקבע שם כי זו אחריות היוצר להתריע על גבי התוצר שמדובר בדיפ־פייק. זה לא קורה בישראל, בארה"ב או באירופה, בגלל היבטים של חופש הביטוי. כך, נוצר מצב שהפתיחות של משטרים דמוקרטיים פוגעת בהם, ולכן האויבים של אותן דמוקרטיות משתמשים בנשק החזק הזה - נגדן".
סכנות הדיפ־פייק רלוונטיות גם למלחמה מול חמאס, למשל. חברות טכנולוגיה רבות כבר דיברו על עלייה חדה בכמות המידע המזויף בכל מה שקשור למלחמה הזאת. מ־7 באוקטובר, עד כמה המגמה הזאת פוגעת בישראל, בביטחונה הלאומי?
"מבצעי תודעה, שחלקם מבוססים על דיפ־פייק, משפיעים מאוד על דעת הקהל. למעשה, אנחנו בקרב לא הוגן, כי המערכה אינה בהכרח על תוכן החומרים, כאמור, אלא על עוצמת התפוצה. וכידוע, אנחנו קטנים ומעטים מול שחקנים רבים ברחבי העולם שלא חפצים בטובתנו. מספיק יצרן אחד של פייק שמתעצם בזכות מפיצים רבים, כדי לגרום לנו להיות בנחיתות אדירה.
"כבר בתחילת המלחמה אמרה מנכ"לית רשת הטלוויזיה CBS שרק עשרה אחוזים מתוך יותר מאלף סרטונים שנשלחו אליה בנוגע למלחמה בין ישראל לחמאס - היו אמיתיים. כלומר, 90 אחוז מיותר מאלף סרטונים היו מזויפים בצורה כזו או אחרת. זה נתון מדאיג".
יש במלחמה הזאת אלמנט דיפ־פייק מובהק.
"בהחלט. יש הרבה מאוד מבצעי השפעה שבאמצעות בינה מלאכותית מצליחים לסכסך, ולגרום לעולם להאמין שישראל עושה דברים שמעולם לא התרחשו. אגב, זה אופייני כמעט לכל מלחמה. ראינו לא מעט פייקים במלחמה בין רוסיה לאוקראינה. למשל, סרטון שבו כביכול קורא זלנסקי לכוחות להניח את נשקם. זה לא עבד בגלל איכות הסרטון, וגם משום שדיפ־פייק לא יכול להופיע כשהוא תלוש מהמציאות. נדרשת עבודת הכנה".
ונדרשת גם גושפנקה של התקשורת הממוסדת, שהיא אולי קו מז'ינו בנושא הזה.
"וראינו עדות לכך גם במחקרים שערכנו ב־INSS.אירועים יכולים להתגלגל ברשתות החברתיות, אבל כשרוצים לתת תוקף לאירוע, נדרש אותו אישור של התקשורת הממוסדת. יש אחריות גדולה על עיתונאים ועל מוסדות עיתונאיים לבדוק את הדברים, וקיימים גם כלים טכנולוגיים שמסייעים בכך. אני בעצמי מייעצת לחברה טכנולוגית שמסייעת בהתמודדות עם דיפ־פייק.
"אגב, ישראל היא מעצמה בתחום זיהוי הדיפ־פייק ודרכי הפצתו. זה חיוני, משום שהגענו לעידן של שחיקת האמת. אנשים כל הזמן בחשש - האם הם צופים בתוכן אמיתי? אין לדעת היכן עובר הגבול בין האמת לבדיה, וזה מתיש".
בואי נדבר על הזירה הצפונית: לצד איומי כטב"מים וטילים מדויקים, האם אנחנו צריכים לדאוג מתרחישי דיפ־פייק במלחמה עתידית מול חיזבאללה?
"זה רלוונטי לכל מקרה של עימות, ובוודאי גם מול חיזבאללה. ישראל, יותר ממדינות אחרות, תלויה בדעת הקהל הבינלאומית, שמשפיעה על יכולתה להילחם באופן מתמשך. ניכר שלמרות הפצת התכנים, העולם לא התרשם ממה שקרה ב־7 באוקטובר, אבל דווקא מאוד התרגש ממה שיצא לאחר מכן".
גורמי מודיעין כבר העריכו שבזמן מלחמה, חיזבאללה יכול להפיץ סרטון של דובר צה"ל שאומר לתושבים לא להתייחס לאזעקות. אילו עוד תרחישים צריכים להדאיג אותנו?
"אני מודאגת מיכולות של טרוריסטים לייצר תמונות פייק וסרטוני דיפ־פייק כדי לגייס אליהם אנשים. כבר נחשפו מבצעים של חמאס שבהם נשים, כביכול, דיברו עם חיילים וניסו לגרום להם להגיע למקומות ולהוציא מהם מידע. זה מאתגר מאוד. ניתן היום לייצר זהויות בדויות שייתפסו כאמינות בקלות בלתי נתפסת".
איך משתיקים עיתונאית?
עד כמה להערכתך חיזבאללה מתחמם על הקווים וערוך עם טכנולוגיות דיפ־פייק?
"מדובר בארגון חזק בתחום הסייבר, שנסמך בין היתר על יכולות איראניות. אני לא חושבת שצריך להתחמם על הקווים, כי הכלים והיכולות זמינים ברשת. לא נדרשת כאן היערכות רבתי, בדומה לבניית אלפי כטב"מים ורקטות. נהפוך הוא, רק נדרש למצוא סיטואציה מסוימת, אירוע שמעורר דעת קהל, ולהתחבר אליו. הכלים הקיימים מאפשרים לעשות זאת, ולא נדרשים כאן אולפנים והפקות גדולות, וגם לא שפת אם של המדינה שעליה רוצים להשפיע.
"באיחוד האמירויות כבר הצליחו לפרוץ לרשת שידורים פנימית ולשדר בה דיפ־פייק של מגיש מוכר וידוע. יש כיום יכולת של פריצה לערוצים המסורתיים, לרבות התחזות. ארגוני טרור, חיזבאללה למשל, מסוגלים אולי להפיל כאן ערוצי טלוויזיה, אבל מה שמדאיג יותר זה אם הם יצליחו חלילה לחדור לאותם ערוצים ולשדר בהם דיפ־פייק שיטעה את הציבור. לאחרונה נודע על מבצע של דאעש שיצר פייק של חדשות והקים ערוצי יוטיוב מזויפים ואמינים ושידר בהם. לארגוני טרור יש תיאורטית יכולת לייצר סרטון של דו"צ או של מגישי חדשות ידועים, להגיד דבר שהאדם לא אמר וליצור בהלה. האם תוצאות מהלך כזה יהיו דרמטיות? זה תלוי בקונטקסט, אבל כך או כך - ישראל לא מוכנה לתרחישים האלה, כאמור".
מדינת ישראל תשתמש בדיפ־פייק מול אויביה?
"אף שדווח כי דוח של 'OpenAI' קישר את משרד התפוצות לקמפיין השפעה פרו־ישראלי, אני לא חושבת שמדינת ישראל תשתמש בדיפ־פייק מול אויביה. ליצור סרטון של נסראללה פונה ללוחמיו כדי שיתפרקו מנשקם? נראה שלא. מומחים שהשתתפו אצלנו בסימולציה סברו שהפצת פייק מצד המדינה אינה מהווה התנהגות מדינתית. אבל האם בטווח הרחוק ישראל תצא למבצע השפעה ברשת? אולי, כי העולם עובר למגרש הזה. לא מזמן התקיים בארה"ב כנס שכלל פאנל בנושא תודעה והשפעה, ומומחים בתחום טענו שארה"ב טועה כשהיא משאירה את הזירה הזו רק לשחקניות כמו סין ורוסיה. יש מי שמבינים שאלה כללי משחק החדשים".
הפורום הכלכלי העולמי כבר הגדיר את המידע המוטה, ודיפ־פייק בתוכו, כגורם הסיכון הגדול ביותר לעולם בשנתיים הקרובות. איך תתפתח התופעה?
"לפייק ולדיפ־פייק יש עוצמה גדולה, אולי הגדולה ביותר בהיסטוריה, בעיקר בגלל עוצמת הרשתות החברתיות. הטכנולוגיות שבהן נעשה שימוש מתעצמות ומשתכללות, ואיתן גם היקף השימוש ברשתות החברתיות. השילוב שלהם ביחד יכול להיות נפיץ.
"דיפ־פייק הוא גם גורם בעל עוצמות אדירות בתחום של זיוף וגניבת זהויות. לאנשים כבר יש אפשרות לכתוב מייל בסגנון של אדם מסוים, או לזייף את קולו וקטעי וידאו שלו גם בזמן שיחה אמיתית. המכלול הזה עשוי להוביל לקושי גדול בתחומים של התנהלות יומיומית מול בנקים ומוסדות אחרים.
"ראינו גם ניסיונות להשתקת עיתונאיות בעולם על ידי פרסום סרטוני פורנו מזויפים ב'כיכובן'. זה נכון גם לגבי סלבריטאיות ונשים מן השורה. האיומים הללו יפתחו, לדעתי, שוק משמעותי למוצרים חדשים בתחום הגנה על הזהות, בדיוק כפי שאנחנו מגינים על מידע וחומרים אחרים מאחורי חומות הגנה או בכספת. בלי זה, יהיה לנו קשה מאוד להתנהל בעולם החדש".
להצעות ולתגובות: Ranp@israelhayom.co.il
