הקלטה: הספרייה המרכזית לעיוורים ולבעלי לקויות קריאה, צילום: יהושע יוסף
איתי ברון
סגן ראש המכון למחקרי ביטחון לאומי (INSS)
תא"ל במיל', לשעבר רח"ט מחקר באמ"ן. ראש תוכנית ליפקין־שחק לבחינת ההשלכות של תופעות פוסט־אמת ופייק ניוז על הביטחון הלאומי והדמוקרטיה
איתי ברון, בוודאי ראית את הפרסומת החדשה שבה לכאורה קם ספי ריבלין לתחייה באמצעות טכנולוגיית "דיפ־פייק", שלרוב משמשת ליצירת סרטוני וידאו, ומבוססת בינה מלאכותית. מה חשבת?
"קיים ויכוח מסוים סביב הפרסומת הזאת, אבל למען האמת - אני לא רואה איתה שום בעיה, זה נהדר בעיניי".
לא פגיעה בכבוד המת?
"אפשר לראות בזה גם סוג של הנצחה, וזו רק ההתחלה. אני חושב שננציח אנשים באמצעות הטכנולוגיה הזאת, ואף נוכל לשאול אותם שאלות ולערוך איתם שיחות. השלכות נוספות יהיו בתחום האקדמיה, החינוך והרפואה. כך, למשל, לא מזמן פורסם שחוקרים יצרו סרטוני 'פייק' כדי לאמן רשתות אלגוריתמים לסייע בהתמודדות עם מחלת האלצהיימר".
זה הצד האופטימי של המשוואה. מנגד, טכנולוגיות דיפ־פייק הוכרזו ב־2019 על ידי ארגוני המודיעין האמריקניים כאיום אסטרטגי, אולי הגדול ביותר, על הביטחון הלאומי. אכן מדובר בסכנה גדולה עד כדי כך?
"תגובת הארגונים האמריקניים הגיעה אחרי שהקומיקאי ג'ורדן פיל יצר סרטון שבו נראה הנשיא לשעבר, ברק אובאמה, מנבל את פיו על הנשיא דונלד טראמפ. סרטון אחר הציג את יו"ר בית הנבחרים, ננסי פלוסי, כשיכורה. כשראשי סוכנויות הביטחון הלאומי הציגו את האיומים הגלובליים על ארה"ב - אז לצד צפון קוריאה, איראן ודאעש ניצב גם השימוש בדיפ־פייק, כמו גם טכנולוגיות דומות שמשלבות בינה מלאכותית. עם זאת, למרות היותה של טכנולוגיית הדיפ־פייק בשלה יחסית, עדיין לא ראינו אירוע ביטחון לאומי משמעותי שנגרם בגינה".
איך אתה מסביר את זה?
"אולי, בין השאר, כי אין בכך ממש צורך. ניתן לרשום הישגים גם על ידי מה שנקרא 'צ'יפ־פייק' - כלומר עיוותים, שקרים ותיאוריות קונספירציה בטכנולוגיה נחותה יותר".
דינמיקה של הסלמה. מבצע צוק איתן, 2014 // צילום: מרים צחי
כמו למשל באירוע שהתרחש בשנת 2019, שבו פרסם חמאס סרטון של ירי נ"ט נגד רכב ישראלי. זה הביא להפסקת תנועת הרכבות באזור העוטף, והסרטון אף שודר בתקשורת הישראלית.
"האירוע הזה בבסיסו הוא אמיתי, ירו טיל נ"ט על רכב ישראלי ואף נהרג שם אזרח ישראלי. אבל מה שבעיקר ראינו שם זו הדבקה גסה וזולה של חמאס בהתייחס לתנועת הרכבות מעל הגשר שבו התרחש האירוע".
מציאות מרובה
סיימת את תפקידך כרח"ט מחקר באמ"ן ב־2015, וציינת שטכנולוגיית הדיפ־פייק עוד לא הבשילה אז. בכל זאת, תוכל לתת על בסיס הטכנולוגיה הזאת תרחיש ייחוס שעלול לפגוע בביטחון הלאומי?
"לדוגמה, אם במהלך עימות מופץ סרטון שבו ניתנת לאוכלוסייה הוראה שאינה נכונה. למשל, חיזבאללה עלול להפיץ סרטון של דובר צה"ל שאומר לתושבים לא להתייחס לאזעקות. זה ייצור בלבול גדול. דוגמה נוספת, שהחוקרת שלנו ענבל אורפז הביאה במחקר שפורסם בתחילת החודש ועסק בכל נושא הדיפ־פייק, היא הקלטה שהופצה בחודש מארס השנה, שבה נשמעת לכאורה ביקורת של מנכ"ל שיבא, פרופ' יצחק קרייס, על התנהלות מנכ"ל משרד הבריאות ורה"מ נתניהו. דוברות שיבא הכחישה, ואף על פי שאני מניח שאכן מדובר בזיוף, אני מוכרח להגיד שכמי שמכיר את קרייס - הקול שבהקלטה דומה עד מאוד לקולו שלו. הקלטות מהסוג הזה עלולות לערער לחלוטין את האמון במקבלי ההחלטות".
בהקשר לדוגמה שהבאת, בנוגע להפצת הוראות מטעות של חיזבאללה, אנחנו רואים כבר עתה שימוש במניפולציות של הצד השני באירועי אמת, כמו למשל בשיגור הרקטות של חמאס לפני כשבוע. הפלשתינים טענו שהירי נגרם בגלל מכת ברק שיצר חשמל סטטי, או חלחול מי גשמים לעמדת השיגור.
"הסוגיה הזאת נוגעת כבר במהי אמת. בסופו של דבר היה שיגור, לגבי זה אין ויכוח. לא ברור אם זה קרה בגלל תקלה או שמא מדובר בשיגור יזום. אני לא יודע מה קרה שם, אבל אני כן משוכנע שכאשר מערכת הביטחון אומרת שזו טעות, תקלה, אז יש לה מידע אותנטי ומשמעותי בנוגע לכך.
"אבל בעיניי, בתור אזרח מודאג, זה חלק מהסימפטום: ההסכמה המהירה, הפריימינג המהיר של האירוע כטעות. ברור אגב שזה נוח לכולם - להנהגה הישראלית, לחמאס, לגורמים אחרים בעזה.
מניפולציות ועיוותים. פעילי חיזבאללה // צילום: רויטרס
"כשקורה שיגור כזה, מותר לנו כאזרחים לחשוב האם ייתכן שמיצוב המקרה כתקלה הוא פועל יוצא של הסכמה מהירה מדי לסגור את האירוע. מותר לנו כאזרחים מודאגים לתהות האם ייתכן שזה מה שמאפיין את העידן הזה, את עידן הפוסט אמת. עידן שבו יש קושי הולך וגובר לברר את המציאות, להבינה ולקבל החלטות. אנחנו מאפיינים את העידן הזה כעידן שיש בו ריבוי אמיתות. זה מאפשר יכולת לחיות עם כמה סיפורים קוהרנטיים על המציאות. בעידן של היום אין תיאוריה מופרכת שאי אפשר למצוא לה גיבוי עובדתי".
תזה ייחודית שלכם היא שגם חדרי הביטחון הלאומי לא חסינים לכאוס המידע שבחוץ.
"חדרי הביטחון הלאומי, שהוקמו על ידי דמוקרטיות מערביות ליברליות כדי להבין את המציאות בצורה המדויקת ביותר ולקבל החלטות, אכן אינם חסינים. דמיין לך את השולחן שסביבו יושבים הבכירים. לחדרי קבלת ההחלטות הללו נכנסים היום אוסף של גורמים וסיבות שמקשים מאוד, לטענתי, על היכולת לברר את המציאות לאשורה, ולקבל החלטות לפיה. תחשוב על הממשלה של ביבי וגנץ, יש שם ויכוח פוליטי עמוק בתוך החדר. אי אפשר להניח שהוא לא משפיע על קבלת ההחלטות, גם החלטות שקשורות בביטחון לאומי.
"פעם, כשרח"ט מחקר הציג באותם חדרי ביטחון לאומי, לא היתה סיבה לפקפק שהניתוח שלו הוא מקצועי, ניטרלי. היום המצב מורכב יותר: למשל בארה"ב, כשטראמפ נמצא בעימות חריף עם קהילת המודיעין שלו; אבל גם בישראל כאשר הדרגים המקצועיים נתפסים כמשרתים של איזושהי אג'נדה, והם הרוויחו את זה ביושר - כי הם עשו טעויות רבות בכל התחומים - בביטחון הלאומי, במודיעין, ברפואה בתחבורה ועוד. כשמפסיקים לחפש את האמת זה מסוכן לביטחון הלאומי".
הרגשת את זה כרח"ט מחקר?
"הרגשתי שחדרי הביטחון הלאומי הפכו לא פעם למעין אקווריום. תופעת האקווריום היא כפולה: היא הופכת את חדרי הביטחון הלאומי, הקבינט למשל, שבעבר נחשבו סודיים ומבודדים, לכמעט 'שקופים': מבפנים רואים מה קורה בחוץ, מבינים מה חושבים שם ויודעים כיצד ההחלטות תישפטנה; ומבחוץ רואים לפעמים מה קורה בפנים - בגלל הודעות רשמיות והדלפות. יש כמובן דיונים חסויים וסודיים אבל במשברים התופעה הזאת ניכרת. גנץ כרמטכ"ל, למשל, הציג מצגת בקבינט, וחמש דקות אחר כך היא הודלפה לציבור. מקבל החלטות שיושב בחדר מבין שרואים אותו, וזה יוצר רעש שמקשה על הריכוז. קבלת ההחלטה הנכונה מתקשרת לפתע לשאלה מה יהיו התגובות בחוץ, זה משבש את תהליך קבלת ההחלטות".
בהיותך רח"ט מחקר בצוק איתן, תופעת האקווריום השפיעה על תהליך קבלת ההחלטות?
"כן. היא תרמה לדינמיקת ההסלמה שהתרחשה בשני הצדדים, ואולי גם להתמשכות המבצע. אגב, זה לא בהכרח רע, כי בדמוקרטיה ליברלית נכון כמובן שהציבור ישפיע. אבל, עוצמת התופעה יוצרת סוג של 'רעש', כפי שאמרתי, שמפריע לתהליך ועלול לשבש אותו. זאת לא תופעה חדשה, אבל העוצמה שלה גדולה מבעבר עקב השינויים הטכנולוגיים והעצמת הוויכוח הפוליטי. אני חושב שגם בתהליכי קבלת ההחלטות בקורונה אנחנו רואים השפעה דומה כאשר שיקולים פוליטיים ופרסונליים חודרים לתוך תהליכי קבלת ההחלטות, לדוגמה בעת פתיחת מוסדות החינוך, סוגיית ההקלות סביב הקורונה, היציאה המהירה מהסגר הראשון וסוגיית הסגר הלילי".
אתה סבור שארגוני ביטחון לאומי נתפסו לא מוכנים? במקום שמהפכת המידע תאפשר למודיעין להבין ולדעת בצורה טובה יותר, היא יצרה נקודת תורפה?
"לא. זה מורכב. מהפכת המידע מאפשרת לאסוף מידע בכמויות ובאיכויות שלא חלמנו עליהן, את ליבת הסודות של הצד השני. היא גם מאפשרת עיבוד והפצה מהירים של המידע. במקביל, התגלה גם הפן השלילי - שלפיו גם הצד השני מסוגל לדברים הללו.
מזהים את הזיוף? אובאמה־פייק
"היכולת שלנו לדעת השתפרה בצורה מטורפת. אך האם היכולת שלנו להבין את המידע השתפרה בהתאם? לטענתי לא. לכך צריך להוסיף שהעולם נהיה מסובך יותר. מהפכת המידע יוצרת אתגרים גדולים, היא מערערת מבנים ארגוניים ויוצרת הזדמנויות שמחייבות שינוי. אלא שארגוני ביטחון לאומי ובתוכם קהילות מודיעין הם ארגונים די שמרניים.
"אין לנו היום מנגנונים מספיק טובים לעולם החדש. המנגנון שלפיו מכניסים מגוון דעות לחדר ומנהלים ויכוח - לא עובד מספיק טוב, כי הוא בדיוק הפלטפורמה שעל גבה נכנסים הדיפ־פייק והפייק. חונכנו ששוק הרעיונות צריך להיות חופשי, אבל זו גם הפלטפורמה שמכניסה עיוותים שונים לתוך החדר".
שקר רב־משמעות
לרשתות החברתיות יש חלק חשוב בדברים שאתה מתאר.
"השבוע, בכנס השנתי של תוכנית ליפקין־שחק שעסק בביטחון לאומי, פייק ניוז והקרב על התודעה בעידן הדיגיטלי, התקיים פאנל על ענקיות הטכנולוגיה כשחקניות ביטחון לאומי. עד כה הענקיות הציגו את עצמן כפלטפורמה שלא עוסקת בתוכן, כלומר שוק רעיונות חופשי באקסטרים. בימים האחרונים לפני הבחירות בארה"ב היו רשתות טלוויזיה ורשתות חברתיות שציינו בנוגע להכרזות הניצחון של טראמפ 'זה שקר'. התערבותן בתוכן זה בגדר מעט מדי, מאוחר מדי, פתטי מדי ומסוכן נורא. אבל ברגע המשברי הזה, שבו המנגנונים הקדומים קרסו והמנגנונים החדשים טרם התעצבו, אז הרשתות החברתיות והטלוויזיות אומרות 'רגע - יש דברים שהם במובהק שקרים', וזה שינוי רב־משמעות.
ברקים בשמי עזה, השבוע // צילום: אי.פי.אי
"במובן הזה הן הופכות להיות שחקניות שמערערות על היכולת של מנהיג העולם, שפעם קראנו לו החופשי, לתווך את המציאות לאזרחי העולם. הן מחזיקות בידיהן מידע רב, ולפיכך בעלות השפעה רבה. כך, למשל, אם ניקח דוגמה מישראל, כשמשרד המשפטים רוצה להוריד פוסט מסוים, עליו לבקש מהרשתות החברתיות הרלוונטיות. זאת אומרת, מגיעה מדינה ומבקשת מהריבון החדש, פייסבוק או טוויטר, להוריד ציוץ או פוסט, למחוק חשבון. במובן הזה, כולם מבינים שנדרשת רגולציה, הסדרה של שוק הרעיונות החופשי. הבעיה היא שאיש לא יודע בדיוק איך עושים זאת".
הקורונה יכולה לסייע בכך?
"מה שקורה עכשיו עם הרשתות לא היה יכול לקרות בלי הקורונה, שהביאה בעיניי לכמה שינויים: הציבור השתוקק לעובדות. התקשורת, בלא מעט רגעים, הציבה בחזית את מי שהיא החשיבה כמומחים. גם הרשתות החברתיות בחרו צד והתחברו לבודקי עובדות. למשל, כשחיפשת בגוגל 'קורונה', הופנית לארגון הבריאות העולמי או למשרדי בריאות באזור שלך. גם מנהיגים זיהו שצריך לעבור לניהול מדעי של האירוע. הדברים האלה יצרו איזון לסביבה של הפייק והפוסט אמת, שלתוכה נכנס הדיפ־פייק. במובנים מסוימים, יש כאן התגייסות של מוסדות רבים שבאתוס שלהם ניצב רעיון בירור המציאות, על מנת להשיב מתקפת נגד לפייק ולדיפ־פייק".
ביידן? מנהיגות בספק
אבל עם כל הרצון הטוב, התקשורת הממוסדת, למשל, עוד לא יצרה פרקטיקה כדי להתמודד עם הפייקים למיניהם.
"זו בעיה של כשל שוק. לתקשורת הממוסדת, שהעניין הזה באמת משנה לה, אין כסף. ולמי שיש כסף, הרשתות החברתיות - עד לא מזמן זה לא עניין אותן, כי כאמור הן תפסו את עצמן כפלטפורמות. לכן יש פה כשל שוק. אני סבור שבסוף מי שיצטרך להשקיע בכך יהיו המדינות עצמן. אבל יכול להיות שאנחנו רואים כרגע שינוי, והרשתות מתחילות להתעסק בתוכן".
לסיכום, גם הדפוס והטלוויזיה הביאו לערעור מבנים מסורתיים, לפחד מאובדן שליטה וקץ הסולידריות. האם במקרה של הפייקים למיניהם האנושות תדע להתמודד עם נבואות הזעם על עידן פוסט האמת?
"אני חושב שכן. אבל ניצבת לפנינו תקופה קשה. התפיסה הליברלית מתקשה להתמודד עם אוסף הגורמים המשבשים. אבל אין לנו רעיון טוב יותר ולכן הליברליזם יצטרך להמציא את עצמו מחדש. הוא חייב לעשות זאת, ובסוף הוא יצליח בכך.
"האם ביידן הוא האיש שאמור להנהיג את הדמוקרטיות המערביות הליברליות אל עבר הנהגת הליברליזם מחדש? כנראה שלא. אני חושב שאנחנו במשבר גדול. האם נצליח לצאת ממנו? לדעתי כן. כמו רוב הליברלים, אני מאמין שלמרות הכל - העולם הולך בכיוון חיובי, אבל זה לא יקרה בלי שינויים גדולים במודל הנוכחי של הליברליזם, של שוק הרעיונות החופשי".
להצעות ולתגובות: Ranp@israelhayom.co.il
