"על ישראל לגבש מדיניות בתחום הבינה המלאכותית, ויפה שעה אחת קודם". כך טוענת ד"ר לירן ענתבי, חוקרת במכון למחקרי ביטחון לאומי (INSS), במחקר חדשני שפרסמה לאחרונה, ובשבוע שעבר תורגם לשפה האנגלית.
לפי ד"ר ענתבי, גיבוש מדיניות ישראלית בתחום מתפתח זה הוא לא פחות מקריטי לביטחונה הלאומי של ישראל, שכן לדבריה, מדינת ישראל היא אחת המדינות המובילות בעולם בפיתוח, ובמקביל, היא ניצבת בפני אתגרים משמעותיים שלטכנולוגיה יש חלק ניכר. לדבריה, הדבר מתחדד נוכח העובדה שישראל (כמעט) חסרה משאבים טבעיים, וחוסנה הכלכלי נשען במידה רבה על תעשיית ההיי-טק.
בראיון מיוחד לרגל פרסום מחקרה באנגלית, מציינת ענתבי כי יש להקים גוף שיינהל את תחום הבינה המלאכותית ברמה הלאומית. נכון להיום, הנושא בטיפול על ידי ועדה שהוקמה לבקשתו של ראש הממשלה, אבל הנושא מתעכב, "ואנחנו לא יכולים להרשות לעצמנו להתעכב בנושא הזה".
אז מה זו בכלל בינה מלאכותית?
"אין הגדרה אחת לבינה מלאכותית, אבל במסגרת המחקר בינה מלאכותית היא שם כולל למערכות מחשב מבוססות נתונים, שמסוגלות להפיק ידע ותובנות חדשים באמצעות יכולות כמו הבנה, הנמקה ותפישה - שעד כה נתפשו כיכולות הייחודיות לבני אנוש".
תוכלי לתת דוגמה צבאית?
"יש הרבה דוגמאות לשימוש בבינה מלאכותית בתחום הצבאי כבר כיום. מערכות מודיעיניות שיודעות לאסוף ולנתח טקסט; מערכות מודיעיניות שמסוגלות לזהות פנים ודמויות בווידאו; יכולות המראה ונחיתה אוטונומיות של כלי טייס בלתי מאוישים ויש כמובן מערכות נשק אוטונומיות שהן תחום מאוד מעניין ומטריד".
למה מטריד?
"כי מדובר במערכות שהולכות ומתפתחות בקצב גובר. חלקן עושות דברים נהדרים בתחום ההגנה, כמו כיפת ברזל למשל, שמסוגלת לזהות שיגורים של רקטות וליירט אותן, ופועלת בקצבים מעל לקצה גבול היכולת האנושית.
"מצד שני, יש מערכות שהן קטלניות והן לא נגד חומר (רקטה), אלא נגד אדם, ואז נכנסות שאלות משפטיות ומוסריות מאוד מורכבות שצריך לבחון. מערכת שיודעת לאתר, לזהות, לעקוב ובסוף גם לבצע פעולה קטלנית כנגד אדם, מבלי שאדם אחר מעורב בכך, זה לא דבר של מה בכך".
אז למה בעצם בינה מלאכותית חשובה כל כך לביטחון הלאומי של ישראל?
"היא חשובה עבור היתרון הצבאי שלה על פני אויביה, וכמענה לאתגרים הביטחוניים הרבים שיש לה במסגרת ביטחון שוטף, במסגרת המב"מ (המערכה שבין המלחמות. ל"ש) ובמסגרת התמודדות עם מבצעים או אפילו מלחמות. מעבר לזה עשויות להיות לה השפעות הרתעתיות מרחיקות לכת בתחומים ביטחוניים קלאסיים".
מה המצב של ישראל היום בתחום, ביחס למדינות העולם?
"בעשור האחרון ישראל היוותה את אחת המדינות המובילות בתחומים של בינה מלאכותית, כמו למשל בתחומים הקשורים לפענוח תמונה ווידיאו או לנהיגה אוטונומית, עם חברות כמו מובילאיי ואחרות. אבל ההובלה הישראלית מתחילה להישחק, בין היתר בעקבות התחרות הקשה שמתרחשת בעולם בין המעצמות החזקות.
"ב-2017 ולדימיר פוטין אמר שמי שיוביל בבינה המלאכותית ישלוט בעולם. לא ינצח, לא יוביל, לא יכריע - ישלוט. פשוט כך. במדינות רבות יש כבר תוכניות סדורות והשקעת כספים ממשלתית מוכוונת ומושכלת בנושא הזה. ההבנה של המעצמות המובילות, שזה הדבר החשוב להשקיע בו כיום, יוצר מירוץ חימוש של ממש, שבא לידי ביטוי בטכנולוגיות מחומשות ולא מחומשות, שעשויה להיות להן השפעה אסטרטגית"
מה זאת אומרת מירוץ חימוש? ממש כמו בצבירת ראשי נפץ גרעיניים או ארסנל של טנקים?
"זה דומה אבל שונה. זה דומה לנשק גרעיני למשל, בהיבטים של הרתעה ויצירתה של מלחמה קרה, או של מערכות שאנחנו ממש לא רוצים שישתמשו בהן ויש להן השפעה הרתעתית.
"זה שונה משום שמירוץ החימוש לא רק צבאי. ההובלה יכולה להיות במגוון תחומים, כמו לדוגמה בתחומים של דיפ פייק ופייק ניוז, שיכולים להשפיע על תודעה ומערכות בחירות. חוץ מזה המירוץ גם כלכלי, בגלל שמדובר בטכנולוגיה לשימוש כפול (צבאי ואזרחי).
איזה מדינות לדעתך מנהלות הכי טוב את נושא הבינה המלאכותית?
"אני מסתכלת די בקנאה על ארצות הברית. יש להם את החסרונות שלהם, שהם רבים ומגוונים ויש לנו כל מיני יתרונות מולם. אך עצם העובדה שיש להם גוף כמו JAIC - Joint Artificial Intelligence Center, שמנהל את כל מה שקשור בבינה מלאכותית עבור משרד ההגנה האמריקני - זה דבר מרשים.
"לא מדובר רק על ניהול של משאבים או הקצאת תקציבים, אלא גוף שעוסק בעניין לעומק. למשל הם העסיקו קבוצה של מומחים שחיברה קוד אתי בנוגע לשימוש בבינה מלאכותית בתחום הביטחוני. זה מעורר הערכה. מי שסבור שזה לא נחוץ, פשוט לא מבין את האתגרים שהתחום הזה מביא ועוד יביא איתו".
החשש העיקרי - מלחמת יתר שהיינו רוצים למנוע
הזכרת שלא מדובר רק בהקשר הביטחוני, יש נושאים לא ביטחונים שהם חשובים בעינייך בהקשר הזה?
"בהחלט! בינה מלאכותית ביחד עם טכנולוגיות נילוות, כמו האינטרנט של הדברים למשל, מובילות כבר היום למהפכה בתחום העבודה והייצור, שיש הערכות שהיא המהפכה התעשייתית הבאה.
"כפי שקורה בכל מהפכה תעשייתית, גם כאן יהיה מיכון מאסיבי של משרות ותפקידים והדבר הזה ישפיע בצורה משמעותית על המשק. בכמה וכמה מדינות בעולם כבר דנים בנושאים הללו בגלל שזה עלול להוביל לגלי אבטלה ולשינוי בכל חלוקת העושר במדינות.
"אם מדינה רוצה להמשיך להתפרנס, היא צריכה לחשוב על מס הכנסה לרובוטים. זה ביטוי משעשע אבל הכוונה היא לשינוי בצורות המיסוי לצד הכשרת אותם אנשים, שהמשרות שלהם עתידות להעלם, למשרות שכן יהיו נחוצות בעשורים הקרובים".
אז מה ישראל צריכה או יכולה לעשות כדי להשפיע לטובה על הביטחון הלאומי שלה?
"במחקר יש הרבה מאוד המלצות עבור ישראל. חשוב להגיד שאת כתיבתו ליוותה ועדה של מומחים מהזירה הביטחונית, האקדמית והתעשייתית. אליהם התלוותה סקירת חומרים רבים מהארץ ומהעולם, בעיקר ארה"ב והאיחוד האירופי. ליקטנו המלצות טובות ייחודיות לאקו-סיסטם הישראלי ולאתגרים המאפיינים את הזמן והמקום.
"בין ההמלצות החשובות והדחופות ביותר היא ניסוח אסטרטגיה לאומית לבינה מלאכותית והקמת גוף שינהל אותה ברמה הלאומית. מעבר לכך, יש צורך בתוכנית רב-שנתית לבינה מלאכותית, כמו זו הקיימת בתחום הסייבר. בנוסף, חשוב ליצור פתרון לאומי לסוגיות תשתית (חומרה, ענן, חיבור לאינטרנט).
"ההמלצות שאני אישית הכי אוהבת הן מסוג הדברים הקטנים שעושים את ההבדל, כמו לבחון שילוב מיידי של בינה מלאכותית בתחומים טכנולוגיים ביטחוניים בהם לישראל יש כבר עכשיו יתרון יחסי על מנת לייצר מכפיל כוח, לדוגמת מל"טים וסייבר, או הכשרה של כח אדם לא טכנולוגי מהמגזר הביטחוני להכיר ולהתמודד עם הנושא.
"בכלל כל מה שקשור במשאבי אנוש וניהולם בצורה הרבה יותר נכונה ממה שנעשה היום, משום שמלבד התשתיות זה מהווה צוואר בקבוק מאוד משמעותי, שיש עליו תחרות קשה".
איזה נקודות הכי חשובות בהקשר הזה לצה"ל למשל?
"אני חושבת שצריך חשיפה הרבה יותר נרחבת של מפקדים בדרגים השונים לא רק לטכנולוגיה, אלא גם להבנה העמוקה יותר של איך היא פועלת ועל מה צריך לחשוב בעקבות זה.
"בנוסף אני מאמינה, שנקודה חשובה מאוד עבור צה"ל זה לקבל החלטות מקדימות בכל הנוגע למקומו של האדם בחוג ההפעלה. זה מתחיל ברמת המפקד שאחראי לפעולת המערכת, שכדאי שיבין בהטיות ובבעיות שעשויות לצוץ בה כדי שיוכל למנוע אותן, ועד רמת המהנדס שמתכנן את המערכת שידאג שיהיו בה ממשקים שיאפשרו לאותו מפקד להיות באמת אפקטיבי ולא סתם ניצב.
"הסוגיה של איפה להשאיר אדם ואיפה לא זו כבר שאלה אסטרטגית משמעותית מאוד, שכן אדם עשוי ליצור חוסר דיוקים או האטה. מצד שני יש מקומות שלא נרצה לוותר על האדם, משום שהמערכות הללו עדיין לא הוכיחו אמינות מספקת, והן טרם פועלות על פי שיקולי מוסריות. יש גם מי שמטיל ספק ביכולת שלהן לפעול על פי חוק. חוץ מזה רצוי לשמר יתירות מסויימת על ידי תמהיל אדם-מכונה. ובשורה התחתונה יש חשש ברמה הגבוהה יותר של מלחמת יתר שאנחנו רוצים למנוע".
מה זו מלחמת יתר?
"תופעה של שרשרת פעולות שיתבצעו במהירות מעל לקצה גבול היכולת האנושית על ידי מכונות ויובילו למלחמה שאיש לא התכוון אליה, אולי אפילו תוך הפעלה של מערכות אחרות כמו נשק גרעיני".
אז בשורה התחתונה, בינה מלאכותית זה טוב או רע?
"אני אופטימיסטית ומאמינה במקומו של האדם בתהליך הזה ובכלל מאמינה במדינה שלנו. אם נדע לנהל את התהליך הזה נכון, כפי שידענו לנהל תהליכים טכנולוגיים בעבר, בינה מלאכותית יכולה להוות הזדמנות אדירה למדינת ישראל בכלל ולביטחון שלה בפרט".
