מבקר המדינה אנגלמן, ביקר היום (רביעי) בכנס "שבוע הסייבר 2023" באוניברסיטת תל אביב והתייחס לנושא הבינה מלאכותית (AI), תחום שמאוד מעסיק את מדינות העולם ואת מגזרי הטכנולוגיה וההיי-טק בתקופה האחרונה. "לצד היתרונות הרבים של הבינה המלאכותית, היא טומנת בחובה גם סכנות להתעצמות ארגוני טרור ופשיעה. על מבקרי המדינות לבדוק שמדינות המערב, וישראל בתוכן, מוכנות לעידן ה- AI", טען אנגלמן.
בדבריו חשף המבקר, המכהן גם כסגן נשיא ארגון המבקרים האירופאי (EUROSAI), כי משרדו יתחיל בביקורת על מוכנות המדינה לעידן הבינה המלאכותית (AI), אשר תיעשה בשיתוף פעולה עם גורמים נוספים באירופה כדוגמת מבקר האיחוד האירופי ומבקרי המדינות של בריטניה, גרמניה ומדינות רבות נוספות.
אנגלמן טען כי "הביקורת תתמקד בשלושה היבטים בנוגע לפעולות הממשלה ולהיערכותה: התמודדות עם סיכוני הבינה המלאכותית בהיבט הטכנולוגי, קידום רגולציה וחקיקה ויישום כלי בינה מלאכותית במערכות ציבוריות-מדינתיות".
לדבריו, "הבינה המלאכותית עשויה להביא לכדי התקדמות טכנולוגית רחבת היקף בתחומים רבים אך לצדה קיימים סיכונים רבים ובהם "פייק ניוז", שימוש ב-AI ע"י גורמי טרור ופשיעה וההיערכות לשינויים הדרמטיים בשוק העבודה".
הוא הוסיף כי "בנושא הטכנולוגי נבדוק האם הממשלה מוכנה לטכנולוגיה החדשנית בהיבטי הממשל, יכולות המחשוב, ההון אנושי ועוד; בסוגיית הרגולציה והחקיקה נבדוק כיצד מגינה הממשלה על אזרחיה ועל עצמה על ידי הגבלת השימוש בטכנולוגיית AI שעלולה לגרום להשפעות שליליות ולחשוף את הציבור לסכנות. ההיבט השלישי הוא יישום בינה מלאכותית במערכות ציבוריות-מדינתיות. במסגרתו נבדוק האם וכיצד בינה מלאכותית מוטמעת בתוך מערכות המדינה - בריאות, משפט, ביטחון, חינוך וכו', לטובת כלל אזרחי ישראל".
אלוף ערן ניב, ראש אגף התקשוב וההגנה בסייבר בצה"ל, שנאם בכנס, התייחס בדבריו גם כן לתחום הבינה המלאכותית וציין את השפעותיה על שדה הקרב הנוכחי והעתידי: "בלי יסוד דיגיטלי חזק ואפקטיבי, לא ניתן יהיה לנהל מלחמה בשום תחום. בלי בסיס דיגיטלי חזק, לא נוכל לבצע אירועים גדולים".
לדבריו, "הבינה המלאכותית היא תופעה שהולכת וגדלה, בדגש על AI גנרטיבי. מדובר במהפכה המגדילה את יכולותינו ובמקביל גדלה גם ההסתמכות שלנו על תשתית דיגיטלית בכל התחומים. מעריך כי תוך שנים ספורות, כל מרחב הלוחמה יהיה מבוסס מידע ו-AI גנרטיבי"
"בשדה הקרב המודרני, כל אמצעי, כטב"מ, טנק, ספינה וכן הלאה, יכול להעביר מידע לכל אמצעי אחר והכל יהיה מחובר אחד לשני. זה החזון של הקמת מרחב דיגיטלי בשדה הקרב. התחום הדיגיטלי הופך את כל שאר תחומי הלוחמה לחזקים הרבה יותר, באוויר בים וביבשה", סיכם ניב.
בכנס דיבר גם גיא כספי, יו"ר חברת דיפ אינסטינקט, והתייחס לסיכוני סייבר הנוגעים לבינה מלאכותית: "תוך לא יותר מ-15 דקות אפשר לייצר באמצעות Chat GPT קבצים זדוניים והתקפות מתוחכמות ולעקוף את כל מנגנוני ההגנה המוכרים לנו. מי שבנה בחודשים האחרונים על טכנולוגיה של LLM ו-Open AI כפתרון הגנתי - טעה. זו טכנולוגיה מדהימה ללמידת שפה אבל זה מנגנון עצום ואיטי, שלא יכול למנוע מראש מתקפות סייבר במהירות הנדרשת".
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו