רבים רואים בבינה המלאכותית כמקור להתפתחות טכנולוגית של בני האדם, אך נראה שיש כאלה שבוחרים להשתמש בכוח שלה לרעה – כשלפי ה-FBI, נרשמה עלייה בקצב מדאיג במספר האנשים שמשתמשים בבינה המלאכותית על מנת לבצע מתקופת פישינג או לפחות תוכנות זדוניות, וגם בעוצמת הפגיעות.
דוגמה לדבר ניתן לראות בלקיחת מודל בסיסי, כמו מערכת הלאמה 2 הטרייה של מטא, ולאמן אותו כדי לבצע דוקומנטציה כפי שתרצו, על מנת שתוכלו לגרום למסמכים שלכם להיות אמיתיים ככל האפשר לפי הצרכים שלכם, כמו יצירת מסמכים מזויפים לשם השעשוע, יציאה למסע ברשת האפלה או זיוף למטרות זדוניות.
התוקף יכול לבנות אתר שלם באופן אוטומטי, מערכת דואר אלקטרוני, ליצור מערכת שלמה בתהליך וכזו שמצליחה להתעלות על יכולות ההגנה ברשת, כך שאלה לא יהיו חזקות מספיק מול המתקפה הזדונית. ה-FBI אמנם לא ציין שמות ספציפיים של מערכות כאלו, אך הודעת הארגון עצמה משמשת כמעין הודאה בחומרת המצב.
ה-FBI אף הביע דאגה בכל הנוגע לאבטחה מסביב לפרופיליזציה של טכנולוגיית בינה מלאכותית גנרטיבית, בה ניתן להשתמש בטכנולוגיית דיפ-פייק בצורה גבוהה למדי. ראוי לציין כי עם הזמן צפויות להתפתח תוכנות וטכניקות שיאפשרו לכל אחד שיש ברשותו מודל AI פרטי כדי לשפר את הפרופיליזציה.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו