בעידן הדיגיטלי המתפתח במהירות מסחררת, הבינה המלאכותית (AI) מציבה אתגרים מורכבים ומטרידים בכל הנוגע לשימור הזיכרון ההיסטורי, ובמיוחד בהקשר הרגיש והחשוב של זיכרון השואה.
דו"ח מקיף וחדש שפורסם לאחרונה על ידי אונסק"ו, ארגון החינוך, המדע והתרבות של האו"ם, מתריע בחריפות כי טכנולוגיות מתקדמות של בינה מלאכותית עלולות להפוך לכלי רב עוצמה בידיהם של גורמים עוינים, המבקשים להפיץ דיסאינפורמציה, לעוות את ההיסטוריה, ואף לקדם רעיונות מסוכנים של הכחשת שואה.
ההתפרעות של המפגינים הפרו פלשתינים באונ' קולומביה. חינוך לקוי מוביל לתוצרים אנטישמיים שעלולים להחמיר // צילום: רשתות חברתיות
עדויות מזויפות ועיוות נתונים
הדו"ח המטריד של אונסק"ו חושף מגוון רחב של סכנות פוטנציאליות הנובעות משימוש לרעה בטכנולוגיות בינה מלאכותית, כאשר בראש ובראשונה, קיים חשש ממשי מפני יצירת תוכן מטעה ומעוות אודות השואה.
מודלים מתקדמים של בינה מלאכותית, הניזונים ממאגרי מידע פגומים או חלקיים, עלולים לייצר מידע שגוי ומסולף, שעלול להטעות את הציבור הרחב ולעוות את ההבנה ההיסטורית של האירועים.
סכנה נוספת שעולה מהדו"ח היא האפשרות ליצירת עדויות מזויפות של ניצולי שואה. טכנולוגיות מתקדמות כמו "דיפ פייק" מאפשרות יצירת סרטונים ותיעוד קולי מזויף, שעלולים להציג עדויות פיקטיביות או לעוות עדויות אמיתיות. הדבר עלול לזרוע בלבול ולערער על אמינותן של עדויות אותנטיות, ובכך לפגוע בזיכרון הקולקטיבי של השואה.
יתרה מזאת, הדו"ח מצביע על נטייתן של מערכות בינה מלאכותית לפשט מידע מורכב. בהקשר של השואה, פישוט יתר עלול להוביל להבנה שטחית ומוטעית של אירועים היסטוריים מורכבים, ולהשמיט היבטים חשובים ומשמעותיים של התקופה.
"מסתכנים בהתפשטות מסוכנת של אנטישמיות"
לדבריה של אודרה אזולאי, מנכ"לית אונסק"ו, "אם נאפשר לעובדות המחרידות של השואה להיות מדוללות, מעוותות או מזויפות באמצעות שימוש בלתי אחראי בבינה מלאכותית, אנו מסתכנים בהתפשטות מסוכנת של אנטישמיות ובירידה הדרגתית בהבנתנו את הגורמים וההשלכות של הזוועות שהתרחשו. הדור הצעיר חייב לגדול על בסיס עובדות היסטוריות מוצקות, ולא על סיפורי מעשיות מפוקפקים".
במקביל, בארגון קראו לשיתוף פעולה נרחב בין חברות הטכנולוגיה המובילות לבין קהילות יהודיות, ניצולי שואה, אנשי חינוך ומומחים בתחום, במטרה להבטיח כי פיתוח כלי בינה מלאכותית הקשורים לשואה ייעשה באופן אחראי, מדויק ורגיש.
לצד האזהרות, יש גם תקווה
לצד האזהרות, הדו"ח מצביע גם על הפוטנציאל החיובי של בינה מלאכותית בתחום חקר השואה, כאשר טכנולוגיות מתקדמות יכולות לסייע בארגון וניתוח של מאות אלפי עדויות ניצולים, ולפתוח ערוצי מחקר חדשים.
בשיחה עם "ישראל היום", מסבירה ד"ר יעל ריצ'לר פרידמן, המנהלת הפדגוגית של המרכז הבין-לאומי להוראת השואה ב"יד ושם" כי הארגון מודע היטב לבעיה שנוצרה ומנסה לענות עליה על ידי אימוץ כלי AI משל עצמו וקידום המחקר בתחום.
"הצלחנו לחלץ שמות חדשים של נספים שלא היו מוכרים עד כה ולהכליל אותם בתוך מאגר שמות קורבנות השואה של יד ושם. זוהי דוגמה לאופן שבו ניתן לרתום את הטכנולוגיה לטובת שימור הזיכרון והנצחת הקורבנות", כך לדבריה.
ריצ'לר פרידמן טוענת כי "התקווה היא שכמו בכניסתה של כל טכנולוגיה חדשה, השימושים החיוביים יגברו, יתרמו ויעשירו יותר מאשר ישמשו ליצירת מניפולציות. יחד עם זאת, עלינו להישאר ערניים ולפעול באופן אקטיבי כדי להבטיח שהטכנולוגיה תשרת את המטרה הנעלה של שימור זיכרון השואה לדורות הבאים".
"בעידן שבו המידע זמין יותר מאי פעם, אך גם פגיע יותר למניפולציות, האתגר של שמירה על אמינות המידע ההיסטורי הופך למורכב ומשמעותי מתמיד. הדו"ח של אונסק"ו מהווה קריאת השכמה חשובה, המזכירה לנו את החובה המוסרית והחינוכית לשמר את זיכרון השואה באופן אותנטי ומדויק, גם בעידן הדיגיטלי", היא מסכמת.
