המשטרה בצפון חוקרת חשד לפיו צעיר שלאחרונה סיים את לימודיו בתיכון יצר באמצעות בינה מלאכותית (AI) תמונות עירום של צעירות שלמדו איתו בשכבה והפיץ אותן בטלגרם כמעשה נקמה.
את תמונות פניהן הוריד החשוד מהרשתות החברתיות, ובאמצעות תוכנות מסוימות יצר תמונות פורנוגרפיות. את התמונות הוא הפיץ, בין היתר, בטלגרם. הורי התלמידות הגישו תלונה במשטרה, שבעקבותיה הנער נעצר ושוחרר בתנאים מגבילים.
המקרה של הצעיר שערך והפיץ את התמונות התרחש זמן קצר לאחר שהמעורבים סיימו את הלימודים במערכת החינוך, והם נמצאים לפני גיוס לצה"ל. למרות שכבר סיימו את הלימודים החליטו התלמידות שנפגעו לערב, בין היתר, את המורות והמנהלת של בית הספר ואלו עדכנו את הורי השכבה.
יצירת תמונה פיקטיבית, בטח תמונה פורנוגרפית והפצתה מהווה עבירה פלילית, עם זאת ספר החוקים עדיין לא הותאם במלואו לעבירות ספציפיות של שימוש בבינה מלאכותית, יצירה והפצה של תמונות עירום. צעירים רבים וגם מבוגרים לא מודעים לסכנות הרבות שטמונות בבינה המלאכותית – נושא שבישראל עדיין נמצא בחיתוליו.
"סוג חדש של תוכן פוגעני"
על רקע התרחשות המקרה בקרב תלמידים שזה עתה סיימו 12 שנות לימוד במערכת החינוך עולה השאלה מה עושה משרד החינוך ומערכת החינוך על מנת ללמד את התלמידים להימנע משימוש פסול בטכנולוגיה.
לדברי ד״ר עמיר גפן, חוקר ומרצה באוניברסיטת בר אילן ויועץ אקדמי של המכון ליישומי בינה מלאכותית: "שימוש בטכנולוגיה ברשת ליצירת תכנים פוגעניים היא לא דבר חדש, אנחנו כבר שנים מתמודדים עם הנושא הזה של בריונות רשת. מה השתנה? בשנה וחצי האחרונות יש לכולנו גישה לכלים טכנולוגיים מאוד מתקדמים של בינה מלאכותית יוצרת.
"בשימוש נבון זה יופי של דבר, אך כשרותמים את הטכנולוגיה ליצירת תוכן פוגעני אנחנו מקבלים סוג חדש של פגיעה שהיא מאוד מורכבת וקשה. לפני הבינה המלאכותית היינו רואים מצב שלוקחים תמונה של ילד או ילדה ובאמצעות פוטו-שופ ודומיו היו יוצרים תוכן פוגעני. היום בעידן הבינה המלאכותית האיכות הטכנולוגית מאוד התקדמה מה שמאפשר לתוכן המזויף להראות אמתי לחלוטין וגם אנשי מקצוע מתקשים לקבוע בוודאות האם היא אוטנטית או מזויפת. זה נעשה זה באמצעות שני קליקים במחשב ולא צריך להיות מומחה".
עד כמה משרד החינוך שם דגש?
"משרד החינוך מאוד מוטרד מהדבר הזה. התופעה כבר קרתה בבתי ספר רבים. מה שמשרד החינוך עושה הוא להסביר לתלמידים את הפוגענות של הדבר הזה ומעבר לכך מדובר בהטרדה מינית שהיא עבירה פלילית. אין נתונים אבל להערכתי כמעט בכל בית ספר מורים נאלצו להתמודד עם התופעה הזאת של הפצת תמונה מזויפת, לרוב אינטימית. בכמה מביתי הספר נעשתה פעולה של מניעה והסברה – אני מעריך שמספר השיעורים שהתקיימו בכיתות עם תלמידים בהיבט הספציפי הזה של יצירת תוכן פוגעני באמצעות בינה מלאכותית היא נמוכה, אבל זה בעשייה כי יש מודעות לבעיה".
"הבעיה בחינוך - ולא בטכנולוגיה"
"מי שעשה את המעשה מבין היטב את הסכנות, הבעיה היא אינה הטכנולוגיה אלא החינוך לערכים במערכת החינוך. אומר פרופ' מאיר פדר, ראש המרכז לבינה מלאכותית באוניברסיטת תל אביב.
"בכלים האלה ניתן להשתמש לטוב ולרע - לצערנו העולם עדיין לא מצא דרך למנוע שימוש לרעה בכלים האלו. בינה מלאכותית נחשבת כלי מסוכן אבל צריך ללמוד אנשים להיות טובים. בבתי ספר לא צריכים ללמד מה בינה מלאכותית יכולה לעשות, התלמידים יודעים להשתמש בכלים. בתי ספר צריכים לחנך ילדים להיות אנשים טובים. מי שעשה את זה הבין את ההשלכות הרעות, הוא הבין שזה דבר רע – לא צריך לתלות הכל בבינה המלאכותית. בתי ספר צריכים לחנך – וזה מה שהכי חסר לנו היום. צריך לחנך לערכים ושאנשים יבדילו בין טוב ורע, לא להיות בריונים מול החברים".
מבית הספר נמסר בתגובה: "מדובר באירוע מורכב וקשה, אנו עוטפים את הבוגרים והבוגרות שלנו ונותנים מענה למצוקה שלהם. שתי הבוגרות בחרו לפנות למחנכות שלהן גם לאחר שסיימו את שנות לימודיהן בבית הספר ובית הספר ימשיך לתת להן מקום ומעטפת של תמיכה וביטחון וימשיך להוות עבורן בית ספר לחיים. ליווינו אותן במתן תלונה במשטרה ונמשיך לתמוך בהן גם בהמשך. אנחנו בטוחים כי המשטרה תעשה את המוטל עליה ותמצא את האשם. לשמחתנו, התמונות הוסרו מהרשת.
"השינויים הרבים שאנו חווים מאז כניסת הבינה המלאכותית לחיינו מדגישים בפנינו את גודל האחריות העומדת בפני אנשי חינוך בימים אלו. אנו מבקשים מההורים לשים לב במהלך החופש הגדול לכל התנהגות ולמרות שהתלמידים אינם נמצאים פיזית בבית הספר, להמשיך לערב ולשתף אותנו, הצוות החינוכי, כדי שנוכל לתמוך בהם גם בחופשה".
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו