"הפכתי אדישה לפורנוגרפיית ילדים"

אז איך זה לעבוד כמצנזר של תכנים אלימים וקשים מהרשת החברתית פייסבוק? איך זה לסנן אלפי תכנים כאלה כל יום? תשובה לכך נותנת שרה כץ (27) שעבדה במטה החברה במנלו פארק במשך שמונה מחודשים ב-2016. לדבריה, עבודתה גרמה לה להיות אדישה לאלימות ולפורנוגרפיית ילדים כיון ש"אתה צריך לראות כל 10 שניות תלונה חדשה ולקבל החלטות. אתה ככה עובר ביום על 8000 תלונות הכוללות אלימות גרפית קשה, תמונות עירום ופורנוגרפיה, ואתה לאט לאט נעשה קהה לזה. עם זאת מדובר בעבודה חשובה שאף בינה מלאכותית או מחשב יכולה לעשות", מדגישה כץ. "בכל דבר יש ניואנסים וצריך בסוף אדם שיחליט מה לעשות ומה לא". 

המציאות שמתארת כץ, רק התעצמה עם השנים כשבשנת 2018 גייסה פייסבוק עוד 3,000 עובדים חדשים כדי לסמן פוסטים וכדי לחסום חשבונות שעוברים על החוק ומלאים בתוכן פוגעני. החברה גם משקיעה המון בתוכנות בינה מלאכותית כדי שזו תסייע למצנזרים שלה בעבודתם ותמחק כבר לבדה תמונות מטרידות שיזוהו מראש. מדובר בעבודת ענק כי על פי נתונים שנמסרו מתחילת השנה 21 מיליון פוסטים עם תוכן קשה הוסרו, מתוך מיליארדי הפוסטים שמתפרסמים ברשת החברתית שלה. 

שרה כץ, מציינת כי מלכתחילה היא הוחתמה על חוזה שהסביר לה כי היא תיחשף לתכנים מהסוג הזה ויתכן שהיא תיפגע. היא גם מציינת שהיתה אחווה של ממש בין המצנזרים, שראו בעבודה שלהם עבודת קודש. "הייתה הרבה פורנוגרפיה, הרבה תכנים שאסור שיהיו משותפים ברשת. אתה צריך ממש לקבל החלטות כל כמה שניות וככה אתה עושה". עם זאת היא מציינת כי "אתה צריך לעמוד ביעדים יומיים. אם אתה לא עומד אז בפעמיים הראשונות אתה מוזהר, ובפעם השלישית אתה מפוטר. אני לא ראיתי אדם שפוטר אבל העובדה הזו ידועה לנו", מספרת כץ. 

עוד היא מספרת כי חומרים קשים הכוללים פעילות מינית של ילדים, מופיעים כל פעם מחדש בחשבונות שונים מכל מיני מקומות בעולם. "אתה מזהה את התמונה ורואה שכל פעם היא מגיעה מחשבון מזויף אחר. בכל מקרה לא היינו צריכים לדווח על אנשים ששיתפו את החומרים האלו אלא רק לנטר את החשבונות", אומרת הצנזורית לשעבר. "אם זה היה חשבון חדש שפועל רק 30 יום אז היינו משביתים אותו כי הוא מזויף. אם זה חשבון קיים אמיתי, אז פשוט רק מחקנו את התוכן. זה ממש הרגיז אותי שאנחנו לא מדווחים על האנשים האלה", היא מציינת. 

העדות הזו של שרה כץ, עומדת בניגוד לדיווח של חברת פייסבוק עצמה שהודיעה עוד בשנת 2012 כי היא מדווחת על שיתופים של חומר פוגעני לגורמים חיצוניים. אלא ששרה כץ עצמה אומרת שהיא לא הייתה מודעת לנוהל כזה אלא רק למחיקה של התכנים הבעייתיים. 

פייסבוק עצמה סירבה להתייחס לטענה הזו, שהופיעה בראיון של שרה באתר ביזנס אינסיידר. בכל מקרה מהעדות עולה כי מאמצי פייסבוק בינתיים לבנות בינה מלאכותית שתזהה תכנים בעייתיים מהסוג הזה בינתיים לא נוחלים הצלחה, דבר שגם מארק צוקרברג רמז עליו בעדותו בקונגרס.

שרה כץ עצמה עובדת היום כאנליסטית של בטחון סייבר בחברת מחשוב הענן  ServiceNow. היא גם הוציאה ספר מדע בדיוני בשם 'איפקס חמש' שמתבסס על חוויותיה בפייסבוק. "אני אמנם נפגעתי אבל מדובר בעבודה מאד חשובה שרק אנשים מסוגלים לעשות ולא בינה מלאכותית", היא מדגישה.

 

טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו