כללי הצנזורה של פייסבוק עדיין לא שלמים, והם משתנים ממדינה למדינה. מה שיותר לפרסום בפייסבוק במדינה אחת, ייאסר במדינה אחרת. כך עולה מתחקיר על התנהלות צוות הניטור של פייסבוק שביצע העיתון ניו יורק טיימס.
פייסבוק נאבקת עכשיו להחזיר לעצמה את האמינות שאבדה לאחר שהואשמה בפגיעה בדמוקרטיה ובעידוד שפיכות דמים בקהילות, קטנות וגדולות. לדברי העיתון, פייסבוק המרוויחה 5 מיליארד דולרים נטו בכל רבעון, חייבת להוכיח שהיא רצינית בהסרת תוכן מסוכן ובמקביל עליה להמשיך למשוך עוד משתמשים ממדינות נוספות, ולהשאיר אותם באתר כמה שיותר. עובדי הניטור, שמספרם יותר מ-7,500 איש, מקבלים פעם בשבועיים עידכון למדיניות החברה במצגת פאוארפוינט, המפרטת מה אסור ומה מותר.
לפי העיתון, צוות של מהנדסים ועורכי דין מתכנס פעם בשבועיים לדיון על נושאים במחלוקת, ומעדכן את ההנחיות לכל העובדים בניטור תוכן בהיקף של מיליארדי רשומות במאה שפות כל יום. "זה כמו לנסות לתקן את המטוס בעודו באוויר", קובע הניו יורק טיימס.
התקנות הנוקשות מחזקות את כוחה של פייסבוק לשמש מעין צנזור לשיח הציבורי העולמי, הרבה מעבר לדעה הרווחת בעולם ומעל למה שהחברה מוכנה להודות. לידי העיתון הגיעו יותר מ-1,400 עמודים של ספרי התקנות, וניתוח של התקנות מעלה כי יש פערים רבים, דעות קדומות וגם שגיאות, שאיפשרו שפה בוטה וקיצונית בכמה מדינות, בעוד שבאחרות שיח שיגרתי מצונזר. כך למשל המנטרים נדרשו להסיר קריאות לתרומות עבור קורבנות התפרצות הר געש באינדונזיה, רק משום שאחד מנותני החסות להתרמה היה ברשימת גופים מוחרמים של הרשת החברתית.
לדברי העיתון, המנטרים, רובם מהנדסים צעירים ועורכי דין, מנסים לזקק נושאים מורכבים ביותר לקביעה בינאריות ופשטניות של "כן" ו"לא". החברה גם מסתייעת במיקור חוץ לניטור הרשומות, והחברות החיצוניות מגייסות עובדים לא מיומנים, העובדים במרכזיות שירות טלפוניות במקביל.
מנטרים אלה מסתמכים במקרים לא מעטים על תרגום אוטומטי של גוגל, ועומדות לרשותם שניות בודדות כדי להחיל את התקנות הרבות על מאות רשומות, העוברות על המסכים שלהם בכל משמרת. המשימה שלהם כמעט בלתי אפשרית בתנאים האלה, כאשר הם צריכים לבדוק בין היתר באיזה רקע מותר השימוש במילה "ג'יהאד" או מתי אמוג'י של "צחוק בוכה" הוא למעשה אות אזהרה.
אחד המנטרים, שביקש להישאר בעילום שם, אמר כי יש תסכול רב מהתקנות, שאינן תמיד הגיוניות, ולפעמים הם נאלצים להשאיר באוויר רשומות, למרות שלפי דעתם הן עלולות להוביל לאלימות. "אתה מרגיש כאילו גרמת למותו של מישהו בכך שלא פעלת".
לדברי שרה וו, מהנדסת בכירה בתחום התוכן בפייסבוק, אומרת כי "אין זה מתפקידנו לתקן את אופן הביטוי של אנשים, אבל אנו רוצים לאכוף את הסטנדרטים של הקהילה שלנו בפלטפורמה. כאשר אתה בקהילה שלנו, אנו רוצים לוודא שאנו מוצאים את האיזון בין חופש הביטוי לבין ביטחון אישי".
מוניקה ביקרט, ראש תחום ניהול מדיניות גלובאלית, אמרה כי המטרה המרכזית היא למנוע פגיעה, ובכך החברה מצליחה. אבל שלמות, לדבריה, איננה בגדר האפשרי. "יש לנו מיליארדי רשומות בכל יום, ואנו מזהים יותר ויותר הפרות פוטנציאליות תוך שימוש במערכות האוטומטיות. אבל בהיקף העצום הזה, גם אם אתה מדייק ב-99 אחוזים, עדיין יהיו לך הרבה מאוד טעויות".
