פייסבוק הסירה בסוף השבוע את מה שהיא כינתה "רשת תמיכה עולמית" של יותר מ-900 חשבונות, עמודים וקבוצות מפייסבוק ומאינסטגרם, שהשתמשה בדרכי הונאה כדי לקדם מסרים ונרטיבים לכ-55 מיליון משתמשים בעד הנשיא טראמפ.
הרשת השתמשה בחשבונות מזויפים, וככל הנראה תמונות פרופיל מזויפות שנוצרו באמצעות בינה מלאכותית, כדי להציף מסרים מקטבים ותוכן ימני קיצוני ברשת, לרבות בטוויטר וביוטיוב (שאינן כמובן בשליטת פייסבוק).
המגזין WIRED שדיווח על הפרשה, מציין כי מדובר בהתפתחות מסוכנת וחדשה במלחמות המידע, שכן נראה שמדובר בפעם הראשונה ביישום בקנה מידה רחב של תמונות שזויפו באמצעות בינה מלאכותית ברשת חברתית. בטכנולוגיה נעשה שימוש כדי להגביר את האמינות של 610 חשבונות פייסבוק, 156 קבוצות, 89 עמודים ו-72 חשבונות אינסטגרם, כולם מקושרים עם כלי תקשורת עלום שנקרא The BL, שתיאר את עצמו כ"מעיין הרים טהור, המלחלח את ליבו של כל קורא". חקירה של פייסבוק קישרה את The BL לאפוק טיימס, ארגון תקשורת שמרני, עם קשרים לתנועה הסינית הרוחנית הפאלון גונג והיסטוריה של תמיכה אגרסיבית בטראמפ.
הארגון, שנחזה לארגון תקשורת אמריקני, העמודים של ה-BL הופעלו על ידי משתמשים בויטנאם ובארצות הברית, שהם אלה שהפעילו את החשבונות המזוייפים, כדי להמנע מגילוי. מחקר מצא כי מרבית החשבונות הפעילו אשכול של 80 קבוצות ועמודים המקדמים את טראמפ, והיו רשומים כמנהלים של עמודים שהתהדרו בשמות כמו "אמריקה זקוקה לנשיא טראמפ", "טראמפ לנשיאות ארצות הברית", ו-"אנחנו עומדים עם טראמפ ופנס!" – כולם היו מזוייפים ונוצרו ככל הנראה בוויטנאם.
"חשבונות מזוייפים שימשו כמנהלים של קבוצות פייסבוק כמנהלים של קבוצות פייסבוק, הגדילו את מספר החברים בהן, עשו לייקים לעמודים ופרסמו כמות גדולה של תוכן מ-The BL ונכסים קשורים", מציין דו"ח בנושא.
לטענת החוקרים, רבים מהפרופילים האלה השתמשו בתמונות שנראה שיוצרו בידי רשת נוירונית, שאומנה עם תמונות של בני אדם אמיתיים ליצירת פנים מזוייפות. על אף שהבינה המלאכותית מסוגלת להטעות אנשים רבים ביצירת פנים שבמבט שטחי נראים אנושיים, ישנם סימנים מעידים שאותם תפסו החוקרים: חיקוי הבעות לא מוצלח, ויצירה של פרטים סימטריים מדי שלא קיימים במציאות.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו
