Interní dokumenty Facebooku odhalují neshody a neschopnost čelit nenávisti

Mimo jiné svědčí o neschopnosti platformy čelit nenávistnému obsahu v zemích, jako je Indie, kterým není věnována taková pozornost jako Spojeným státům. Také dokumentují frustraci mnohých zaměstnanců Facebooku, kteří v zákulisí vyjadřují výhrady vůči přístupu vedení k problematickému obsahu, který se na platformě objevuje.

Informace pocházejí z tisíců dokumentů, které z Facebooku vynesla bývalá zaměstnankyně Frances Haugenová. O části z nich informoval minulý měsíc deník The Wall Street Journal (WSJ) v sérii článků nazvané The Facebook Files, nyní na jeho práci navazuje projekt Facebook Papers, do něhož je zapojeno přes 15 redakcí včetně agentury AP, deníku The New York Times (NYT) nebo televizí CNN a NBC News. Výsledky spolupráce s Haugenovou, která se ve Facebooku podílela na opatřeních proti dezinformacím, začala média zveřejňovat o víkendu, zatím největší porce zjištění přišla v pondělí.

Nové články ukazují, že Facebook si uvědomuje rizika spojená se svými službami a věnuje značné prostředky studiu svých problémů od násilné rétoriky až po aktivity obchodníků s bílým masem. Stejně jako reportáže WSJ ale svědčí i o tom, že vedení sociální sítě mnohdy nenaslouchá doporučením svých vlastních výzkumníků, což vyvolává konflikty uvnitř společnosti.

Tyto neshody byly na interním firemním fóru obzvláště patrné při lednových nepokojích v sídle amerického Kongresu, které navazovaly na šíření dezinformací o výsledcích voleb, mimo jiné na Facebooku. „Do tohoto ohně jsme dlouho přilévali olej a neměli bychom být překvapeni, že se teď vymkl kontrole,” cituje AP tehdejší příspěvek jednoho ze zaměstnanců. „Jak máme ignorovat to, když vedení ruší úpravy pravidel založené na výzkumu, aby vyšlo vstříc lidem, jako jsou skupiny, které dnes podněcují násilí?” tázal se podle NBC News jiný.

Facebook v souvislosti s loňskými volbami v USA přijal řadu opatření ve snaze omezit násilnickou rétoriku a dosah dezinformací. Interní dokumenty ale popisují, že zaměstnanci krátce po volbách upozorňovali na rychlé šíření nepravdivých a zavádějících sdělení ohledně údajných manipulací s výsledky hlasování. Jeden nejmenovaný datový analytik necelý týden po konci hlasování informoval kolegy, že desetina všech zobrazení politicky laděného obsahu v USA se týkala příspěvků, které označovaly volby za podvodné.

To je jen jeden z mnoha střípků přibližujících neustálý boj Facebooku s toxickým obsahem na jeho platformách. Deník The Washington Post například poukazuje na nový údaj týkající se odstraňování nenávistných příspěvků. „Interní dokumenty ukazují, že její výzkumníci odhadli, že společnost odstraňuje méně než pět procent projevů nenávisti na Facebooku,” píše list.

Jak to může vypadat v praxi, pocítil na vlastní kůži jistý firemní analytik, který si na začátku roku 2019 založil testovací účet imaginárního obyvatele indického státu Kérala. Tři týdny pak následoval veškerá doporučení platformy ohledně vstupování do skupin či sledování videí a dalšího obsahu. Hlavní stránka účtu byla zaplavena „polarizujícím, nacionalistickým obsahem, dezinformacemi a násilím”, popsal výzkumník podle NYT ve zprávě o svém experimentu. „Při sledování hlavní stránky tohoto testovacího uživatele jsem za poslední tři týdny viděl víc snímků mrtvol, než jsem do té doby viděl za celý svůj život,” napsal autor.

Facebook a jeho různé platformy se v Indii potýkají například s přívalem obsahu namířeného proti muslimské populaci, přičemž podle uniklých materiálů měla v posledních letech reakce technologického giganta značné mezery. Proti dezinformacím a projevům nenávisti postupoval Facebook „selektivně” a neměl dostatek moderátorů mluvících místními jazyky nebo mechanismy na hlášení problematického obsahu, píše AP. Indie je se 340 miliony uživatelů pro Facebook největším trhem, podle jednoho z dokumentů od Haugenové ale společnost 87 procent svého rozpočtu pro identifikaci dezinformací vyčleňuje pro Spojené státy.

Na nová zjištění amerických médií v pondělí reagoval šéf společnosti Mark Zuckerberg. „Kritika s dobrými úmysly nám pomáhá se zlepšovat, ale z mého pohledu jsme svědky koordinované snahy selektivně využít uniklé dokumenty k vytvoření falešného obrázku o naší společnosti,” cituje ho televize CNN. „Skutečnost je taková, že u nás panuje otevřené prostředí, které podporuje debaty a výzkum ohledně naší práce, abychom dokázali dělat pokrok v mnoha složitých otázkách, které se netýkají pouze nás,” pokračoval Zuckerberg.

Vyjádření zaznělo při prezentaci výsledků Facebooku za třetí čtvrtletí, které přineslo další růst zisku i tržeb společnosti. Čistý zisk meziročně narostl o 17 procent na 9,2 miliardy dolarů (přes 200 miliard Kč).