Lžou děti o svém věku? Instagram nasadí do boje umělou inteligenci

Meta je v poslední době pod značným tlakem. Kritika na adresu společnosti míří ze strany rodičů i zákonodárců kvůli negativním vlivům sociálních sítí na psychické zdraví dospívajících. Nasazení AI má firmě pomoci situaci vyřešit, jak uvedla Alice Hartnettová, ředitelka produktového managementu Mety pro mládež a sociální dopady.

Nový softwarový nástroj, který Meta vyvíjí pod názvem „klasifikátor dospělých“, využívá podle Bloombergu AI k tomu, aby na základě údajů o profilu a chování na platformě rozpoznal uživatele mladší 18 let.

Tato technologie dokáže v praxi analyzovat různé aspekty účtu, od seznamu sledujících až po typ obsahu, který uživatel vyhledává. Dokonce i příspěvky přátel, jako jsou narozeninová přání, mohou klasifikátoru poskytnout informace k odhadu věku.

V případě, že nástroj zjistí, že některý uživatel může být mladší 18 let, zařadí jeho profil automaticky mezi účty pro dospívající. V praxi tak mladiství budou vystaveni přísnějšímu nastavení ochrany soukromí bez ohledu na to, kolik let si na svém profilu uvedli.

V září 2023 představil Instagram nové typy účtů určené speciálně pro mladistvé, kde jsou omezena nastavení soukromí a přístup k některým funkcím – například kdo může uživateli posílat zprávy a jaké typy obsahu si může zobrazovat. Meta ovšem neuvedla, jak přesná nová AI technologie je.

Již nyní Meta automaticky přepíná účty dospívajících do přísnějšího režimu na základě vlastních údajů o narozeninách, ale pomocí nového klasifikátoru dospělých plánuje jít ještě dál a začátkem příštího roku zavést systém, který by měl lépe identifikovat ty, kteří pravidla obcházejí.

Podle Hartnettové bude každý uživatel mladší 18 let automaticky přiřazen do účtu pro náctileté, avšak u šestnáctiletých a starších bude možnost si přísnější ochranu vypnout. Ti mladší 16 let budou k vypnutí potřebovat souhlas rodičů.

Hartnettová dodala, že nové účty pro dospívající jsou zatím dostupné jen ve Spojených státech a několika dalších zemích, přičemž počet mladistvých, kteří lžou o svém věku, zatím zůstává nižší, než společnost očekávala.

Zavedení nových opatření bude výzvou. Studie britského telekomunikačního úřadu ukázala, že třetina nezletilých na sociálních sítích uvádí věk 18 a více, aby obešla omezení. Meta má nicméně k dispozici obrovské množství informací, které lidé sdílí v aplikacích, a může tak analyzovat nejen jejich sociální okruh, ale také záliby a obsahové preference.

Meta čelí rostoucímu počtu žalob generálních prokurátorů v různých amerických státech. Ti tvrdí, že společnost se vědomě snažila upoutat děti k sociálním sítím, a tím nepřímo přispěla ke vzniku krize duševního zdraví mezi dospívajícími. Rodiče viní Metu z toho, že jejich děti čelily obsahu, který jim poškodil psychiku, a že některé z nich dokonce spáchaly sebevraždu či byly ovlivněny nebezpečnými trendy na sociálních sítích společnosti.

V roce 2021 zaměstnankyně Mety Frances Haugenová zveřejnila tisíce interních dokumentů, které ukázaly, že společnost si byla vědoma negativních dopadů svého vlivu, zejména na duševní zdraví mladých dívek používajících Instagram. Tyto dokumenty vzbudily vlnu kritiky a vyústily v tlak na zavedení přísnějších pravidel pro mladistvé na sociálních sítích.