Snímky sexuálního zneužívání dětí generované pomocí AI se šíří jako lavina. Mají pomoci nové zákony

Bezpečnost na internetu je velkým tématem už roky. V souvislosti s umělou inteligencí se obava v řadách policie a bojovníků za bezpečnost na internetu o to víc stupňuje.

Ve snaze pomoct s tímto problémem bude nově ve Velké Británii nezákonné vlastnit, vytvářet nebo distribuovat nástroje umělé inteligence určené k vytváření materiálů se sexuálním zneužíváním dětí.

Podle webu BBC osobám, které budou shledány vinnými, může hrozit až pět let vězení.

Nezákonné by mělo být také držení příruček, které potenciální pachatele učí, jak používat nástroje umělé inteligence k vytváření obrazových materiálů zneužívajících děti nebo k pomoci při jejich zneužívání, za což jim hrozí trest odnětí svobody až na tři roky.

„Vidíme, že umělá inteligence nyní dává online zneužívání dětí na novou úroveň,“ řekla ministryně vnitra Yvette Cooperová pro BBC.

„Umělá inteligence industrializuje rozsah sexuálního zneužívání dětí. Vládní opatření možná budou nakonec ještě rozsáhlejší,“ dodala.

Nové zákony jsou reakcí na mnohá varování, včetně těch od nadace Internet Watch Foundation (IWF), která potvrdila, že využívání nástrojů umělé inteligence při vytváření snímků sexuálního zneužívání dětí se během jednoho roku více než zčtyřnásobilo.

Organizace během loňského výzkumu během 30 dnů našla na jediné dark webové stránce 3512 snímků pořízených umělou inteligencí. Ve srovnání s měsícem v předchozím roce se počet snímků nejzávažnější kategorie (kategorie A) zvýšil o 10 %, píše The Guardian.

Ačkoliv pachatelé vytvářeli snímky pomocí AI na základě nereálných lidí, vyskytly se i případy, kdy byly použity reálné tváře dětí nebo jejich skutečné hlasy.

Tyto snímky pak použili k vydírání dětí a jejich nucení do dalších zneužívajících situací.

Národní agentura pro boj proti trestné činnosti (NCA) uvedla, že každý měsíc dochází k osmi stovkám zatčení v souvislosti s vyhrožováním dětem na internetu. V celé Velké Británii je pak přes 800 tisíc dospělých osob, které představují pro děti nebezpečí – jak online, tak offline, což je 1,6 % dospělé populace.

„Máte pachatele, kteří využívají umělou inteligenci, aby jim pomohla více ohrožovat nebo vydírat dospívající a děti. Zkreslují obrázky a využívají je k tomu, aby mladé lidi vtáhli do dalšího zneužívání. Prostě se dějí ty nejstrašnější věci a jsou také stále sadističtější,“ vysvětluje Cooperová.

Nová opatření by měla být zavedena v rámci návrhu zákona o trestné činnosti a policii, který ještě nebyl předložen parlamentu, někteří odborníci si ale myslí, že by vláda mohla jít ještě dál. I přesto zákony vítají.

„Určitě je třeba udělat více pro to, aby se zabránilo zneužívání technologií umělé inteligence, tato nová opatření ale vítáme. Věříme, že nové zákony mohou být důležitým výchozím bodem,“ uzavřel prozatímní výkonný ředitel IWF Derek Ray-Hill.