Článek
Poprask vypukl ve městě Almendralejo v jihozápadním Španělsku, které má 30 000 obyvatel. Většina lidí se tu tedy alespoň od pohledu zná, což se ukázalo jako největší problém.
K fotomontážím neznámý jedinec využívá fotografie skutečných nezletilých dívek, které získá například na sociálních sítích. Ty pomocí AI vysvleče a výsledné fotomontáže pak šíří po síti, jak uvedl server El País.
Policie již mají několik možných pachatelů a vše naznačuje tomu, že případ ve Španělsku utichne stejně rychle, jako se rozvířil. Bezpečnostní experti ale již několik posledních měsíců upozorňují na to, že pornografie vytvářená umělou inteligencí představuje stále rostoucí problém.
Nahé fotky nezletilých dívek ze španělského města vytvořila umělá inteligence. Vyšetřuje to policie
Deník The Washington Post (WP) varoval již letos v červnu, že se množí případy, kdy generátory obrázků zneužívají pedofilové – na dark webu proběhla doslova „exploze znepokojivě realistických snímků ukazujících sexuální vykořisťování dětí“.
Pro generování obrázků se často využívají programy jako Stable Diffusion, DALL-E nebo Mindjourney. Tyto aplikace, které jsou volně dostupné, umožňují vytvářet přesvědčivě působící obrázky různých témat během několika sekund. Využívají miliardy obrázků získaných z internetu včetně fotografií skutečných dětí, upozorňuje WP.
Provozovatelé systémů umělé inteligence se snaží proti podobnému zneužívání bojovat, ale predátoři jsou evidentně o krok před nimi. Platformy DALL-E a Mindjourney sice mají tvorbu sexuálního obsahu zakázanou, další programy se ale dají stáhnout přímo do počítače.
Co je to dark web?
Dark web je nepřístupná část internetu, ke které je možné připojit se pouze se specializovaným softwarem – prostřednictvím platformy TOR.
Internetový černý trh dlouhá léta slouží k objednávání hackerských útoků, získávání škodlivých kódů, ale například také k obchodování se zbraněmi, drogami či právě odcizenými daty.
Někteří uživatelé dark webu dokonce sdílejí podrobné instrukce, jak si takové snímky mohou sami generovat pedofilové.
Odborníci, kteří se věnují ochraně dětí před zneužíváním, proto vyjadřují obavy, že tento nový fenomén zkomplikuje pátrání po obětech. Systémy totiž budou přeplněny novým obsahem vytvořeným umělou inteligencí.
„Když se policie snaží najít dítě v ohrožení, už nyní představuje identifikace obětí hledání jehly v kupce sena. Kvůli systémům umělé inteligence to ale nyní bude ještě větší výzva,“ varovala Rebecca Portnoffová, datová analytička neziskové organizace Thorn.
Je to trestné
I když se může zdát dětská pornografie vygenerovaná umělou inteligencí jako neškodná, protože tak nebylo ublíženo žádnému dítěti, stále je nelegální, jak upozorňuje WP. Uživatelé, kteří takový obsah vytvářejí nebo sdílejí, tedy musejí počítat s tím, že budou mít oplétačky se zákonem.
Neplatí to přitom pouze o USA, kde článek WP vyvolal velkou veřejnou diskusi. Přísné zákony jsou i v Česku. Letos v létě například potrestal klatovský soud muže půlročním vězením s podmíněným odkladem na 20 měsíců kvůli tomu, že měl v mobilu kreslené obrázky s dětskou pornografií.
I kreslené dětské porno je trestné. Muž z Klatovska dostal podmínku
