Stalker zneužíval AI. Profesorce posílal domů sexuchtivé muže

Tento případ, podaný u federálního soudu v americkém státě Massachusetts, je nejspíše prvním, v němž je stalker obviněn z použití chatbota vydávajícího se za jeho oběť, aby si usnadnil páchání trestné činnosti, píše The Guardian.

James Florence více než šest let pronásledoval profesorku a bývalou kamarádku. Později také začal používat umělou inteligenci, díky které lákal neznámé muže do domu oběti a sliboval jim sex.

Podle soudních dokumentů, které viděl deník The Guardian, pachatel využíval AI platformy jako CrushOn.ai nebo JanitorAI. Ty uživatelům umožňují navrhovat vlastní chatboty a učit je, jak mají během chatu reagovat na ostatní uživatele, a to i sexuálně sugestivním a explicitním způsobem.

Stalker u soudu přiznal, že použil jak osobní, tak profesní údaje oběti, včetně její přesné adresy bydliště, data narození, historie zaměstnání nebo informací o rodině.

Chatboti v přestrojení za profesorku, jejíž identita je v rámci trestního řízení utajena, například odpovídali ano, pokud se uživatel zeptal, zda je sexuálně dobrodružná. Umělá inteligence také navrhovala uživatelům, jestli se nechtějí stavit u ženy doma. To vedlo k tomu, že cizí lidé zajížděli na její příjezdovou cestu a parkovali před jejím domem.

Společnosti JanitorAI.com a CrushOn.ai na žádosti o komentář od The Guardian nereagovaly.

Dle webu The Gruardian pachatel také ukradl z domu oběti spodní prádlo a její fotografie využíval, aby se s ostatními na internetu zapojil do vzájemných sexuálních fantazií.

Kromě vydávání se za oběť pomocí chatbotů využíval pachatel k obtěžování a ponižování profesorky i různé další online platformy. Podle soudních dokumentů si vytvářel účty na sociálních sítích, e-mailové adresy a webové stránky, aby se za oběť vydával nebo šířil její explicitní, photoshopem upravené snímky.

Jednalo se především o účty na serverech Craigslist, X (dříve Twitter), Reddit, Linktree nebo webové stránky ladies.exposed, na nichž se zobrazovaly fotokoláže obsahující zmanipulované snímky oběti a její osobní údaje, jako je adresa bydliště a telefonní číslo.

Ke stalkování a obtěžování docházelo v letech 2017 až 2024. Podle soudních dokumentů se vystupňovalo do té míry, že oběť a její manžel sdělili orgánům činným v trestním řízení, že se necítí fyzicky v bezpečí. Obávali se, že se pachatel nebo někdo, kdo si příspěvky prohlíží, objeví u nich doma.

„Případ vynáší na světlo nové a neuvěřitelně znepokojivé využití umělé inteligence, jak se lépe predátoři mohou zaměřit na své oběti,“ řekl Stefan Turkheimer, viceprezident pro veřejnou politiku neziskové organizace Rainn, která se zabývá bojem proti sexuálnímu násilí.

„Tento obžalovaný obtěžoval a vydíral lidi a to se děje odjakživa. Ale AI nástroje, které zde využil, skutečně vše mnohem zhoršily,“ dodal Turkheimer.

Stalking nebyl výsledkem individuální posedlosti profesorkou. Pachatel se zaměřil na šest dalších žen a jednu sedmnáctiletou dívku. Digitálně upravoval jejich fotografie tak, aby byly zobrazeny nahé nebo polonahé. Vydával se za ně na platformách, jako jsou OkCupid, X, Yahoo, Classmates.com, Facebook a eskortní webové stránky.

Využívání umělé inteligence k sexuálnímu obtěžování a zneužívání lidí, včetně dětí, je bohužel stále častější. Srpnová zpráva neziskové organizace Thorn zabývající se bezpečností dětí zjistila, že přibližně každý desátý nezletilý v USA ví o případech, kdy jeho kamarádi a spolužáci použili umělou inteligenci k vytvoření nepovolených intimních snímků jiného nezletilého.

„Existuje trvalý a rostoucí problém, kdy lidé využívají umělou inteligenci k tomu, aby jejich zneužívání bylo efektivnější a škody, které způsobují, rozsáhlejší,“ řekl Turkheimer s tím, že čím více lidí bude mít k této technologii přístup, tím více bude využívána k tomu, aby lidem škodila.