Umělá inteligence udělala z ukrajinské youtuberky Rusku propagující čínsko-ruské přátelství

„Nechci, aby si někdo myslel, že jsem někdy v životě řekla tyhle hrozné věci. Použít ukrajinskou dívku jako tvář propagující Rusko. To je šílené, “ stěžuje si Loieková.

„Viděla jsem svůj obličej a slyšela svůj hlas. Ale bylo to celé velmi děsivé, protože jsem viděla, jak říkám věci, které jsem nikdy neřekla,“ řekla BBC jednadvacetiletá dívka, která studuje na Pensylvánské univerzitě.

Účty s její podobiznou měly desítky různých jmen, například Sofia, Nataša, April nebo Stacy. Tyto „dívky“ mluvily mandarínštinou, kterou Olga neovládá. Měly být zřejmě z Ruska a hovořily o čínsko-ruském přátelství nebo inzerovaly ruské výrobky.

„Asi 90 % obsahu videí bylo o Číně a Rusku, o čínsko-ruském přátelství, o tom, že musíme být silnými spojenci, a také to byly reklamy na potraviny.“

Účet „Nataša dováží potraviny“ sledovalo přes 300 tisíc uživatelů. Na něm takzvaná Nataša tvrdila, že Rusko je nejlepší země. „Je smutné, že se ostatní země od Ruska odvracejí a ruské ženy chtějí do Číny,“ tvrdil Olžin „online klon“ předtím, než začal propagovat ruské cukrovinky.

To rozzuřilo zejména rodinu ukrajinské studentky, která stále žije v napadené zemi.

Na jiném účtu „umělá Olga“ tvrdila, jak moc se ruské ženy chtějí vdávat za čínské muže.

„Když se oženíte s ruskými ženami, budeme vám každý den prát prádlo, vařit a mýt nádobí,“ tvrdila podobizna. „Také vám dáme cizí děti, kolik budete chtít,“ citoval z účtů na čínských sociálních sítích v dalším článku o Olžině případu Voice of America.

Olžiny mandarínsky mluvící dvojnice stvořené umělou inteligencí začaly vznikat v roce 2023 krátce poté, co si založila kanál na YouTube, který není příliš pravidelně aktualizován.

Asi o měsíc později začala dostávat zprávy od lidí, kteří tvrdili, že ji viděli mluvit mandarínsky na čínských sociálních sítích. To ji zaujalo a začala pátrat. Své umělé podoby objevila na Xiaohongshu - platformě podobné Instagramu - a na Bilibili, což je stránka s videoobsahem podobná YouTube. Celkem se jí podařilo objevit asi 35 účtů zneužívajících její podobu a hlas.

Poté, co snoubenec mladé Ukrajinky informace o těchto účtech zveřejnil, ozvala se dvojici firma HeyGen, která podle vlastního tvrzení vyvinula nástroj používaný k vytváření podobizen s umělou inteligencí. Ta uvedla, že s využitím Olžiny tváře bylo vytvořeno více než 4900 videí a že znemožnila další zneužití její identity.

Mluvčí společnosti pro BBC uvedl, že její systém byl napaden za účelem vytvoření tzv. neautorizovaného obsahu. Firma podle něj okamžitě aktualizovala své bezpečnostní a ověřovací protokoly, aby zabránila dalšímu zneužití své platformy.

Angela Zhangová z Hongkongské univerzity ale britské stanici řekla, že k podobným případům v Číně dochází „velmi běžné“. Čínské statistiky za rok 2023 ukazují, že úřady zatkly 515 osob za činnost spojenou s „výměnou obličejů umělou inteligencí“. Některé případy se už dostaly před čínské soudy.

Čínská státní média replikují ruský pohled na invazi na Ukrajinu, sociální sítě běžně cenzurují diskuse o válce. Pokud falešné účty obsahují sdělení, která jsou v souladu se státní propagandou, rozhodně jim to prospívá, podotkla pro BBC Emmie Hineová, odbornice na oblast práva a technologií z Boloňské univerzity. Snižuje to pravděpodobnost, že takové příspěvky budou odstraněny.

Podle Hineové se jedinec zatím příliš bránit nemůže. „Jediné, co můžeme udělat, je neposkytovat jim žádný materiál, se kterým by mohli pracovat: nenahrávat své fotografie, videa ani zvukové záznamy na veřejné sociální sítě,“ uvedla.