Deepfaky ohrožují evropské volby

Pojem deepfake je složeninou slov deep learning (hluboké učení, disciplína v rámci strojového učení) a fake, využívá umělé inteligence, která pomocí algoritmů a velkého množství zdrojových fotografií dokáže vytvořit model obličeje člověka, aniž by ho bylo potřeba skenovat.

Politici tak na podvodných videích mohou promlouvat vlastním hlasem, i když před kamerou ve skutečnosti vůbec nestáli. Vše je výplodem AI. „Tato možnost představuje významnou hrozbu pro integritu voleb tím, že šíří falešné informace, které by mohly ovlivnit výsledky,“ varoval Ondřej Šťáhlavský, regionální ředitel kyberbezpečnostní společnosti Fortinet pro střední a východní Evropu.

Pro voliče je totiž podle něj složité rozlišovat mezi skutečným obsahem a deepfaky. „To je obzvláště znepokojivé, protože deepfaky mohou napodobovat známé osoby a šířit dezinformace, které podkopávají důvěru v politické kandidáty a ovlivňují voliče,“ zdůraznil Šťáhlavský.

„Není vždy snadné vycítit, že něco není v pořádku, takže se voliči musí vyvarovat toho, aby byli snadno podvedeni. Je důležité vždy ověřit zdroj informací a hledat poznávací znamení, jako jsou neobvyklé rysy obličeje a vágní, rozmazané pozadí,“ doplnil bezpečnostní expert.

V posledních měsících se například sítěmi šířilo deepfake video s předsedou hnutí ANO Andrejem Babišem, ve kterém uměle vytvořená postava lákala na podvodné investice. A jak dokládají policejní statistiky, celá řada lidí sedla v tomto případě kyberšmejdům na lep.

Objevilo se ale například i falešné video s prezidentem Petrem Pavlem.

„V době, kdy technologie prostupují každým aspektem našeho života, čelí integrita voleb bezprecedentním výzvám ze strany subjektů, které se snaží manipulovat s výsledky pomocí digitálních prostředků. Bezpečnost voleb a zajištění toho, aby příslušné procesy byly spravedlivé a odolné, je prvořadým předpokladem pro udržení důvěry veřejnosti v demokracii,“ upozornil Šťáhlavský.

Bezpečnostní experti museli podle něj řešit také možné narušení národních databází a systémů, které se k volbám využívají. „Volební databáze uchovávají osobní údaje voličů, což z nich dělá atraktivní cíle pro kyberzločince. Změna, hacknutí nebo zveřejnění těchto záznamů by mohlo vést k významnému narušení dat,“ uzavřel Šťáhlavský.