Článek
Deepfake je zdánlivě reálný, umělou inteligencí vytvořený obraz, zvuk nebo video. Na pravdě se ovšem tento materiál nezakládá.
Technologie deepfake, složenina ze slov deep learning (hluboké učení, disciplína v rámci strojového učení) a fake (falešný), využívá umělé inteligence, která pomocí algoritmů a velkého množství zdrojových fotografií dokáže vytvořit model obličeje člověka, aniž by ho bylo potřeba skenovat.
Boj proti falešným videím není vůbec jednoduchý, útočníci přitom zvládnou vytvořit falešný obraz už i při videohovorech v reálném čase. Slouží k tomu například aplikace DeepFaceLive, je to nástroj umožňující výměnu tváří v reálném čase. Patrně není potřeba zdůrazňovat, jak snadno může být tato aplikace zneužitelná.
Falešný Babiš je k nezastavení. Obírá důvěřivce o peníze
Videa v reálném čase
Nová metoda SFake však dovede na takové podvody vyzrát. Jednoduše vyvolá vibrace na smartphonu protistrany. Je to stejné, jako kdybyste dotyčnému zavolali a telefon se mu rozvibroval.
Aplikace na výměnu tváří ale není schopná na tyto malé vibrace reagovat dostatečně rychle, aby simulovala rozmazání způsobené vibracemi fotoaparátu. Vibrace tedy naruší snímání a díky tomu se změní obraz, čímž uživatel jednoduše pozná, že se jedná o falešný videohovor a na druhém konci je úplně někdo jiný.
Nová metoda vznikla na základě výzkumu, ve kterém autoři vytvořili datovou sadu s osmi značkami chytrých telefonů, patnácti účastníky různých věkových kategorií a pěti existujícími algoritmy deepfaků.
Vibrace smartphonu způsobují zkreslení na výsledném videu, díky čemuž si pak všimnete nekonzistence obrazu (zakroužkovaná část vpravo).
Autoři tvrdí, že z výsledků jejich výzkumu je patrné, že SFake má vyšší přesnost detekce s menší spotřebou paměti a vyšší rychlostí zpracování než šest dalších existujících metod detekce.
Podle webu Unite.ai je SFake navržena jako cloudová služba, kde místní aplikace posílá data na vzdálené servery ke zpracování a výsledek odesílá zpět. K průměrné době analýzy je potřeba čtyřsekundový vzorek videa, během kterého musí uživatel zůstat v klidu a SFake v této krátké době jednoduše rozvibruje telefon na druhé straně. Na vibrace kamery v náhodných intervalech aplikací pracující s deepfaky nedokáže reagovat.
Má to i háčky
Klíčové je, že vibrovat umí v dnešní době úplně každý chytrý telefon. Díky tomu je nová technologie snadno využitelná prakticky pro všechny uživatele. Ti díky novému systému dovedou rychle vyhodnotit situaci a rozeznat podvod.
Tvůrci studie se zaměřili přímo na aplikaci DeepFaceLive, protože je v poslední době hodně zneužívána nejrůznějšími podvodníky. Údajně ale metoda dovede odhalit podvodná videa vytvořená v reálném čase také u dalších podobných nástrojů, jako jsou například Hififace, FS-GANV2, Remarker AI a MobileFaceSwap.
Snad jedinou vadou na kráse je, že čelní kamera a samotná aplikace pro videohovory musí podporovat Full HD videa. Navíc je nutné, aby čelní kamera nabízela dvojnásobné přiblížení, což některé smartphony vůbec neumí.
Je nicméně možné, že tvůrci technologii SFake nakonec vylepší natolik, že dovedou i tato omezení obejít. Kdy budou novinku moci využívat běžní uživatelé, je ale zatím ve hvězdách.
Za deepfake tři roky natvrdo. Itálie chce přitvrdit proti AI kriminalitě
