Článek
Programy z kategorie generativní umělé inteligence, které vytvářejí různé výstupy na základě pokynů uživatele, jsou dnes dostupné každému. A jsou čím dál lepší v produkování textu, zvuku, obrázků i videí, která se zdají být lidskými výtvory. Potenciál na klamání spustil obavy ohledně šíření dezinformací, úbytku pracovních míst, diskriminace, soukromí a širších katastrofických scénářů.
Pro podnikatele, jako je Doronichev, současný vývoj skýtá příležitost. Více než desítka společností s názvy jako Sensity AI, Fictitious.ai nebo Originality.ai nyní dodává programy, které odhalují, zda je konkrétní text či obrázek tvorbou umělé inteligence.
Doronichev založil v San Franciscu v Kalifornii firmu Optic, jejímž cílem je být „letištním rentgenovým přístrojem pro digitální obsah“. V březnu představila web, kde mohou uživatelé nahrávat obrázky ve snaze zjistit, zda jde o fotografie nebo o dílo generátoru na bázi umělé inteligence. Zároveň pracuje na dalších službách pro video a zvuk.
„Ukrajinci, vzdejte se!“ říká Zelenskyj na deepfake videu
„Autenticita obsahu bude v budoucnu velkým celospolečenským problémem,“ míní Doronichev. „Vstupujeme do éry cheapfakes,“ dodal v odkaze na výraz deepfakes, který označuje počítačově vytvořená videa s obličeji skutečných lidí. Tvorba podvodného obsahu podle něj dnes není vůbec nákladná, a tudíž se může odehrávat ve velkém měřítku.
Na trhu s umělou inteligencí se do konce tohoto desetiletí očekávají tržby v řádu desítek miliard dolarů a služby zaměřené na její odhalování jsou rostoucí částí odvětví. Služba GPTZero vytvořená před několika měsíci studentem Princetonské univerzity uvádí, že ji použilo už více než milion lidí ve snaze rozpoznat počítačem vygenerovaný text. Projekt CopyLeaks pak loni vybral 7,75 milionu dolarů (přes 170 milionů Kč), částečně na rozšíření své služby pro odhalování plagiátorství určené pro školy a univerzity.
Zapojují se také velké technologické firmy. Intel spustil produkt FakeCatcher s tím, že dokáže s 96procentní úspěšností identifikovat videa typu deepfake, mimo jiné díky hledání drobných stop prokrvení v lidských tvářích. A v americké federální vládě plánuje výzkumná agentura ministerstva obrany DARPA zaplatit skoro 30 milionů dolarů na projekt Semantic Forensics, který vyvíjí algoritmy na automatickou detekci deepfakes.
Fenomén jménem ChatGPT
Umělá inteligence se dostala do středu pozornosti s rozvojem ChatGPT. Tento chatovací systém dokáže generovat různé texty včetně článků, esejí, vtipů a poezie na základě jednoduchých dotazů. ChatGPT se učí odpovídat na podněty uživatelů a podobně jako lidé se učí na základě velkého množství dat.
V květnu 2024 byl zpřístupněn pokročilejší model umělé inteligence GPT-4o. Ten je schopen poskytovat bezpečnější a užitečnější odpovědi a připravit půdu pro šíření technologií podobných lidem. Zvládá simulovat i emoce.
Webovou aplikaci nabízí OpenAI zdarma, v placené verzi ale můžete systém využívat i ve chvíli, kdy je velmi zatížen. Ostatní musí čekat na uvolnění kapacity. Předplatné, které nabízí i další výhody, vyjde případné zájemce na 20 dolarů měsíčně, tedy v přepočtu zhruba na 470 Kč.
Za ChatGPT stojí start-up OpenAI, který financuje společnost Microsoft.
Nekonečný závod
Nástroje tohoto typu ze své povahy zaostávají za generativními programy, jejichž výstupy se snaží identifikovat. Ve chvíli, kdy je obranný systém schopen odhalit práci nového chatbotu nebo generátoru obrázků, vývojáři už pracují na nové verzi. „Je to ve své podstatě nepřátelská hra, v níž já pracuju na detektoru a někdo mezitím buduje lepší past na myši, lepší syntetizátor,“ řekl profesor Hany Farid z Kalifornské univerzity v Berkeley, který se specializuje na digitální forenzní vědu.
Synteticky vytvořená videa jsou stále relativně těžkopádná a snadno rozeznatelná, uvádí experti, ovšem tvorba obrázků a klonování hlasů jsou podle nich na vysoké úrovni. Rozlišení umělého obsahu od skutečnosti bude vyžadovat digitální vyšetřovací postupy, jako je zpětné vyhledávání obrázků a sledování IP adres.
Farid podotýká, že dostupné programy na detekci umělé inteligence se testují na příkladech, které se výrazně liší od souborů šířených „v divočině“, kde obrázky kolují po platformách a mohou být postupně různými způsoby upravovány. „Toto propírání obsahu tento úkol komplikuje,“ konstatoval.
Jasný původ obrázku či videa
Jedna iniciativa si klade za cíl, aby byla tvorba generativních systémů od začátku zjevná. Skupina s názvem Content Authenticity Initiative sdružuje asi 1000 firem a organizací včetně softwarové společnosti Adobe, deníku The New York Times a subjektů ze sféry umělé inteligence jako Stability A.I. Skupina místo snahy zpětně pátrat po původu obrázku či videa prosazuje vytvoření standardů, které by zavedly systém poznávacích znaků připojovaných k digitálním výtvorům přímo při jejich vzniku.
Adobe minulý týden uvedla, že její generativní služba Firefly bude ke svým výstupům připojovat „nutriční etikety“ obsahující datum vzniku obrázku a nástroj, který jej vytvořil.
Podle Jeffa Sakasegawy, který řídí bezpečnostní aktivity v projektu Persona zaměřeném na ověřování totožnosti spotřebitelů, jsou výzvy vyplývající z rozvoje umělé inteligence teprve v počátcích. „Ta vlna nabírá na síle. Blíží se ke břehu. Myslím si, že ještě nenarazila.“
Technologičtí giganti svádí boj o umělou inteligenci
