Chtějí zkrotit umělou inteligenci. EU a USA požadují zavedení pravidel

Tlak ze strany EU a USA přichází v době, kdy se množí obavy z toho, že by se umělá inteligence mohla vymknout kontrole. Server BBC v úterý informoval, že desítky akademiků, expertů a podnikatelů podepsaly prohlášení, ve kterém požadují „zmírnění rizika vyhynutí v důsledku umělé inteligence“.

Unie už nyní pracuje na komplexním regulačním systému pro oblast umělé inteligence. I když by tento systém mohl být první svého druhu na světě, stále musí projít legislativním procesem.

„V praxi to znamená, že v nejlepším případě vstoupí v platnost za dva a půl až tři roky. A to je prostě příliš pozdě,“ varovala ve středu před zasedáním evropsko-americké Rady pro obchod a technologie (TTC) ve Švédsku Margrethe Vestagerová, místopředsedkyně Evropské komise (EK).

Na rozdíl od zdlouhavého legislativního procesu, který tento systém vyžaduje, by podle ní mohl být soubor pravidel hotový už během pár týdnů. Zdůraznila, že jednotlivé firmy by se k dodržování takového kodexu zavázaly dobrovolně.

Podobně to už nyní funguje v případě unijního kodexu pro boj proti dezinformacím, jak připomněla agentura Reuters.

Eurokomisař pro vnitřní trh Thierry Breton již minulý týden oznámil spolupráci s americkou technologickou společností Alphabet na dobrovolné dohodě o pravidlech pro oblast umělé inteligence. Právě matka Googlu je jedním z velkých hráčů na AI trhu, vyvíjí vlastního chatovacího robota zvaného Bard. Ten je však nyní dostupný pouze na vybraných trzích, v Česku zatím ne.

Právě problematika umělé inteligence byla evidentně jedním z hlavních témat celého jednání. Obě mocnosti totiž následně vydaly společné prohlášení: „EU a USA sdílejí společný názor, že technologie v oblasti umělé inteligence přinášejí velké příležitosti, ale představují rovněž rizika pro naši společnost.“

Americký ministr zahraničí Antony Blinken následně doplnil, že diskuze o umělé inteligenci byla s evropskými kolegy „intenzivní a produktivní“. „USA a EU by měly sehrát důležitou roli při vytváření dobrovolného souboru pravidel pro AI, který by následně mohly využít i další země s podobným smýšlením,“ prohlásil Blinken.

O nutnosti regulace jsou přesvědčeni také společnosti, které umělou inteligenci vyvíjejí. Ředitel společnosti OpenAI Sam Altman během květnového slyšení v americkém Kongresu prohlásil, že vládní opatření budou „klíčová“ při snaze omezit rizika spojená s využíváním umělé inteligence.

„Vláda Spojených států by měla zvážit kombinaci kritérií pro povolení nebo registraci při vývoji a uvádění modelů AI… a zároveň by měla motivovat k plnému dodržování těchto podmínek,“ prohlásil podle agentury Reuters Altman.

Zdůraznil přitom, že regulace by „neměla bránit snahám o inovace“. „Bezpečnostní požadavky na firmy působící v oblasti umělé inteligence by měly být dostatečně flexibilní, aby se mohly přizpůsobit novým technologickým pokrokům,“ předestřel svou vizi šéf OpenAI.

Slyšení se v americkém Kongresu konalo minulý měsíc právě kvůli zběsilému tempu, jakým se AI v posledních měsících vyvíjí. Obavy z umělé inteligence způsobilo především uvedení vyspělejší verze chatbota ChatGPT.

Vlády a regulační orgány po celém světě mají podle listu The Washington Post problém držet krok s rychlým vývojem v oblasti umělé inteligence, což vyvolává obavy z potenciálního rizika této nové technologie.

Toho jsou si vědomi také samotní tvůrci umělé inteligence, jak dokázal Altman na půdě Kongresu. Navrhl podporu vzniku mezinárodní organizace, která by stanovovala standardy v této oblasti. Tento nezbytný krok přirovnal k regulaci jaderných zbraní. Před senátory zdůraznil, že „vládní zásahy budou klíčové pro omezení rizik vyplývajících z rostoucích možností systémů umělé inteligence“.

Jednou z největších obav, kterou Altman zmínil, je schopnost nových modelů manipulovat s lidmi a poskytovat „interaktivní dezinformace“. Toho by se podle něj dalo zneužít například i k přesvědčování voličů během volebních kampaní. „To mě velmi znepokojuje,“ uzavřel šéf OpenAI.

Americké úřady slíbily boj proti „škodlivým službám“ založeným na umělé inteligenci, žádné aktuální plány na regulaci ale zatím nejsou na stole. Evropská unie už přitom pracuje na zákonu o umělé inteligenci, díky kterému by se jednotlivé aplikace rozdělily do různých kategorií a který by stanovil různá omezení v závislosti na jejich rizicích.