Umělá inteligence se musí regulovat, mají jasno europoslanci

„Máme téměř hotovou regulaci v době, kdy svět teprve hledá způsob, jak reagovat na rychlý nástup umělé inteligence,“ řekl Niedermayer. „Je dobře, že jsme s tím začali zavčas a že máme šanci se během pár měsíců dostat k úpravě, která začne platit a třeba bude inspirovat část světa,“ dodal europoslanec z frakce evropských lidovců.

Podle europoslance Marcela Kolaji z evropské skupiny Zelení/Evropská svobodná aliance skrývá AI obrovský potenciál, ale také veliká rizika. Unijní pravidla mají kromě obecných pravidel pro tento sektor stanovit i přísnější podmínky pro vysoce riziková odvětví použití AI, jako je například školství či soudnictví.

Europoslanci se shodují na potřebě AI regulovat. Jedním z větších sporů je otázka zákazu systémů biometrické identifikace na dálku, kde evropští lidovci požadují výjimku v případě hledání pohřešovaných dětí či zabránění teroristickým činům. Zejména při pátrání po hledaných dětech je důležitá rychlost, a systémy AI tak mohou výrazně pomoci, zdůraznila europoslankyně Michaela Šojdrová.

„Prosazujeme střední cestu – regulovat, ale nesnížit konkurenceschopnost,“ řekl v úterý novinářům v EP europoslanec Tomáš Zdechovský. A zatímco čeští pirátští europoslanci mají obavy ze „šmírování“ lidí na veřejných prostranstvích umělou inteligencí, lidovci zdůrazňují zejména bezpečnost. „Rozpoznávání obličejů už běžně funguje například na letištích,“ připomněl Zdechovský.

AI dokáže být tak přesvědčivá, že běžný uživatel internetu ani nepozná, že hovoří s umělou inteligencí. Právě proto je jedním z bodů navrhovaných unijních pravidel povinnost pro velké internetové platformy jasně označovat obsah vytvořený generativní umělou inteligencí, jako je například ChatGPT.

Regulace AI má podle EP také zabránit generování nezákonného obsahu, což by se mohlo řešit kontrolou vstupních dat, aby nelegální obsah nezahrnovala. Pravidla mají zahrnovat také povinnost zveřejňování souhrnů dat chráněných autorskými právy, na kterých se systémy AI učily. Zakázána by měla být rovněž AI pro rozpoznávání emocí při prosazování práva, správě hranic, na pracovišti či ve vzdělávacích institucích.

O nutnosti regulace jsou přesvědčeni také společnosti, které umělou inteligenci vyvíjejí. Ředitel společnosti OpenAI Sam Altman během květnového slyšení v americkém Kongresu prohlásil, že vládní opatření budou „klíčová“ při snaze omezit rizika spojená s využíváním umělé inteligence.

„Vláda Spojených států by měla zvážit kombinaci kritérií pro povolení nebo registraci při vývoji a uvádění modelů AI… a zároveň by měla motivovat k plnému dodržování těchto podmínek,“ prohlásil podle agentury Reuters Altman.

Zdůraznil přitom, že regulace by „neměla bránit snahám o inovace“. „Bezpečnostní požadavky na firmy působící v oblasti umělé inteligence by měly být dostatečně flexibilní, aby se mohly přizpůsobit novým technologickým pokrokům,“ předestřel svou vizi šéf OpenAI.

Slyšení se v americkém Kongresu konalo minulý měsíc právě kvůli zběsilému tempu, jakým se AI v posledních měsících vyvíjí. Obavy z umělé inteligence způsobilo především uvedení vyspělejší verze chatbota ChatGPT.

Vlády a regulační orgány po celém světě mají podle listu The Washington Post problém držet krok s rychlým vývojem v oblasti umělé inteligence, což vyvolává obavy z potenciálního rizika této nové technologie.

Toho jsou si vědomi také samotní tvůrci umělé inteligence, jak dokázal Altman na půdě Kongresu. Navrhl podporu vzniku mezinárodní organizace, která by stanovovala standardy v této oblasti. Tento nezbytný krok přirovnal k regulaci jaderných zbraní. Před senátory zdůraznil, že „vládní zásahy budou klíčové pro omezení rizik vyplývajících z rostoucích možností systémů umělé inteligence“.

Jednou z největších obav, kterou Altman zmínil, je schopnost nových modelů manipulovat s lidmi a poskytovat „interaktivní dezinformace“. Toho by se podle něj dalo zneužít například i k přesvědčování voličů během volebních kampaní. „To mě velmi znepokojuje,“ uzavřel šéf OpenAI.

Americké úřady slíbily boj proti „škodlivým službám“ založeným na umělé inteligenci, žádné aktuální plány na regulaci ale zatím nejsou na stole. Evropská unie už přitom pracuje na zákonu o umělé inteligenci, díky kterému by se jednotlivé aplikace rozdělily do různých kategorií a který by stanovil různá omezení v závislosti na jejich rizicích.