Žádný social scoring. Umělá inteligence dostane v EU jasná pravidla

Vyjednavači Evropského parlamentu a členských zemí EU dosáhli dohody na podobě unijních pravidel loni na začátku prosince po mnohahodinových jednáních. Nyní bylo na členských státech unie, aby tehdy dojednaný text finálně potvrdily. Výhrady měla do poslední chvíle Francie, nakonec dnes ale věc rovněž podpořila.

„Akt o umělé inteligenci je milníkem, jde o první pravidla pro umělou inteligenci na světě,“ uvedlo belgické předsednictví v prohlášení s tím, že cílem normy je zajistit, aby bylo používání umělé inteligence bezpečné a v souladu se základními právy EU.

Akt spočívá v klasifikaci technologií podle způsobu využití a zavedení různých úrovní omezení podle toho, jaké s sebou nesou riziko. Některé systémy chce EU zcela zakázat, další nástroje jako algoritmy na rozpoznávání obličejů by zase podléhaly silné regulaci.

„Členské státy podpořily politickou dohodu dosaženou v prosinci a uznaly dokonalou rovnováhu mezi inovací a bezpečností, kterou nalezli vyjednavači,“ ocenil dnešní krok eurokomisař pro vnitřní trh Thierry Breton.

Norma „zamezí třeba tzv. social scoringu, tedy hlídání občanů kamerami ve veřejném prostoru a jejich hodnocení podle prohřešků,“ komentoval rozhodnutí států EU místopředseda české vlády pro digitalizaci Ivan Bartoš.

„Nebude také možné, aby docházelo k biometrické kategorizaci občanů s cílem vyvodit jejich politické názory, rasu nebo například náboženskou víru či sexuální orientaci. Stejně tak nebude možné až na velmi úzké výjimky využívat systémy umělé inteligence na pracovišti nebo ve vzdělávacích institucích pro rozpoznávání emocí,“ dodal v tiskové zprávě.

Jak uvedla agentura Reuters, pravidla by měla vstoupit v platnost nejspíš ještě před létem. Akt by měl začít být uplatňován dva roky po svém vstupu v platnost, s výjimkou některých zvláštních ustanovení, která začnou platit dříve.

Podle Bartoše dohoda „nastavuje důležité záruky pro využívání umělé inteligence tak, aby byla dobrým sluhou, ne špatným pánem“. Konečná podoba dohody podle něj není „zcela perfektní“, je však po měsících složitého vyjednávání vyváženým kompromisem.

Dohodu uvítal i Lukáš Kačena, ředitel organizace prg.ai, která sdružuje AI odborníky z řad firem a institucí. „Vnímám pozitivně, že se po složitých jednáních podařilo najít shodu mezi 27 státy EU. V kontextu nedávno oznámeného inovačního balíčku vítám, že EU vyvíjí iniciativu nejen v oblasti regulace, ale také činí konkrétní kroky k podpoře místního AI ekosystému a konkurenceschopnosti Evropy,“ uvedl Kačena.

Francie, spolu s Německem a Rakouskem, se v posledních týdnech snažila o to, aby bylo jednání o přelomových pravidlech znovu otevřeno. Podle všeho se ale všem třem zemím podařilo získat určité ústupky a s textem nakonec souhlasily, napsal bruselský server Politico. Ani předchozí jednání mezi zástupci unijních institucí nebyla jednoduchá, postoje Evropského parlamentu a členských států se totiž původně dost lišily.

Nyní je na právnících a lingvistech, aby text takzvaně vyčistili. Poté budou o aktu hlasovat v příslušném parlamentním výboru, nejspíš 13. února, a následovat bude schválení i na plenárním zasedání EP, pravděpodobně v dubnu.