Před umělou inteligencí je potřeba se chránit, burcovali europoslanci

"Pokud spotřebitelé používají systém, který automatizuje rozhodování, měli by být řádně informováni o tom, jak systém funguje, jak se spojit s člověkem se schopností rozhodování a jak mohou být rozhodnutí systému prověřena a opravena," uvádí se v rezoluci, kterou europarlamentu předložil výbor pro vnitřní trh a ochranu spotřebitele. Poslanci rovněž vyzvali komisi, aby zajistila "nestrannost a vysvětlitelnost" jednotlivých algoritmů.

Používání umělé inteligence se stává čím dál běžnějším v oborech, jako je finančnictví, zdravotnictví, vzdělávání či právo. Spoléhání na ni s sebou nicméně obnáší riziko zvláště tam, kde se činí rozhodnutí bez lidského dohledu a kde je potenciální dopad na lidi značný. Obavy panují například při automatizovaném výběru vhodného uchazeče o zaměstnání, při němž by mohly být na základě algoritmu znevýhodněny ženy či příslušníci menšin.

Lidé musí mít vždy konečnou zodpovědnost a musí také být schopni zvrátit rozhodnutí učiněná na základě automatizovaného rozhodovacího procesu, uvádí se v rezoluci.

"Svěřit rozhodnutí automatizovanému systému vyvolává etické, politické, právní i technické problémy, které musí být správně vyhodnoceny a vyřešeny. Pokud jsou zanedbány, očekávané výhody těchto systémů mohou být znehodnoceny řadou různých rizik pro jednotlivce (diskriminace, nekalé praktiky, ztráta nezávislosti atd.), hospodářství (nekalé praktiky, omezení přístupu na trh atd.) i společnost jako takovou (manipulace, ohrožení demokracie)," uvádí loňská studie Evropského parlamentu.

"Problém výrobků s umělou inteligencí, které čím dál častěji vstupují do našich životů, je potřeba řešit na evropské úrovni. Je nesmyslné, aby každá členská země přijímala vlastní právní úpravu. Když budeme mít automatizovaná auta, kdo bude odpovídat za škodu, kterou takovýto výrobek způsobí?" řekl europoslanec za TOP 09 Jiří Pospíšil. Dodal, že současné právo na tuto otázku nezná odpověď.

Komise představí svůj plán, takzvanou bílou knihu, na posílení ochrany spotřebitelů z hlediska umělé inteligence 19. února. Na základě následné debaty by pak měly být vypracovány konkrétní legislativní návrhy, které by podle Pospíšila mohly být přijaty ještě v tomto volebním období.