„Spirála technologické diktatury.“ Papež vyzval k regulaci AI

Poselství ke svátku, který Římskokatolická církev slaví 1. ledna, papež tradičně předem zasílá světovým lídrům a mezinárodním institucím, jako je například OSN.

„Globální rozměr umělé inteligence jasně ukazuje, že vedle odpovědnosti svrchovaných států za vnitřní regulaci mohou při jejím využívání hrát rozhodující roli mezinárodní organizace,“ uvedl papež v poselství. „Vyzývám světové společenství národů, aby spolupracovalo na přijetí závazné mezinárodní smlouvy, která by regulovala vývoj a využívání umělé inteligence v jejích mnoha podobách,“ vyzval František.

Rovnováhu mezi plným využitím rychle se rozvíjející AI a její regulací se nyní snaží najít vlády po celém světě, přičemž řada států volá po nutnosti regulace na národní i mezinárodní úrovni. Evropská unie minulý týden dosáhla předběžné dohody ohledně pravidel, která mimo jiné stanovují omezení při využívání AI pro biometrickou identifikaci ze strany bezpečnostních složek.

Pozorovatelé se nicméně shodují, že státní orgány globálně nezvládají s technologickým vývojem AI držet krok.

Papež v poselství vyzval také k etické kontrole „cílů a zájmů společností vyvíjejících a vlastnících AI nástroje“ a varoval, že některé aplikace AI mohou „představovat riziko pro naše přežití“ či ohrozit naši planetu. „V obsedantní touze mít vše pod kontrolou riskujeme, že ztratíme kontrolu sami nad sebou; ve snaze o absolutní svobodu riskujeme, že se dostaneme do spirály ‚technologické diktatury‘,“ píše se ve zprávě.

Kanadský kardinál Michael Czerny na tiskové konferenci k poselství uvedl, že 86letý papež není žádný „luddita“, čímž odkazoval na termín používající se pro ty, kteří odmítají nové technologie. František podle Czerného, rodáka z Brna, oceňuje technologický a vědecký pokrok, má však obavy ohledně „hazardu“ s budoucností lidstva.