„Otrok vlastního díla.“ Vatikán varuje před umělou inteligencí

Podle Vatikánu má umělá inteligence značný potenciál pro zlepšení lidského života, avšak nesmí se ignorovat její rizika.

„Umělá inteligence může prohloubit sociální nerovnosti, izolovat jednotlivce v jejich mezilidských vztazích a ohrozit integritu pravdivých informací,“ stojí v dokumentu, který tento měsíc schválil papež František.

Zvláštní obavy Vatikán vyjadřuje podle serveru Vatican News vůči koncentraci moci nad technologiemi AI v rukou několika vlivných korporací, což může vést k manipulaci veřejného mínění a zneužití pro čistě komerční účely.

Vatikánský dokument také varuje před nárůstem dezinformací a falešných zpráv, které mohou být snadno generovány prostřednictvím umělé inteligence.

„Tvůrci a uživatelé obsahu generovaného AI mají odpovědnost za ověřování pravdivosti šířených informací. Sdílení obsahu, který podněcuje nenávist, znehodnocuje lidskou důstojnost nebo využívá slabé a zranitelné, je nepřijatelné,“ zdůrazňuje dokument.

Zvláštní rizika podle Vatikánu představuje AI pro děti. Automatizované interakce, jaké poskytují například chatboti, mohou negativně ovlivnit jejich schopnost vytvářet zdravé mezilidské vztahy a vést k povrchnímu vnímání druhých. Tento problém je označen za klíčovou výzvu, kterou je nutné v budoucnu řešit.

Papež František se otázkou umělé inteligence zabýval již v minulosti, například při loňském summitu G7 v italské Apulii varoval, že „AI může přispět k růstu nerovností mezi státy i uvnitř společností“. V této souvislosti vyzval k okamžitému zákazu autonomních zbrojních systémů, které jsou schopny zasahovat cíle bez lidského zásahu.

Vatikán zároveň zdůrazňuje, že diskuse o etice AI by měly zahrnovat co nejširší spektrum odborníků a tvůrců politik, ať už se jedná o otázky týkající se vzdělávání, životního prostředí či lidských práv. Jak dokument uzavírá, „technologie nikdy nesmí přerůst svého tvůrce – člověka – a stát se mu překážkou v hledání pravdy, dobra a skutečného naplnění života“.