AI Act přichází. Jak omezí umělou inteligencí?

Na platnost AI Actu upozornil místopředseda vlády pro digitalizaci Ivan Bartoš (Piráti). Podle něj je záměrem nařízení vedle ochrany obyvatel také podpora inovací.

AI Act předpokládá zřízení tzv. sandboxu, kontrolovaného prostředí, ve kterém bude možné otestovat systémy umělé inteligence v reálných podmínkách před jejich uvedením na trh. Společný sandbox bude moci zřídit i několik členských států EU. Podnikatelům tak opatření pomohou snížit počáteční náklady a zvýšit jejich konkurenceschopnost v mezinárodní konkurenci.

Součástí je také AI inovační balíček, jehož cílem je podpořit malé a střední podniky a start-upy ve vývoji umělé inteligence. Evropským start-upům umožní například využívat superpočítače pro trénování modelů odpovědné umělé inteligence.

„Česko se během svého předsednictví významně zasadilo o vznik AI Actu, který je naší odpovědí na výzvy rychlého technologického pokroku. Chceme zajistit etické a transparentní používání umělé inteligence, chránit základní práva občanů a umožnit našim podnikům stát se lídry v odvětví. Jsme první, kdo se této problematice komplexně věnuje a tímto krokem nastavujeme globální standard pro bezpečnou a odpovědnou umělou inteligenci. Občané tak budou chráněni a budou mít jistotu, že umělá inteligence pracuje v jejich prospěch,“ uvedl Bartoš.

AI Act není podle Bartoše regulací v tradičním slova smyslu, ale zaměřuje se na ochranu lidí před zneužitím umělé inteligence a vysoce rizikovými systémy AI. Čím větší riziko daný systém AI představuje, tím přísnější pravidla pro jeho použití musí být dodržena.

Podle poradenské firmy Deloitte by měly tuzemské firmy neprodleně začít s posuzováním stávajících a plánovaných AI systémů a při vývoji vlastních řešení sledovat, zda nejsou implementovány funkcionality, které mohou být v budoucnu zakázány AI nařízením.

Musí také upravit dokumentaci k  AI systémům tak, aby odpovídala požadavkům AI nařízení. Za nesoulad s nařízeními firmám hrozí pokuta až tři procenta z celosvětového obratu a za uplatňování zakázaných praktik až sedm procent.

Nařízení bude nabíhat postupně a plně aplikovatelné bude až za 24 měsíců, tedy 2. srpna 2026. Výjimku tvoří zakázané praktiky, které budou vymahatelné už od 2. února 2025. Pravidla vztahující se na obecné modely AI a na systém správy, vymáhání a sankcí začnou být účinná od 2. srpna 2025.

Česko se na AI snaží zaměřovat. Česká asociace umělé inteligence, která je největší AI organizací v ČR s více než 200 korporátními členy, vyhlásila letošní říjen měsícem umělé inteligence. V rámci mesic.ai chystá přes 100 akcí zdarma na podporu AI. Všechny akce se uskuteční v AI hubu na Rohanském nábřeží v Praze, který se otevře na jeden měsíc jako epicentrum AI v ČR. Na jednom místě se budou moci přední odborníci, firmy a uživatelé AI fyzicky potkávat a vyměňovat si zkušenosti.