AI představuje riziko pro lidská práva, na prevenci pracují Češi

Výzkumníci chtějí identifikovat příčiny rizika porušení lidských práv ve všech fázích životního cyklu AI. Výstupem projektu bude kromě vyhodnocení sada doporučení, jak AI technologie vyvíjet, používat a regulovat tak, aby neohrožovaly lidská práva a naopak pomohly jejich rozvoji a ochraně. Zároveň zkoumají i možnosti dalšího nasazení AI tam, kde by automatizace mohla pomoci lidská práva chránit.

„AI může významně pomoci například v monitorování dodržování a v prosazování lidských práv v oblasti korporátní odpovědnosti, posílení práva na spravedlivý proces odstraněním průtahů v řízení, ochrany zdraví a řadě dalších,“ řekla koordinátorka projektu Martina Šmuclerová z Ambis.

„Například nereprezentativní vstupní data a jejich nevyvážené zpracování může do AI technologie vnést tzv. algoritmickou předpojatost neboli diskriminační bias. To se může projevit například ve výběrovém řízení do zaměstnání, policejním dohledu založeném na mechanismu rozpoznávání obličejů nebo při hodnocení úvěruschopnosti jednotlivců v bankovnictví,“ upozornila.

Problémem může být podle výzkumníků také nevysvětlitelnost a netransparentnost modelů umělé inteligence. Pokud člověk, který poukazuje na porušení lidského práva, nemá přístup k informacím a důkazům, na jejichž základě o něm AI rozhodla, může podle nich být ohroženo právo na spravedlivý proces.

Vědci identifikovali celkem 38 potenciálních rizik pro lidská práva ve všech fázích vývoje a provozování AI systému a pro každé nabízejí možnosti jejich prevence a eliminace. Zároveň pro 16 vybraných hlavních oblastí porušování lidských práv ve společnosti navrhli nasazení různých typů AI technologií s adekvátní funkcí.

„Soubory doporučení napomůžou praktické implementaci právně závazných norem, čímž je náš projekt komplementární i k probíhající iniciativě EU. AI Akt jakožto obecný předpis neřeší konkrétní technické provedení toho, jak má být rizikům pro lidská práva v konkrétním nasazení AI technologie předcházeno. Klíčovou roli budou hrát nástroje soft law, jako jsou kodexy chování, různé formy certifikací a podobně,“ řekl Jakub Míšek z Ústavu práva a technologií MUNI.

Právní regulace systémů na bázi umělé inteligence se nyní připravuje na úrovni Evropské unie v podobě Aktu o umělé inteligenci, dodává tisková zpráva.

V březnu vyjádřily IT celebrity své obavy z rychlosti, jakou se umělá inteligence vyvíjí. K výzvě požadující alespoň půlroční zastavení vývoje nových modelů AI kvůli „hlubokým rizikům pro společnost a lidstvo“ se připojily stovky akademiků, expertů a podnikatelů. Mimo jiné také americký podnikatel Elon Musk či spoluzakladatel firmy Apple Steve Wozniak.

Výzva se týkala přímo GPT-4. Tuto verzi signatáři považovali za tak vyspělou, že firma by neměla další generaci vyvíjet do doby, než budou v oblasti umělé inteligence schválena nějaká pravidla. Vývoj to přesto nezastavilo.

Ne všichni jsou ale proti. Spoluzakladatel Microsoftu Bill Gates nedávno na svém blogu publikoval článek, ve kterém tvrdí, že nastal věk umělé inteligence. Podle něj bude umělá inteligence používána k řešení největších problémů světa, včetně nerovností, nemocí a globální změny klimatu.

Naopak Elon Musk nyní patří k nejhlasitějším kritikům společnosti OpenAI i jejích výtvorů. „AI je nebezpečnější než špatně řízená konstrukce letadel, výrobní údržba nebo špatná výroba automobilů,“ varoval Musk v rozhovoru pro Fox News s tím, že umělá inteligence má „potenciál civilizační destrukce“.

Může se vám hodit na Firmy.cz: České vysoké učení technické v Praze, Masarykova univerzita, AMBIS vysoká škola