Zuckerberg, Gates, Musk zamířili do amerického Senátu. Kvůli regulaci umělé inteligence

„Tohle je důležitý moment a v mnoha ohledech bezprecedentní. Opravdu si myslím, že potřebujeme, aby se (ve věci umělé inteligence) vláda chopila vedení,“ řekl novinářům při příchodu do Kapitolu Sam Altman, ředitel Open AI, mateřské společnosti ChatGPT.

Ředitel Mety Zuckerberg s novináři po několikahodinovém jednání s více než 60 senátory nemluvil, na otázky naopak odpovídal Musk, píše web stanice NBC News. Musk zopakoval své obavy, že AI by jednou mohla „zničit civilizaci“ a že lidé by podle něj měli být „proaktivní, spíše než reaktivní“ v přístupu k umělé inteligenci.

Jednou z obav amerických politiků je podle Reuters potenciální širší využití AI pro ovlivňování voleb, útoky na kritickou infrastrukturu a vyrábění falešných videí, takzvaných deepfakes. Demokratický senátor za New Jersey Cory Boooker řekl, že „všichni účastníci jednání se shodli na tom, že vláda má roli regulátora“, ale že sestavení konkrétních opatření bude výzvou.

Mezi dalšími účastníky na straně hostů byli ředitelé a ředitelky firem Nvidia, Microsoft nebo IBM. Americký Kongres v tomto týdnu pořádá další tři veřejná slyšení na téma umělé inteligence. Středeční jednání s technologickými giganty si u mnohých politiků vysloužilo kritiku.

„Nevím, proč bychom měli zvát zástupce těch největších monopolů na světě do Kongresu a radit jim, jak mají vydělat víc peněz,“ řekl republikánský senátor Josh Hawley.

Demokratická senátorka Elizabeth Warrenová uvedla, že Kongres „umožňuje technologickým miliardářům lobbovat u senátorů za zavřenými dveřmi o jedné z nejcitlivějších záležitostí americké ekonomiky“.

V úterý, při jednom z veřejných jednání, varovali ředitel Microsoftu Brad Smith a přední vývojář Nvidia William Dally senátory, aby zakomponovali „záchrannou brzdu“ do systémů umělé inteligence, které pomáhají ovládat kritickou infrastrukturu, jako jsou elektrické sítě nebo rozvody vody.

„AI ovlivní každý aspekt našeho života. Má ohromný potenciál dělat dobré věci – léčit rakovinu, zpřístupnit potraviny, zlepšit národní bezpečnost, pomoci při vzdělávání. Ale stejně tak má potenciál dělat špatné věci,“ poznamenal šéf senátní většiny Schumer v úterý, den před setkáním s řediteli velkých firem.

Evropská unie (EU) se nechala slyšet již letos v červnu, že pracuje na pravidlech pro AI. Český europoslanec Luděk Niedermayer tehdy prohlásil, že hotovo by mohlo být za pár měsíců. „Máme téměř hotovou regulaci v době, kdy svět teprve hledá způsob, jak reagovat na rychlý nástup umělé inteligence,“ řekl Niedermayer.

„Je dobře, že jsme s tím začali zavčas a že máme šanci se během pár měsíců dostat k úpravě, která začne platit, a třeba bude inspirovat část světa,“ dodal europoslanec z frakce evropských lidovců.

Podle europoslance Marcela Kolaji z evropské skupiny Zelení/Evropská svobodná aliance skrývá AI obrovský potenciál, ale také veliká rizika. Unijní pravidla mají kromě obecných pravidel pro tento sektor stanovit i přísnější podmínky pro vysoce riziková odvětví použití AI, jako je například školství či soudnictví.

Europoslanci se shodují na potřebě AI regulovat. Jedním z větších sporů je otázka zákazu systémů biometrické identifikace na dálku, kde evropští lidovci požadují výjimku v případě hledání pohřešovaných dětí či zabránění teroristickým činům. Zejména při pátrání po hledaných dětech je důležitá rychlost, a systémy AI tak mohou výrazně pomoci, zdůraznila europoslankyně Michaela Šojdrová.

Regulace AI má podle EP také zabránit generování nezákonného obsahu, což by se mohlo řešit kontrolou vstupních dat, aby nelegální obsah nezahrnovala. Pravidla mají zahrnovat také povinnost zveřejňování souhrnů dat chráněných autorskými právy, na kterých se systémy AI učily. Zakázána by měla být rovněž AI pro rozpoznávání emocí při prosazování práva, správě hranic, na pracovišti či ve vzdělávacích institucích.