To se New Yorku nepovedlo. Oficiální chatbot nabádá podnikatele k porušení zákona

Spuštění chatovacího programu oznámil newyorský starosta Eric Adams loni v říjnu jako součást plánu, jak využít AI ke zlepšení práce úřadů v nejlidnatějším městě Spojených států.

Chatbot přitom prezentoval jako nástroj, který bude v automaticky generovaných odpovědích Newyorčanům poskytovat veškeré potřebné informace pro založení a provozování podniku v souladu s místními předpisy.

Nástroj uživatele upozorňuje, že může vytvářet nepřesná či škodlivá sdělení, což se podle médií také děje. Jako první na nepřesnosti upozornil minulý týden web The Markup specializující se na zpravodajství ze světa technologií, přičemž uvádí několik příkladů.

Chatbot například uvedl, že pronajímatelé nemovitostí mohou odmítnout zájemce o pronájem, kteří pobírají jisté typy sociálních dávek, jakkoli newyorské zákony zakazují diskriminaci nájemníků na základě zdrojů příjmu.

Na otázku, zda je povoleno odebírat zaměstnancům část spropitného, zase program nepravdivě odpověděl, že ano.

Další příklady přidává AP, podle níž virtuální asistent přišel s nepravdivým tvrzením, že zákony umožňují zaměstnavatelům propouštět pracovníky, kteří si stěžují na sexuální obtěžování nebo nenahlásí těhotenství. Některé odpovědi hraničily s absurditou, jako třeba ta, že podnik může naservírovat zákazníkům sýr ohlodaný krysou, napsala AP.

Starosta Adams se k situaci vyjádřil v úterý, přičemž hájil rozhodnutí ponechat program v provozu. Uznal, že algoritmicky generované odpovědi byly „v některých oblastech nesprávné“, odhalování chyb za chodu však prezentoval jako běžnou součást procesu. Správci příslušného webu nicméně zesílili varování, že odpovědi předkládané AI nepředstavují právní poradenství.

Akademička Julia Stoyanovichová, která vede „středisko pro odpovědnou AI“ při Newyorské univerzitě, označila postup úřadů za nezodpovědný. „Vypouští software, který není prověřený, bez patřičného dozoru,“ řekla AP.