Umělá inteligence o australském starostovi nepravdivě tvrdila, že byl ve vězení

Společnost OpenAI koncem loňského listopadu ChatGPT zpřístupnila veřejnosti zdarma a systém si rychle získal popularitu. Na základě jednoduchých dotazů dokáže generovat články, eseje, vtipy, ale i poezii. Jako pomocníka ho mimo jiné používají programátoři či pracovníci v marketingu.

O starostovi Hoodovi ale chatbot tvrdil, že byl uvězněn za úplatkářství, když pracoval pro dceřinou společnost australské centrální banky. Hood byl naopak oznamovatelem a nikdy nebyl obviněn z trestného činu. Hoodovi právníci zaslali společnosti OpenAI stížnost, která představuje první oficiální krok před podáním žaloby za pomluvu.

OpenAI má nyní 28 dní na odpověď. Následně by Hood podle australských zákonů mohl společnost zažalovat. Pokud k tomu dojde, jednalo by se o první veřejně známý případ žaloby za pomluvu kvůli informacím vygenerovaným chatbotem ChatGPT. OpenAI na žádost BBC o komentář neodpověděla.

Při používání ChatGPT se zobrazuje upozornění, že text, který chatbot vygeneruje, může obsahovat „nepřesné informace o osobách, místech nebo skutečnostech“. Společnost OpenAI na svém blogu uvádí, že omezení chatbotu spočívá v tom, že „někdy píše věrohodně znějící, ale nesprávné nebo nesmyslné odpovědi“.

Hood byl v roce 2005 zaměstnancem Notes Printing Australia, dceřiné společnosti australské centrální banky. Novináře a úředníky informoval o úplatkářství v organizaci spojené s firmou Securency, kterou banka částečně vlastnila. V roce 2010 provedla policie v Securency razii. Několik lidí bylo zatčeno a odsouzeno k odnětí svobody. Hood ale mezi těmito lidmi nebyl a uvádí, že je tvrzením ChatGPT zděšen.

„Zpočátku jsem byl šokován, že to je tak nepravdivé,“ řekl australské stanici ABC News. „Je jedna věc se trochu splést. Obvinit někoho, že je zločinec a že si odpykal trest ve vězení, když pravda je zcela opačná, je však něco úplně jiného,“ řekl. „Myslím, že je to dost varovný budíček. Ten systém je vykreslován jako důvěryhodný, informativní a autoritativní, a to zjevně není,“ dodal.

BBC Hoodova tvrzení ověřila prostřednictvím veřejně dostupné verze ChatGPT na webu OpenAI. Chatbot na dotaz odpověděl popisem kauzy a poté nepřesně uvedl, že se Hood v roce 2012 „přiznal k jednomu případu úplatkářství a byl odsouzen ke čtyřem letům vězení“.Tato odpověď se však už nezobrazuje v novější verzi ChatGPT, která je integrována do vyhledávače Bing společnosti Microsoft, která Hooda identifikuje jako oznamovatele a výslovně uvádí, že „nebyl zapojen do placení úplatků… jak tvrdí chatbot s umělou inteligencí nazvaný ChatGPT“.