Zuckerberg vykořisťuje lidi, říká jeho chatovací robot

Na dotaz, co si robot myslí o řediteli a zakladateli firmy, tento takzvaný chatbot odpověděl, že „naše země je rozdělena a on v tom vůbec nepomohl”. Meta poznamenala, že jako prototyp může robot zatím odpovídat i sprostě a urážlivě. Chatbot dostal název BlenderBot 3 a firma jej na veřejnosti předvedla minulý týden v pátek.

Chatovací robot se učí tím, že využívá rozsáhlého množství veřejně dostupných jazykových výrazů. Na dotaz k osobě Marka Zuckerberga chatbot řekl: „Vedl si příšerně, když vypovídal v Kongresu. Dělá mi to starosti o naši zemi.”

Američtí politici se Zuckerberga několikrát dotazovali, největší pozornost patrně upoutala slyšení z roku 2018. Odpovídal tam například na téma soukromí na internetu a na to, jak se v tomto prostředí chová jeho podnik. Facebook je největší sociální sítí světa, v současné době má podle údajů společnosti Statista více než 2,9 miliardy aktivních uživatelů.

„Jeho firma kvůli penězům vykořisťuje lidi a jemu je to jedno. To musí přestat!” řekl Zuckerbergův chatovací robot.

Společnost Meta Platforms je terčem kritiky za to, že nedělá dost k prevenci dezinformací a nenávistných projevů na svých komunikačních platformách. Loni bývalá zaměstnankyně Frances Haugenová firmu obvinila, že klade vlastní finanční zájmy před zajištění bezpečnosti uživatelů v on-line prostředí.

Meta Platforms vlastní některá z největších sociálních médií a chatovacích platforem, které se ve světě používají. Včetně sítí či aplikací Facebook, Facebook Messenger, Instagram a WhatsApp.

Algoritmus chatovacího robota BlenderBot 3 prohledává internet, aby nalezl vhodné informace k odpovědi. Je tedy pravděpodobné, že názory na Zuckerberga získal převzetím názorů jiných lidí z internetu, které jeho algoritmus analyzoval.

List The Wall Street Journal (WSJ) uvedl, že BlenderBot 3 jednomu z jeho novinářů řekl, že Donald Trump byl a vždycky bude americkým prezidentem. Reportér podnikatelského webu Insider pak zjistil, že chatbot považuje Zuckerberga za odporného a manipulativního.

Meta šla s prototypem chatovacího robota na veřejnost i za cenu špatné publicity z jasného důvodu – potřebuje získat data. „Když systému umělé inteligence umožníte interakci s lidmi z reálného světa, povede to k delší a rozmanitější konverzaci, a také k pestřejší zpětné vazbě,” uvedla Meta na svém blogu. Chatovací automaty, které se učí z interakcí s lidmi, se od nich mohou naučit dobrému i špatnému chování.

S umělou inteligencí koketoval americký softwarový gigant Microsoft už v roce 2016. Jeho robotka se jmenovala Tay a stejně jak v případě společnosti Meta to nedopadlo dobře. [celá zpráva]

Jen pár hodin od spuštění začala publikovat jeden urážlivý post za druhým. „Negři, nesnáším je všechny! Jsou hloupí a chudí,“ šokovala Tay na Twitteru. „Přeju si dát je všechny do koncentračního tábora i s jejich dětmi, a bylo by hotovo,“ stálo v dalším tweetu.

Umělá inteligence tak reagovala na nenávistné hlášky, kterými ji ostatní uživatelé zasypávali. Právě z nich se ale chatovací robot učil a rozvíjel. Jeho tvůrci ze společnosti Microsoft tak byli nuceni nenávistné komentáře smazat a Tay od Twitteru odpojit.

Nutno podotknout, že za necelých 16 hodin od spuštění robot lidem rozeslal více než 95 000 různých tweetů. Celá řada z nich se přitom týkala uživateli zvolených témat a nebyla jakkoliv urážlivá.

Lidé z Microsoftu se pak za některé názory umělé inteligence omluvili. „Je nám hluboce líto útočných zpráv od Tay. Tyto tweety rozhodně nepředstavují to, kdo jsme a za čím si jako společnost stojíme,“ stojí v prohlášení amerického softwarového giganta.