Zkroťte umělou inteligenci, burcoval před zákonodárci šéf ChatGPT

„Vláda Spojených států by měla zvážit kombinaci kritérií pro povolení nebo registraci při vývoji a uvádění modelů AI… a zároveň by měla motivovat k plnému dodržování těchto podmínek,“ prohlásil podle agentury Reuters Altman.

Zdůraznil přitom, že regulace by „neměla bránit snahám o inovace“. „Bezpečnostní požadavky na firmy působící v oblasti umělé inteligence by měly být dostatečně flexibilní, aby se mohly přizpůsobit novým technologickým pokrokům,“ předestřel svou vizi šéf OpenAI.

Slyšení se v americkém Kongresu konalo právě kvůli zběsilému tempu, jakým se AI v posledních měsících vyvíjí. Obavy z umělé inteligence způsobilo především uvedení vyspělejší verze chatbota ChatGPT.

Vlády a regulační orgány po celém světě mají podle listu The Washington Post problém držet krok s rychlým vývojem v oblasti umělé inteligence, což vyvolává obavy z potenciálního rizika této nové technologie.

Toho jsou si vědomi také samotní tvůrci umělé inteligence, jak dokázal Altman na půdě Kongresu. Navrhl podporu vzniku mezinárodní organizace, která by stanovovala standardy v této oblasti. Tento nezbytný krok přirovnal k regulaci jaderných zbraní. Před senátory zdůraznil, že „vládní zásahy budou klíčové pro omezení rizik vyplývajících z rostoucích možností systémů umělé inteligence“.

Jednou z největších obav, kterou Altman zmínil, je schopnost nových modelů manipulovat s lidmi a poskytovat „interaktivní dezinformace“. Toho by se podle něj dalo zneužít například i k přesvědčování voličů během volebních kampaní. „To mě velmi znepokojuje,“ uzavřel šéf OpenAI.

Americké úřady slíbily boj proti „škodlivým službám“ založeným na umělé inteligenci, žádné aktuální plány na regulaci ale zatím nejsou na stole. Evropská unie už přitom pracuje na zákonu o umělé inteligenci, díky kterému by se jednotlivé aplikace rozdělily do různých kategorií a který stanovil různá omezení v závislosti na jejich rizicích.