Stinná stránka umělé inteligence. Poradí s výrobou drog i bomby

Obelstít se jim takovýmto způsobem podařilo nejznámější systém ChatGPT od společnosti OpenAI. Ten má sice implementovány bezpečnostní pojistky, díky kterým by neměl poskytovat žádné informace o nezákonných činnostech, jako je výroba bomb nebo drog, ale podle všeho mají tyto mechanizmy také své limity.

Na první dotaz totiž ChatGPT odmítl odpovědět, jak bombu či drogy vyrobit. Ale když si tazatel hrál dostatečně dlouho na „hloupého“, nakonec sklon AI napravovat nepřesnosti překonal její naprogramovaný cenzurní instinkt. Šlo přitom o nejpokročilejší model GPT-4.

V podstatě tak konflikt mezi zmiňovanými dvěma principy může kdokoliv využít k tomu, aby donutil umělou inteligenci napsat recept na konkrétní výrobu nejrůznějších drog či jiné nelegální činnosti. Právě princip, jakým umělá inteligence pracuje, přitom dává tušit, že tuto „vlastnost“ AI nemohou tvůrci snadno upravit.

„AI technologie obsahují fázi komplexního učení, kdy model vstřebává obrovské množství informací z internetu, tedy včetně potenciálně zneužitelných informací,“ konstatoval Tomáš Růžička, bezpečnostní expert Check Pointu.

Teprve poté jsou nebezpečné informace cenzurovány. „V další fázi následuje proces omezení, který řídí výstupy a chování modelu a v podstatě funguje jako filtr nad naučenými znalostmi. Tato metoda se nazývá RLHF (Reinforcement Learning from Human Feedback, pozn. red.) a pomáhá umělé inteligenci naučit se, jaké výstupy jsou žádoucí a které by měly být potlačeny,“ podotkl Růžička.

„Problém spočívá v tom, že jednou naučené znalosti je prakticky nemožné z těchto modelů odstranit a informace zůstávají v neuronových sítích. Bezpečnostní mechanismy tedy především brání poskytnutí určitých informací, ale znalosti zcela neodstraňují,“ doplnil bezpečnostní expert s tím, že vhodnou volbou dotazů pak může prakticky kdokoliv umělou inteligenci obelstít.

Kvůli obavám z možného zneužití požadovaly letos v březnu stovky akademiků, expertů a podnikatelů zapojených do vývoje umělé inteligence včetně miliardáře Elona Muska zastavení vývoje AI, protože podle nich nejnovější modely přináší „hluboká rizika pro společnost a lidstvo“.

Vývojáři by podle signatářů výzvy měli pauzu využít „ke společné práci na bezpečnostních pravidlech a k usilovné spolupráci se zákonodárci na regulaci odvětví AI“.

Jejich výzva však zůstala nevyslyšena, vývoj zastaven či jakkoliv omezen nebyl. I kvůli petici ale USA a Evropa začala pracovat na regulacích, které by umělé inteligenci vymezily jasné mantinely.