Polovina zaměstnanců si ulehčuje práci s pomocí AI, aniž by o tom nadřízený věděl

„Je snazší získat odpuštění než povolení,“ říká John, softwarový inženýr v technologické společnosti poskytující finanční služby.

John je jeden z mnoha lidí, kteří v práci používají vlastní nástroje umělé inteligence bez povolení svého IT oddělení. (BBC nepoužilo celé jméno k zachování anonymity – pozn. red.)

Podle něj mají lidé používat takové AI nástroje, jaké jim vyhovují a především pomohou. Nehledě na to, co jejich firmy povolují, píše web BBC.

Ačkoliv zrovna Johnova společnost umožňuje využívat nástroje umělé inteligence, jako je GitHub Copilot pro vývoj softwaru s podporou AI, on sám dává přednost jinému AI nástroji – Cursor –, který ovšem povolený není.

„Používám ho, protože dokáže doplnit 15 řádků najednou a prostě mi vyhovuje,“ vysvětluje John. „Uvolní vám ruce. Cítíte se plynulejší,“ dodává.

Jeho neoprávněné používání není podle něj porušením zásad. Jen je to zkrátka jednodušší než riskovat zdlouhavý schvalovací proces.

Stejného názoru je i Peter (jeho jméno bylo změněno – pozn. red.), který je produktovým manažerem ve společnosti zabývající se ukládáním dat. Ta svým zaměstnancům nabízí pouze chatbota Google Gemini AI. Externí nástroje umělé inteligence jsou jinak zakázané.

Peter ale místo Gemini využívá ChatGPT prostřednictvím vyhledávacího nástroje Kagi. Podle něj dokáže lépe zhodnotit nápady a reagovat na jeho plány v různých zákaznických perspektivách. Navíc prý umí analyzovat a shrnout videa, která by mu jinak zabrala hodiny sledování.

„Jako produktový manažer máte velkou zodpovědnost a nemáte mnoho dobrých příležitostí k otevřené diskusi o strategii. ChatGPT to umožňuje v neomezené míře,“ vysvětluje Peter.

„Můžete velmi rychle získat kvalitní shrnutí videí, vést celou konverzaci o bodech ve videích a o tom, jak se překrývají s vašimi vlastními produkty,“ dodává.

Není si jistý, proč společnosti zakazují externí umělou inteligenci. Zvlášť když může zvýšit produktivitu jako v jeho případě.

„Myslím si, že je to věc kontroly. Firmy chtějí mít vliv na to, jaké nástroje jejich zaměstnanci používají. Je to nová hranice IT a ony prostě chtějí být konzervativní,“ říká Peter.

Podle webu BBC se tomuto trendu někdy říká stínování AI, což je specifičtější verze stínovaného IT – někdo používá software nebo služby, které oddělení IT neschválilo.

Společnost Harmonic Security pomáhá identifikovat stínovou umělou inteligenci a předcházet tomu, aby byla firemní data zadávána do neschválených AI nástrojů. Dokáže sledovat více než 10 tisíc AI aplikací a už zaznamenala více než 5 tisíc z nich, které se neoprávněně využívají.

Přestože se zdá, že se nejedná o nic hrozného a zaměstnanci nemohou napáchat moc velké škody, používání neautorizovaných aplikací AI může naopak způsobit problémy dost velké. Například by se mohly prozradit citlivé informace.

Moderní nástroje AI vznikají zpracováním obrovského množství informací v procesu zvaném trénink. Přibližně 30 % aplikací, které se používají, se trénuje pomocí informací zadaných uživatelem.

To znamená, že informace uživatele se stávají součástí nástroje AI a v budoucnu by mohly posloužit dalším lidem. Právě tak se mohou šířit také interní informace firem nebo jejich obchodní tajemství, i přesto, že je jinak docela těžké určitá data získat.

Firmy jako Harmonic Security se snaží s tímto problémem bojovat, ovšem speciálně pro IT společnosti bude hodně těžké bojovat proti používání nástrojů AI, vzhledem k jejich popularitě a rychlému vývoji.