Expert: AI má hodně využití, je ale potřeba pamatovat i na rizika

„Jednou ze znepokojujících vlastností AI je, že halucinuje fakta,“ řekl Hsieh. Umělé inteligenci jsou často pokládané otázky, na které odpovídá na základě nějakých vědeckých výstupů. V těchto případech se stává, že si vymyslí neexistující referenci pro svou odpověď. „AI ve skutečnosti nezdůvodňuje a nepřemýšlí, jen dokáže velmi dobře imitovat způsoby lidské komunikace,“ vysvětlil.

AI přečte informace dostupné na internetu, které často obsahují reference vědeckých článků, a poté je jednoduše napodobí.

„To nám připomíná, že do jisté míry ta stejná umělá inteligence, která na nás dělá dojem úžasnými schopnostmi popisu a komunikace, stále jen napodobuje. Ve skutečnosti nepřemýšlí o věcech. Kdyby skutečně přemýšlela, nikdy by nemohla pokazit něco takového,“ prohlásil.

Umělá inteligence se podle něj snaží napodobit lidskou komunikaci, což je i jeden z jejích největších problémů. „Napodobování vás může dostat jen na nějakou úroveň. AI dokáže říct spoustu chytrých věcí, ale zakopává, když má vymyslet něco nového, nebo když napodobuje tolik, že překročí hranici od říkání pravdy k vymýšlení věcí,“ řekl.

Umělá inteligence má podle Hsieha hodně využití, ať už se jedná o vědu, medicínu, ekonomiku nebo kriminální činnost. „Jednou z pozoruhodných věcí u inovací je, že kriminálníci se vždy velmi rychle adaptují,“ řekl. Využívání AI ke zločinům je podle něj už dnes běžnou praxí, příkladem může být využívání technologie napodobování hlasů a obrazů, tzv. deepfake, k podvodům a krádežím.

Kyberbezpečnostní společnost Check Point už dříve v letošním roce varovala, že hackeři zneužívají umělou inteligenci k vytváření zlodějských malwarů, šifrovacích nástrojů i nelegálních tržišť. „AI technologie pomáhají při ochraně před kybernetickými hrozbami, ale zároveň vidíme velký zájem kyberzločinců například o ChatGPT,“ varoval Petr Kadrmas, bezpečnostní expert Check Pointu.

Podle něj „hackeři zkoušejí tuto dostupnou technologii používat k psaní škodlivého kódu, a i když jsou současné pokusy poměrně jednoduché, je jen otázkou času, než začnou AI nástroje využívat mnohem sofistikovanějším způsobem i profesionální hackerské skupiny“.

Například už koncem loňského roku se na jednom populárním hackerském fóru objevilo vlákno s názvem „ChatGPT – výhody malwaru“. Autor příspěvku se s ostatními počítačovými piráty dělil o své zkušenosti, jak vytváří malwarové kmenty právě prostřednictvím populárního chatovacího robota.

„Podařilo se mu například vygenerovat základní nástroj pro krádeže, který v systému vyhledává 12 běžných typů souborů – například dokumenty MS Office, PDF a obrázky. Pokud jsou nalezeny zajímavé soubory, malware je zkopíruje do dočasného adresáře, zazipuje a odešle přes web. Soubory jsou ovšem odesílané v nezašifrované podobě, takže se mohou dostat do rukou i třetím stranám. Další skript by bylo možné snadno upravit tak, aby stáhl a spustil jakýkoli program včetně běžného malwaru,“ uvedl Kadrmas.

To je podle bezpečnostních expertů alarmující. Umělá inteligence totiž evidentně může posloužit méně technicky zdatným jedincům, aby vytvořili stejně sofistikované škodlivé kódy, jaké běžně používají ostřílení hackeři při svých útocích.

Pokud by měl Hsieh zhodnotit, jestli bude AI spíše přínosem nebo nevýhodou pro bezpečnost, řekl by, že obojí. „Pokud nás historie něco učí, tak že velké technologie většinou přinesou více dobrého než škodlivého,“ doplnil.

U inovací a technologií, jako je například umělá inteligence, je podle Hsieha důležité uvědomit si, že ačkoliv jdou využít pro zločiny a je dobré se připravit na nebezpečí, které přináší, mají tyto technologie i konstruktivní využití.

„Musíme mít na paměti, že stejný zdroj kreativity a originality, který nám dal některé špatné využití AI pro účely podvodu a zločinů, nám přináší nové léky na rakovinu, lépe ekonomicky vytvořený software, lepší manželství a lepší mezilidské vztahy. Musíme vyvážit obě strany a pamatovat si, že nemůžeme dávat příliš pozornosti ani jedné straně. Nemůžeme být tak zahledění do přínosu, že zapomeneme na rizika a nemůžeme se tolik obávat rizik, že zapomeneme na přínos,“ uzavřel.

Hsieh se zabývá vlivem technologií na různé aspekty veřejného zájmu. Je odborníkem na kvantové výpočty a jejich dopad na kybernetickou bezpečnost, ekonomiku, umělou inteligenci a strojové učení.