Mařík: AI promění energetiku i zdravotnictví

Umělá inteligence se jako disciplína rozvíjí sedm desetiletí, avšak její vývoj zrychlil až v poslední době. Nově byla do komunikačního chatbotu ChatGPT přidána i možnost hlasového dorozumívání. Kam se to vyvine v brzké době?

Používání ChatGPT získá normální rozměry. Lidé si postupně uvědomí, k čemu je pro ně dobré: že jim pomáhá zformulovat některé věci, že je to lepší vyhledávač se schopností napsat stránky textu.

Ačkoliv vždy bych doporučoval text zkontrolovat. Je to postavené na modelech, které se samy naučily z velkého souboru dat, ale ty modely mají podobu neuronových sítí a my do nich nevidíme. Nevíme, zda se nastavují dobře, nemůžeme si být jisti, že to pokaždé zafunguje správně.

Automatizované učení z velkého souboru dat se stává jádrem výzkumu v umělé inteligenci a ChatGPT je krásná ukázka, jak se stroj dokáže natrénovat na rozsáhlém souboru dat a jak je takový systém, který nepoužívá žádné převratné technologie, užitečný a může pomáhat. A to také díky tomu, že se znásobují možnosti výpočetní techniky, paměti a přenosu informací.

Co přinesou následující roky? Dosáhne se všeobecné umělé inteligence, tedy takové, která bude stejně inteligentní jako člověk?

Myslím si, že ke všeobecné umělé inteligenci máme ještě hodně daleko. Dosáhne se jí pravděpodobně tehdy, až stroje nabudou plnohodnotné vědomí. Dokud stroj nemá vědomí, velmi těžko se orientuje v nejrůznějších situacích. Změnu rozhodně nelze očekávat do pěti let. Vzorce chování člověka jsou procesy, které se na současných počítačích špatně modelují, pokud to je vůbec možné.

Budeme ovšem svědky toho, že budou stále kvalitnější, ale dost specializované nástroje. Bude lepší obsah, budeme moci lépe a kvalitněji zpracovat obrázky podle instrukcí z mluveného slova, budeme svědky daleko lepší optimalizace výroby a distribuce energie s využitím umělé inteligence. Rozhodně ale nelze čekat v brzké době systém, který by uměl vše: řídit energetiku, diagnostikovat pacienta a také psát verše.

Mohl by stroj nabýt vědomí?

Reakce strojů se zlepšují, ale vědomí nemají. Umělá inteligence znamená, že stroj může reagovat na jakýkoli podnět, který se k němu dostane. Vědomí vyžaduje, aby se v paměti ukládaly a zejména využívaly natrénované znalosti, a to proaktivně. Systém musí mít svou vůli, záměr. Dnešní neživé počítačové systémy to nemají. Odpojíte je, a zvadnou. Vyřeší úlohu, ale nejdou samy dál, aby proaktivně hledaly nové úlohy a nová řešení.

Proaktivita je typická pro živou hmotu a zatím jen v živé hmotě se projevuje vědomí. Projevy inteligence člověka, jeho chování v důsledku vlastního vědomí, nelze popsat dnešními modely. Neexistují výpočetní prostředky ani algoritmy, které by dokázaly procesy probíhající v mozku modelovat a zejména napodobit. Máme k tomu ještě hodně daleko.

Jak daleko?

Americký vynálezce Ray Kurzweil v roce 2005 řekl, že v roce 2045 stroje nabudou vědomí a budou tak silné, že budou ovládat člověka. Letos se smířil s tím, že stroje vědomí nenabudou a budou to jen dokonalejší nástroje, které rozšiřují schopnosti biologických jedinců. To je současný postoj vědy k umělému vědomí jako ke skoro nedosažitelné metě. Ale kdo ví…

Americký výzkumník Eleizer Yudkowsky zase varoval, že velmi rychle vznikne superinteligence mnohem chytřejší než lidé, a to povede s nejvyšší pravděpodobností ke konci lidstva…

Představa superinteligence nás odvádí od řešení reálných problémů umělé inteligence. Je to science fiction, která nemá jediné technické a vědecké zdůvodnění. Je to jen přání, bez jakéhokoli matematického, fyzikálního a informatického podkladu.

Jaký vliv bude mít umělá inteligence na školství? Část učitelů ji zakazuje. Mají strach, že studenti nechají práce psát umělou inteligenci.

Učitelé by se především neměli bát, že studenti používají moderní nástroj. Vyvíjejí se systémy, které umožňují poznat, co napsalo ChatGPT a co ne. Myslím si, že by hlavně měli vést žáky k pochopení, jaký je ChatGPT nástroj, k čemu je dobrý a jak ho používat. Oni ale sami nejsou proškoleni a nedostávají informace, které by potřebovali. Chybí jim základní kvalitní odborné informace o tom, co umělá inteligence je a jak se má používat.

Z naší strany vznikne přehledový dokument, kde si lidé budou moci zjistit jednotlivé oblasti nasazení umělé inteligence, jak se dělá a čeho se obávat a neobávat. Bude si to moci přečíst nejen každý učitel, ale i žák na druhém stupni.

Mluví se o tom, že umělá inteligence nahradí až polovinu lidských činností. Mají se lidé bát o práci?

V žádném případě. Každá technologická novinka, jako bylo zavedení elektřiny či páry vyvolala pochybnosti, zda někdo neztratí práci. Ano, obvykle část profesí vymizí, ale vzniknou profese nové a každá technologická revoluce prokazatelně přinesla zvýšenou zaměstnanost.

Lze počítat s tím, že internet spojený s umělou inteligencí některé namáhavé práce v průmyslu nebo třeba referentské práce omezí. To ale lidem umožní uvolnit se z rutinních prací a orientovat se na tvůrčí část. Budeme moci víc přemýšlet nad tím, co děláme, jak to zjednodušit a zefektivnit. Povede to k inovativním řešením, pozicím, které vyžadují inovativní řešení, které budou člověka víc uspokojovat.

Kterých sektorů se umělá inteligence dotkne nejdříve?

Největší ekonomické efekty budou v průmyslu, pak to bude také zdravotnictví. Pronikne i do dalších oborů, například v zemědělství najde uplatnění při predikci úrody, doporučování, kdy zavlažovat a co vysadit. To bude mít velký efekt pro společnost.

Byl bych rád, kdyby více pronikala do energetiky. Neobejdeme se bez ní při řízení vysoce distribuované energetické sítě, kdy máme páteřní elektrárny a budou desítky tisíc malých zdrojů a velkých spotřebitelů.

A kdy budou podle vás realitou samořiditelná auta?

Kdybychom začali naplňovat představy z roku 2010, tak už všichni v samořiditelných autech jezdíme. Je to technicky velmi složité, protože člověk jako řidič vnímá situaci kolem sebe paralelními systémy vnímání. Model situace, s níž se setkává, má ve své hlavě a může reagovat na jakékoli změny svými dalšími kroky.

Počítače zatím nejsou schopny paralelismus člověka nahradit. Proto si myslím, že představa, že budeme jezdit autem bez řidiče, je ještě hodně vzdálená. Bude to chtít lepší výpočetní techniku, paralelní procesory a hodně učení.

Na rozdíl od vědomí k tomu, myslím, časem dojdeme, ale budeme muset počkat ještě deset až dvacet let. Myslím si, že člověk by si měl zachovat kontrolu a že výrobce ho bude alespoň v prvních deseti letech nutit k tomu, aby si ji ponechal.

Co dezinformace, když už jde napodobit něčí hlas a vložit mu do úst něco, co nikdy neřekl? Může to ovlivnit obrovské množství lidí, kteří s informacemi neumí nebo nechtějí pracovat.

Boj s fake news už začal, a nebude to jednoduché, protože jejich autoři jsou pořád o krok před námi. Musíme lidi vést k tomu, aby zdroje ověřovali. Myslím si, že do budoucna by si lidé měli zvyknout na to, že prověřené informace budou dražší než ty, které dá na internet kdokoli.

Někdo upozorňuje na to, že umělá inteligence pomůže stabilizovat totalitní režimy mimo jiné tím, že umožní monitorování obyvatel a jejich chování…

To už není science fiction, ale realita. V jedné velké zemi za čínskou zdí už umělou inteligenci masivně používají ke sledování komunikace a chování občanů, ohodnocují je sociálním indexem. Je to zneužití toho, co v umělé inteligenci vyvíjíme, a myslím si, že demokratická společnost by se tomu měla účinně bránit a neměla by připustit ani to, že jedna skupina obyvatel sleduje chování skupiny jiné.

Jak to je vůbec s etikou u vývoje umělé inteligence?

Existuje diskuse jak v rámci Evropské unie, tak celosvětově, jak ošetřovat eticky nevhodný obsah. Nástroje se vytvářejí, ale mají zpoždění za realitou. ChatGPT by měl zabránit tomu, aby tvořil morálně nevhodné texty či obrázky. Nejdůležitější je, aby do trénovacích množin jazykových modelů, nad kterými ChatGPT a podobné systémy jsou a budou postaveny, vstupovaly pouze prověřené soubory dat.

Jsou tu i další problémy – roboti, autonomní vozítka, drony a podobně. Kdo nese odpovědnost za jejich chování? Za to, že robot se náhle vychýlí z dráhy a někoho udeří, nebo za to, že vozítko někoho přejelo? To jsou právní aspekty, které je potřeba doladit do podoby akceptovatelných zákonů. Ale zatím se o všem jenom diskutuje a musíme tyto nové situace ošetřovat starými zákony.

Evropa umí regulovat, ale jinak výrazně zaostává za Spojenými státy. Dá se ten náskok dohnat?

Otevřeně řečeno, Evropa zaostává a přes obrovskou snahu a finance, které v EU tečou do výzkumu umělé inteligence, se budou nůžky nadále rozvírat, protože v USA k tomu přistupují jinak. V jejich rukou jsou největší sociální sítě a internetové firmy. Evropa nemá vlastní Google ani Amazon, ve všem závisí na USA.

Státy v Evropě teď vývoj mimořádně dotují, v Německu i Francii to jsou stamiliony eur ročně. Nůžky se tudíž bohužel budou rozevírat i mezi Evropou a Českem. Máme sice výzkumníky na evropské i světové špičce, ale svým nízkým financováním jsme vykročili na cestu, kdy budeme zřejmě ve výzkumu závislí na tom, co si koupíme v cizině.

Jak se to stalo?

Například v operačním programu JAK ministerstva školství, kde byla výzva na špičkový výzkum, čeští robotici ani odborníci na umělou inteligenci neuspěli. Musíme tedy počítat s tím, že odborníky, které jsme přitáhli ze zahraničí, a ty, které jsme tady vychovali, brzy ztratíme. Myslím, že vláda si neuvědomuje závažnost situace, i když postupně jednotliví ministři slibují podporu.