Umělá inteligence lidstvo nevyhubí, míní expert

Co je umělá inteligence?

Je to věda, která je součástí kybernetiky. Umělá inteligence, u níž používáme z angličtiny zkratku AI, se zabývá vývojem počítačových systémů schopných vykonávat úkoly, které obvykle vyžadují lidskou inteligenci. AI je multidisciplinární obor, který kombinuje počítačovou vědu, matematiku, statistiku a další související oblasti.

AI aplikace se pak snaží simulovat inteligentní chování, vnímají svými senzory okolí, uvažují a rozhodují, učí se z dat nebo zkušeností a komunikují s lidmi nebo jinými systémy.

Takže se jedná o strojové učení.

Je to vědní obor, který se dnes opírá o strojové učení. Stroje se dovedou učit z velkého množství dat nebo z opakujících se činností. Když se budeme dívat na hodně obrázků a budeme vědět, že na jednom z nich jsou kočky a na druhém racci, stroj se naučí je rozpoznávat. Když pak stroji předložíme obrázek kočky nebo racka, určí, o jaké zvíře jde.

Dvě hlavní oblasti, v nichž se nyní algoritmy AI používají, jsou zpracování obrazu a textu. V obou oblastech je klíčovou metodikou strojové učení, které je založené na trénovací sadě.

Například máme-li k dispozici text, který obsahuje dva typy vět – otázky a odpovědi –, umíme natrénovat stroj, který pak pozná, co je otázka a co odpověď. Nebo když známe páry otázka a odpověď, stroj umí nalézt k otázce správnou odpověď.

Veřejnost o umělé inteligenci mluví v posledním půlroce, což souvisí s rozšířením komunikačního systému ChatGPT. Vy jste dříve řekl, že je to zatím jen takový papoušek opakující, co kde pochytil…

Spousta vědců v různých institucích se snaží postoupit ve vývoji algoritmů umělé inteligence za hranice strojového učení. Současné algoritmy strojového učení ale dovedou pouze opakovat data, se kterými se seznámily v tréninku. Stroje se chovají jako papoušek. Stroj viděl množství textu, ale nerozumí, co v něm je. Ví, jak jdou slova za sebou, a opakuje je a stejně jako papoušek neví, co povídá.

Stroj neumí přizpůsobit tón smyslu věty. Třeba když někoho o něco prosí, měl by to říkat s určitou pokorou, zatímco když někomu říká vtip, tak se zasměje. Když mluví o půlnoci s chlapy v hospodě, tak mluví jinak než s maminkami, které si hrají s dětmi na písku. Stroj ale neslyší, necítí, nemá hmat a nerozumí textu. Když vy například čtete knihu, tak rozumíte textu. Víte, že když je tam napsáno, že někdo někoho kopnul, bude ho to bolet. To ten stroj ale neví.

Jaký teď bude vývoj?

Bude se snižovat cena, za kterou lze dostat odpověď od ChatGPT, a zkracovat doba, za niž odpověď dostaneme. Bude se kombinovat text a zvuk, to už koneckonců můžete udělat dnes. Zadáte text a systém Midjourney nebo DALL-E vám vygeneruje obrázek. Stejně tak umíme k obrázku vygenerovat popisek. Výzkumníci dnes umějí z textu vygenerovat i krátké video.

Toto se bude komercializovat, bude to dostupné podobně jako dnes obrázky a vše se bude vylepšovat.

V blízké budoucnosti to ale nepřesáhne génia lidského mozku. Celá společnost, a především kultura společnosti, se posouvá díky lidem, kteří přijdou s něčím novým. Přesně tohle stroj udělat neumí. Používá jen to, co tu už dávno bylo.

Umělec typu Picassa se jím stal díky tomu, že do umění přinesl něco nového, co tu ještě nikdy nebylo. Stroj nikdy nepřijde s něčím novým, ale bude sloužit různým rutinním úkolům, kterých se vyskytuje mnoho.

Kam se ale může v budoucnosti vyvinout? Někteří vývojáři mluví o tom, že může získat vědomí. To je možné?

To je zatím jen vzdálená vize, oblast sci-fi literatury.

Někteří odborníci, a to i šéf firmy Open AI, která ChatGPT vytvořila, varují, že by umělá inteligence mohla existenčně ohrozit lidstvo. Máme si to představit jako z filmu Terminátor, kdy se stroje postavily proti lidem? Nebo to může způsobit třeba jen falešné zprávy, které budou společnost rozkližovat?

Tyto fake news nejsou nic nového, je to jen nové slovní označení. Takové zprávy existují od okamžiku, kdy lidstvo začalo komunikovat. Vzpomeňte si na procesy s čarodějnicemi, to je totéž. Lidí, které to baví dělat, je menšina, ale budou to dělat za všech okolností a režimů a všemi možnými metodami. Teď mají pochopitelně díky internetu větší dosah. ChatGPT a jemu podobné jazykové modely jim to usnadňují, ale není to opět nic nového. Počítače s různými programy pro zpracování textu se používají pro generování fake news již dlouho.

Že by umělá inteligence měla znamenat konec světa, to nevím, jak by to dokázala. ChatGPT neumí zatím nic řídit, neovládá žádná zařízení.

Takže to je jen mediální bouře?

Myslím si, že zatím ano. Určitá regulace ale bude pravděpodobně nutná, i když je velmi těžké rozhodnout, jak pravidla navrhnout. Můžeme přístup k jazykovým modelům zakázat, ale tím bychom se ochudili o výhody, které přinášejí, zpomalovali bychom také technický vývoj, který by vedl k ještě většímu zaostávání za USA a Čínou.

Při používání jazykových modelů, tak jako všech internetových aplikací, je důležité, abychom byli chytří, i když to neznamená, že i inteligentního člověka někdo nepřelstí. Je třeba, abychom nad tím, co děláme, přemýšleli a dávali si vše do kontextu.

Pro půlroční zastavení vývoje se dříve vyslovil majitel Tesly Elon Musk. Myslíte, že je taková věc možná?

To, že by zastavili vývoj, je nesmysl. Kdybyste lidem, kteří v tom pracují, řekli, aby si teď dali šest měsíců pohov, tak ani jeden neposlechne. Nejsou motivováni tím, že je za to někdo platí, ale chtějí vědět, jak to je. To je, jako když luštíte křížovku a nemůžete se od ní odtrhnout, dokud ji nerozluštíte. Pud objevitelství je lidem vlastní.

Elon Musk si tím jen dělá reklamu. Je to člověk, který je v jistém smyslu velice odvážný. Má samozřejmě zvláštní schopnosti, které mu umožnily postavit firmy jako Tesla nebo SpaceX, ale nemá žádný patent na rozum.

Skoro denně se v této oblasti objevují zprávy o něčem novém. Kam to směřuje?

Zprávy o novinkách v této oblasti plynou nezadržitelným proudem. Spoustu lidí to zajímá. Objevují se modely, které jsou velmi podobné ChatGPT. Originální ChatGPT například pracuje s kontextem asi čtyř tisíc slov, ve verzi 4 už je to osm až 32 tisíc. Kontext je kritickým parametrem určujícím kvalitu generovaného textu, a kontext, se kterým stroje budou moci pracovat, se bude zvětšovat.

Cena za používání AI modelů se bude snižovat. Teď se využívají mimořádně výkonné, ale velmi drahé počítače. Jedna grafická karta s osmi procesory stojí 200 tisíc dolarů a má spotřebu 28 kilowattů a takových karet jsou v datových centrech tisíce. To vše se budou snažit vývojáři stlačit, aby to stálo méně peněz, přesnost modelu byla vyšší, pracovalo se s větším kontextem a více s obrazem. To jsou první kroky, které budou následovat.

Objevily se i teorie, že by individuální uživatelé mohli mít i vlastní umělou inteligenci. Je to v blízké době reálné?

To si nemyslím. Předpokládám ale, že budou mít vlastní data, například v telefonu. Různé AI algoritmy budou tato data používat. Pár algoritmů, které jsou založené na strojovém učení, v telefonu ale už je. Každý zná rozpoznávání řeči nebo řeč z textu.

Dovedu si představit, že by lidé mohli chtít robotického kamaráda, ale je to problematické. Generovat hlas, aby reflektoval emocionální zabarvení, nasadil správný tón, to zatím automaticky umíme jen velmi málo. Umíme číst zprávy tak, že nepoznáte, že nemluví člověk, ale když by to mělo říkat vtipy, tak to prostě neumí.

Miroslav Donutil nebo Leoš Mareš se narodili s jedinečným talentem a umějí překvapivým a zábavným způsobem komunikovat a my nevíme, v čem to je. Je super obtížné něco podobného dokázat uměle.

Zdá se ale, že možností je spousta? Nedávno třeba vyšla zpráva, že pomáhá s výběrem kvalitních embryí pro umělé oplodnění a má mnohem lepší výsledky než člověk.

Možnosti jsou všude, kde jsou věci, které se dají naučit. Kdybychom sledovali desítky tisíc lékařských zákroků nebo vyhodnocování prostřednictvím rentgenů, kde jsou výstupem hodnoty veličiny, tak zde jsou stroje dobré v tom, že umějí tato velmi velká data zpracovat a naučit se je klasifikovat.

AI lze použít na zjišťování nálady na internetu nebo na předpověď obratu obchodu, zjišťování vztahu zákazníků k firmě či službě. Stroj dovede udělat souhrn, přeložit jej do cizího jazyka, vytáhnout z textu informace.

Úloh, které můžeme prostřednictvím dat, která známe, natrénovat na některé z AI algoritmů, je mnoho. Třeba u autonomních vozidel je algoritmů, na kterých se podílí umělá inteligence, celá řada, podobně jako v letadlech. S něčím podobným se budeme setkávat téměř na ­každém kroku.

Patrick Peréz, který vede vývoj umělé inteligence ve společnosti Valeo na půdě ČVUT, nicméně tvrdí, že osobní autonomní vozy nelze očekávat nejméně do konce této dekády. Proč ne?

Je super komplikované určit, kdo převezme odpovědnost. Když auto nabourá, může za to majitel auta, anebo výrobce umělé inteligence? Nedá se zaručit, že to bude za všech okolností stoprocentně fungovat, a v tom je zakopaný pes.

Lze nynější rozvoj srovnat s příchodem internetu?

Umělá inteligence je věda stará padesát let. Teď se jen vzedmula nová vlna zájmu díky tomu, že Microsoft investoval opravdu hodně peněz, jedenáct miliard dolarů. Výsledky jsou jistě pro většinu lidí převratné, ale jak velký bude dopad, to teprve uvidíme.

Když do uživatelského rozhraní zadáte text a on to přeloží do angličtiny, tak je to výborné při psaní diplomové práce, ale otázkou je, jak se naučíme tyto výhody využívat v každodenním životě. Google začínal koncem 90. let a vzniklo mnoho soudních sporů, kdy byl žalován řadou firem, že krade data z jejich stránek. Mnoho těchto sporů skončilo hlavně z důvodu, že uživatelé byli z kvality vyhledávání nadšeni a bylo nepředstavitelné, že by Google skončil.

Co říkáte tomu, že ChatGPT na dotaz někdy odpoví úplným nesmyslem, vžil se pro to název halucinace?

Halucinace jsou nepřesnosti jazykového modelu a součást principu, na němž funguje. Je to totéž jako ten papoušek. Naučíte ho říkat Lóra. Přijde za ním kočka a bude jí říkat Lóra. Když přijde pes, bude mu také říkat Lóra, neboť nic jiného neumí.

Jestliže se budete ptát ChatGPT na Elišku Přemyslovnu, když cestovala po Norimberku, a v tréninku žádný takový text nebyl, stroj si v zásobě vět něco náhodně vybere. Udělá třeba referenci na článek, který nemusí existovat.

Jaký je potenciál umělé inteligence pro vytváření pracovních míst a jaké jsou dopady na pracovní trh?

Člověk je od přírody tvor líný a chce si práci zjednodušovat. Stroje tak máme od toho, aby práci zjednodušovaly. V 19. století stroje rozbíjeli luddité, protože si mysleli, že přijdou o práci. Ale nepřišli, protože se objevila spousta dalších zaměstnání. A tak to teď bude zase. Nejlepší by ovšem bylo, kdyby ChatGPT uměl zametat nebo spravovat potrubí, protože to jsou služby, které nikdo dělat nechce.

Jsou ale práce jako účetní, která, a to si přiznejme, není nic extra kreativního – pokud to tedy není takzvaný kreativní účetní v přeneseném slova smyslu –, a ty stroje ji zastanou. Toho, kdo zpracovává faktury, stroj může nahradit.

Otázkou opět je, co se stane, když stroj udělá chybu. Vypnete ho? Přestane fungovat, ale nemá vědomí, takže mu to nevadí. Nebudeme vědět, co s tím. Myslíte si, že si dá firma poskytující umělou inteligenci do smlouvy, že když udělá chybu za miliardu, tak to bude platit? Těžko. Ale myslíte si, že firma, která tím chce pracovníky nahradit, to nekoupí? Koupí, protože lidí, které tím nahradí, bude hodně.

Evropa v této oblasti dost zaostává. Je to regulací, nebo malými investicemi?

Evropskou regulaci dopodrobna neznám, ale obecně jsem naladěn proti regulacím. Myslím si, že se má svět nechat otevřený, aby lidé měli volnost a inspirovalo je to k inovacím a vylepšování života pro ostatní.

Na druhou stranu existuje nebezpečí, že řada lidí bude výsledky toho, co jim ChatGPT řekne, brát jako bernou minci, i když to nebude správně. To se ale dnes už děje, i když v jiných situacích. Máte internetové bankovnictví a banka vás varuje, abyste neskočil na lep různým podvodníkům. Lidé totiž pracují mechanicky, tedy se naučíte stránku bankovnictví a klikáte tam. Podvodníci s tím počítají, předpokládají, že tam kliknete mechanicky, a proto se snaží podstrčit něco, za co jim převedete peníze. Kdybyste nad tím přemýšlel, tak byste to neudělal, ale to mechanické zpracování opakujících se úkolů vede k těmto zkratům.

To jsou třeba důvody, proč Apple zakázal svým zaměstnancům používat ChatGPT. Navíc mají strach, že takovým způsobem zmizí interní znalosti.

Jak jsme na tom s vývojem v Česku?

V České republice jsou chytří a pracovití lidé. Máme tady spoustu vynikajících firem a vynikajících jedinců, ale pořád jsme se nevymanili z takového toho závoje nevyspělé Evropy. Němci na nás pořád koukají přes prsty. Měli bychom třeba právě prostřednictvím umělé inteligence ukázat, co umíme. Lidé tady ale nedostávají příležitosti.

Stává se mi, že se nějakou dobu student neobjeví ve škole, a za dva měsíce od něj dostanu e-mail z Apple nebo jiné americké firmy. Není to jen otázka peněz, i když tam samozřejmě dostane desetkrát tolik než v Praze, přičemž ovšem životní náklady jsou tam zase mnohem vyšší. To hlavní, co dostane, jsou příležitosti, které tady nemá. Má tam veliké stroje, spoustu lidí, kteří jsou v podobné pozici, takže pro intelektuální progres je tam daleko příznivější půda než u nás.

Jsme malá země a měli bychom se snažit v Evropě vyniknout třeba tím, že bychom se snažili spolupracovat se sousedními státy nebo státy podobné velikosti. Naši studenti musejí dostat větší příležitost, možnosti, a budou dělat zázraky.