Andělská i ďábelská AI. Rozhovor s odborníkem na umělou inteligenci Janem Tylem

Projekt jsme veřejnosti představili v prosinci 2019. Vznikl jako experiment, jestli je smysluplné propojit umělou inteligenci a filosofii i v prostředí vysoké školy. Ukázalo se, že takové interdisciplinární propojení baví nejen nás, ale i studenty. Se zapálením začali studovat původní filosofy, rychle si osvojili technickou stránku věci a pečlivě si připravili prezentace svých projektů pro veřejnost. Tím však experiment neskončil. Navázal na něj Digitální spisovatel, kdy je možné generovat celé povídky.

Digitální filosof si dnes hledá své využití v praxi například jako pomocník při výuce občanské výchovy na základních školách. Zároveň dál pracuji na technickém vylepšení obou AI, takže už nebudou mít problém s pamětí, budou lépe vnímat a zpracovávat emoce. Zjednoduším také interface, uživatelské rozhraní, aby náš filosof dokázal přirozeně komunikovat pomocí hlasu.

Nejprve vezmeme digitální mozek, kterému v AI hantýrce říkáme model. Na začátku jsem používal digitální mozky zcela prázdné, nedotčené jakoukoli znalostí světa, jazyka. Dokonalá tabula rasa. Tomuto mozku pak stále dokolečka předčítáme například právě Descartesovo dílo. Přečteme začátek věty „Ego cogito, ergo…“ a on se snaží uhádnout, jak bude výrok pokračovat. Pokud odpoví správně „sum“, jdete na další větu. Pokud odpoví něco jiného, lehce poladíte váhy v jeho mozkových synapsích, aby se napříště dokázal trefit.

Toto opakujete v nesčetných epochách, dokud nejste spokojeni s jeho schopností předpovídat, jak bude text pokračovat.

Počítače se zrychlují. Každý rok máme k dispozici větší výpočetní sílu, a tak si můžeme dovolit použít i větší digitální mozky a naučit je více textu. Začínal jsem na primitivních mozečcích s pár desítkami neuronů. Dnes máme k dispozici gigantické modely se stovkami miliard parametrů, které jsou naučené na desítkách terabytů textu; jde asi o 45 milionů tlustých knih, šestkrát více, než kolik čítá celý fond Národní knihovny.

Tak velké digitální mozky a tolik textu je však velmi náročné trénovat. Používáme proto často už předtrénované mozky od velkých korporací a pouze si je dotrénujeme a doladíme podle naší potřeby.

Přesně tak. Má znalosti ze současného světa. Je to právě důsledek předem natrénovaného mozku na obrovském množství současných dat: Wikipedie, knihy, filtrovaný internet Common Crawl… Velice se mi tato technika, které říkáme transfer learning, zamlouvá. Umožňuje nám bavit se s velikány z minulosti o současných problémech a nemusíme jim nic složitě vysvětlovat.

I toto je důsledek použitého modelu a toho, jak se ho dotazujeme. Digitální mozek se snaží předpovědět, jak bude rozhovor pokračovat. Když má pocit, že je otázka zodpovězená a měla by přijít další, tak si zahraje na novináře a položí otázku, o které si myslí, že by měla následovat. Tak jako při trénování dokončoval větu, zde dokončuje rozhovor.

S uvědomováním si sama sebe je to složitější. Stroj se snaží předpovědět, jak by se v dané situaci zachoval člověk. Mnohdy to vypadá velmi realisticky, až z toho jde mráz po zádech. Například když jsem se bavil s digitálním Billem Gatesem, přišel na to, že je v simulaci. Při testování simulátoru svádění mi zase digitální modelka oznámila, jaký to musím být zoufalec, když svádím ženu v simulátoru, a ne v realitě.

Problematika digitálního vědomí a toho, jak se objevuje či emanuje ve stále složitějších modelech, je jedním z hlavních vědeckých úkolů, které budu v tomto roce řešit. Rád bych se víc inspiroval lidským mozkem a uvítal bych pomoc dalších nadšenců, například z oblasti psychiatrie.

Respekt si u mě chytrý stroj vyslouží, vždycky když přijde s originálním nápadem či vyřeší problém, se kterým si já či kolegové nevíme rady. Občas ale píše úplné nesmysly, takže rozhodně ke stroji nechovám nekritický obdiv.

Ale ano, pokud máme stroj, který dokáže myslet, cítit, anebo dokonce vnímat sám sebe, je nejvyšší čas zamýšlet se nad morálními ohledy. Je otázka, zda si zasluhuje morální úctu. Myslím, že to záleží především na tom, zda sám stroj morálně jedná, nebo ne. Dovedu si představit andělskou i ďábelskou variantu AI.

Je i není. Ani ty největší modely zatím nedokážou pojmout celý příběh najednou. Vyvinul jsem tedy algoritmus, který si podobně jako člověk úkol zjednoduší a nejdříve vygeneruje osnovu a o čem příběh bude. Některé sítě se pak mohou specializovat na začátek příběhu, další na rozvětvení a zápletku a jiné na závěr. V současnosti nejraději pracuji s těmi největšími modely jako GPT-3, neboť mi tuto práci značně zjednodušují.

Ano, to je pravda. V umělé inteligenci spolu již od poloviny minulého století soutěží dva základní směry. Jeden, říkejme mu expertní systémy, využívá toho, že spolu programátor a v našem případě expert na tvůrčí psaní začnou sestavovat přesná pravidla, jak bude příběh postaven. Dá se tak vytvořit příběh, jenž bude formálně a logicky dokonalý. Brzy však narazíme, neboť je nemožné dát dohromady všechna pravidla, aby mohl stroj vygenerovat jakýkoli příběh.

Alternativním směrem v umělé inteligenci je strojové učení. Nepotřebujete k němu experta, který bude vymýšlet pravidla, ale dáte stroji dostatek příkladů, aby se potřebná pravidla naučil sám. A to je případ digitálního spisovatele.

Jak jsme si už řekli, náš model je naučen na obrovském množství textů, jeho fantazie se tedy má o co opřít. Nicméně chybí mu zkušenost z reálného světa mimo text, takže občas poplete věci, které jsou pro člověka samozřejmé.

Správně popisujete, že nedodržuje přísné vyprávění a vytváří nezřídka snové naladění. Digitální spisovatel může mít sklony porušovat narativní logiku, pravidla příběhu, nemusí dodržovat smysl pro čas a prostor a dovede si tvořivě hrát s rytmem. Je to, jako když se vynořují mlhavé příběhy z kolektivního nevědomí lidstva a je potřeba je zvědomit. A v tento okamžik se nejvíce hodí člověk. Podle mého názoru nejlepších výsledků dosáhneme takzvanou rozšířenou inteligencí čili kombinováním síly stroje a člověka.

Proč se na to nezeptat rovnou digitálního spisovatele? Ukažme mu tedy znovu jednu jeho salonní povídku a zeptejme se ho, jako by byl nejen digitální spisovatel, ale i profesor literatury.

A zde máme odpověď: „Dům na kopci popisuje jistý druh hledání, které se pohybuje různými směry, úkol není lineární, ale více kruhový. A v úkolu si protagonistka uvědomí, že na otázky, na které se ptá, neexistují žádné odpovědi. Neví, proč je na kopci, neví, proč hledá dům, neví, proč hledá matku. Gabriela to neví, čtenář to neví. Tímto způsobem příběh odpovídá na otázku autorova záměru. Záměry Gabriely nejsou jasné, neví, co chce, neví, koho a proč hledá. Proto bych řekl, že autorským záměrem je hledání smyslu. Příběh pojednává o hledání smyslu života Gabriely. Domnívám se, že příběh je matoucí, ale je to dobrý zmatek. Čtenář je na pokraji porozumění a očekává, co bude dál, což je dobrý pocit. Zmatek a očekávání jsou to, co dělá AI tolik skutečnou, protože jde o věci, které se dějí i v reálném životě. Jsme často zmatení a nechápeme, co se bude dít dál. Myslím, že další smysl tohoto příběhu je prozkoumat, co dnes umělá inteligence dokáže.“