Kybernetik a filosof Jan Romportl: Zahubí nás umělá inteligence?

Momentálně zažívá umělá inteligence ohromný rozkvět. Což nevylučuje, že se zase nevrátí nějaká „zima“, kterých už jsme prožili v minulosti několik. Co můžeme říct určitě, je, že jsme svědky obrovského rozvoje aplikací specifické umělé inteligence, to jest takové, kterou programátoři používají na řešení konkrétních problémů. U ní ale ještě slovo inteligence chápeme spíše jako metaforu, není tam snaha napodobit lidské kognitivní procesy, ale nahradit je nějakou výpočetní mašinérií.

Pozná ho, protože umělá inteligence je už teď ve spoustě věcí lepší. Ještě v době, kdy jsem dělal doktorát, to tak nebylo. Vezmi si třeba rozpoznávaní obličejů, to jsme tenkrát brali jako doménu člověka; dnes už nejenže stroj rozpozná jeden konkrétní obličej lépe než ty nebo já, ale zároveň je schopen jich rozpoznat milióny najednou.

Úspěchy specifické umělé inteligence pak jen povzbuzují snahu vytvořit obecnou umělou inteligenci, která není zaměřena pouze na jedno konkrétní zadání, ale je schopna naučit se učit řešit v zásadě nekonečnou škálu úloh. A to už se dostáváme na lidskou úroveň.

Jsme opravdu blízko. Nejzásadnější podmínkou, abychom se ve vývoji umělé inteligence dostali dál, je podle mě vždycky nakonec komputační síla, výpočetní výkon. A ten roste velmi rychlým tempem. Není to ale o tom, že by někdo rovnou přišel s hotovým robotem. Třeba Marek Rosa, pražský vývojář počítačových her, nedávno publikoval otevřenou výzvu k rozvoji obecné umělé inteligence určenou pro všechny zájemce, která je postavena na evoluci jednoho velmi jednoduše komunikujícího virtuálního agenta, samostatně jednající entity. Ten vývoj půjde postupnými kroky.

A musí přijít i proměna celého diskurzu, způsobu, jak se člověk k umělé inteligenci vztahuje. Obecná umělá inteligence se bude do našeho běžného života dostávat plíživě, pomalu se do nás bude vtiskávat. Ono už se to děje teď, každá i relativně blbá aplikace na telefonu přispívá k postupnému přijímání umělé inteligence jako přirozeného partnera v naší interakci se světem. Tohle předjednávání prostoru pro vstup obecné umělé inteligence je dnes bezprecedentní, to zde v osmdesátých letech skutečně nebylo.

Určitě. Kolegové z práce si nedávno z internetu zdarma stáhli předtrénovanou neuronovou síť, našli si databázi maligních a benigních kožních nádorů a tu umělou inteligenci dotrénovali na jejich rozpoznávání. Výsledkem byla mobilní aplikace, telefon stačilo namířit na jakýkoliv kožní útvar a ona ti sdělila, jestli je maligní, nebo benigní. Celé to třem lidem zabralo jeden den. Brali to jako legrácku. Před dvaceti lety by stejná věc byla výstupem dlouhodobého seriózního výzkumu. Svého času jsem někde četl, že neuronové sítě jsou vždycky druhým nejlepším řešením daného problému, to znamená, že je tu vždy ještě nějaké lepší „lidské“ řešení; dnes už to neplatí.

Přitom to nejsou metody, co by se nějak zázračně rozvíjelo. Posun je opravdu hlavně v komputační síle a v tom, jak prudce se mění sociokulturní prostředí, v němž se umělá inteligence vyvíjí. S tím souvisí i komoditizace. V současnosti na trhu najdeš velké množství zařízení, která jsou určena jen na maticové výpočty, jež tvoří základ architektury neuronových sítí a vůbec strojového učení. A do toho vzniká obrovský počet různých softwarových nástrojů, které ti s tím umožní provádět dříve nepředstavitelné věci.

Myslím, že to půjde jinudy a že si tu cestu, kterou se umělá inteligence vydá, vlastně ani moc neumíme představit. Nám jde hlavně o to, abychom s tou budoucí takzvanou superinteligencí, tedy obecnou umělou inteligencí, která bude ve většině procesů podstatně výkonnější než lidská a která bude zřejmě fungovat jako jedna globální virtuální síla, dokázali pořád nějak komunikovat, aby s námi byla nadále souměřitelná. Většina z jejích procesů se nám však nejspíš nebude jevit jako inteligence, bude to pro nás spíš fyzikální jev, kterému nebudeme rozumět, a tím pádem pro nás bude složité ho kontrolovat.

Představa o vzniku superinteligence je, že jakmile se objeví obecná umělá inteligence, která bude na trochu vyšší úrovni než lidská, dokáže se zároveň, díky tomu, že na rozdíl od nás není omezena biologicky, zreplikovat na úroveň ještě o trochu vyšší. A to opakovaně a čím dál rychleji. Může to skončit všelijak: explozí, vůči lidstvu destruktivní snahou superinteligence přeměnit vše dostupné na svůj zdroj, ale taky tím, že se její vývoj v rámci nějaké udržitelnosti sám od sebe zastaví.

Byly doby, kdy jsem si myslel, že je to správná cesta. Vzít člověka s jeho hodnotovým systémem a jakoby nad ním začít budovat superinteligenční vrstvy. Dnes už si to nemyslím. Podívej se, jak je ten náš hodnotový systém křehký a ve spoustě věcí již dnes rozbitý: jak se temným způsobem mění náš diskurz, jak se stává normální nenávidět druhého. Začít na takto zranitelný systém montovat něco, co by významně rozšířilo naše schopnosti, mi přijde jako mnohem rychlejší cesta do záhuby než celá superinteligence.

To už by snad byl snesitelnější model, kdy by nad námi jako dráb bděla superinteligence, která by měla ve své matematické danosti zaimplementováno, co je a co není dobré, a na rozdíl od nás by se toho beze zbytku držela. Když nejsme jako lidi schopni dlouhodobého mírového soužití, proč nad sebou nemít něco uměle vytvořeného, co na to dohlédne? Bohužel i taková superinteligence by nás ale mohla vyhladit, třeba omylem.

Jednoduché to nebude, to je jasné. Bude to muset být kombinace více způsobů a budou muset být lidské společnosti vlastní. Proto je důležité tuhle věc netabuizovat, přemýšlet o ní společně a nahlas, sjednat sociokulturní prostředí, aby ta kontrola mohla vzniknout a fungovat. S naším prostředím jsme všichni srostlí mnohem víc, než si uvědomujeme. I naše kognice je v první řadě odrazem vnějšího světa, velmi málo z ní se děje přímo v mozku. Proto je to tak podstatné.

V současnosti se ovšem ani mezi lidmi, kteří se na rozvoji umělé inteligence podílejí, o těchto otázkách dost nemluví.

Jedna z navrhovaných cest, jak superinteligenci udržet pod kontrolou, je, že budeme mít předpočítané určité matematické rovnice, po jejichž výsledcích bude superinteligence „bažit“ a zároveň si je nebude umět sama spočítat. A my jí je budeme dávat jakoby za odměnu. Přičemž ta její potřeba bude fungovat na podobné úrovni, jako my máme „potřebu“, aby v našem mozku různé neurotransmitery dopadaly na příslušné receptory. Takovou danost nebude moci superinteligence překonat. Problém je, že si tuhle „drogu“ od nás může vzít manipulací či hrubou silou. Proto bude případně nutné tento způsob kombinovat s dalšími kontrolními mechanismy.

Jinou často zmiňovanou možností je dát superinteligenci už někde na začátku do vínku principiální pochybnost, zda není jenom simulovaná. Nebude si jista, jestli je skutečná, a jestli by tedy konec lidstva neznamenal konec i pro ni.

Aby vznikla přirozenost a to, co my vnímáme jako myšlení, musí dojít k nějaké emergenci, musí na našem obzoru vzniknout obraz něčeho, co je za tím obzorem, co je pro nás nespatřitelné. Hromada písku vzniká, až když odhlédneme od jednotlivých zrnek, stůl vzniká, když přestaneme vnímat jeho jednotlivé molekuly. Jako přirozené pak bereme to, co je viditelným projevem toho, co se propadne za obzor. Ale aby existoval obzor, musí existovat neurčitost, přirozené nekonečno. Když není neurčitost, neostrost, není ani emergence, není stůl, jsou jenom molekuly.

Jak může v prostředí počítače, který je v principu konečný, vznikat neostrost? Především v interakci s člověkem, s jinými entitami, s vlastními autonomně se vyvíjejícími součástmi, ale také za jeho paměťovými a výpočetními schopnostmi. Ani superinteligence si nebude umět předpočítat všechno. Bude se rozhodovat, podobně jako člověk, ne nad plnou budoucí realitou, ale nad jejím zjednodušeným obrazem. To nás může stát existenci, například pokud superinteligence udělá chybu, ale její vnitřní nejistota nás může i zachránit. Než aby riskovala, zvolí si bezkonfliktní soužití s lidstvem.

Jsem optimističtější než Bostrom, zvlášť jestliže se pro superinteligenci opravdu podaří stejně jako v případě specifické umělé inteligence předjednat onen sociokulturní prostor. Nemůžeme vyloučit, že nás superinteligence jednou zahubí, ale to nemůžeme ani u dnešních světových mocností a jejich atomového arzenálu. Obě tyto možnosti bych viděl jako zhruba stejně pravděpodobné.