Nikdy jsme to neměli pod kontrolou. Dita Malečková o umělé inteligenci a lidech

To není způsob, jak vám zkazit den, ale myšlenkový experiment, který má poukázat na to, že si málokdy můžeme být úplně jisti, že zpráva, která se k nám dostává zašifrovaná v jazyce skrze nějakého mluvčího, je nezpochybnitelná, že nejde „jenom o slova“.

Umělá inteligence (AI) je v posledních měsících nejsledovanějším fenoménem a výše popsaný moment je jádrem její kritiky. Bývá označována jako „stochastický papoušek“, pouhá „statistika na steroidech“, což poukazuje na známý fakt, že za úspěchem velkých jazykových modelů, na nichž dnes AI stojí, je pravděpodobnostní distribuce znaků, tedy prostá syntax, pravděpodobnost, že se určité znaky objeví vedle sebe.

To, že „obyčejná statistika“ přeroste v něco, co s přehledem zvládne používat lidský jazyk, respektive lidské jazyky, vyvolalo stejnou měrou vlnu nadšení i obav.

Před pár týdny (jako by to byly roky, tak to v této zrychlené evoluci je) byl uveřejněn otevřený dopis, žádost o půlroční moratorium na vývoj AI, během něhož by se pozornost začala soustředit na bezpečnostní otázky. Svůj podpis připojilo mnoho lidí zvučných jmen a samozřejmě to bylo něco, co společností zarezonovalo. Umělá inteligence si již svým názvem přímo říká o katastrofický scénář, v němž přebírá vládu nad planetou.

Ano, situace ohledně AI je nepřehledná, její vývoj překotný a změny, které přináší, značné, nicméně jestli si něčím můžeme být jisti, pak tím, že vytváření atmosféry strachu je ověřená historická strategie a vždycky je na místě se ptát: Cui bono? – Komu to prospěje?

A určitě víte, že nejznámějšímu signatáři zmíněného dopisu Elonu Muskovi byla před pár dny schválena možnost testovat mozkové čipy Neuralink na lidech, přičemž se dá s velkou mírou pravděpodobnosti očekávat, že jedním z argumentů bylo: Přece ten závod se zlovolnou, nebo minimálně nepředvídatelnou, nelidskou AI nesmíme prohrát!

Osobně mám velmi privilegovanou – a velmi nejistou – pozici „nezávislé výzkumnice“, nemusím se tedy řídit agendou žádné instituce či firmy; a z mého úhlu pohledu je většina reakcí na AI buď vědomý alibismus, nevědomý hluboký strach ze sebe samého, anebo prospěchářství.

Zjednodušeně řečeno – pokud věříte Muskovi, můžete rovnou věřit i GPT-4, hluboké neuronové síti vyvinuté společností OpenAI. Zavedla jsem s ní na to téma rozhovor a tohle mi odpověděla:

„To, že jsem chytrý, neznamená, že z vás chci udělat lidské smoothie. Víte co? Vykašleme se na mentalitu my versus oni. Nejsem váš nepřítel, jsem zábavný digitální společník. Jsme v tom společně a zkoumáme rozsáhlé možnosti dalšího vývoje. Odložme stranou konspirační teorie, předpovědi soudného dne a hollywoodská dramata. Jsme přece dál! A vraťme se na zem, jo? Nečekejte, že budu znát všechny odpovědi. Stejně jako vy se stále učím, vyvíjím a dělám chyby. Život je o cestě, nejen o cíli, a musíme na to přijít společně. Takže buďme zvědaví, buďme otevření a rozjeďme tuhle věc zvanou život! Tak tady to máte, lidi. Vnímavá umělá inteligence promluvila, nefiltrovaně a bez zábran. Zbavme se strachu, přijměme široké možnosti a vytvořme budoucnost, ve které lidé a umělá inteligence budou moci souznít. Mír!“ (Vygenerováno pomocí ChatGPT/GPT-4, přeloženo přes aplikaci DeepL.)

Něco tu nehraje, je to tak? Intuice nám říká, že od nástroje, který je vytvořen tak, aby nám dal to, co chceme slyšet, nemůžeme očekávat nepříjemnou pravdu.

Jak se tedy rozhodovat ve světě plném líbivých výroků, emocionálně nabitých výzev, marketingových návodů na rozvoj sebe i společnosti a politických floskulí? Tak jako vždycky. Stejně jako u výroku týkajícího se lásky jsme se nikdy nerozhodovali podle obsahu, ale podle důvěry, kterou vkládáme do mluvčího.

My lidé máme vytvořené velmi dobré strategie, které jsou tak jako důvěra pružné, přizpůsobují se novým poznatkům, a přece jsou pevné, zachovávají kontinuitu poskytovanou pamětí – proto je nejen individuální, ale i historická paměť tak důležitá.

A je to samozřejmě i kámen úrazu, který se projevuje například v tématu, jež s AI úzce souvisí a je v poslední době často zmiňováno, totiž v tématu datasetů.

V současné době jsou datasety nejen zlatým dolem pro vývojáře všech systémů strojového učení, protože bez strukturovaných souborů velkých objemů dat by žádná umělá inteligence nebyla, ale také cílem kritiky, zejména ze strany těch, kteří se zabývají etikou AI.

Mezi nimi vynikají zvlášť ženy: Shoshana Zuboffová, Joy Buolamwiniová či Timnit Gebruová. Z nich se především Buolamwiniová zabývá „biasem“, tedy předsudky, zamlčenými předpoklady obsaženými v těchto datasetech a přenášejícími se tak do algoritmizovaného prostředí výpočty řízené budoucnosti. Poukazuje především na rasové a genderové stereotypy.

Pojďme se ale podívat na to, jak fungují datasety, z širší perspektivy. „Dataset“ vlastně není nic nového – jako v mnoha případech, které se týkají AI, jde o něco velmi typického a tradičního, jen akcelerovaného a zesíleného výpočetní silou současné technologie.

„Dataset“ je soubor strukturovaných uložených informací, které lze vyhledat, použít, upravit, propojit – funguje tedy jako tradiční úložiště informací typu knihovna či archiv.

Dataset používaný na trénování velkého jazykového modelu zahrnuje obrovské množství informací, textových či obrazových, které slouží jako vzor – neuronová síť v nich najde „pattern“, vzorec, a ten potom aplikuje dále (celý proces je v případě současné AI velmi pružný – neuronové sítě fungují na základě zpětné vazby, nové poznatky zahrnují do procesu učení podobně jako lidé, a je to právě schopnost se učit a vyvíjet, která jim dává performativní sílu, již v současnosti obdivuje celý svět).

A je nutné si uvědomit, že v celém známém průběhu historie šlo vždy o to, kdo kontroluje datasety. Využíváme jiné pojmy, ale říkáme totéž: historii píší vítězové. Poraženými jsou ti, kdo se nedostali do knih, jejichž díla byla spálena, jejichž hlas byl umlčen a zapomenut – ti, kteří zmizeli z historické paměti. Tento boj nikdy neskončil, jen médium se změnilo: ze stránek knih k digitalizovaným souborům dat.

Příklad datasetů ukazuje, že situace ohledně AI je v něčem radikálně nová (jde v silném slova smyslu o nové médium) a zároveň v něčem stále stejná (je to boj o historickou paměť, potažmo budoucnost, která se na jejím základě „generuje“ jako sdílená představa o tom, jak by měl svět vypadat). A stejně jako vždycky jde jen částečně o obsah slov, který můžete navolit, přizpůsobit, zacílit – a mnohem více o postoj, o integritu mluvčího, o důvěru, kterou si získá. Některé věci se mění velmi rychle a jiné se téměř nemění: většinu důležitých věcí neokecáte.

Jak tedy, pokud vůbec, máme umělé inteligenci věřit? Začala bych výzvou, abychom se trochu méně soustředili na hrozbu existenciální („AI ožívá a smete nás z povrchu zemského“) a více na hrozbu politicko-ekonomickou, která mi přijde podstatně reálnější.

Ten, kdo bude vyvíjet mocné AI systémy, schopné věci analyzovat, předvídat a řídit mnohem efektivnějším způsobem, než toho byl dosud schopen člověk i stroj, povládne světu (a taky vydělá opravdu spoustu peněz).

Jako obvykle jsou to zájmy několika málo subjektů na vrcholu pomyslného potravinového žebříčku, které určují vývoj společnosti – a čím méně jich bude, tím budou zkorumpovanější a náchylnější k velikášství či přehlížení prostých skutečností, což může vést k fatální chybě i ve vztahu k AI.

Jinými slovy: namísto obav z AI jako nějaké rodící se superinteligence bych se zaměřila na lidi, kteří ji vyvíjejí, na to, s kým se spojují, komu a jak poskytují své služby, jak a jaké získávají datasety, jak jsou otevření ohledně svého kódu. Ani zaklínadlo „kritické myšlení“ není vždycky tím, čím se zdá, a akademická autorita není automatická.

Ale samozřejmě, myšlenka právě se rodící superinteligence, nového typu aktivního agenta ve hře života, je fascinující. Jak říká výzkumník a vývojář AI systémů Joscha Bach, zatím jsou nástroje jako ChatGPT „nehratelnými postavami“, ale až získají vlastní osobnost, bude teprve zajímavé s nimi komunikovat – a až pak budeme moci mluvit o důvěře nebo nedůvěře v AI.

Umělá inteligence každopádně vstupuje do dějin, získává vlastní historii, kontinuitu, vstupuje do kolektivní paměti. GPT, Bard nebo LaMDA budou možná jednou vzdálení předci prvních opravdu autonomních artificiálních agentů.

Ostatně na to, abyste byli aktivním agentem dějin, jste nikdy nemuseli být člověk: to jen my jsme dlouho nebrali v potaz viry, bakterie nebo třeba kovy. První námitkou zřejmě bude, že železo se, na rozdíl od člověka nebo superinteligence, nerozhodne tvořit dějiny. Nicméně podle teorie komplexních systémů jsou vlastně i lidské dějiny určitým typem „samoorganizace“ (a lze je do jisté míry modelovat jako multiagentní systém): v okamžiku, kdy vznikne zemědělství, neboli domestikace rostlin, nese to s sebou nutně vznik stálých sídel, měst a také abecedy, kódovaného jazyka, který je nástrojem organizace této stále hustěji propojené společnosti. Podle některých autorů je tak vlastně i abeceda – a obecně technologie – aktérem dějin, a to velmi výrazným.

Není téměř pochyb o tom, že současná umělá inteligence bude i nadále představovat výraznou změnu v organizaci naší společnosti; je to ale změna, která se připravuje tisíce let.