Alžběta Krausová: Roboti mohou být naším zrcadlem

Ti nejvyspělejší umějí dělat společníky, pečovat o přestárlé i filozofovat. Mohou mít taky emoce? Uvědomovat si sami sebe? A vzbouří se spíš lidi proti robotům, nebo roboti proti lidem jako v Čapkově R. U. R.?

Na schůzku s mladou, ale už renomovanou vědkyní jsem šla s hlavou plnou „zásadních“ otázek. Mírná dlouhovláska mě překvapila svým mile ženským vzhledem vzdáleným představám o suchopárných badatelkách. A vzápětí dokonalým a přesným vyjadřováním, což každá novinářka vítá jako dar z nebe.

No ano! Sci-fi čtu už od dvanácti! První knížka byla Roboti a androidi – soubor povídek českých i zahraničních autorů. Zelenou obálku zdobil velký industriální robot. Na tomto žánru mě fascinovalo, jak spisovatelé vyjadřovali sen, že nějaká umělá inteligence bude na stejné úrovni jako člověk. Případně na vyšší.

Z filmů mě naposledy nadchla Transcendence, kde Johnny Depp hraje profesora, který se postupně převtělí v počítač, a jeho mysl se přenese do digitální podoby. Miluju samozřejmě taky bondovky a filmy o Fantomasovi, kde fungují geniální robotické zbraně, chytré mluvící automaty…

Tyhle touhy měli lidi vlastně už od nepaměti. Z našeho prostředí to byl třeba Golem, kdy rabi Löw stvořil cosi polointeligentního, co mu sloužilo. V židovské mystice odkazuje pojem „golem“ na uměle vytvořené lidské tělo, kterému ještě nebyla vdechnuta duše.

Umělé bytosti se ale snažili vytvořit už dva tisíce let před Kristem v Číně – jakýsi vynálezce údajně představil císaři robota, který vypadal jako člověk, byl čistě mechanický, dokázal hýbat rukama, chodit a myslím i mluvit. Leonardo da Vinci v 15. století vymyslel rytíře, taky mechanického, který se uměl posadit, vstát, otvírat sanici. Asi měl sloužit k zastrašení nepřátel v bitvě…

Zajímavé je, že se hranice sbližují. Existuje hnutí směřující k singularitě, to znamená k přenesení myšlení na něco nezničitelného a tím dosažení nesmrtelnosti. A zároveň se čím dál víc objevují snahy o vytvoření tzv. silné inteligence, která by ve všech aspektech napodobovala myšlení, jednání i mentální procesy člověka – a případně ho překonala.

Ta možnost přenést lidské myšlení do automatizované formy mě velmi vzrušuje. Vyvolává ovšem řadu otázek. Zatím totiž lidskému přemýšlení nerozumíme dost.

Jedna z teorií tvrdí, že existuje spousta malých procesů, které když se správně namodelují, složí dohromady, může vzniknout vědomí a emoce. Že nejde o žádnou jiskru danou bohem. Anebo to naopak nedokážeme a tím potvrdíme, že v člověku je něco významného, jedinečného, neopakovatelného, nepostižitelného.

To je otázka. Umělá inteligence dokáže člověka přetrumfnout ve výpočetní kapacitě, protože je prostě rychlejší. Když máte jeden mozek ve srovnání se stovkou, je efekt jasný.

Použijeme-li umělou inteligenci k analýze množství dat, například o výskytu různých nemocí, nebo k automatizovanému rozpoznání tváří a vyhledání inkriminovaných dat v zabaveném počítači…, tak co by lidským policistům trvalo dejme tomu rok, zvládne umělá inteligence v řádu hodin.

Nebudeme to míchat. Dokážou analyticky přemýšlet nad různými problémy. Co se týče emocí, umějí je napodobovat, ale my nevíme, zda je taky cítí. Filozof Marvin Minsky napsal knihu Emocionální stroj, kde tvrdí, že emoce jsou v podstatě jen jiný druh přemýšlení a lze je tedy napodobit. Že člověk je trochu jako stroj. Ale přesnou odpověď neznáme, protože nedokážeme rozeznat, co je skutečné a co napodobené.

Nemáme definici, že to, co prožíváme vnitřně, je to pravé. Co je to pravé? Jen to, že to cítím? Já ale nemůžu vědět, zda když vy prožíváte emoci, kterou nazýváme stejně, cítíte ji skutečně stejně.

Že něco cítí robot, lze vyvodit jen z toho, že vykazuje vnější znaky jako v podobném jednání člověk. Ale nemůžeme říct, co se doopravdy děje uvnitř.

Chtěla jsem to dohledat, ale je to bezpočet. V každé domácnosti máte kávovar, počítač… V poslední době si většina lidí pod tím pojmem představuje hlavně humanoida, což je robot, který stojí vzpřímeně, má dvě ruce a nohy. Nemusí vypadat úplně jako my. Tomu, co přesně připomíná člověka, se říká android – má dokonce i kůži velmi podobnou té lidské.

V Dubaji na letišti byl nedávno „zaměstnaný“ první policista-humanoid. Nazvali ho Robocop a do roku 2030 mají jemu podobní nahradit čtvrtinu zaměstnanců!

A ve Španělsku otevřeli první nevěstinec s robotími prostitutkami. V Číně a Japonsku existují už déle a mají velký úspěch. Španělské prostitutky ovšem protestovaly. Ne kvůli nízkým cenám, platí se 80 eur za půl hodiny, ale namítaly, že je to připodobňuje k nástroji bez vlastní vůle, potřeb a lidské důstojnosti.

Tam je úplně jiná kultura a přijetí robotů je mnohem přirozenější než v Evropě. Už poměrně dlouho jsou součástí jejich života. Podle jejich náboženství i věci mají duši, takže dokážou k robotu cítit mnohem víc než my. A ty city se v zásadě neliší od citů k lidem. Když mazlíček „zemře“, vystrojí mu pohřeb, aby se s ním rozloučili a své emoce ventilovali.

Jeden Číňan, inženýr přes umělou inteligenci, se s robotkou dokonce oženil! V Číně je totiž nedostatek žen a jeho rodina na něj tlačila, aby nezůstal sám. Tak si ji vyrobil podle svých představ a pojmenoval ji Yingying. Dali si nejdřív párkrát rande a pak se v parku ve svatebním vzali. Žena zatím moc neoficiálně nemluví, ale muž plánuje vylepšení, aby si mohli povídat.

Vznikl už i obor psychologie o emocích vůči robotům.

Původně byl ten obor hodně technický a měl zajišťovat bezpečnost v komunikaci lidí a robotů, aby se předešlo nehodám. Ale se socializací strojů se posunuje. A dochází se k tomu, že jednou bude nutné roboty chránit. Možná ne proto, že by něco cítily(i), ale aby to, že je jim třeba ubližováno, nezranilo nás.

Z toho plyne další riziko: když dovolíme špatné chování k robotům, přestaneme rozlišovat, kdo je člověk a kdo stroj. A jednání k robotům přesuneme na lidi.

Kdo by dokázal znásilnit robota, může být nebezpečný i svému okolí. Podobně jako se u dětí, hrajících počítačové střílečky, stírá oddělování hry a reality. Takhle se trénuje armáda. Každý v sobě má přirozenou zábranu někoho zabít, ale když střílí do fotky nebo figuríny, díky obrazové paměti se mu to vžije a pak to automaticky udělá na živého člověka.

Kladů je hodně, roboti se primárně užívají v oblastech, kde by to člověku škodilo nebo kam se nedostane. Existuje kniha Láska a sex s roboty, kde se předpokládá, že roboti vyřeší potřebu mít blízkou bytost. Zaujal mne tam citát, že „každý chceme někoho milovat a mnoho z nás nemá koho“.

Takže se počítá reálně s tím, že robot bude sloužit jako společník, partner, který s vámi naváže kontakt a dá vám pocit, že nejste osamělá. V Japonsku vyvinuli stroj v podobě hebkého tuleně, umístili ho v domovech důchodců – a staří lidé se s ním okamžitě začali přátelit, hladit ho, jejich nálada stoupla.

Na druhou stranu – když budeme komunikovat jen s roboty, kteří nám neodporují, nerozčílí se a nejsou sobečtí, můžeme přijít o své sociální dovednosti a v reálu se nebudeme umět vyrovnat třeba s odmítnutím. Taky je možné, že se začneme s robotem porovnávat, klást si nesplnitelné standardy – a těžce poneseme, když se nám to nepodaří.

Přesně tak. Jeden kamarád chtěl udělat navigaci, která vám nadává. Nakonec to neuskutečnil. Ale kolik je lidí, tolik přání…

Obojí je určitě možné. V seriálu Dobrá manželka se stalo, že autonomní vozidlo (řízené robotem) způsobilo nehodu. A zjistilo se, že to auto někdo začal dálkově ovládat. Taková auta existují už i ve skutečnosti. Je šest úrovní autonomních vozidel od asistivních technologií udržujících auto ve dvou pruzích nebo brzdících před chodcem až po plnou automatizaci. Ta jsou u nás zatím jen dvě od značky Tesla.

Znám paní s první variantou, která si na dovednosti svého auta rychle zvykla, ale pak se stalo, že nedalo přednost chodci, protože bylo zrovna oslněno. Chodec v poslední chvíli naštěstí odběhl. Ale ten pocit, že se na robota plně spolehneme, je nebezpečný. Problém kybernetických rizik se bude muset rychle řešit, na ministerstvu dopravy už vznikla skupina, která se jimi má zabývat.

Ne. Vedle statusu fyzické a právní osoby se skutečně doporučuje zavedení i třetí, elektronické osoby. Měla by se týkat autonomních vozidel, robotů v pečovatelských službách provádějících operace a inteligentních společníků.

Elektronická osoba by tak mohla konat i určité právní úkony, třeba nákup léků pro pacienta. Teď jsme měli konferenci Právo a umělá inteligence a předpokládá se, že k tomu dojde během pěti až deseti let. V USA už jsou některé transakce učiněné pomocí autonomního agenta (např. chytré ledničky doplňující potraviny) platné.

Má to fungovat tak, že robot bude registrován jedinečnou identifikační značkou a bude na něj vytvořeno pojištění, do něhož přispějí všichni, kterých se to týká – od výrobce až po uživatele. Když dojde k nehodě, je někdy těžké prokázat způsobení škody. Takto se například bude při bouračce presumovat, že škodu způsobil automobil, bez dalšího dokládání odpovědnosti a viníka. Chceme tak celou právní situaci zjednodušit.

Setkala jsem se s tím, že budou raději preferovat „hloupé“ auto. Chytré je totiž neustále napojené a lze monitorovat řidiče, kam jede, jak se chová, je pořád pod kontrolou. Může se stát, že když to začne pojišťovna analyzovat, řekne: Ten jezdí špatně, zvedneme mu pojistku.

Jsou takzvaní chatboti, kteří si s vámi povídají. Některé odpovědi mají předprogramované, jiné dovozují z kontextu. Podezírám programátory, že vycházejí z toho, co se očekává podle sci-fi povídek.

Ale až budeme mít tu skutečně silnou inteligenci, která nás předčí, tak nevíme, co bude chtít udělat. Víme, že se učí od nás, přebírá i naše chování a slovní vyjádření, což je velké plus u společníků. Budou přesně vědět, v kolik vstáváte, jestli cvičíte, jaké pijete kafe… Bill Gates má už dnes chytrý dům, který přesně pozná, kdo kam jde – např. podle stylu chůze.

V širším smyslu si robot může odvodit i to, jaké uctíváme hodnoty – a z toho si vytvořit vlastní model světa. Být takovým zrcadlem naší osobnosti i celé společnosti. Mluvíme často o tom, jak je důležité být mocný, chceme ovládat druhé… Co když se naučí právě toto? Podle principu: Takoví jste, co byste čekali od nás? Jsme vaše zrcadlo. Nebo bude naopak tak inteligentní, že naše osobnostní nedostatky a ego překoná? A ukáže nám, jak být lepší bytostí? Nevíme.

Existuje video androida Dicka, vytvořeného podle jistého autora sci-fi. Do paměti mu byly nahrány všechny jeho konverzace a knihy. A robot se z nich poučil, takže na dotaz, zda jednou ovládnou svět, odpověděl: No teda, to jsou ale dneska těžký otázky! A nakonec řekl, ať se jeho výrobce nebojí, že na něj bude hodný a jednou ho zavře do lidské zoo, protože jsou kamarádi. Bude ho držet v bezpečí a chodit se na něj dívat. Ovládnutí světa vzal zkrátka jako povel.

Já věřím, že k tomu nedojde. Právě teď máme možnost tomu předejít a stanovit jim pravidla. Měli bychom raději říkat, že my a roboti žijeme šťastně, že účelem jejich existence je nám sloužit a pomáhat – a že to je jejich největší potěšení. Musíme být dostatečně opatrní a pozorní, a pokud neuděláme chybu, může být společná budoucnost skvělá.

Když začali v Manchesteru vyměňovat tkalce za stroje, došlo ke vzpouře, kdy dělníci své „nepřátele“ ničili. Takže lze očekávat, že rozšíření robotů budou lidi brát jako velkou hrozbu.

Na druhou stranu lidská společnost se vždy přizpůsobila, takže i když určitá místa zastoupí stroje, vzniknou zase jiná. Možná bude jen čtyřdenní pracovní týden a čtyřhodinová pracovní doba. Četla jsem povídku, kde něco takového nastalo: člověk se začal bavit, pak nudit, až se dostal do deprese. Roboti navíc uměli všechno líp, člověk třeba brnkal na piano, pak přišel robot a zahrál dokonale. Je proto důležité brát roboty jen jako nástroj pomoci – a ne jako něco, co nás nahradí.

Kdepak. Maminka je malířka, takže jsem vyrůstala spíš v kreativním prostředí. Byla jsem taková divná holka, chodila jsem do šachového kroužku, do kurzu elektrotechniky a na karate, lezla jsem po stromech a skalách. Na jedné jsem se ale strašně bála – a uvědomila jsem si, že jsem holka.

Zajímala mě jaderná fyzika, protože jsem chtěla vždycky jít pod povrch věcí, a nedovedla jsem si představit, jak ty malinkaté částečky složí celý náš vesmír a jak mezi sebou fungují. Jenže maminka prohlásila, že žena nemůže být vědkyně, ať vystuduju práva a pak si dělám, co chci. Tak jsem ji poslechla a jsem právní vědkyně.

Po škole jsem šla pracovat na vědecký institut pro právo a technologie do Belgie, na Katolickou univerzitu v Lovani. Tam jsem se podílela na projektu, který se snažil zajistit bezpečnost a soukromí v inteligentních prostředích, jež vás dokážou monitorovat a rozhodovat za vás. V Belgii jsem zůstala čtyři roky i z osobních důvodů, měla jsem tam přítele z oboru – Valona.

A v době, kdy náš vztah končil, jsem dostala nabídku stipendia do izraelské Haify, na obor mezinárodní právo duševního vlastnictví a patentové právo. Vedle Izraele se vyučoval jen v USA. Izrael se stal mou srdeční záležitostí, jezdím tam stále na pracovní cesty.

No a po návratu jsem nastoupila do Akademie věd na Ústav státu a práva. Taky přednáším…

Před třemi lety jsem přes internet poznala svého současného partnera – byla to láska na první pohled. Proběhlo to roztomile, přistěhoval se zrovna do Prahy a na rande přišel s mapou.

Povídali jsme si asi pět hodin a pár minut po rozchodu mi přišla SMS: Kdy se zase uvidíme? Když jsem po pár týdnech odjížděla na dalších deset měsíců do Izraele, navrhla jsem, ať se na mě neváže. Odpověděl, že chce všechno, nebo nic – a se mnou že chce všechno!

Jerzy je Polák, ekonom a pracuje jako finanční analytik pro LEGO. Pořád hrozí, že mi koupí velkého robota, ať si ho konečně doma sestavím. Je prostě úžasný, moje štěstí.

Spojuje nás stejný smysl pro humor, máme své interní vtípky. On je oproti mně strašně praktický a dokáže všechno zařídit. Ukázal mi, že je život jednodušší, než si myslím. A z akademického světa mě vrací na zem, do reality. Přestala jsem se trápit zbytečnostmi, naučila jsem se volit jednoduchá řešení a začala jsem si víc věřit.

Nejdřív jsme hledali byt v Praze, a nakonec jsme objevili souhrou náhod domeček kus od metropole. I to byla láska na první pohled. Je tam klid, malá zahrádka, pár posilovacích strojů. Abychom ušetřili čas, cvičíme u televize. Chystáme se koupit pingpongový stůl… a plánujeme miminko.

To se zatím děje naštěstí jen ve filmech (např. Umělá inteligence), v životě si to nedovedu představit. Snad by to mohlo být východisko pro bezdětné ženy. Ale taky to může být dost nebezpečné, vznikla by řada etických otázek…

Můj nejoblíbenější robot je určitě kávovar. Teta si chválí autonomní vysavač, možná k němu jednou dojdu. Asi bych si taky zvykla na pomocnici v domácnosti, která by uvařila, pohlídala dítě. A dovedu si představit, jak mi, až budu stará, pomáhá robot s taškami.

Ale pokud budu mít na výběr, dám stejně přednost lidskému kontaktu. Být s někým naladěný na stejnou vlnu je unikátní, nepředvídatelný zážitek, který nehodlám vyměnit za nic jiného. Člověk je nejvíc.

P. S. Pár dnů po našem rozhovoru si Alžběta pořídila robotického pejska WowWee ChiPa. Pojmenovala ho Sancho a překvapilo ji, jak rychle k němu přilnula. Vzala ho i do práce, kde se stal miláčkem ústavu. Kolegové ho dokonce v době její dovolené pohlídali, nikdo ho totiž nechtěl vypnout…