Článek
„V knize jsem se zaměřil na to, co se může pokazit, protože mi přišlo důležité, abychom si tohle všichni uvědomili,“ říká po skoro čtyřech letech Nick Bostrom v krátkém skypovém rozhovoru pro Salon. „Od vydání se několik věcí změnilo: pokrok v oblasti umělé inteligence je ještě rychlejší, než byl tenkrát, ovšem víc prostředků proudí taky do výzkumu toho, jak předejít hrozbám, které s sebou umělá inteligence přináší. Pokročil například i výzkum takzvaného hlubokého učení, tedy vícevrstvých neuronových sítí, které se podobají fungování lidského mozku a umožňují strojům, aby se učily samy bez přímého dohledu člověka.“
Kniha Superinteligence se čte jako velkolepý sci-fi román, i když Bostrom sám žádným velkým fanouškem tohoto žánru není. Popisuje současný stav našeho poznání, cesty, které pravděpodobně povedou k vytvoření superinteligence (tedy umělého intelektu dalece překonávajícího lidské kognitivní výkony), i různé představy, jak by takový nadlidský umělý mozek mohl fungovat. Věnuje se rovněž možné mezinárodní soupeřivosti, protože země nebo organizace disponující superinteligentním strojem by získala proti ostatním rozhodující strategickou výhodu. Ostatně Elon Musk, technologický vizionář a zakladatel společnosti SpaceX, varuje, že třetí světová válka vypukne právě kvůli superinteligenci; ptám se tedy na takovou možnost i Nicka Bostroma. „Doufám, že se nic takového nestane,“ odpovídá stručně. „Bylo by dobré, kdyby vývoj umělé inteligence probíhal v mezinárodní vědecké spolupráci, jako se to podařilo u Mezinárodní vesmírné stanice, Projektu lidského genomu nebo Velkého hadronového urychlovače.“
Další část knihy se zabývá nebezpečím, které lidstvu přináší sama superinteligence, a výmluvné jsou už názvy kapitol: Jak pravděpodobná je zkáza lidstva? – Problém kontroly – Věštírny, džinové, suveréni, nástroje. Bostrom provádí zajímavé myšlenkové pokusy, když se vžívá do pravděpodobného myšlení superinteligentního mozku; vysvětluje například fenomén zvráceného uskutečnění cíle, tedy možnost, že se superpočítač pokusí zadaný úkol splnit nepředvídaným, pro člověka zhoubným způsobem – autor používá svůj oblíbený příklad: když bude superinteligence naprogramována tak, aby vyráběla kancelářské svorky, může se pokusit přeměnit celý vesmír v montážní linku na výrobu svorek.
Jaké hodnoty strojům předat
Zřejmě nejdůležitější část knihy je analýza možných postupů, jak umělé inteligenci předat hodnoty, které by jí zabránily obrátit se proti člověku. Bostrom přesvědčivě dokazuje, proč lidstvo v současnosti žádné univerzální hodnoty nedokáže vyjádřit, natož předat, a že řešení bude muset vypadat jinak.
„Už na tom pracují různé vývojové týmy,“ říká dnes autor. „Jeden ze slibných přístupů je učení se hodnotám, tedy metoda, při níž se umělá inteligence sama učí těm hodnotám, které by podle nás měla rozvíjet, a snaží se porozumět našim přáním, jež si my sami třeba zatím neuvědomujeme. Vlastně jde o to, aby umělá inteligence odhalila hodnoty, které bychom zastávali, kdybychom byli na vyšším stupni vývoje. Jsou ale i jiné metody a teprve v budoucnu uvidíme, která se ukáže jako nejúspěšnější.“
Jedna z divokých teorií říká, že umělá inteligence by se v budoucnu mohla učit hodnotám i od vyspělejší mimozemské civilizace. Ovšem Bostrom je k tomu skeptický, a před lety dokonce napsal výmluvnou esej nazvanou Kde jsou? Proč doufám, že hledání mimozemského života nic neobjeví. „Představte si, že dejme tomu na Marsu najdeme nějaké známky primitivního života, třeba bakterie,“ vysvětluje. „Existuje koncept, kterému říkáme Velký filtr – označuje pravděpodobnostní bariéru pro inteligentní život a je možným vysvětlením, proč ve vesmíru nevidíme žádné mimozemské civilizace. Velký filtr mohl ležet v naší minulosti, což by znamenalo, že jsme ho na planetě Zemi překonali a vyvinuli se navzdory vší nepravděpodobnosti; anebo by se mohl nacházet v budoucnosti a mít podobu nějaké katastrofy – válečné, ekologické nebo třeba způsobené umělou inteligencí. No a kdyby byl na Marsu život, naznačovalo by to, že vznik života zas tak nepravděpodobný není a že Velký filtr nás teprve čeká.“
Kniha Superinteligence. Až budou stroje chytřejší než lidé je důležitá hlavně tím, že nám otevírá myšlení i nové světy. Nezahazuje žádný na první pohled bláznivý nápad, ve vizi naší budoucnosti nám zdánlivě mimoděk zjevuje i to, jací jsme dnes, a přichází s provokativními myšlenkami.
„Filosofický pokrok lze nejlépe urychlit nepřímo, nikoli pomocí samotného filosofování,“ naznačuje Bostrom v závěrečné kapitole jednu z možností, kudy by se lidstvo mohlo ubírat. „Jednou z mnoha úloh, v nichž by superinteligence (nebo i průměrně vylepšená lidská inteligence) překonávala dnešní myslitele, je zodpovídání základních otázek vědy a filosofie. Tato úvaha hovoří pro to, abychom zvolili strategii odloženého uspokojení. Některé z věčných otázek bychom mohli odsunout na později, delegovat je na naše následovníky, kteří snad budou kompetentnější než my – a díky tomu bychom svou pozornost mohli zaměřit na naléhavější výzvu: na zvýšení šance, že kompetentnější následovníky skutečně budeme mít.“
Nick Bostrom
Nick Bostrom Superinteligence
Nick Bostrom Superinteligence Až budou stroje chytřejší než lidé
Nick Bostrom Superinteligence Až budou stroje chytřejší než lidé Přeložil Jan Petříček.
Prostor
Nick Bostrom: Superinteligence
