„Umělá inteligence povede ke zkáze,“ varuje nobelista. Svůj život přitom zasvětil AI

„Podle mého názoru nejsou dnešní chatboti a další nástroje postavené na AI zatím inteligentnější než my, ale obávám se, že se to brzy změní,“ řekl Hinton loni v rozhovoru pro BBC.

Uvedl také, že některá rizika spojená s rozvojem těchto technologií jsou „docela děsivá“. Jednou z jeho hlavních obav je, že internet bude zaplaven neuvěřitelným množstvím textů a obrázků generovaných umělou inteligencí, kvůli čemuž „lidé přestanou být schopni rozlišovat, co je pravda a co fikce“.

Obavy, které Hinton chová ohledně budoucnosti AI, byly jedním z důvodů, proč se rozhodl po více než deseti letech opustit své působení ve společnosti Google. „Chtěl jsem hovořit o otázkách spojených s bezpečností umělé inteligence, aniž bych musel brát ohled na zájmy společnosti,“ vysvětlil své rozhodnutí v rozhovoru pro MIT Technology Review.

Přestože někteří odborníci mají optimističtější názor na budoucnost AI, Hinton zdůrazňuje, že rozdíly v pohledech často závisí na osobním nastavení jednotlivce.

„Když se lidí zeptáte na rizika, například jaká je pravděpodobnost, že se stane něco špatného, optimista řekne pět procent, pesimista řekne, že je to nevyhnutelné. A pak tu máme mírně depresivní lidi, kteří řeknou, že pravděpodobnost je kolem čtyřiceti procent – a ti obvykle mají pravdu,“ vysvětlil Hinton.

Dodal, že i on sám se nyní považuje za „mírně depresivního“.

Hintonovi, který je ve svých 76 letech označován za „kmotra umělé inteligence“, dělá těžkou hlavu i možnost, že AI bude zneužita špatnými lidmi. V této souvislosti poukázal na nebezpečí, že by například ruský prezident Vladimir Putin mohl využít umělou inteligenci k vývoji robotů, kteří by si sami stanovovali dílčí cíle, aby efektivněji plnili své úkoly.

„Ani na chvíli nevěřte tomu, že by Putin váhal s výrobou hyperinteligentních robotů, jejichž úkolem by bylo zabíjet Ukrajince. Neváhal by,“ prohlásil loni Hinton v rozhovoru pro MIT Technology Review.

Podle Hintona by však jedním z vedlejších cílů robotů mohlo být i to, že budou usilovat o získání větší moci, aby své hlavní úkoly mohli snáze splnit. Také varoval před scénářem, kdy roboti dospějí k závěru, že pro splnění svých úkolů potřebují více energie nebo vytvoření kopií sebe sama.

„Zní to dobře?“ ptal se Hinton, když tuto děsivou možnost popisoval.

Loni se Hinton připojil k výzvě stovek vědců, která upozorňuje na to, že umělá inteligence by mohla znamenat potenciální zánik lidstva. „Zmírnění rizika vyhynutí způsobeného umělou inteligencí by mělo být globální prioritou, stejně jako pandemie a jaderné války,“ stálo v prohlášení, které spolu s Hintonem podepsali i další významní odborníci na technologii.

Hintonův pesimistický pohled na budoucnost umělé inteligence se promítl i do jeho posledního rozhovoru pro MIT Technology Review, který zakončil varovnými slovy: „Užívej si, protože možná nemáš moc času,“ pronesl směrem k novináři, když se s ním loučil.