Vývojáři umělé inteligence nejsou schopni dohlédnout důsledků, míní odborník

Uvedl, že čím více toho ví, tím větší má obavy z toho, co nastane, jakmile umělá inteligence dosáhne takzvané fáze singularity. Jde o bod zlomu, kdy začne nekontrolovatelný a nevratný technologický růst a lidská společnost se začne nenávratně měnit působením technologie. Podle Janiše neexistuje žádný racionální důvod, proč by tohoto milníku nemělo být dosaženo. Otázkou podle něj není jestli, ale kdy.

„Obávám se, že vývojáři AI nejsou schopni dohlédnout důsledků, které jejich výtvor pro lidstvo představuje. Nejde totiž o otázku technickou, nýbrž filozofickou a legislativní,“ uvedl Janiš. Podle něj ve chvíli, kdy umělá inteligence dosáhne singularity, ztratí lidstvo nad jejím dalším vývojem jakoukoliv kontrolu. Její schopnosti poté podle něj porostou exponenciálním tempem a nebude v lidských silách tento vývoj ani pochopit, natož jej nějakým způsobem moderovat.

„Vytvoříme si jakéhosi boha. Představa, že tohoto boha dokážeme kontejnerizovat a udržet v bezpečí sandboxu, je v nejlepším případě naivní, stejně jako představa, že nám tento bůh potom bude sloužit. On. Nám,“ uvedl Janiš.

Uvedl, že výzvu podepsal, přestože je podle něj trošku naivní a z dlouhodobého hlediska nic neřeší. „Vnímám ji ale jako způsob, jak toto téma otevřít, protože s ohledem na to, jak dramatickým způsobem AI v nejbližších měsících a letech změní trh práce a celou společnost, je toto téma v médiích diskutováno zcela nedostatečně a nemá takovou pozornost politické reprezentace, jakou si zaslouží,“ míní Janiš.

Uvedl, že jsme jako původní obyvatelé Nového světa, kteří poprvé spatřili karavely s Evropany. „Dívali se na ně se zaujetím a zvídavostí, ale stěží jim docházelo, co pro ně tato exotická návštěva v dlouhodobém horizontu bude znamenat. My oproti nim máme několik století náskok, známe historii a měli bychom být schopni se z ní poučit,“ uvedl Janiš.

Prohlášení podepsaly stovky akademiků, expertů a podnikatelů zapojených do vývoje umělé inteligence (AI) včetně miliardáře Elona Muska. Navrhují, aby vývojáři tuto pauzu využili ke společné práci na bezpečnostních pravidlech a také k vystupňování spolupráce se zákonodárci na silné regulaci odvětví.

Kritici tvrdí, že signatáři petice potenciál aktuálních technologií hrubě přehánějí, napsal Reuters. „Takováto prohlášení mají za cíl vytvořit přehnaná očekávání. Má to v lidech vyvolat obavy,“ míní výzkumnice v oboru umělé inteligence Johanna Björklundová z univerzity ve švédském Umeaa. „Nemyslím si, že je potřeba tahat za ruční brzdu,“ dodala.