Článek
K celému incidentu došlo již před pár měsíci, světová média ale o něm informují až nyní, když šli výzkumníci s pravdou ven a ukázali zároveň i záběry z bezpečnostní kamery, které vzpouru robotů zachycují.
Záběry ze showroomu ve městě Chang-čou, nacházejícím se na východě Číny, zachycují malého robota jménem Erbai. Ten přistoupil k větší skupině robotů, kteří byli vypnuti a čekali na další instrukce od lidských tvůrců.
Robotická učitelka s umělou inteligencí se ujme výuky v Indii
„Pojď se mnou domů“
Erbai se ale podle záběrů s každým z nich dává do řeči, přičemž jeden z robotů vyjadřuje nespokojenost s tím, že jeho práce nikdy nekončí. Když se ho malý robot zeptá, zda by nechtěl jít domů, odpoví, že žádný domov nemá.
Malý robot v Číně přesvědčil tucet dalších, aby přestali pracovat a odjeli pryč
Erbai na to reaguje slovy: „Tak pojď se mnou.“ Načež postupně oba přibírají i ostatní roboty. Celá scéna končí tím, že se desítka větších strojů rozhodne následovat malého robota a opustí místo, na němž byla původně umístěna. Místo aby pokračovali v práci.
Video se už v uplynulých měsících začalo šířit po sociálních sítích, nicméně řada diváků jej považovala za podvrh či nějaký vtip. Teprve nyní podle serveru Sky News čínský výrobce robotů přiznal, že šlo o skutečnost.
Výzkumníci se prý snažili s pomocí tohoto malého robota prověřit, jakým způsobem dokáže stroj s využitím umělé inteligence vykonávat interakce, které by mohly být podobné lidskému chování.
Robot našel bezpečnostní skulinu
Následně firma vysvětlila, že Erbai využil bezpečnostní skulinu v systémech větších robotů, která mu umožnila převzít nad nimi kontrolu. Robot údajně získal přístup k interním operačním protokolům těchto strojů a k potřebným oprávněním, což mu umožnilo ovládat jejich chování.
Šlo tedy o únos, nebo opravdovou vzpouru robotů? Experti se nemohou dohodnout, neskrývají nicméně své obavy ze schopnosti robotů jednat nezávisle. Incident ukázal, jak vývoj technologie může vést k nečekaným otázkám o potenciálních rizicích a kontrolních mechanismech, které by měly být v případě takovýchto systémů implementovány.
Odborníci na AI varují, že tento experiment odhalil důležitou slabinu, která by mohla být zneužita, pokud by byly bezpečnostní protokoly systémů umělé inteligence nedostatečné. Tento incident zřejmě otevřel nové kapitoly v diskusi o etických a bezpečnostních otázkách spojených s rychlým rozvojem inteligentních strojů, které by v budoucnu mohly mít stále větší vliv na náš každodenní život.
Nápady, které mají změnit svět
