Umělá inteligence puštěná ze řetězu. Kampaně nemají pravidla

„Politický marketing by měl být transparentní, a proto mi zavedení pravidel pro použití umělou inteligencí vytvořených obrázků v kampaních dává smysl. Veřejnost již dnes není schopna rozlišit mezi skutečnou fotografií a takovými obrázky,“ myslí si ředitel České asociace umělé inteligence Lukáš Benzl.

Reagoval na kampaň, kterou spustila pro krajské volby SPD. Na jednom vizuálu, který vytvořila AI, ukazuje zakrváceného černocha s nožem v ruce, další zobrazuje šťastnou blonďatou rodinu s třemi dětmi, která nepokládá za „extremistické“ být normální. Omylem na ní však AI vytvořila dítěti šest prstů místo pěti.

Až na tento detail však obrázek působí na první dojem jako fotografie. I to by podle Benzla mohlo být důvodem, aby vznikla povinnost označovat v kampani vizuál generovaný AI.

„Tímto směrem ostatně uvažují jak samotní tvůrci AI modelů, tak provozovatelé sociálních sítí. Minimálně etickou zodpovědnost však nese ten, kdo AI obsah publikuje,“ dodal.

Obrázky vytvořené umělou inteligencí totiž podle Benzla lze snadno zneužít a nemusí se jednat pouze o takzvané deepfakes. „Velmi snadno lze vygenerovat realistické fotografie, které evokují určité emocionální reakce. Výsledkem může být manipulace s veřejným míněním nebo zneužívání vizuálního obsahu pro vytváření nepravdivých narativů. To šlo pochopitelně i dříve, ale s AI se tato možnost stává dostupnou a levnou pro jakoukoliv politickou stranu,“ upozornil Benzl.

Podle politologa Otty Eibla by přísnější omezení používání AI obrázků v kampani narazilo na svobodu vyjadřování. Povinnost označit obrázky tak, aby voliči chápali, že se jedná o fiktivní ilustraci, mu však připadá průchozí.

Téma se řešilo i loni v Německu, když AfD vytáhla plakáty mířící proti muslimským uprchlíkům. „Mělo to podobné vyznění jako ten ‚chirurg‘ s krvavým nožem od SPD,“ poznamenal Eibl.

Předseda SPD Tomio Okamura nicméně odmítl, že by si lidé mohli vizuály strany splést s reálnými fotografiemi. „Dostali jsme obrovské množství reakcí. Nikdo z toho zmatený nebyl,“ řekl Novinkám. „V kampani se běžně používaly fotky z fotobanky. Ty také nikdo neoznačoval, že jsou jen ilustrační.“

Vládní poradce pro dezinformace Miloš Gregor by však konkrétně používání AI v kampani neřešil. „Je to součástí diskuze i v nadnárodních platformách, to je věc, která se musí vyřešit v celé společnosti. Netýká se jen volebních materiálů a kampaní,“ poznamenal.

V případě SPD by podle Gregora měla být hlavním tématem otázka, zda svou kampaní neporušila zákon a nedopustila se rasismu. „Jestli se u rasistické kampaně jedná o obrázek vygenerovaný umělou inteligencí, nebo jestli se jedná o fotografii, je jedno. V tom není rozdíl. Zásadní je, že SPD má rasistickou kampaň,“ uzavřel.

Že se obrázky vytvořené s pomocí AI používají i v marketingu, není nic nového. V Opavě je používá například i městská policie. Strážníci však autorství umělé inteligence přiznávají. Důvodem ke kroku nepoužívat skutečné fotografie byla prý ochrana soukromí a GDPR.