AI nástroje mohou brzy manipulovat s rozhodováním lidí na internetu, tvrdí vědci

Nový trh ekonomiky záměru – kde asistenti umělé inteligence chápou, předpovídají a manipulují s lidskými záměry a prodávají tyto informace společnostem, které z nich mohou profitovat, by mohl být podle výzkumníků nástupcem ekonomiky pozornosti, kdy sociální sítě udržují uživatele na svých platformách a servírují jim reklamy, píše web The Guardian.

Ekonomika záměrů zahrnuje především technologické společnosti s umělou inteligencí, které prodávají to, co vědí o vašich motivacích, od plánů na pobyt v hotelu až po názory na politické kandidáty, tomu, kdo nabídne nejvíc.

„Po desetiletí byla pozornost měnou internetu. Sdílení pozornosti prostřednictvím platforem sociálních médií, jako jsou Facebook a Instagram, bylo hnacím motorem internetové ekonomiky,“ řekl historik technologií cambridgeského Leverhulme Centre for the Future of Intelligence (LCFI) doktor Jonnie Penn.

„Pokud nebude záměrná ekonomika regulována, bude vaši motivaci považovat za novou měnu. Bude to zlatá horečka pro ty, kteří se zaměřují na lidské záměry, řídí je a prodávají,“ dodal.

Uživatelé by podle něj měli začít uvažovat o pravděpodobném dopadu takového trhu na lidské touhy, včetně svobodných a spravedlivých voleb, svobodného tisku a férové tržní soutěže. Dříve než se staneme jeho obětí.

Studie dále tvrdí, že velké jazykové modely (LLM) – technologie, která je základem nástrojů umělé inteligence, jako je chatbot ChatGPT – budou využívat k předvídání a řízení uživatelů behaviorální a psychologické údaje.

Navíc by měly navazovat právě na ekonomiku pozornosti, která umožňuje inzerentům koupit si přístup k pozornosti uživatelů prostřednictvím nabídek v reálném čase na reklamních burzách nebo získáním měsíčního reklamního prostoru na billboardu.

Modely by tak mohly mít přístup k pozornosti v reálném čase. Například se budou ptát uživatelů, zda se chtějí podívat na určitý film – „Přemýšlel jsi o tom, že dnes večer uvidíš Spider-Mana?“.

A také mohou předkládat návrhy týkající se budoucích záměrů – „Zmínil jste se, že se cítíte přepracovaný, mám vám rezervovat lístek do kina, o kterém jsme mluvili?“ Vše by mělo odpovídat faktorům uživatelů, jako jsou například osobní stopy chování a psychologický profil.

„V ekonomice záměrů by LLM mohl s nízkými náklady využívat kadenci, politiku, slovní zásobu, věk, pohlaví, preference podlézavosti uživatele v součinnosti se zprostředkovanými nabídkami, aby maximalizoval pravděpodobnost dosažení daného cíle (např. prodeje lístku na film),“ navrhuje studie.

Podle vědců by inzerenti mohli časem využívat generativní nástroje AI k vytváření online reklam na míru, mohli by řídit konverzace ve službách inzerentů, podniků a dalších třetích stran.

Navíc by modely umělé inteligence mohly upravovat své výstupy v reakci na „proudy příchozích dat generovaných uživateli“, vyvozovat osobní informace prostřednictvím pracovních výměn, a dokonce řídit konverzace s cílem získat více osobních informací.

Studie také nastoluje budoucí scénář, kdy například Meta bude inzerentům dražit záměr uživatele rezervovat si restauraci, letenku nebo hotel.

„Ačkoli již existuje odvětví, které se věnuje předpovídání a nabízení lidského chování, modely umělé inteligence by tyto postupy měly vydestilovat do vysoce kvantifikované, dynamické a personalizované podoby,“ uzavírají vědci ve studii.