Článek
Výzkumníci ze Stanfordovy univerzity ve spolupráci s výzkumnou laboratoří umělé inteligence DeepMind Technologies Limited (Google DeepMind) testovali model umělé inteligence ve dvouhodinových rozhovorech s více než tisícovkou lidí.
Do studie vedené týmem v čele se studentem doktorského studia informatiky ze Stanfordu Joonem Sungem Parkem byli zahrnuti účastníci různého vzhledu, rasy, věku a vyznání.
Dvouhodinové rozhovory zahrnovaly širokou škálu témat od jejich osobního životního příběhu až po jejich názory na současná společenská témata. Poté byl výsledek z rozhovorů v podobě skript použit k trénování generativních modelů umělé inteligence (tzv. simulačních agentů) pro každého jednotlivce.
Bič na podvodníky. Mobily odhalí deepfaky díky vibracím
Malé množství informací stačí k replikaci vaší osobnosti
V rámci testu toho, jak dobře tyto agenti napodobují své lidské protějšky, provedli účastníci i umělá inteligence sadu úkolů, včetně osobnostních testů a her.
O čtrnáct dnů později byli účastníci požádáni, aby zopakovali své vlastní odpovědi. Umělá inteligence dokázala simulovat odpovědi s 85% přesností ve srovnání s lidskými účastníky.
Simulační agenti dokonce byli podobně efektivní, když byli požádáni o předpověď osobnostních rysů v pěti společenskovědních experimentech.
„Pokud můžete mít spoustu malých ‚vás‘, kteří pobíhají a skutečně dělají rozhodnutí, která byste udělali vy, myslím, že to je nakonec budoucnost,“ píše ve studii Park.
Podle tvůrců je hlavním smyslem této studie poskytnout výzkumníkům v oblasti sociálních věd větší volnost při provádění studií. Vytvořením digitálních replik, které se chovají jako skuteční lidé, mohou vědci provádět studie bez nutnosti pokaždé přivést tisíce lidských účastníků.
Právě to je ale velmi jednoduše zneužitelné, ať už samotnými vědci, tak především právě deepfake podvodníky nebo dalšími online scammery. Navíc studie otevírá problém s bezpečností, soukromím a krádežemi identity.
Výzkum totiž ukazuje, že ačkoliv se naše osobnost může zdát jako nehmotná nebo nevyčíslitelná, je možné ji velmi lehce replikovat na základě relativně malého množství informací. A to je až děsivé.
Co je to deepfake?
Deepfake je zdánlivě reálný, umělou inteligencí vytvořený obraz, zvuk nebo video. Na pravdě se ovšem tento materiál nezakládá.
Technologie deepfake, složenina ze slov deep learning (hluboké učení, disciplína v rámci strojového učení) a fake, využívá umělé inteligence, která pomocí algoritmů a velkého množství zdrojových fotografií dokáže vytvořit model obličeje člověka, aniž by ho bylo potřeba skenovat.
Nový postrach podvodníků. AI babička chrání lidi před telefonními podfuky
