AI dovede pomocí klonu hlasu překonat bezpečnostní kontroly v bance

Reportérka Shari Vahlová zkoumala v rámci BBC Scam Safe Week (Týden bezpečného podvodu) sílu hlasového klonování. Nechala si vytvořit identický klon hlasu prostřednictvím rozhovoru v rádiu, který moderovala.

Klon vytvořený umělou inteligencí zprostředkoval stejný odborník jako u herce Jamese Nesbitta, jehož hlas byl použit pro informační kampaň Starling Bank.

Novinářka nejdříve klon hlasu vyzkoušela na svých kolezích v kanceláři You and Yours. Ti měli problém rozeznat rozdíl mezi oběma hlasy, což Vahlovou vůbec nepřekvapilo.

„V případu rozeznání klonovaného hlasu od mého reálného mě nepřekvapilo, že to mí kolegové nepoznali. Rozhodla jsem se tedy vyzkoušet, jakým způsobem si umělá inteligence poradí s hlasovou identifikací mého bankovního účtu,“ píše ve článku Shari Vahlová.

Několik bank používá pro své telefonní bankovnictví systém zvaný voice ID nebo frázi „můj hlas je moje heslo“. Ta umožňuje bankám automaticky potvrdit totožnost majitele účtu, aniž by si musel pamatovat bezpečnostní číslo.

Vahlová tedy v rámci experimentu vyzbrojená nahrávkou svého hlasu zavolala do banky Santander a zkusila se přihlásit právě pomocí fráze „můj hlas je moje heslo“. Po krátkém ověření banka potvrdila přihlášení, novinářka byla schopna dostat se i prostřednictvím svého klonu hlasu ke svým údajům.

Stejný trik využila i u druhé banky Halifax, výsledkem bylo další úspěšné nabourání se do systému klonem umělé inteligence.

„Musím podotknout, že jsem obě přihlášení udělala v kanceláři, a to pomocí reproduktorů studia BBC. Později jsem to zkusila doma prostřednictvím reproduktoru iPadu a také to fungovalo. To naznačuje, že není potřeba špičkový zvuk,“ dodává Vahlová.

Všechny hovory reportérka provedla ze svého registrovaného telefonního čísla. Podvodníci by tedy museli ukrást telefon a mít ho odemčený, aby se tímto způsobem dostali k bankovním údajům. Není to tedy zase tak jednoduché, ovšem ani nemožné.

Informace, které mohou podvodníci tímto způsobem získat, jsou i tak velmi užitečné a mohou ohrozit bezpečnost daného účtu.

Ačkoliv novinářka obě banky se znepokojivými zjištěními kontaktovala, i tak byly tyto instituce přesvědčené o dostačujícím a vysoce účinném zabezpečení. Navíc se podle nich jedná jen o volitelné zabezpečení - hlasové zabezpečení je pouze jedním z prvků jejich přísného přístupu k bezpečnosti zákazníků a jejich účtů.

„Nezaznamenali jsme žádné podvody v důsledku použití hlasové identifikace a jsme přesvědčeni, že poskytuje vyšší úroveň bezpečnosti než tradiční metody ověřování založené na znalostech,“ tvrdila v prohlášení banka Santander.

„Neustále přezkoumáváme, testujeme a vylepšujeme naše systémy v reakci na stále sofistikovanější taktiky používané podvodníky,“ dodala.

Specialistu na kybernetickou bezpečnost a člena britského vládního Národního poradního výboru pro kybernetiku Sajo Huga zjištění Vahlové nepřekvapilo, i tak ho ale vyděsilo.

„Děsí mě, že se pomocí této technologie dokážete dostat ke svému účtu, ale zároveň mě to nepřekvapuje, už jen vzhledem k rychlosti vývoje technologií v této oblasti,“ řekl Hugo pro BBC.

Schopnost použít klon umělé inteligence k těmto účelům je podle něj „jasným příkladem jen jednoho prvku rizik, která potenciálně představuje šíření generativní umělé inteligence“.