Generální ředitel OpenAI varuje před koncem hlasového ověřování v bankách kvůli schopnosti umělé inteligence během několika sekund naklonovat lidský hlas.
Hlasové ověřování, kdysi považované za pokročilé bezpečnostní opatření, je nyní zastaralé. Sam Altman, generální ředitel společnosti OpenAI, vydal varování před „blížící se katastrofou“ ve finančním sektoru, která souvisí se znepokojivým vývojem: nástroje umělé inteligence (AI) nyní dokážou replikovat lidské hlasy tak přesně, že tradiční metody ověřování již nejsou účinné.
Ve svém projevu na konferenci americké centrální banky Altman označil za „absurdní“, aby finanční instituce nadále používaly hlasové otisky k autorizaci plateb. Jeho argument je jasný: poslouchat člověka, jak opakuje frázi pro přístup ke svému účtu, již nemá smysl, když umělá inteligence dokáže stejný zvuk vygenerovat během několika sekund.
Hlas jako brána k podvodům
FBI již zdokumentovala případy, kdy zločinci využívají syntetické hlasy k podvodům na obětech a simulují naléhavé rodinné situace nebo smyšlené krize, aby získali převody peněz. Jedním z extrémních případů byl pokus vydávat se za hlas senátora Marca Rubia, aby kontaktoval oficiální představitele. Hrozba je reálná a roste.
Altman se vyjádřil nekompromisně: současné hlasové modely a dokonce i některé biometrické metody byly „zcela překonány“ pokrokem v oblasti umělé inteligence. Společnost OpenAI již v minulosti projevila obavy z těchto problémů a z podobných důvodů odložila spuštění dalších modelů.
Michelle Bowmanová, viceprezidentka americké centrální banky, se zdá být ochotná s OpenAI spolupracovat. Uvedla, že „by to mohla být oblast, kde by se dalo uvažovat o spolupráci“ při vývoji bezpečnějších autentizačních systémů. Taková spolupráce má zásadní význam pro řešení bezpečnostních výzev, které AI představuje.
OpenAI již pracuje na projektech, jako je The Orb, iniciativa Tools for Humanity, která se snaží vytvořit „důkaz lidskosti“ v digitálním prostředí. Jde o to, aby bylo možné rozlišovat mezi skutečnými a falešnými interakcemi. Bílý dům mezitím připravuje akční plán pro umělou inteligenci, který má tento vývoj regulovat a zmírnit související rizika.
Umělá inteligence mění celý svět
Altman se zabýval také geopolitickými riziky: systémy superinteligence, které by mohly zpochybnit technologickou suverenitu USA, zejména pokud Čína dosáhne těchto pokročilých schopností jako první. Zmínil možnost strojově prováděných kybernetických útoků, které by mohly zahrnovat cokoli od sabotáže infrastruktury až po použití biologických zbraní.

Zdroj: Youtube.com
Zajímavé je, že Altman se nedomnívá, že umělá inteligence masivně zničí pracovní místa. Naopak tvrdí, že bude vytvářet kvalitnější pracovní místa. Uznává však, že „žádná předpověď budoucnosti práce není přesná“ a že změny pracovních míst budou s vývojem technologií nevyhnutelné.
Společnost OpenAI nedávno otevřela ve Washingtonu DC kanceláře s týmy, které se věnují ekonomickým analýzám a školením pro státní správu. Společnost lobbuje u Trumpovy administrativy, aby se vyhnula regulacím, které by mohly snížit její konkurenceschopnost vůči Číně, i když Altman již přiznal, že s předchozím strašením riziky AI zašel příliš daleko.