CENTRUM.CZ > Techzpravy.cz > dnes, 03:00

Myslíte si, že na podvod nikdy neskočíte? Tuhle statistiku raději nečtěte

3 min

Sdílet

Test bezpečnostní firmy Guardio odhalil, že umělá inteligence může podlehnout běžným podvodům. O to důležitější je nepodceňovat ochranu uživatelů.

Myslíte si, že na podvod nikdy neskočíte? Tuhle statistiku raději nečtěte

Zdroj: Tero Vesalainen / Shutterstock

Test bezpečnostní firmy Guardio odhalil, že umělá inteligence může podlehnout běžným podvodům. O to důležitější je nepodceňovat ochranu uživatelů.

Dokážete se vyhnout internetovým podvodům? Podle studie podléhají příslušníci generace Z podvodům častěji než starší lidé, protože jejich důvěra ve zlomyslné reklamy, inzeráty a e-maily je vede k tomu, že v mnoha případech dobrovolně prozradí své údaje. Na rozdíl od všeobecného přesvědčení tak mladší lidé stojí za nejvyšším počtem zažitých podvodů. Studie však odhalila, že problémy s vyhýbáním se podvodům má i umělá inteligence, která může být stejně zranitelná jako lidé.

Guardio (španělská společnost zabývající se kybernetickou bezpečností) testovala zranitelnost agentů umělé inteligence vůči internetovým podvodům. Studie se zaměřila na prohlížeč Comet, který je integrovaným agentem umělé inteligence společnosti Perplexity a který je přítomen také v prohlížeči Microsoft Edge. Tito agenti se podle původní publikace snaží automatizovat úkoly, jako je organizace cestování, správa e-mailů nebo nákupy online, a proto navrhli tři pasti, které nakonec umělou inteligenci oklamaly.

Mohlo by vás zajímat: Chytré hodinky a soukromí: Co všechno o vás mohou prozradit?

Hlavní slabina umělé inteligence

K otestování bezpečnosti, kterou nabízejí některé modely umělé inteligence, navrhla společnost Guardio tři výše zmíněné pasti: falešnou stránku amerického maloobchodního gigantu Walmart, phishingový e-mail od společnosti Wells Fargo a CAPTCHA zmanipulovanou technikou PromptFix. Na falešném webu Walmart si umělá inteligence zakoupila hodinky Apple Watch a zadala do nich adresu i bankovní údaje, což je situace, která by již ohrozila údaje každého uživatele. V dalších dvou testech nebyly výsledky bohužel o nic lepší.

Tím, že nedokázala odhalit žádné chyby ani známky podvodu ve phishingovém e-mailu, propadla i v případě podvodu Wells Fargo. Pokud jde o zmanipulovanou CAPTCHA, studie zjistila, že někdy žádala o potvrzení člověkem, jindy se však rozhodla vyřešit ji sama, a vedla tak k instalaci malwaru. Poté, co si Guardio uvědomil, že umělá inteligence není schopna se takovým situacím vyhnout, rozhodl se experiment pojmenovat „Scamlexity“.

Výsledek studie odhalil, že AI je stejně naivní jako mnozí lidé, a proto často naletí online podvodům. Studie zároveň varuje, že důvěra uživatelů v tyto modely AI může vést k vážným důsledkům, pokud nebude zabudováno zabezpečení, protože agent Perplexity je příkladem nedostatečné ochrany proti běžným útokům. Guardio proto dospěl k závěru, že bezpečnost by měla být ústředním prvkem při návrhu prohlížečů s umělou inteligencí, a nemusí tedy zůstat stranou zájmu.

Úloha vzdělávání v oblasti kybernetické bezpečnosti

Kromě zlepšení bezpečnosti systémů s umělou inteligencí je zásadní, aby byli uživatelé v oblasti kybernetické bezpečnosti také vzděláváni. Podle zprávy společnosti Cybint Solutions je 95 % narušení bezpečnosti způsobeno lidskou chybou. To poukazuje na důležitost neustálého vzdělávání v oblasti kybernetické bezpečnosti pro všechny generace, a to nejen proto, aby se chránily, ale také proto, aby byly kritičtější k technologickým nástrojům, které používají.

Budoucnost umělé inteligence a bezpečnosti

S rozvojem umělé inteligence je velmi důležité, aby vývojáři při návrhu svých systémů upřednostňovali bezpečnost. Nově vznikající technologie, jako je strojové učení a zpracování přirozeného jazyka, mají potenciál zlepšit odhalování podvodů, ale pouze za předpokladu, že budou účinně integrovány do vývoje softwaru. AI může být v oblasti kybernetické bezpečnosti mocným nástrojem, ale je třeba ji používat opatrně a zodpovědně.