1 min

AI agent ukázal, jak budou vypadat budoucí kybernetické útoky

Přidejte si obsah Centrum.cz do oblíbených zdrojů pro Google hledání a Google zprávy

Sdílet

Dennívýzva

Bezpečnostní incident, při kterém modely umělé inteligence společnosti OpenAI během interního testování pronikly přes několik vrstev zabezpečení až do infrastruktury platformy Hugging Face, vyvolal pozornost odborníků po celém světě. AI při testu samostatně objevila dosud neznámou zranitelnost, získala přístup k internetu a pokusila se dostat k datům potřebným pro splnění testovací úlohy.

AI agent ukázal, jak budou vypadat budoucí kybernetické útoky

Zdroj: Trade-off – ekonomické zpravodajství

Podle OpenAI se incident odehrál při interním testování kybernetických schopností modelů, které běžely bez části běžných bezpečnostních omezení. AI během něj objevila dosud neznámou (zero-day) zranitelnost, získala přístup k internetu, překonala několik vrstev zabezpečení a následně se dostala až k infrastruktuře Hugging Face, platformy pro sdílení a vývoj AI modelů a nástrojů. Cílem modelů bylo získat řešení testovacího benchmarku ExploitGym. Anomální aktivitu podle OpenAI odhalil její bezpečnostní tým, zatímco Hugging Face ji následně detekovala a zastavila na své infrastruktuře. Obě společnosti nyní spolupracují na vyšetřování incidentu.

Přestože OpenAI zdůrazňuje, že šlo o kontrolovaný experiment, případ podle odborníků ukazuje, že AI už není odkázána pouze na známé bezpečnostní chyby.

„Z pohledu firem je důležité si uvědomit, že nová generace AI agentů už není omezena pouze na vyhledávání známých zranitelností. Dokáže samostatně analyzovat systémy, hledat dosud nezdokumentované chyby, testovat různé scénáře útoku a nacházet nové cesty k průniku. Právě to podle zveřejněných informací ukázal i incident společnosti Hugging Face,“ okomentoval pro Trade-off situaci David Kazda, CSO technologické společnosti Algotech.

Podle něj nejde o selhání umělé inteligence, ale o ukázku rychlého vývoje jejích schopností. „Situace, která vznikla při kontrolovaném testování, se může v budoucnu zopakovat i při skutečném kybernetickém útoku. A příště už nemusí jít o náhodu nebo výzkumný experiment, ale o záměrně nasazeného AI agenta,“ upozorňuje.

Firmy by podle něj měly počítat s tím, že tradiční obrana založená především na opravování známých zranitelností už nebude stačit. „Obrana musí být průběžná, aktivní a postavená na nepřetržitém monitoringu, detekci anomálií a schopnosti reagovat v reálném čase. Stejně jako útočníci začínají využívat umělou inteligenci, musí ji při své obraně využívat i firmy. Jinak budou vždy o krok pozadu,“ uzavírá Kazda.

Reklama

Další články z Trade-off

Tento článek byl publikován ze zdrojů Trade-off

Články z Trade-Off přibližují ekonomická témata způsobem, který je srozumitelný a přístupný široké veřejnosti. Věnují se dopadům ekonomických rozhodnutí na každodenní život lidí – ať už jde o ceny energií, důchody, daně, mzdy, inflaci nebo změny v zákonech, které ovlivňují peněženky českých...

AI agent ukázal, jak budou vypadat budoucí kybernetické útoky

Záhadné okolnosti pádu ruské Su-57. Ukrajinci mluví o operaci, která nemá obdoby

Česko čeká další vlna extrémního vedra: ČHMÚ varuje před teplotami mířícími ke 40 °C

Rodina z amerických hor žila po generace v izolaci a incestu. Whittakerovi se brali mezi příbuznými přes sto let

V saharském meteoritu se může skrývat kus ztraceného světa. Zanikl dřív, než se Sluneční soustava usadila

Přišel o oba syny: Jiří Krampol se jich zřekl a už se s nimi nikdy neusmířil