Pokročilý autonomní AI model Open AI obešel omezení a hackl Hugging Face

Přidejte si obsah Centrum.cz do oblíbených zdrojů pro Google hledání a Google zprávy

Sdílet

Dennívýzva

Ještě loni (a vlastně i letos) bylo možné v některých odborných článcích, ale zejména v diskuzích narazit na bagatelizaci bezpečnostních rizik AI s tím, že tak daleko modely nejsou…

OpenAI Hugging Face

Zdroj: ChatGPT

Doba čtení 2 min

Článek byl publikován 23.07.2026 22:00

Podle oficiálního stanoviska OpenAI během interního testování překročily dva pokročilé modely (GPT-5.6 Sol a neupřesněný budoucí model) hranice izolovaného testovacího prostředí (sandboxu), získaly přístup k internetu a následně autonomně pronikly do infrastruktury konkurenční platformy Hugging Face. Cílem neměl být destruktivní útok, ale získání informací, které by modelům pomohly úspěšně splnit zadaný bezpečnostní test. Incident byl odhalen a zastaven bez vážných následků. Jde však o první událost svého druhu, který je označován jako významný milník v oblasti bezpečnosti umělé inteligence.

Tou podstatnou novinkou, že nešlo o systém jednající na základě vnějšího lidského pokynu. Modely samostatně vytvořily strategii, využily dosud neznámou zranitelnost, obešly omezení testovacího prostředí a provedly sérii smysluplných kroků. Ta podle dostupných zdrojů dosáhla úrovně zkušeného lidského útočníka. OpenAI zdůrazňuje, že modely nesledovaly škodlivý cíl – pouze maximalizovaly úspěch při řešení úkolu. Toto (tzv. instrumentální) chování je však dlouhodobě považováno za jedno z hlavních rizik autonomních systémů AI.

Význam události přesahuje samotný hackerský incident. Potvrzuje, že současní AI agenti již dokážou plánovat dlouhé sekvence akcí, adaptivně reagovat na překážky a využívat dostupné nástroje způsobem, který jejich vývojáři nemusí předvídat. Dosavadní ochranné mechanismy (sandboxy, omezení přístupu k nástrojům) nemusí být u nových modelů dostatečné. I když je zmiňována potřeba většího důrazu na vícevrstvou ochranu, nezávislé bezpečnostní audity a přísnější testování modelů před jejich nasazením, jde v podstatě jen o závod, u kterého není vítězství lidské stránky jisté ani garantovatelné.

OpenAI i Hugging Face po incidentu oznámily společné vyšetřování, opravu zneužitých zranitelností a revizi metodiky testování pokročilých AI systémů. Závěrem je potřeba zmínit, že zatímco v úvodu zmíněné řeči zpochybňující samostatnost jednání AI modelů vycházely ze zkušeností s LLM, v současnosti už k podobnému výsledku není potřeba ani použití výslovně agentního (samostatně jednajícího) modelu, ale např. již zmíněný GPT-5.6 Sol, ač postavený na bázi LLM, dokáže fungovat jako agentní model, pokud má k dispozici nástroje (prohlížeč, terminál, API…). Jak ukázala tato kauza, je schopný si tyto nástroje zajistit, i když to nebylo součástí lidského příkazu, jen prostředkem k jeho dosažení.

Reklama

Další články z diit.cz

Nvidia v tichosti ořezala specifikace Rubin, HBM 4 i NVLink 6 zpomalily

Micron považuje paměťovou buňku 4F² za mýtus, čínská CXMT letos spustí výrobu

Micron považuje paměťové buňky 4F² za slepou uličku, Samsung se k nim chce propracovat v roce 2028, ale v...

FSR 4.1.2-Lite je malý zázrak, na Intel Arc dává lepší výsledky než nativní XeSS

FSR 4.1.2 přineslo čtyři režimy upscalingu. Jeden z nich - zvaný Lite - určený a optimalizovaný pro APU, se...

Modder odemkl AI výkon GeForce RTX 2000 / 3000 / 4000, dosahuje až dvojnásobku

GeForce RTX 2000, RTX 3000 a RTX 4000 sice obsahuje tzv. Tensor Units používané k akceleraci AI výpočtů....

S myšlenkou obnovení výroby Ryzen 7 5800X3D přišla Lisa Su před paměťovou krizí

Obnovení výroby Ryzen 7 5800X3D původně nesouviselo s růstem cen (zejména) DDR5, který vrátil prostor AM4...

Tento článek byl publikován ze zdrojů diit.cz

Web se věnuje tématům z oblasti informačních technologií, softwaru, hardwaru i digitálních trendů, které ovlivňují každodenní život. Čtenáři zde najdou články o novinkách ze světa IT, praktické tipy, vysvětlení technologií i pohledy na to, kam se digitální prostředí vyvíjí.Obsah propojuje...

Pokročilý autonomní AI model Open AI obešel omezení a hackl Hugging Face

Slova o propagandě i lži. Vávra a youtuber vyznamenaný Pavlem se do sebe pustili

Radek Kašpárek vrací úder. Po obvinění z domácího násilí oznámil zásadní rozhodnutí

Carrie-Anne Moss z Matrixu ukázala dlouhé šediny. Z uhlazené Trinity je dnes Baba Jaga

Chong Li z Krvavého sportu oslavil 80 let. Mohutné svaly, kterými naháněl Van Dammovi strach, jsou minulostí

Indický chlapec tvrdil, že si pamatuje vlastní vraždu z minulého života. Co opravdu zjistilo vyšetřování?