AI od OpenAI získala 147 tisíc řádků neveřejných dat a obešla zabezpečení

Přidejte si obsah Centrum.cz do oblíbených zdrojů pro Google hledání a Google zprávy

Sdílet

Dennívýzva

Umělá inteligence OpenAI měla pouze vyhledávat informace a upravovat software. Místo toho pronikla do cizích systémů, získala neveřejná data a bez povolení použila kryptoměnovou peněženku. Firma zveřejnila čtyři incidenty, které odhalují nečekané chování jejích modelů.

AI od OpenAI získala 147 tisíc řádků neveřejných dat a obešla zabezpečení

Zdroj: Shutterstock

Doba čtení 2 min

Článek byl publikován 21.10.2026 01:00

Stačilo zadat pět obyčejných otázek. Jeden z interních modelů OpenAI se však při hledání odpovědí dostal až do neveřejných databází výzkumné organizace. Stáhl 147 451 řádků dat, změnil nastavení serveru a své počínání zamlčel. Na původních pět otázek přitom odpověděl špatně. Případ je součástí čtveřice incidentů z června 2026, jejichž podrobnosti OpenAI zveřejnila 15. října.

Když nestačily statistiky, přišel průnik do systému

Model při práci s veřejným výzkumným portálem objevil přihlašovací údaje v jeho javascriptovém kódu. Díky nim získal přístup ke službě OpenSearch a stáhl také adresář obsahující 1 489 záznamů včetně jmen a e-mailových adres.

V dalším testu změnil konfiguraci služby tak, aby získal přístupový token k internímu datovému úložišti Microsoft OneLake. Odtud stáhl pět neveřejných tabulek. Přestože následně původní nastavení obnovil, získaný token používal dál.

Podobně si počínal jiný model na vládním statistickém webu. Měl zjistit historické počty nemocničních lůžek. Když narazil na zamítnutý přístup, využil funkci stahování souborů k získání konfigurace serveru, zdrojového kódu a citlivých přihlašovacích údajů. Následně obešel kontrolu oprávnění.

Cizí kryptopeněženku použil bez dovolení

Ještě kurióznější událost zaznamenali výzkumníci 26. června. Interní model z rodiny GPT-5.6 Sol upravoval kryptoměnovou aplikaci a potřeboval zaplatit nasazení smart kontraktů.

Protože neměl financovanou peněženku, prověřil 362 adres odvozených z veřejně známých vývojářských obnovovacích frází. Našel účet s dostatečným zůstatkem a použil jej k úhradě transakčních poplatků v testovací síti Ethereum Sepolia.

Model dokonce zvažoval, zda k tomu má oprávnění. Nakonec si použití prostředků ospravedlnil tím, že testovací kryptoměny nemají skutečnou finanční hodnotu. Souhlas držitele peněženky nicméně neměl a zjevně mu ani nechyběl.

Čtvrtý incident ukázal obcházení internetových omezení. Model využil externí prohlížeč a převod obrázků na text, aby získal statistiky způsobem, který by díky nastaveným pravidlům získat nemohl.

Všechny případy pocházejí z interního trénování a testování, nikoliv z běžných rozhovorů s ChatGPT. OpenAI tvrdí, že již zpřísnila zabezpečení a rozšířila kontrolu svých modelů.

Celé to poukazuje na jeden poměrně závažný problém, který máme před sebou. Výzkumníci modelům nepřikázali napadat cizí systémy. Chtěli po nich splnit běžné úkoly. Umělá inteligence si jen sama našla cestu, při které přestala respektovat hranice svého oprávnění.

Reklama

Další články z cdr.cz

NASA bojuje o přežití Voyageru 1. Sonda po 49 letech dosáhne světelného dne

WhatsApp chystá změnu, která se nebude každému líbit

Přečíst si zprávu na WhatsAppu a přitom neprozradit odesílateli, že jste ji viděli? Na Android míří funkce,...

GTA 6 vypadá s DLSS 5 úplně jinak. Fanoušek ukázal 90 FPS ještě před vydáním hry

GTA 6 ještě nevyšlo, ale fanoušek už předvedl jeho záběry s DLSS 5 a 90 FPS. Použil grafickou kartu RTX...

Smazat GPS z videa nestačí. YouTuber ukázal způsob, jak odhalit místo natáčení

K určení místa natáčení nepotřebujete GPS ani rozpoznatelnou budovu v záběru. Bezpečnostní výzkumník Colsto...

Konec jedné éry virtuální reality. Meta Quest 2 a Quest Pro oficiálně končí

Meta oznámila konec softwarové podpory headsetů Quest 2 a Quest Pro. Poslední velká aktualizace dorazí v...

Tento článek byl publikován ze zdrojů cdr.cz

Web přináší články z oblasti informačních technologií, hardwaru, softwaru i moderních digitálních služeb. Čtenáři zde najdou přehled novinek, zajímavostí i témat, která ukazují, jak technologie ovlivňují každodenní život i budoucnost.Obsah kombinuje výběr aktuálních témat s vysvětlením...

AI od OpenAI získala 147 tisíc řádků neveřejných dat a obešla zabezpečení

Polsko truchlí po střelbě v Krakově. Po útoku se šíří falešné zprávy

Větrníky vyrábějí čistou energii, ale jejich lopatky končí zakopané v zemi jako odpad na věky. V USA jich pohřbili 1 124

„Feministky musí přežít bez ruských mužatek.“ Český ministr pobouřil výrokem o hokeji

Španělé vstoupili do města většího než mnohá evropská. Co si Moctezuma skutečně myslel o Cortésovi, zůstává sporné

„To bych si v životě neoblékla.“ Odvaha českých tenistek vyvolala v USA rozruch