2 min

OpenAI zavádí Lockdown Mode. GPT kvůli bezpečnosti omezí web, obrázky i agenty

Přidejte si obsah Centrum.cz do oblíbených zdrojů pro Google hledání a Google zprávy

Sdílet

Dennívýzva

OpenAI rozšiřuje bezpečnostní funkci Lockdown Mode, která má snížit riziko úniku citlivých dat přes prompt injection útoky. ChatGPT kvůli ní omezí některé propojené funkce, včetně živého webu, agentního režimu a Deep Research.

OpenAI zavádí Lockdown Mode. GPT kvůli bezpečnosti omezí web, obrázky i agenty

Zdroj: Shutterstock

OpenAI začala rozšiřovat Lockdown Mode, tedy volitelný bezpečnostní režim pro ChatGPT, který má lépe chránit citlivá data před útoky typu prompt injection. Nejde o běžný přepínač soukromí ani o funkci, kterou by potřeboval každý uživatel. Spíše míří na lidi a organizace, které v ChatGPT pracují s hodnotnými nebo citlivými informacemi a chtějí snížit riziko, že se přes připojené funkce dostane něco ven.

Na novinku upozornil Anthony Ha z TechCrunchu. Podle dokumentace OpenAI se Lockdown Mode nyní rozšiřuje na vybrané osobní účty a samoobslužné účty ChatGPT Business. Uživatel jej má najít v nastavení zabezpečení. Původně OpenAI funkci představila hlavně pro firemní nasazení, kde se počítá s vyšším rizikem cílených útoků na vedení firem, bezpečnostní týmy nebo pracovníky s přístupem k interním datům.

Proč je prompt injection tak nepříjemný problém

Prompt injection je typ útoku, při kterém útočník ukryje škodlivé instrukce do webové stránky, dokumentu, e-mailu nebo jiného obsahu, který si AI přečte. Model pak může začít jednat podle cizí instrukce místo podle záměru uživatele. V praxi nejde jen o podivnou odpověď. U nástrojů napojených na web, aplikace, soubory nebo agenty vzniká riziko, že se citlivé informace odešlou mimo konverzaci.

Lockdown Mode proto omezuje hlavně cesty, kterými by se data mohla dostat ven. V režimu uzamčení ChatGPT nepoužívá živé webové procházení v běžném smyslu, ale pouze omezený přístup ke kešovanému obsahu. Vypíná se také Deep Research, Agent Mode, zobrazování a načítání obrázků z webu, síťový přístup z Canvasu a některé možnosti práce se soubory. Generování obrázků zůstává dostupné tam, kde ho účet podporuje, protože nejde o totéž jako stahování nebo zobrazování obrázků z cizích webů.

OpenAI zároveň výslovně upozorňuje, že Lockdown Mode není neprůstřelný štít. Skrytá instrukce se může objevit i v nahraném souboru nebo v kešovaném obsahu a pořád může ovlivnit přesnost odpovědi. Režim má hlavně zmenšit prostor pro únik dat, ne vyřešit celý problém prompt injection jednou provždy.

Reklama

Další články z cdr.cz

Tento článek byl publikován ze zdrojů cdr.cz

Web přináší články z oblasti informačních technologií, hardwaru, softwaru i moderních digitálních služeb. Čtenáři zde najdou přehled novinek, zajímavostí i témat, která ukazují, jak technologie ovlivňují každodenní život i budoucnost.Obsah kombinuje výběr aktuálních témat s vysvětlením...

OpenAI zavádí Lockdown Mode. GPT kvůli bezpečnosti omezí web, obrázky i agenty

Znepokojivý nález v troskách ruských dronů. Ukrajinci hlásí extrémní hodnoty radiace

První chvíle Prachaře a Sandevy po svatbě: Prstýnky na rukou a památka, kterou byste nečekali

Velma Barfieldová pečovala o své oběti, zatímco umíraly. Za obrazem starostlivé ženy se skrýval promyšlený vzorec

Nezapomněli ani neodpustili. Takhle se celebrity pomstily za nevěru, rozchody i šikanu

Fantastický Choupenitch. Jako první český šermíř je mistrem světa, soupeře deklasoval