2 min

OpenAI zavádí Lockdown Mode. GPT kvůli bezpečnosti omezí web, obrázky i agenty

Sdílet

Dennívýzva

OpenAI rozšiřuje bezpečnostní funkci Lockdown Mode, která má snížit riziko úniku citlivých dat přes prompt injection útoky. ChatGPT kvůli ní omezí některé propojené funkce, včetně živého webu, agentního režimu a Deep Research.

Zdroj: Shutterstock

OpenAI začala rozšiřovat Lockdown Mode, tedy volitelný bezpečnostní režim pro ChatGPT, který má lépe chránit citlivá data před útoky typu prompt injection. Nejde o běžný přepínač soukromí ani o funkci, kterou by potřeboval každý uživatel. Spíše míří na lidi a organizace, které v ChatGPT pracují s hodnotnými nebo citlivými informacemi a chtějí snížit riziko, že se přes připojené funkce dostane něco ven.

Na novinku upozornil Anthony Ha z TechCrunchu. Podle dokumentace OpenAI se Lockdown Mode nyní rozšiřuje na vybrané osobní účty a samoobslužné účty ChatGPT Business. Uživatel jej má najít v nastavení zabezpečení. Původně OpenAI funkci představila hlavně pro firemní nasazení, kde se počítá s vyšším rizikem cílených útoků na vedení firem, bezpečnostní týmy nebo pracovníky s přístupem k interním datům.

Proč je prompt injection tak nepříjemný problém

Prompt injection je typ útoku, při kterém útočník ukryje škodlivé instrukce do webové stránky, dokumentu, e-mailu nebo jiného obsahu, který si AI přečte. Model pak může začít jednat podle cizí instrukce místo podle záměru uživatele. V praxi nejde jen o podivnou odpověď. U nástrojů napojených na web, aplikace, soubory nebo agenty vzniká riziko, že se citlivé informace odešlou mimo konverzaci.

Lockdown Mode proto omezuje hlavně cesty, kterými by se data mohla dostat ven. V režimu uzamčení ChatGPT nepoužívá živé webové procházení v běžném smyslu, ale pouze omezený přístup ke kešovanému obsahu. Vypíná se také Deep Research, Agent Mode, zobrazování a načítání obrázků z webu, síťový přístup z Canvasu a některé možnosti práce se soubory. Generování obrázků zůstává dostupné tam, kde ho účet podporuje, protože nejde o totéž jako stahování nebo zobrazování obrázků z cizích webů.

OpenAI zároveň výslovně upozorňuje, že Lockdown Mode není neprůstřelný štít. Skrytá instrukce se může objevit i v nahraném souboru nebo v kešovaném obsahu a pořád může ovlivnit přesnost odpovědi. Režim má hlavně zmenšit prostor pro únik dat, ne vyřešit celý problém prompt injection jednou provždy.

Reklama

Další články z cdr.cz

Tento článek byl publikován ze zdrojů cdr.cz

Web přináší články z oblasti informačních technologií, hardwaru, softwaru i moderních digitálních služeb. Čtenáři zde najdou přehled novinek, zajímavostí i témat, která ukazují, jak technologie ovlivňují každodenní život i budoucnost.Obsah kombinuje výběr aktuálních témat s vysvětlením...

OpenAI zavádí Lockdown Mode. GPT kvůli bezpečnosti omezí web, obrázky i agenty

„Utlačujete ruskou menšinu, zahráváte si.“ Rusové hrozí Pobaltí, straší deportacemi

Otec Lindy Noskové promluvil o těžkých začátcích. Neměli co jíst a přespávali na ubytovnách

Jiří Korn promluvil bez příkras: Stáří je kruté, syn s autismem ho ale stále překvapuje

Vyměnili pohodlí za starou chalupu. Anna žije pod třísetletou lípou jako její předci

Česko volí královnu plných křivek. Dvanáct finalistek jde do boje, Miss sympatie už je známá