2 min

OpenAI zavádí Lockdown Mode. GPT kvůli bezpečnosti omezí web, obrázky i agenty

Přidejte si obsah Centrum.cz do oblíbených zdrojů pro Google hledání a Google zprávy

Sdílet

Dennívýzva

OpenAI rozšiřuje bezpečnostní funkci Lockdown Mode, která má snížit riziko úniku citlivých dat přes prompt injection útoky. ChatGPT kvůli ní omezí některé propojené funkce, včetně živého webu, agentního režimu a Deep Research.

OpenAI zavádí Lockdown Mode. GPT kvůli bezpečnosti omezí web, obrázky i agenty

Zdroj: Shutterstock

OpenAI začala rozšiřovat Lockdown Mode, tedy volitelný bezpečnostní režim pro ChatGPT, který má lépe chránit citlivá data před útoky typu prompt injection. Nejde o běžný přepínač soukromí ani o funkci, kterou by potřeboval každý uživatel. Spíše míří na lidi a organizace, které v ChatGPT pracují s hodnotnými nebo citlivými informacemi a chtějí snížit riziko, že se přes připojené funkce dostane něco ven.

Na novinku upozornil Anthony Ha z TechCrunchu. Podle dokumentace OpenAI se Lockdown Mode nyní rozšiřuje na vybrané osobní účty a samoobslužné účty ChatGPT Business. Uživatel jej má najít v nastavení zabezpečení. Původně OpenAI funkci představila hlavně pro firemní nasazení, kde se počítá s vyšším rizikem cílených útoků na vedení firem, bezpečnostní týmy nebo pracovníky s přístupem k interním datům.

Proč je prompt injection tak nepříjemný problém

Prompt injection je typ útoku, při kterém útočník ukryje škodlivé instrukce do webové stránky, dokumentu, e-mailu nebo jiného obsahu, který si AI přečte. Model pak může začít jednat podle cizí instrukce místo podle záměru uživatele. V praxi nejde jen o podivnou odpověď. U nástrojů napojených na web, aplikace, soubory nebo agenty vzniká riziko, že se citlivé informace odešlou mimo konverzaci.

Lockdown Mode proto omezuje hlavně cesty, kterými by se data mohla dostat ven. V režimu uzamčení ChatGPT nepoužívá živé webové procházení v běžném smyslu, ale pouze omezený přístup ke kešovanému obsahu. Vypíná se také Deep Research, Agent Mode, zobrazování a načítání obrázků z webu, síťový přístup z Canvasu a některé možnosti práce se soubory. Generování obrázků zůstává dostupné tam, kde ho účet podporuje, protože nejde o totéž jako stahování nebo zobrazování obrázků z cizích webů.

OpenAI zároveň výslovně upozorňuje, že Lockdown Mode není neprůstřelný štít. Skrytá instrukce se může objevit i v nahraném souboru nebo v kešovaném obsahu a pořád může ovlivnit přesnost odpovědi. Režim má hlavně zmenšit prostor pro únik dat, ne vyřešit celý problém prompt injection jednou provždy.

Reklama

Další články z cdr.cz

Obří srážka, která vytvořila Měsíc, mohla skončit úplně jinak, než jsme mysleli

Nové solární panely dokážou vyrábět elektřinu i 10 metrů pod vodou

Solární panely si většina lidí spojuje především se střechami domů, poli nebo jinými místy, kde mají k...

USA přiznaly, že mají ve vesmíru orbitální zbraně. O jejich schopnosti ale mlčí

Spojené státy poprvé veřejně přiznaly, že mají na oběžné dráze rozmístěné orbitální zbraně určené ke...

Takhle se šíří Chosen Brick: Íránští hackeři lákají oběti na známé aplikace

FBI varuje před íránskými hackery, kteří prostřednictvím fakeových aplikací šíří spyware nazvaný Chosen...

UFO už není jen otázkou pro fanoušky záhad. Americká vláda k nim přizvala vědce

Ať už mají jakýkoli původ, UFO, dnes označovaná stále častěji jako UAP, v angličtině Unidentified Anomalous...

Tento článek byl publikován ze zdrojů cdr.cz

Web přináší články z oblasti informačních technologií, hardwaru, softwaru i moderních digitálních služeb. Čtenáři zde najdou přehled novinek, zajímavostí i témat, která ukazují, jak technologie ovlivňují každodenní život i budoucnost.Obsah kombinuje výběr aktuálních témat s vysvětlením...

OpenAI zavádí Lockdown Mode. GPT kvůli bezpečnosti omezí web, obrázky i agenty

Monika Bagárová promluvila o zdravotních potížích. Zpěvačka přiznala vážnou nemoc

Jak by dnes vypadal Jiří Hrzán: Oblíbený herec by podle AI ani v 87 letech nepřišel o svůj šarm

Leoš Mareš terčem drsné kritiky: Moderátor v živém vysílání ošklivě ponížil malou holčičku

Zima má být letos úplně šílená. Meteorolog ukázal, kde může napadnout obrovské množství sněhu

Chuť na sladké není slabá vůle: co ti tím tělo skutečně říká