2 min

Americká vláda nařídila vypnout Claude Fable 5. Anthropic nesouhlasí, ale model stahuje

Přidejte si obsah Centrum.cz do oblíbených zdrojů pro Google hledání a Google zprávy

Sdílet

Dennívýzva

Jen několik dní po uvedení modelu Claude Fable 5 přichází překvapivý zvrat. Společnost Anthropic oznámila, že na základě příkazu americké vlády okamžitě pozastavuje přístup k...

Americká vláda nařídila vypnout Claude Fable 5. Anthropic nesouhlasí, ale model stahuje

Zdroj: GPT

Jen několik dní po uvedení modelu Claude Fable 5 přichází překvapivý zvrat. Společnost Anthropic oznámila, že na základě příkazu americké vlády okamžitě pozastavuje přístup k modelům Claude Fable 5 a Claude Mythos 5 pro všechny uživatele po celém světě.

Anthropic musel dočasně stáhnout svůj model Fable 5

Podle společnosti dorazilo vládní nařízení ve pátek v 17:21 východoamerického času. Úřady se odvolávají na důvody národní bezpečnosti, konkrétní detaily ale Anthropic údajně neobdržel.

Anthropic se domnívá, že vláda reaguje na informace o možné metodě obejití bezpečnostních omezení modelu, takzvaném jailbreaku. Firma tvrdí, že analyzovala předvedenou techniku a zjistila, že vedla pouze k odhalení několika známých a relativně nevýznamných zranitelností. Podle společnosti navíc stejné výsledky dokážou poskytnout i jiné veřejně dostupné modely bez jakéhokoliv obcházení bezpečnostních mechanismů. Anthropic v prohlášení přímo zmiňuje GPT-5.5 od OpenAI.

Zdroj: Dotekomanie

Firma zdůrazňuje, že před uvedením Fable 5 prošel model tisíci hodinami bezpečnostního testování za účasti amerických i britských úřadů, externích organizací a interních týmů. Podle Anthropicu se dosud nikomu nepodařilo objevit takzvaný univerzální jailbreak, který by dokázal ve velkém obejít ochranné mechanismy modelu. Společnost zároveň připouští, že stoprocentní ochrana před podobnými technikami dnes pravděpodobně není možná u žádného poskytovatele AI. Proto zvolila strategii vícevrstvé ochrany kombinující bezpečnostní filtry, monitoring a uchovávání dat po dobu 30 dní, aby bylo možné případné pokusy rychle odhalit a řešit.

Anthropic sice vládnímu příkazu vyhověl, ale s jeho odůvodněním nesouhlasí. Podle společnosti nebyl předložen žádný důkaz o tom, že by údajný jailbreak vedl k vážnému zneužití modelu nebo poskytoval schopnosti, které by nebyly dostupné u konkurence. Firma varuje, že pokud by se podobný přístup stal standardem, mohl by prakticky zastavit uvádění nových generací AI modelů.

„Věříme, že vláda by měla mít možnost zastavit nebezpečné nasazení AI. Takový proces ale musí být transparentní, férový a založený na technických faktech,“ uvedl Anthropic. Společnost nyní pracuje na obnovení přístupu a označuje celou situaci za nedorozumění. Kdy by se však modely Fable 5 a Mythos 5 mohly vrátit, zatím není jasné.

Zdroj: anthropic.com

Reklama

Další články z Dotekomanie.cz

Honor Robot Phone: Koncept, který míří do prodeje

Pixel Tag: Google doplňuje ekosystém vlastním chytrým přívěskem

Věděli jsme o představení nové série Pixel 11, i o hodinkách Pixel Watch 5, ale nikdo nečekal jeden malý...

Google Pixel Watch 5 přicházejí: Více paměti a sázka na Gemini

Minulý rok Google přinesl hodinky Pixel Watch 4 (recenze) se skoro stejným designem, ale i tak se našel...

Google představuje řadu Pixel 11: Nový procesor Tensor G6 a světelný prvek HiLight

Rok se s rokem sešel a máme zde novou generaci modelů Pixel. Ačkoliv Google představil i další Fold, tak...

Nové Pixely klepou na dveře: Google láká na netradiční čas představení

Google jako obvykle zveřejnil podobu svých nadcházejících mobilů v předstihu. Je to více méně taková...

Tento článek byl publikován ze zdrojů Dotekomanie.cz

Dotekomanie.cz je nezávislý magazín zaměřený na mobilní technologie, chytrá zařízení a digitální svět. Přináší aktuální novinky, recenze, návody a komentáře ze světa smartphonů, tabletů, aplikací, Androidu, Applu, umělé inteligence i dalších technologií, které ovlivňují každodenní používání...

Americká vláda nařídila vypnout Claude Fable 5. Anthropic nesouhlasí, ale model stahuje

V Německu vyhradili hodiny v bazénu jen pro černé. Experiment okamžitě spustil spory

Jak by dnes vypadal Jiří Pomeje podle umělé inteligence: Fanouškům z této fotky ukápne slza

Monika Babišová se pochlubila dovolenkovými snímky: V bikinách ukázala postavu, na skútru i zadeček

Mládě medojeda je světovou raritou. V zajetí mu komplikuje život jeho vlastní inteligence

Skvělá Manuel prolétla do finále, znovu běžela pod 50 sekund