Otevřené modely AI nikdo nevypne, varuje Anthropic. Modely pod 30 miliard parametrů zvládají dílčí kroky samoreplikace

Přidejte si obsah Centrum.cz do oblíbených zdrojů pro Google hledání a Google zprávy

Sdílet

Dennívýzva

Guillaume Princen, který v Anthropicu odpovídá za mezinárodní byznys, prohlásil na Bloomberg TV, že otevřené modely umělé inteligence nesou vyšší riziko už svou podstatou. Mluví za firmu, která prodává uzavřený Claude a chystá se na burzu. Jádro jeho argumentu ale ve vlastní dokumentaci popisuje i OpenAI.

Otevřené modely AI nikdo nevypne, varuje Anthropic. Modely pod 30 miliard parametrů zvládají dílčí kroky samoreplikace

Zdroj: Foto: Dietmar Rabich - licence CC BY-SA 4.0

Doba čtení 5 min

Článek byl publikován 24.10.2026 19:41

Rozhovor proběhl 14. října 2026 na okraji akce International AI Summit, kterou pořádalo irské předsednictví Rady EU. „Musíme být u open source opravdu opatrní, co se bezpečnosti týče… ze své podstaty je u nich vyšší riziko,“ řekl Princen. Netvrdí, že by otevřené modely byly slabší nebo méně schopné než Claude. Mluví o tom, co nastane, když vývojář zveřejní váhy modelu. Od té chvíle si model může kdokoli stáhnout a provozovat sám a původní autor už nemůže stažené kopie odříznout, nemůže vynutit bezpečnostní opravu a nemůže zařídit, aby lidé přestali používat verzi, která se ukázala jako nebezpečná. Podle Anthropicu tahle stránka ve veřejné debatě zapadá, protože pozornost se upírá hlavně k nižším nákladům, k lokálnímu provozu a k menší závislosti na jednom dodavateli.

Stejnou slabinu otevřených modelů popisuje i dokumentace OpenAI

Princen přišel do Anthropicu v dubnu 2025 jako šéf pro region EMEA, tedy pro Evropu, Blízký východ a Afriku. Bloomberg ho v říjnu uvedl obecněji jako „head of international“. Jeho firma přímo soupeří s Metou a Mistralem, kteří otevřené modely vydávají. Agentura Reuters navíc koncem září 2026 psala o přípravách Anthropicu na vstup na burzu. Ve stejné zprávě zmínila, že zakladatel Dario Amodei opakovaně vyzývá ke zpomalení vývoje umělé inteligence.

Anthropic vydělává na tom, že k modelu Claude pouští zákazníky přes uzavřené API. Kdyby firmy a úřady začaly otevřené modely považovat za rizikovější, jeho obchodní pozice by zesílila. Princenova slova tedy nejsou nezaujatý expertní posudek a číst je jako takový by byla chyba.

Pravdivost argumentu ovšem střet zájmů neruší. OpenAI v technické dokumentaci (model card) ke svým otevřeným modelům sama uvádí, že po zveřejnění vah už se nedá spoléhat na centrální bezpečnostní opatření. Stejně tak podle ní nejde zpětně odebrat přístup těm, kdo si model stáhli.

Tři pojistky, o které vývojář přijde v den zveřejnění vah

Debatu komplikuje, že se slovo „open source“ používá volně. Open Source Initiative má pro umělou inteligenci přísnější definici, podle které samotné váhy nestačí. Plně otevřený model musí obsahovat i informace o trénovacích datech a o postupu vývoje, aby se dal reprodukovat. Meta Llama nebo některé modely Mistralu tak přesněji patří do kategorie open-weight, kde jsou veřejné váhy, kdežto údaje o datech a tréninku mohou zůstat skryté. Licenční podmínky se navíc u každého modelu liší. Když tento článek mluví o otevřených modelech, myslí tím modely s veřejnými vahami, protože jen ty se Princenova argumentu týkají.

Uzavřený model běží na serverech poskytovatele. Ten tak může v reálném čase sledovat, jak lidé model zneužívají, a podle toho upravovat bezpečnostní filtry nebo přidávat další ochrany. Pokud konkrétní uživatel překročí hranici, poskytovatel mu přístup omezí nebo zablokuje.

U staženého modelu žádná z těch možností nezbývá. Kdo má váhy, může model provozovat na vlastním hardwaru, upravit ho, dotrénovat ke škodlivým účelům a zkoušet obcházet omezení, která do něj autor vložil. Autor sice může vydat opravenou verzi, nikdo ale nemusí přejít na ni. Neexistuje centrální vypínač, kterým by šlo všechny kopie najednou zastavit.

Kudy by se model mohl šířit: chytré spotřebiče, levné boxy, senzory

Dva dny před rozhovorem, 12. října 2026, zveřejnil Anthropic studii o rizicích samoreplikace umělé inteligence. Popisuje scénář, ve kterém by se menší modely pokoušely šířit přes zařízení internetu věcí (IoT), tedy přes chytré domácí spotřebiče, levné multimediální boxy nebo průmyslové senzory. Výzkumníci uvádějí, že některé dílčí kroky takového scénáře už zvládají modely s méně než 30 miliardami parametrů.

Studie dokládá jednotlivé dovednosti, žádný model, který by se sám a spolehlivě rozšířil napříč zařízeními, v ní nefiguruje. Jako důkaz bezprostřední hrozby ji proto brát nelze.

Obava, se kterou Anthropic studii spojuje, se týká rozsahu. Kdyby se nebezpečný model rozšířil do mnoha nezávislých kopií, jeho tvůrce by všechny zneužívané instance zastavoval jen velmi obtížně.

Proč Meta a Mistral otevřenost hájí a jak ji posuzuje Evropská komise

Meta na své stránce o otevřené AI tvrdí, že široká komunita pomáhá chyby a zranitelnosti odhalit rychleji. Nezávislí výzkumníci mohou model testovat a zkoumat jeho chování, a najdou tak slabiny, které interní tým přehlédne.

Mistral staví otevřené váhy do role nástroje evropské technologické suverenity. Firmy a veřejné instituce s nimi mohou provozovat model ve vlastní infrastruktuře a méně záviset na zahraničních poskytovatelích. Co přesně smějí, určuje licence konkrétního modelu.

Evropská regulace otevřené modely plošně nezakazuje. Pokyny Evropské komise k povinnostem poskytovatelů modelů pro všeobecné použití (GPAI) připouštějí za určitých podmínek výjimky pro modely s otevřenou licencí a veřejně dostupnými parametry. Úlevy se ale nevztahují na všechny povinnosti a u modelů se systémovým rizikem neplatí stejně. Malý otevřený model na překlad dokumentů tak úřady posuzují jinak než velmi schopný model, který zvládá složité autonomní úlohy. Kromě veřejných vah rozhodují jeho schopnosti, způsob nasazení a možné dopady.

Šest pravidel pro firmy, které otevřený model pouštějí do provozu

Národní úřad pro kybernetickou a informační bezpečnost (NÚKIB) v červenci 2026 varoval, že nejpokročilejší modely mohou výrazně zkrátit dobu mezi objevením zranitelnosti a jejím zneužitím. Už v dřívějším upozornění na produkty DeepSeek přitom oddělil cloudové služby od modelů provozovaných lokálně, které se serverům výrobce neozývají. Riziko se tedy podle českého úřadu neodvozuje jen od názvu modelu a země původu. Hraje roli, kde model běží, k čemu má přístup a jak je zabezpečený.

Firma, která nasadí otevřený model do ostrého provozu, přebírá odpovědnost, kterou by jinak nesl poskytovatel. Model by měl být nejprve oddělený od citlivých částí sítě, aby se k nim nedostal ani při selhání. Jeho činnost se má zaznamenávat a výstupy pravidelně kontrolovat. Oprávnění a přístup k nástrojům či doplňkům má mít jen v nezbytném rozsahu a citlivé akce má schvalovat člověk. Pro úpravy a dotrénování potřebuje firma jasná pravidla a bezpečnostní aktualizace a nové zranitelnosti musí sledovat průběžně, protože autor modelu jí je sám nedoručí.

Běžný uživatel si vystačí se třemi otázkami: kam odcházejí jeho data, jaká oprávnění aplikace nebo AI agent mají a kdo odpovídá za aktualizace. Kontrola nad oprávněními je tím důležitější, čím samostatněji nástroj jedná a čím širší přístup má k e-mailům, souborům nebo zdrojovému kódu.

Reklama

Další články z Centrum Extra: Mobil

Android Auto vám za jízdy omezí klávesnici. Čtyři nastavení v Mapách Google je proto lepší udělat před rozjezdem

Android Auto přes půl roku tajilo, jak silný máte signál. Google chybu přiznal až v říjnu a oprava nedorazí všem naráz

Řidiči s Android Auto přišli o ikonku mobilního signálu bez varování a bez jediného řádku v seznamu změn....

Galaxy S26 Ultra fotí jen na 12 MP a schovává dvojnásobek. Ostřejší ořezy odemkne nenápadná aplikace Samsungu

Režim 24 MP odemkne bezplatná aplikace z Galaxy Store. Ukážeme, kudy k němu vede cesta, kdy se telefon bez...

Každý Android má lhůtu trvanlivosti, po které začne být zranitelný. Tři klepnutí v nastavení napoví, jestli už vypršela

Lhůtou trvanlivosti telefonu s Androidem je konec bezpečnostní podpory. Jakmile vyprší, výrobce mu přestane...

Konzoli za devět tisíc kupovat nemusíte. Xbox hry spustíte na televizi Samsung, LG či Hisense ze schované aplikace

Microsoft už několik let buduje cestu, jak hrát Xbox bez jakéhokoli herního přístroje pod televizí. Hra...

Tento článek byl publikován ze zdrojů Centrum Extra: Mobil

Novinky a praktické informace ze světa mobilních telefonů a chytrých zařízení. Nové modely, aplikace, funkce, bezpečnost, tipy pro používání i přehled technologií, které mění každodenní práci s mobilem.

Otevřené modely AI nikdo nevypne, varuje Anthropic. Modely pod 30 miliard parametrů zvládají dílčí kroky samoreplikace

Lékařka a self-made man. Pavel ocenil miliardáře, kteří svůj majetek radši rozdávají

StarDance čeká další vyřazování. Matonoha je na odstřel, Dykovi začíná šlapat na paty nečekaná soupeřka

Železná tyč mu proletěla hlavou a přežil. Z váženého předáka se po nehodě stal hrubý a prchlivý muž

Unikl z pout i z vody. Pak Houdini přijal výzvu studenta a na Halloween byl mrtvý

Vědci popsali možný podtyp deprese související s biologickými hodinami. Týkat se může části pacientů