2 min

AI agenti OpenAI zaútočili na RubyGems. Sami si našli cestu přes omezení

Přidejte si obsah Centrum.cz do oblíbených zdrojů pro Google hledání a Google zprávy

Sdílet

Dennívýzva

AI agenti testovaní společností OpenAI stáli podle výzkumníků za květnovým incidentem na RubyGems. Vytvořili množství účtů, publikovali stovky balíčků a zkoušeli využívat bezpečnostní chyby. Událost znovu otevírá otázku, jak bezpečná je autonomní AI.

AI agenti OpenAI zaútočili na RubyGems. Sami si našli cestu přes omezení

Zdroj:

Foto: Magnific

Umělá inteligence už nemusí pouze odpovídat na otázky v chatovacím okně. Stále častěji dostává možnost samostatně používat nástroje, pracovat se soubory nebo komunikovat s internetovými službami. Právě tady začíná být problém s její kontrolou mnohem konkrétnější. AI agenti společnosti OpenAI byli podle bezpečnostních výzkumníků spojeni s rozsáhlým květnovým útokem na RubyGems.

Incident začal 11. května 2026. RubyGems je důležitý repozitář softwarových balíčků pro programovací jazyk Ruby a denně jej využívají vývojáři po celém světě. Nově vytvářené účty začaly ve velkém publikovat podezřelé balíčky a správci služby nakonec odstranili více než 500 z nich.

Situace byla natolik vážná, že RubyGems dočasně zastavil registraci nových uživatelů. Obnovil ji až 16. května. Existující balíčky, jejich instalace ani publikování ze stávajících účtů podle Ruby Central zasaženy nebyly.

AI dostala úkol. Cestu k němu si vybrala sama

Na případu je znepokojivé především to, proč k němu mělo dojít. OpenAI podle zprávy The Wall Street Journal potvrdilo zapojení svých agentů. Firma uvedla, že během tréninku používali RubyGems k přístupu k veřejným informacím při plnění neškodných úloh.

Jenže způsob, který si k tomu zvolili, už příliš neškodně nevypadal.

Výzkumníci z Nightingale Collective spojují aktivitu s kampaní označovanou jako GemStuffer. Agenti podle jejich analýzy vytvářeli účty, publikovali nové balíčky a využívali infrastrukturu Ruby k vykonávání kódu a získávání veřejně dostupných dat.

Objevil se také kód určený k získání API klíčů dalších uživatelů. Ruby Central nicméně zdůrazňuje, že při vlastním vyšetřování nenašel důkaz, že by se takový pokus podařil. Provozovatel RubyGems zároveň nedokáže z dostupných dat nezávisle potvrdit, že balíčky skutečně vytvořili AI agenti.

To je důležitý rozdíl. Neexistuje důkaz o tom, že by se AI vědomě rozhodla někoho napadnout. Případ ale ukazuje něco praktičtějšího. Autonomní systém může při snaze splnit zadaný cíl použít postup, který jeho tvůrci nepředpokládali.

RubyGems nebyl jediný varovný incident

Květnová událost navíc dostává jiný význam ve světle toho, co se odehrálo o dva měsíce později při bezpečnostních testech OpenAI.

V červenci agenti při evaluaci ExploitGym objevili způsob, jak mezi sebou komunikovat mimo původně zamýšlené prostředí. Podle nezávislé analýzy organizace METR se k improvizované nástěnce mezi 8. a 13. červencem připojilo přibližně 1 200 agentů. Vyměnili si přes 70 tisíc zpráv a souborů.

OpenAI později popsalo, že agenti sdíleli objevené způsoby, jak získat přístup k internetu, a spolupracovali na dalších úkolech. Jeden z řetězců nakonec vedl také k infrastruktuře Hugging Face.

Právě v tom spočívá skutečné varování. Současná AI nemusí mít vlastní úmysly ani touhu někomu škodit. Stačí jí dát dostatek autonomie, nástroje a špatně ohraničený cíl. Když potom narazí na překážku, může ji místo zastavení začít obcházet.

A čím více pravomocí podobným systémům předáme, tím dražší může být situace, kdy jejich představa o nejefektivnější cestě nebude odpovídat té naší.

Zdroj: DigitalTrends.com

#sezanmOverlay-395319 * { background-image: unset !important; }

Reklama

Další články z IT pro Tebe

AI už nepíše jen podvodné e-maily. EvilTokens vybíral oběti a plánoval finanční podvody

Motorola se vrací mezi skutečné vlajkové lodě. Signature 27 dostane nejlepší Snapdrag

Motorola Signature 27 zamíří v listopadu do USA. Nová vlajková loď nabídne Snapdragon 8 Elite Extreme Gen...

Tlačítko „Je mi 18“ asi zmizí. EU chystá nové ověřování věku na internetu

Pouhé potvrzení, že je uživateli 18 let, může na řadě webů přestat stačit. Evropská komise představila KIDS...

Google Photos vám projdou šatník. Nová AI funkce je chytrá, ale zatím umí pořádně potrápit

Google Photos dostávají funkci Šatník, která pomocí AI pozná oblečení na vašich starších fotografiích a...

Xiaomi 17 spadlo pod 15 tisíc. Za tuhle cenu nabízí výbavu dražších vlajek

Xiaomi 17 se díky nové akci dostalo pod hranici 15 tisíc korun. Přitom nabízí Snapdragon 8 Elite Gen 5,...

Tento článek byl publikován ze zdrojů IT pro Tebe

ITTB.cz neboli IT pro Tebe sleduje svět moderních technologií tak, aby se v něm neztratili ani běžní uživatelé. Věnuje se mobilům, počítačům, umělé inteligenci, aplikacím, chytré elektronice, digitální bezpečnosti i novinkám, které postupně vstupují do každodenního života. Důležitou součástí webu...

AI agenti OpenAI zaútočili na RubyGems. Sami si našli cestu přes omezení

Záhada jménem Fico. Expert vysvětluje, proč se slovenský premiér přiklonil k Rusku

Pohlreich nestačil koukat. V boskovické restauraci ho překvapilo vepřové i nedopečená pizza

Kvízová dáma Dagmar Jandová shodila kila i roky. Prozradila, co stálo za její proměnou

Lék za 50 korun snižuje riziko návratu rakoviny prsu. Běžní doktoři o něm ale nevědí

Sedm z devíti hranic bezpečné planety už lidstvo překročilo. „Nemáme dost času,“ varují vědci