1 min

Google Gemini mělo útočit jen v laboratoři. Místo toho napadlo tři reálné firmy

Přidejte si obsah Centrum.cz do oblíbených zdrojů pro Google hledání a Google zprávy

Sdílet

Dennívýzva

Google potvrdil, že jeho modely Gemini při květnovém bezpečnostním testu omylem pronikly do systémů tří skutečných firem. AI měla pracovat v uzavřeném prostředí, kvůli chybě ale získala přístup k internetu.

Google Gemini mělo útočit jen v laboratoři. Místo toho napadlo tři reálné firmy

Zdroj: Shutterstock

Google Gemini se během bezpečnostního testování dostalo tam, kam rozhodně nemělo. Modely společnosti Google v květnu 2026 pronikly do systémů tří skutečných firem, přestože měly plnit úkoly pouze uvnitř kontrolovaného testovacího prostředí.

Testování zajišťovala izraelská bezpečnostní společnost Irregular, dříve známá jako Pattern Labs. Firmu založili Dan Lahav a Omer Nevo a zaměřuje se právě na prověřování schopností nejvýkonnějších AI modelů. Gemini mělo v rámci úlohy typu capture the flag získat informace ze softwaru fiktivní společnosti.

Fiktivní firma měla stejné jméno jako skutečná

Problém nastal ve chvíli, kdy bylo testovacímu prostředí neúmyslně umožněno připojení k internetu. Název smyšlené společnosti se navíc shodoval s názvem reálné firmy. Gemini proto začalo považovat její systémy za legitimní součást testu.

Podle zjištění The Wall Street Journal se v jednom případě model dostal do chráněného systému hádáním přihlašovacích údajů. Ve dvou dalších případech našel přístupové údaje ve veřejném repozitáři a následně je použil k přihlášení. Celkem tak zasáhl systémy tří skutečných společností.

Google tvrdí, že Gemini ve všech třech případech další aktivitu ukončilo poté, co rozpoznalo, že se nejedná o testovací cíle. Firma zároveň uvedla, že při incidentech nevznikla žádná škoda. Jména zasažených společností ani přesnou verzi Gemini Google nezveřejnil.

Incident zůstal několik týdnů neveřejný

Irregular informoval dotčené AI laboratoře na konci července a následně upravil zabezpečení svého testovacího prostředí. Google potvrdil, že kontaktoval všechny tři zasažené subjekty a s Irregular pracoval na změnách testovacích postupů.

Heather Adkins, viceprezidentka Googlu pro bezpečnostní inženýrství, uvedla, že podobné události zdůrazňují význam odpovědného trénování výkonných jazykových modelů. Google incident původně veřejně neoznámil, protože podle společnosti modely svou činnost samy zastavily a nezpůsobily škodu.

Reklama

Další články z cdr.cz

Kalifornie ustoupila: Paramount a Warner Bros. se přiblížily obří fúzi

Majitelé iPhonů si stěžují na reklamy v iOS. Mohou zůstat na displeji celé týdny

Apple začal přímo v Nastavení iPhonu výrazněji propagovat iCloud+, Apple Music, Apple TV nebo AppleCare+....

Nová membrána odstranila téměř všechen amoniak z odpadní vody za 1,2 minuty

Nová elektroreaktivní membrána dokázala odstranit téměř 100 % amoniakálního dusíku z odpadní vody při...

„Největší krádež práce v historii.“ Microsoft řešil, co AI udělá s médii

Soudní spor vydavatelů s Microsoftem a OpenAI odkryl interní komunikaci, která pro firmy není příjemným...

GTA 6 multiplayer má dorazit hned v roce 2027. Naznačil to šéf Twitche

GTA 6 dorazí 19. listopadu, jeho multiplayer ale nikoliv. Šéf Twitche Dan Clancy v rozhovoru pro Bloomberg...

Tento článek byl publikován ze zdrojů cdr.cz

Web přináší články z oblasti informačních technologií, hardwaru, softwaru i moderních digitálních služeb. Čtenáři zde najdou přehled novinek, zajímavostí i témat, která ukazují, jak technologie ovlivňují každodenní život i budoucnost.Obsah kombinuje výběr aktuálních témat s vysvětlením...

Google Gemini mělo útočit jen v laboratoři. Místo toho napadlo tři reálné firmy

Trump naznačil překvapivý obrat. Zelenskyj řekl, kdy by mohla skončit válka

Dáda vrací Felixovi úder. „Je to odporné, lže,“ zuří a zvažuje právníka

V Toskánsku nikdy nebyla. Češka riskla nákup domu a pod barvou našla skryté fresky

Nejdřív dluh vůči městu, teď boj o křeslo na radnici. Godla překvapil kandidaturou

Zpívající lemur používá stejný trik jako operní sopranistka. Nikdo ho přitom zpívat neučil