2 min

Zaměstnanci Mety bili na poplach. Interní nástroj sbíral daňová i zdravotní data

Přidejte si obsah Centrum.cz do oblíbených zdrojů pro Google hledání a Google zprávy

Sdílet

Dennívýzva

Meta dočasně pozastavila svůj interní program Model Capability Initiative (MCI) poté, co jeden ze zaměstnanců upozornil na možné riziko úniku citlivých informací. Program měl zaznamenávat pohyb myši a další aktivitu zaměstnanců při práci na počítači s cílem pomoci při trénování AI jazykových modelů. Podle interních zjištění však zřejmě shromažďoval výrazně více dat, než bylo původně deklarováno.

Zaměstnanci Mety bili na poplach. Interní nástroj sbíral daňová i zdravotní data

Zdroj: Shutterstock

Model Capability Initiative byl spuštěn letos v dubnu. Jeho hlavním účelem bylo získávat reálná data o tom, jak lidé pracují s počítačem, aby se jazykové modely naučily lépe napodobovat běžné uživatelské chování. Šlo například o používání klávesových zkratek, práci s rozbalovacími nabídkami nebo další každodenní úkony, které jsou pro člověka samozřejmé, ale pro AI představují složitější úkol.

V interním oznámení Meta tehdy uvedla, že do zlepšování svých modelů může přispět každý zaměstnanec jednoduše tím, že bude vykonávat svou běžnou pracovní činnost. Data získaná během práce měla sloužit výhradně k vývoji a zdokonalování firemních AI systémů.

Situace se však změnila poté, co jeden ze zaměstnanců podal hlášení o bezpečnostním incidentu s nejvyšší prioritou. Podle informací agentury Reuters měl program zaznamenávat nejen pohyb myši nebo pracovní postupy, ale také kompletní texty zadávaných promptů, přepisy komunikace, soukromé konverzace, údaje o zaměstnancích a jejich pracovním výkonu či interní klasifikaci citlivosti dokumentů.

Ještě závažnější je tvrzení, že některá z těchto dat byla ukládána v nezašifrované podobě. Zaměstnanec ve svém hlášení uvedl, že prostřednictvím pracovního počítače mohl přistupovat například k osobním daňovým přiznáním nebo zdravotním údajům, stejně jako tisíce dalších zaměstnanců. Podle jeho slov přitom byli pracovníci ujišťováni, že všechna data projdou důkladným filtrováním, budou chráněna a využita pouze pro oprávněné firemní účely.

Meta nyní potvrdila, že program preventivně pozastavila a zahájila vnitřní vyšetřování. Mluvčí společnosti Tracy Clayton uvedla, že MCI byl od začátku navržen s ohledem na ochranu soukromí a že firma zatím nemá žádné důkazy o tom, že by zaměstnanci k citlivým datům přistupovali neoprávněně. Přesto se společnost rozhodla projekt dočasně zastavit, dokud neprověří všechna vznesená podezření.

Firma zároveň upozornila, že vypnutí programu nebude okamžité. Kvůli rozsahu interních systémů může nějakou dobu trvat, než bude deaktivován pro všechny zaměstnance. Agentura Reuters proto ještě v pondělí odpoledne potvrdila, že někteří pracovníci měli program stále aktivní.

Kauza přichází v době, kdy technologické korporace stále intenzivněji hledají nové způsoby, jak získávat další a další data od lidí pro vývoj generativní AI. Zároveň ale znovu otevírá otázky týkající se ochrany soukromí zaměstnanců, transparentnosti podobných projektů a hranic mezi vývojem AI a sběrem osobních dat.

Reklama

Další články z cdr.cz

Počítače vydávají tajemné a podivné zvuky. Na svědomí je má tato aplikace

LinkedIn chce, aby vaše zkušenosti potvrdili skuteční kolegové nebo firmy

LinkedIn rozšiřuje systém ověřování uživatelů i firem. Pracovní zkušenosti budou moci potvrdit lidé, kteří...

Discord zavádí kontrolu věku pro všechny. Přes 90 % uživatelů ji ani nepozná

Discord začíná celosvětově zavádět nový systém kontroly věku. Většina lidí nebude posílat občanku ani...

Když AI nakoupí špatně, kdo vrátí peníze? Banky chtějí nová pravidla

AI agent může najít zboží, vybrat nabídku a nakonec i zaplatit. Šest velkých bank ale upozorňuje, že s...

Google Gemini mělo útočit jen v laboratoři. Místo toho napadlo tři reálné firmy

Google potvrdil, že jeho modely Gemini při květnovém bezpečnostním testu omylem pronikly do systémů tří...

Tento článek byl publikován ze zdrojů cdr.cz

Web přináší články z oblasti informačních technologií, hardwaru, softwaru i moderních digitálních služeb. Čtenáři zde najdou přehled novinek, zajímavostí i témat, která ukazují, jak technologie ovlivňují každodenní život i budoucnost.Obsah kombinuje výběr aktuálních témat s vysvětlením...

Zaměstnanci Mety bili na poplach. Interní nástroj sbíral daňová i zdravotní data

„Udělala jsem chybu,“ plakala seniorka. Rodina pochybuje o jejím souhlasu s eutanázií

Pohlreich nestačil koukat. V boskovické restauraci ho překvapilo vepřové i nedopečená pizza

Sedm z devíti hranic bezpečné planety už lidstvo překročilo. „Nemáme dost času,“ varují vědci

Na Tchaj-wanu roste nejvyšší strom východní Asie. Má 84 metrů. Nebeský meč přežil jen díky svahům, na které se lesníci nedostali

Tsewang Paljor: Muž, kterého svět 30 let znal jako Green Boots. Dnes se ukazuje, že za nejslavnějším tělem na Everestu je možná zcela jiný příběh