2 min

Zaměstnanci Mety bili na poplach. Interní nástroj sbíral daňová i zdravotní data

Sdílet

Dennívýzva

Meta dočasně pozastavila svůj interní program Model Capability Initiative (MCI) poté, co jeden ze zaměstnanců upozornil na možné riziko úniku citlivých informací. Program měl zaznamenávat pohyb myši a další aktivitu zaměstnanců při práci na počítači s cílem pomoci při trénování AI jazykových modelů. Podle interních zjištění však zřejmě shromažďoval výrazně více dat, než bylo původně deklarováno.

Zdroj: Shutterstock

Model Capability Initiative byl spuštěn letos v dubnu. Jeho hlavním účelem bylo získávat reálná data o tom, jak lidé pracují s počítačem, aby se jazykové modely naučily lépe napodobovat běžné uživatelské chování. Šlo například o používání klávesových zkratek, práci s rozbalovacími nabídkami nebo další každodenní úkony, které jsou pro člověka samozřejmé, ale pro AI představují složitější úkol.

V interním oznámení Meta tehdy uvedla, že do zlepšování svých modelů může přispět každý zaměstnanec jednoduše tím, že bude vykonávat svou běžnou pracovní činnost. Data získaná během práce měla sloužit výhradně k vývoji a zdokonalování firemních AI systémů.

Situace se však změnila poté, co jeden ze zaměstnanců podal hlášení o bezpečnostním incidentu s nejvyšší prioritou. Podle informací agentury Reuters měl program zaznamenávat nejen pohyb myši nebo pracovní postupy, ale také kompletní texty zadávaných promptů, přepisy komunikace, soukromé konverzace, údaje o zaměstnancích a jejich pracovním výkonu či interní klasifikaci citlivosti dokumentů.

Ještě závažnější je tvrzení, že některá z těchto dat byla ukládána v nezašifrované podobě. Zaměstnanec ve svém hlášení uvedl, že prostřednictvím pracovního počítače mohl přistupovat například k osobním daňovým přiznáním nebo zdravotním údajům, stejně jako tisíce dalších zaměstnanců. Podle jeho slov přitom byli pracovníci ujišťováni, že všechna data projdou důkladným filtrováním, budou chráněna a využita pouze pro oprávněné firemní účely.

Meta nyní potvrdila, že program preventivně pozastavila a zahájila vnitřní vyšetřování. Mluvčí společnosti Tracy Clayton uvedla, že MCI byl od začátku navržen s ohledem na ochranu soukromí a že firma zatím nemá žádné důkazy o tom, že by zaměstnanci k citlivým datům přistupovali neoprávněně. Přesto se společnost rozhodla projekt dočasně zastavit, dokud neprověří všechna vznesená podezření.

Firma zároveň upozornila, že vypnutí programu nebude okamžité. Kvůli rozsahu interních systémů může nějakou dobu trvat, než bude deaktivován pro všechny zaměstnance. Agentura Reuters proto ještě v pondělí odpoledne potvrdila, že někteří pracovníci měli program stále aktivní.

Kauza přichází v době, kdy technologické korporace stále intenzivněji hledají nové způsoby, jak získávat další a další data od lidí pro vývoj generativní AI. Zároveň ale znovu otevírá otázky týkající se ochrany soukromí zaměstnanců, transparentnosti podobných projektů a hranic mezi vývojem AI a sběrem osobních dat.

Reklama

Další články z cdr.cz

Tento článek byl publikován ze zdrojů cdr.cz

Web přináší články z oblasti informačních technologií, hardwaru, softwaru i moderních digitálních služeb. Čtenáři zde najdou přehled novinek, zajímavostí i témat, která ukazují, jak technologie ovlivňují každodenní život i budoucnost.Obsah kombinuje výběr aktuálních témat s vysvětlením...

Zaměstnanci Mety bili na poplach. Interní nástroj sbíral daňová i zdravotní data

Boj Pavla s Babišem vypukl naplno. Co se děje v zákulisí a proč nikdo neustoupí

Přežili ztroskotání, pak začalo vraždění. Batavia se změnila v říši teroru

Eva Perkausová ukázala formu v bikinách z Turecka. „Kam se hrabe Borhyová,“ reagují fanoušci

Zac Efron výrazně změnil tvář. Tvrdí, že za jeho novým vzhledem stojí nehoda, spekuluje se však o plastikách

Kreml řeší nový problém. Palivová krize začíná ohrožovat válečný rozpočet