4 min

Bezpečnost a data: Co firmy nejvíc podceňují při zavádění AI

Sdílet

Bezpečnostní rizika AI nejsou sci-fi. Jsou prozaická, přehlížená a velmi drahá, pokud na ně firma přijde pozdě.

pixels-AI

Zdroj: pixels-AI

Bezpečnostní rizika AI nejsou sci-fi. Jsou prozaická, přehlížená a velmi drahá, pokud na ně firma přijde pozdě.

Každý týden vznikají nové AI nástroje. Každý týden je někdo ve firmě začne používat a to bez vědomí IT oddělení, bez schválení managementu, bez jakékoliv analýzy toho, co se s firemními daty děje. Tento fenomén, označovaný jako „shadow AI“, se podle průzkumu Gartner z roku 2025 týká více než 65 % středních a velkých firem globálně. V Česku odhaduje Apertia Tech na základě vlastních implementačních zkušeností podobné číslo.

„Zaměstnanec si stáhne AI nástroj zdarma, nakopíruje do něj zákaznická data, smlouvu nebo interní report a dostane odpověď za deset sekund. Nikomu to neřekne, protože mu to ušetřilo hodinu práce. A management neví vůbec nic,“ popisuje David Strejc, zakladatel Apertia Tech, realitu, se kterou se setkává v českých firmách pravidelně.

Co se skutečně děje s daty

„Firmy řeší, jestli AI umí psát emaily. Zapomínají se ptát, kam ta data vlastně posílají,“ říká David Strejc.

Největší bezpečnostní riziko AI není útok zvenčí. Je to nekontrolovaný odchod dat zevnitř. Firmy investují do firewallů, antivirů a penetračních testů a následně jejich zaměstnanci dobrovolně vkládají citlivé informace do cloudových nástrojů třetích stran, jejichž podmínky zpracování dat nikdo nečetl.

Právní rámec je přitom jasný. GDPR vyžaduje, aby firma věděla, kde jsou její data, kdo k nim má přístup a jak jsou zpracovávána. Pokud zaměstnanec použije neautorizovaný AI nástroj ke zpracování osobních údajů zákazníků, firma nese plnou odpovědnost, bez ohledu na to, zda o tom věděla.

„Neznalost neomlouvá a v GDPR platí dvojnásob. Viděli jsme případ, kde firma přišla na to, že její obchodníci půl roku vkládali nabídky s cenami a jmény zákazníků do free AI nástroje s americkými servery. Právní analýza tohoto stavu trvala déle než celá původní AI implementace,“ říká Strejc.

David Strejc

David Strejc: Foto se svolením Davida Strejce

Pět věcí, které firmy nejvíce podceňují

Z praxe implementací Apertia Tech vyplývá pět opakujících se slepých míst, která management i IT oddělení přehlíží.

Inventář AI nástrojů neexistuje. Firmy vědí, jaký software nakoupily. Nevědí, co jejich zaměstnanci používají dobrovolně a zdarma. Prvním krokem jakékoliv AI bezpečnostní politiky musí být audit skutečného stavu, a to bez trestání, ale s jasným výstupem.
Podmínky zpracování dat nikdo nečte. Populární AI nástroje se liší zásadně v tom, zda používají uživatelská data k dalšímu tréninku modelů, jak dlouho data uchovávají a kde fyzicky leží servery. Tyto informace jsou veřejně dostupné, ale nikdo je systematicky nevyhodnocuje před nasazením.
Přístupová práva jsou nastavena příliš volně. AI systémy napojené na firemní data potřebují přístup jen k tomu, co skutečně potřebují. Princip minimálních oprávnění, který IT bezpečnost hlásá léta, se při AI implementacích pravidelně porušuje ve jménu pohodlnosti.
Hallucination risk v rozhodovacích procesech. AI modely s přesvědčivou jistotou generují nepravdivé informace. Pokud firma nasadí AI na podporu rozhodování bez mechanismů ověření výstupů, dříve nebo později přijme špatné rozhodnutí na základě přesvědčivě znějícího nesmyslu. Toto riziko je čistě procesní, ne technické.
Plán pro incident neexistuje. Co firma udělá, když zjistí, že AI nástroj zpracovával data neoprávněně? Kdo to nahlásí, komu, do kdy a jak? GDPR vyžaduje nahlášení incidentu do 72 hodin. Firmy, které nemají tento proces připravený předem, ho nestihnou sestavit v krizi.

Co management musí udělat a co IT nestačí

Bezpečnost AI není čistě IT problém. Je to strategické rozhodnutí managementu o tom, jaká míra rizika je pro firmu přijatelná a jak se bude řídit.

IT oddělení dokáže nastavit technické kontroly, například blokování neautorizovaných nástrojů, monitoring datových toků, šifrování. Ale nemůže samo rozhodnout, které AI nástroje jsou pro firmu přijatelné, jak se zaměstnanci mají o AI vzdělávat nebo co se stane, když někdo pravidla poruší.

„Bezpečnostní politika AI musí vzniknout na úrovni vedení, být komunikována jako hodnota firmy, nikoli jako seznam zákazů a mít konkrétního vlastníka, který ji živě udržuje. Dokument v šuplíku nestačí,“ říká Strejc.

Forrester předpovídá, že v roce 2026 přibude v evropských firmách role Chief AI Officer nebo AI Governance Lead jako standardní součást vedení. V Česku tato pozice zatím existuje výjimečně, tlak regulace, zejména v podobě EU AI Act, který nabývá plné účinnosti právě v tomto roce, ji postupně učiní nevyhnutelnou.

Praktická doporučení: kde začít dnes

„Nejbezpečnější firma není ta, která AI zakázala. Je to ta, která AI používá vědomě, s jasnými pravidly a s lidmi, kteří těm pravidlům rozumí,“ uvádí David Strejc.

Pro management: Zadejte interní audit AI nástrojů, které firma fakticky používá. Bez rozsudku, ale s výstupem. Výsledek vás překvapí.

Pro IT: Nastavte jasnou kategorizaci dat, tedy co smí do jakého nástroje, za jakých podmínek. Jednoduchá matice je lepší než komplexní politika, kterou nikdo nečte.

Pro HR a vzdělávání: Bezpečnost AI je součást digitální gramotnosti. Zaměstnanci, kteří rozumí rizikům, dělají lepší rozhodnutí, ne proto, že musí, ale proto, že chtějí.

Zdroje info: Autor, David Strejc

Náhledové foto: pixels-AI

The post Bezpečnost a data: Co firmy nejvíc podceňují při zavádění AI first appeared on Epeníze.

Reklama

Další články z Epeníze

Tento článek byl publikován ze zdrojů Epeníze

Články z magazínu ePenize.eu poslouží každému, kdo se zajímá o osobní finance, spoření, investice, půjčky a každodenní hospodaření s penězi. Přehledně, srozumitelně a bez zbytečné složitosti přináší informace, které vám pomohou lépe se orientovat ve světě financí – ať už spravujete rodinný...

Všechny články tohoto autora

Vybrali jsme pro vás MAGAZÍNY A ZAJÍMAVOSTI

Odečet šedesáti bodů a pád ke dnu. Nové tvrzení kolem City spustilo masivní bouři

Jedna věta na sociálních sítích a fotbalová Anglie znovu zpozorněla. Kolem Manchesteru City se rozjela nová...

SportWin

dnes, 22:06

2 min

Ani rohožka, ani koberec. Češi dávají před vchod novinku, která vydrží roky bez údržby

Textilní rohožky před dveřmi nasají po dešti vodu, koberec na slunci rychle ztratí barvu a levné plastové...

Umíme poradit

dnes, 21:41

3 min

Češi ruší pergoly a staví místo nich tohle. Je to levnější a nepotřebujete povolení

Ještě nedávno byla zahradní pergola téměř povinnou výbavou novostaveb. Dnes ji ale řada lidí rozebírá a...

Čas pro bydlení

dnes, 21:27

3 min

Sprostá slova jako hudba? Světová jednička nadává v jazyce, kterému nikdo nerozumí

Světová tenisová královna Aryna Sabalenková našla neotřelý způsob, jak na kurtu upustit páru a vyhnout se...

SportWin

dnes, 21:00

2 min

Tahle stará sklenice od babičky se prodává za desetitisíce. Poznáte ji podle jednoho detailu na dně

Možná stojí někde vzadu ve vitríně, nebo leží zapomenutá v kredenci po babičce. Obyčejná sklenice s...

Čas pro ženy

dnes, 20:26

4 min

Reklama

Kdo najde na půdě starou plechovou ceduli od benzínky, ať ji nevyhazuje. Cena může překvapit

Na první pohled bezcenná, zaprášená plechová cedule s logem dávno zaniklé benzínky může mít dnes hodnotu,...

Umíme poradit

dnes, 19:58

4 min

Velrybě, jež opakovaně uvázla na mělčinách na severu SRN, se podařilo vyprostit

Velrybě, která opakovaně uvázla na mělčinách Baltského moře na severu Německa, se v pondělí večer znovu...

Zprávy | Aktuálně.cz

dnes, 19:51

Premier League ho láká, ale teď zřejmě ne. Luis Enrique udělal krok, který mění hru

Manchester United se dívá do Paříže, ale odpověď zřejmě neuslyší takovou, v jakou doufal. Luis Enrique je...

SportWin

dnes, 19:50

2 min

Dobové domácí léčení: Co se řešilo doma místo lékaře. Právě tyhle situace si vybaví jen ten, kdo je musel řešit na vlastní kůži

Obklady, cibulový sirup, Vincentka i černý čaj. Retro kvíz vrací dobu, kdy se spousta potíží řešila doma a...

JakZdravě.cz

dnes, 19:48

2 min

Čeká Kristýna Leichtová třetí dítě? Nové fotky podnítily spekulace

Na první pohled to působilo jako hravá série stylizovaných fotografií s nadsázkou a humorem. Fanoušci si...

Trendy svět

dnes, 19:44

2 min

Reklama

Jak se opravdu chodilo k lékaři za komunismu. Právě tady se láme rozdíl mezi realitou a dnešní představou

Pamatujete si obvodního lékaře, polikliniky a větu, že tehdy bylo všechno zdarma? Tenhle kvíz prověří, co...

JakZdravě.cz

dnes, 19:43

2 min

Stará dřevěná bedýnka od munice má mezi sběrateli nečekanou hodnotu. Podívejte se do sklepa

Na první pohled obyčejná, zaprášená bedýnka ze dřeva, s kováním a sotva čitelným nápisem. Jenže právě...

Čas pro bydlení

dnes, 19:43

3 min

Stella: McLaren šokoval ve VC Japonska tempem sám sebe

Andrea Stella, šéf týmu McLaren, přiznal, že stáj překvapila rychlostí samu sebe. V nedělní Velké ceně...

SvětFormule.cz

dnes, 19:40

2 min

"Léčení závislosti už mě stálo statisíce, říkám tomu Maledivy," přiznává Bohumil Klepl

Ne každý dokáže otevřeně mluvit o svých slabostech. Herec Bohumil Klepl ale mezi takové lidi nepatří. Boj...

Žena.cz

dnes, 19:40

Jiří Macháček už tři roky netočí. Promluvil o rodičích, tlaku i důvodu, proč ztratil chuť hrát

Patřil k nejvýraznějším tvářím českého filmu, teď ale Jiří Macháček otevřeně přiznal, že už několik let...

Žena.cz

dnes, 19:40

Reklama

Značky, které byly symbolem Československa v 70. a 80. letech. Pokud jich nedáte aspoň polovinu, paměť vás zrazuje

Některé názvy stačí jen zaslechnout a člověk hned vidí tenisky do tělocviku, remosku v kuchyni nebo kolo z...

adbz.cz

dnes, 19:27

2 min

Je čas zavzpomínat na předměty z domácností za minulého režimu. Většinu poznají jen ti, kteří v tom opravdu žili

Stačí pár názvů a člověk je zpátky v kuchyních, obývácích i panelákových koupelnách minulého režimu....

adbz.cz

dnes, 19:22

2 min

Velké manévry a evakuace desítek lidí, hasiči vynesli z paneláku jednoho zraněného

Pět jednotek hasičů zasahovalo v pondělí večer v Plzni poblíž bazénu na Slovanech. Podle dostupných...

Plzeňská Drbna

dnes, 19:18

1 min

První kroky na zahradě po zimě jsou víc než rutina, jde o klíčové znalosti pro celý rok. Kdo je neovládá, ten ztrácí hned na startu

První týdny zahradní sezony často rozhodnou o tom, co budete sklízet i sekat v létě. Ověřte si v kvízu,...

Chalupáři-Zahrádkáři

dnes, 19:16

2 min

Sladké jahody nezačínají v létě, ale právě teď. Kdo v tom nemá jasno, ten sklízí zklamání místo plných misek

Jahody umí být vděčné, ale na jaře odpouštějí málo. Stačí pár častých chyb a záhon ztratí náskok. Ověřte si...

Chalupáři-Zahrádkáři

dnes, 19:13

2 min

Reklama

Omezovat marže? Ti levní pak zdraží, popisuje expert recept na drahou naftu a benzin

Vláda Andreje Babiše (ANO) se chystá zasáhnout do cen benzinu a nafty. Připravuje zastropování marží...

Zprávy | Aktuálně.cz

dnes, 19:13

Víte, jaké velehoře se říká Mont Cervin? Patří mezi nejdramatičtější v Evropě. Kvůli prvenství na vrcholu na sebe horolezci házeli kamení

V Alpách je mnoho slavných hor, z nichž naše hádanková patří mezi nejznámější. Mont Cervin není v Alpách...

NESPECHEJ.cz

dnes, 19:00

2 min

Další kolo okresních fotbalových soutěží přineslo jednoznačnou výhru Mokrého

V dalším kolem okresních fotbalových soutěží jednoznačně zvítězilo Mokré, které nedalo šanci Římovu, když...

Budějcká Drbna

dnes, 19:00

4 min

Češi masově odpojují sušičky prádla. Přišli na trik, který suší rychleji a nestojí ani korunu

Ceny energií letí nahoru a v domácnostech je to znát. Každé zmáčknutí tlačítka dnes člověk zvažuje dvakrát,...

Čas pro ženy

dnes, 18:47

3 min

Reklama

Doporučujeme

Právě u nás vyšlo

Drtivé údery, jaké tu ještě nebyly. Další trefa Ukrajinců páchá Rusům obří škody

Bezpečnost a data: Co firmy nejvíc podceňují při zavádění AI

Drtivé údery, jaké tu ještě nebyly. Další trefa Ukrajinců páchá Rusům obří škody

„Myslela jsem, že se neprobudím,“ říká o operaci a týdnech na JIP Ornella Koktová

"Hranatá nula," pustila se Zuzana Bubílková do Filipa Turka kvůli jeho útoku na Zdeňka Svěráka

Vážné zdravotní komplikace známého českého herce. Petr Nárožný chyběl na oslavě Zdeňka Svěráka

Milující máma s roztroušenou sklerózou. V Extrémních proměnách se představí nezlomná a vždy pozitivní Zuzka