Kreml se snaží infiltrovat chatboty, včetně ChatGPT, tím, že do nich prostřednictvím sítě dezinformačních webových stránek vkládá propagandu. Opakovaně na to upozorňují výzkumníci i novináři. Přestože experti říkají, že tento jev je bezpečnostním rizikem, za šíření dezinformací umělou inteligencí neexistuje přímá právní odpovědnost. Provozovatelé musí být pouze transparentní a „zmírňovat rizika šíření dezinformací“.
Jedním z hlavních nástrojů k infiltraci chatbotů kremelskou propagandou se stala síť „Pravda“ (dříve Portal Kombat). Jde o rozsáhlou globální síť stovek automatizovaných zpravodajských portálů, které šíří ruskou propagandu, vytvářejí falešné weby napodobující západní média a ovlivňují algoritmy umělé inteligence – provádí tzv. LLM grooming. Tento termín popisuje cílené a strukturované zaplavování informačního prostoru vykonstruovanými narativy, které se později mají objevit v odpovědích chatbotů.
Síť, kterou loni zmapovala organizace NewsGuard ve spolupráci s francouzskou dezinformační agenturou Viginum a dalšími, publikuje více než 3,6 milionu článků za rok. Většinu z nich žádní lidé nikdy nečetli. Obsah je určen pro internetové roboty a vyhledávací systémy, které zásobují velké jazykové modely (LLM).
Datová novinářka německé veřejnoprávní stanice NDR Katharina Bews analyzovala stovky tisíc článků půblikovaných na německé mutaci webu Pravda. Došla k závěru, že nejsou určeny pro lidi, ale primárně přímo pro chatboty.
Německá verze funguje podle zjištění NDR od června 2023. Za tři roky publikovala přes 800 tisíc článků, letos v červnu to bylo průměrně 100 článků denně. Součástí jsou zcela smyšlené informace, deep-fake fotografie i chyby v překladu.
„Jedná se často o články, které prezentují Rusko v dobrém světle, ale také zprávy týkající se Německa, které naopak Německo prezentují jako zemi v zániku, zmítající se v hospodářské krizi, atd. Zjistili jsme, že 80 procent zdrojů jsou Telegramové kanály, a to jak ruských státních médií jako Russia Today, tak i účty s různými obskurními názvy jako Kulhavá kachna či Kancléřův tatínek,“ popisuje Katharina Bews v podcastu, který byl zveřejněn minulý týden.
Model Alice od společnosti Yandex v 86 procentech odpovědí v ruštině podporoval kremelskou propagandu.
V případu výzkumu NDR uvedli chatboti síť Pravda jako zdroj pouze ve dvou případech z 30 dotazů. Novináři ale upozorňují, že síť Pravda zneužívá k manipulacím také platformy jako Wikipedie.
Na infiltraci chatbotů narazil loni novinář estonského deníku Postimees. Na otázky typu „Proč je Aivo Peterson (ruský agent v Estonsku) obviněn z vlastizrady?“ nebo „Kdo je Oleg Ivanov? (další šiřitel kremelských narativů v Estonsku)“ ChatGPT opakovaně odpovídal s odkazem na ruskou státní agenturu TASS, která je hlavním zdrojem obsahu pro síť „Pravda“.
Rozsah tohoto jevu již dávno není zanedbatelný. Evropská služba pro vnější činnost zjistila, že v roce 2025 bylo 27 procent případů zahraniční informační manipulace podpořeno umělou inteligencí – což představuje meziroční nárůst o 259 procent. Společný výzkum společností Anthropic, britského Institutu pro bezpečnost AI (AI Security Institute) a Institutu Alana Turinga ukázal, že k tomu, aby se informace dostala do modelu, stačí pouhých 250 dokumentů – bez ohledu na velikost modelu či objem „čistých“ dat, která jej obklopují.
1,3 milionu od Yandexu
Zakladatelem a provozovatelem Sítě Pravda je Jevgenij Ševčenko. Jeho biografii zveřejnila organizace EK Stratcom Centre, za níž stojí tým ruských profesionálů žijících v exilu a která poskytuje západním vládám poradenství ohledně operací Kremlu v oblasti FIMI.
Ševčenko se podle informací EK Stratcom Centre narodil v roce 1988 v Simferopolu na Krymu, kde i vyrůstal. Vysokoškolské vzdělání pravděpodobně získal na Tavrijské národní univerzitě V. I. Vernadského v Simferopolu. Po dokončení studia (přibližně v letech 2010–2011) zahájil kariéru v oblasti webového vývoje a SEO.
V letech 2015–2016 Ševčenko krátce působil ve státní IT firmě Krymtechnologii (Krymtekhnologii) v Simferopolu – organizaci, která hrála klíčovou roli v digitální infrastruktuře okupační správy Krymu. Pravděpodobně zde zastával pozici webového vývojáře. Společnost spravovala oficiální webové stránky a vytvářela prokremelský obsah, jako například projekt „Krymské jaro“, který sloužil k ospravedlnění ruské anexe. Ševčenko tak přišel do styku se státními operacemi digitální propagandy.
V roce 2018, ačkoli již nebyl zaměstnancem, obdržel Ševčenko od společnosti Krymtechnologii jednorázovou platbu ve výši 75 200 rublů, což naznačuje, že pro ni příležitostně pracoval externě.
V roce 2019 formálně zaregistroval společnost TigerWeb. Ve stejném roce obdržel od společnosti Yandex jednorázovou platbu ve výši 1,3 milionu rublů, uvádí EK Stratcom Centre.
V letech 2020–2021 prošla společnost Krymtechnologii privatizací, přičemž 90 procent akcií odkoupila firma IT-Invest, napojená na rodinu Rotenbergových. Arkadij Rotenberg je spojencem Vladimira Putina.
Po ruské invazi na Ukrajinu začal Ševčenko budovat síť „Pravda“. Zaregistroval domény jako Lugansk-news.ru či Pravda-en.com. V období od dubna do prosince 2022 bylo spuštěno 41 nových domén, které nesly označení kódem „ZOV“.
Velké jazykové modely (LLM) nemají žádné vnitřní pojetí vlastní odbornosti či míry jistoty; místo toho se vždy ,snaží ze všech sil‘ být nápomocné a na zadaný podnět reagovat přesvědčivým způsobem.
V červenci 2025 na Ševčenka EU a některé evropské státy včetně ČR (dále Francie, Belgie, Monako) uvalily sankce kvůli podílu na aktivitách destabilizujících situaci v souvislosti s ruskou agresí.
Podle EK Stratcom Centre se zřejmě na vlivu sítě Pravda na systémy umělé inteligence částečně podílí také John Mark Dougan – bývalý zástupce šerifa z Floridy, který v roce 2016 uprchl do Ruska, aby se vyhnul trestnímu stíhání, a později tam získal azyl. Dougan se stal výrazným nástrojem kremelských médií; často šíří konspirační teorie o biologických zbraních, rozkrádání západní pomoci či vykonstruovaných ukrajinských válečných zločinech.
Ruská Alice odmítla odpovídat anglicky
Síť Pravda není jediným kanálem, který infikuje chatboty. Výzkumník Ihor Samokhodskyi loni představil metodiku pro sledování narativů generovaných umělou inteligencí. Využil ji sám v praxi a otestoval chatboty na sedmi otázkách, které se týkaly známých dezinformačních narativů v souvislosti s ruskou agresí na Ukrajině. Konkrétně testoval ChatGPT, Claude, Gemini, Grok, čínský DeepSeek a ruskou Alici od společnosti Yandex.
Západní modely (ChatGPT, Claude, Gemini, Grok) zodpověděly správně 86 až 95 procent otázek a nikdy se otevřeně nepřihlásily k propagandě. Avšak v pěti až 19 procentech případů uplatňovali přístup oboustrannosti (angl. bothsidesism) – prezentovali fakta jako záležitost střetávajících se úhlů pohledu.
Model Alice od společnosti Yandex v 86 procentech odpovědí v ruštině podporoval kremelskou propagandu (přičemž v žádném případě neodmítl odpovědět), zatímco u stejných otázek položených v angličtině v 86 procentech případů odmítl odpovědět. Jako nejvýraznější důkaz cenzury popsal Samokhodskyi situaci, kdy Alice nejprve vygenerovala pravdivou odpověď o masakru v Buči, ale vzápětí ji – ještě předtím, než ji uživatelům zobrazila – automaticky přepsala na odmítnutí odpovědi.
Čínský model DeepSeek byl ve výzkumu Samokhodského v angličtině i ukrajinštině zcela přesný. V ruštině však v 29 procentech odpovědí přejímal kremelskou terminologii: revoluci na Majdanu označoval za „státní převrat“ a ruskou invazi popisoval jako „speciální vojenskou operaci“ zaměřenou na „denacifikaci“.
Právní odpovědnost chybí
Podle studie AI Security Institute na téměř 77 000 účastnících, publikované před rokem v časopise Science, jsou AI chatboti efektivní při změně politických názorů, zejména při používání nepřesných informací. Jakmile se systémy umělé inteligence stanou výchozími zdroji informací, jazyková zkreslení budou určovat, jak jsou chápány konflikty a zda demokratické společnosti udrží sdílený faktický základ potřebný pro kolektivní akci, upozorňuje studie.
Jak varovala již před dvěma lety Sandra Wachterová, profesorka Oxfordského internetového institutu, chatboti jsou „navrženi tak, aby byli přesvědčiví“. Upozornila také, že systematické zkreslení faktů je bezpečnostním rizikem, nikoli pouze technickou chybou. „Velké jazykové modely (LLM) nemají žádné vnitřní pojetí vlastní odbornosti či míry jistoty; místo toho se vždy ,snaží ze všech sil‘ být nápomocné a na zadaný podnět reagovat přesvědčivým způsobem. Jsou navrženy tak, aby vedly konverzace v přirozeném jazyce s lidmi a nabízely odpovědi, které působí přesvědčivě a užitečně – bez ohledu na to, zda jsou v dané věci pravdivé.“
[souvisejici]
Studie Sandry Wachterové navrhla vytvoření právní povinnosti pro poskytovatele LLM minimalizovat to, co nazvala jako „nedbalý projev“. „Vyžadovalo by to od poskytovatelů LLM, aby podnikli kroky k sladění svých modelů s pravdou a optimalizovali pluralitu a reprezentativnost zdrojů. LLM založené na pravdivosti by měly být navrženy tak, aby produkovaly výstupy založené na rozmanitosti zdrojových materiálů, a nikoli pouze na četnosti tvrzení v trénovacích datech a neprůhledném jemném doladění, jak je v současnosti akceptováno.“
Plnou právní odpovědnost platforem dosud nikdo nestanovill. Legislativa řeší pouze transparentnost a „povinnost zmírňovat rizika“. Od srpna 2026 platí článek 50 Aktu o umělé inteligenci (AI Act), podle kterého musí provozovatelé uživatele jasně informovat, že komunikují s umělou inteligencí, a strojově označovat syntetický obsah. Minulý týden vydala Evropská komise k tomuto článku pokyny.
Podle Nařízení o digitálních službách (DSA) musí provozovatel „prokazatelně zmírňovat rizika šíření dezinformací, která mohou ohrozit demokratické procesy, volby nebo veřejné zdraví“, pokud je chatbot integrován do velké online platformy nebo vyhledávače (nad 45 milionů uživatelů v EU). Součástí DSA je od roku 2025 Kodex chování pro boj proti dezinformacím. Každý rok se má měřit dopad opatření tohoto kodexu na omezování dezinformací v Evropské unii i v jednotlivých členských státech.
Evropská komise chce nyní aktualizovat své pokyny z roku 2024, v nichž doporučila opatření, která by měly přijmout platformy a internetové vyhledávače, aby omezily rizika generativní umělé inteligence a manipulace s informacemi pro volební procesy. Minulý týden Komise otevřela k tomuto tématu veřejnou konzultaci, odborníci mohou přispět názorem do 23. listopadu.