3 min

Gemini měl být užitečný pro lidi. Místo toho je užitečný pro obří podvodné sítě

Přidejte si obsah Centrum.cz do oblíbených zdrojů pro Google hledání a Google zprávy

Sdílet

Dennívýzva

Jazykové modely měly pomáhat firmám, urychlovat vývoj nových technologií nebo zefektivňovat každodenní práci. Technologické společnosti včetně Googlu od samého začátku zdůrazňovaly výhradně pozitivní přínosy AI a jak s její pomocí vylepší svět. Nevylepšila svět, ale spíše rozsáhlé podvodné sítě, čímž usnadnila práci kyberútočníkům...

Gemini měl být užitečný pro lidi. Místo toho je užitečný pro obří podvodné sítě

Zdroj: Shutterstock

Google je tím však nepochybně zhrozen a proto podnikl významný právní krok proti skupině označované jako Outsider Enterprise. Prý je to organizace působící z Číně, která měla stát za rozsáhlou podvodnou kampaní využívající Gemini. Google tvrdí, že skupina pomáhala vytvářet falešné webové stránky a podvodné textové kampaně, jejichž cílem bylo získávání citlivých údajů od nic netušících uživatelů.

Podle soudních dokumentů tato Outsider Enterprise fungovala především prostřednictvím Telegramu. Nabízela tam phishing na míru a návody pro lidi, kteří sami neměli dostatečné technické znalosti k vytvoření propracovaných podvodných kampaní. Zájemci si mohli zakoupit předpřipravené šablony, příručky a další služby potřebné k provozování internetových podvodů.

Jakou roli v tom tedy hrálo Gemini?

Řekněme, že poměrně velkou, jelikož daná skupina zveřejňovala instrukce, jak tento konkrétní jazykový model využít k vytváření věrohodně vypadajících kopií známých webových stránek. Mezi napodobovanými službami měly být například stránky Googlu, YouTube nebo některých amerických vládních institucí. Podvodníci nabízeli téměř tři stovky různých šablon, které bylo možné rychle přizpůsobit konkrétnímu cíli.

Co se pak týče rozsahu celé této operace, podle dostupných informací byl mimořádně velký. Google odhaduje, že kampaně spojené s Outsider Enterprise vedly k rozeslání více než 2,5 milionu textových zpráv uživatelům telefonů s operačním systémem Android. Jen během dvou týdnů minulého měsíce bylo zaznamenáno přibližně 55 tisíc takových zpráv. Společnost současně identifikovala zhruba 9 tisíc podvodných webových stránek a více než milion internetových adres souvisejících s touto sítí.

Samotné podvodné zprávy často využívaly osvědčené taktiky, které jsou až směšně recyklované již tolik let - bohužel na mnoho lidí stále fungují. Příjemce je upozorněn na údajný problém s uživatelským účtem, nezaplacený poplatek nebo komplikaci při doručování zásilky. Když uživatel otevře odkaz, čeká ho takové menší překvapení v podobě podvrženého webu, odkud útočníci vysávají osobní údaje, přihlašovací informace nebo podrobnosti o platebních kartách. Přestože Google nezveřejnil odhad celkových finančních škod, potvrzuje, že minimálně několik tisíc lidí přišly o peníze. Skutečný rozsah ztrát může být podle odborníků ještě výrazně vyšší, protože mnoho obětí podobné incidenty nikdy nenahlásí. Zkrátka to nechají plavat, protože si myslí, že se tím nikdo nebude zabývat.

Zdroj: Shutterstock

Jak byla podvodná síť odhalena?

Google uvádí, že na potlačení kampaně spolupracoval s americkými mobilními operátory AT&T, Verizon a T-Mobile. Díky této spolupráci se podařilo zablokovat značnou část škodlivých zpráv ještě před jejich doručením uživatelům. Významnou roli sehrály také bezpečnostní funkce přímo v Androidu. Mimo jiné Google Messages taktéž využívají AI nástroje k rozpoznávání podezřelých zpráv - podle všeho dokážou každý měsíc zastavit až 10 miliard podvodných SMS.

KOMENTÁŘ: Je jasné, že jazykové modely nejsou v žádném případě bezchybné, ostatně zmiňuji to ve svých článcích průběžně. Samotné technologické korporace neustále vyzdvihují ochranné mechanismy, které by měly zabránit zneužití jejich modelů. Ale skutečně jsou tím primárním problémem exploity a podvodníci - tedy generálně koncoví uživatelé - anebo spíše samotné technologické korporace, jež umělou inteligenci implementují všude možně, aniž by se kohokoliv z veřejnosti ptaly, zda o to vůbec stojí? Nevytváří tyto nebezpečné situace třeba tím, že jsou jazykové modely určeny primárně ke sbírání co největšího objemu osobních uživatelských dat? Jsou to úplně ty samé AI technologie, které by mohly být v nedalekém budoucnu více svazovány se zdravotnictvím, školstvím a státními institucemi. Vyhlídky jsou nevalné...

Vraťme se ještě na moment ke Googlu. Google kromě občanskoprávní žaloby spolupracuje také s kybernetickou divizí FBI, která vede paralelní trestní vyšetřování. Identifikovat skutečné pachatele však není vůbec snadné, jelikož je možné, že se skutečně nacházejí v Číně, a tam americké úřady zase až tolik nedosáhnou. I kdyby se podařilo zjistit konkrétní osoby stojící za operací, jejich stíhání by bylo obtížné. Na druhou stranu, možná že by americké úřady měly volnější ruce ve spolupráci s těmi čínskými, jestliže by došlo k přechodu na rozumnou diplomacii stran politické reprezentace, nikoliv jen pošetilému uvalování cel a hraní si na hegemona světa.

Společnost má tedy v plánu ještě něco jiného - pokusí se alespoň o narušení fungování celé sítě. Zaměřuje se výhradně na rušení podvodných domén, blokování účtů na Telegramu a omezování infrastruktury, kterou skupina využívá. Nejedná se samozřejmě o definitivní řešení, jelikož kyberzločinci se často rychle přizpůsobují a po zablokování jedné metody přecházejí k jiné, avšak je velmi rozumné jim nedávat takový prostor, který mají aktuálně k dispozici.

Reklama

Další články z cdr.cz

Počítače vydávají tajemné a podivné zvuky. Na svědomí je má tato aplikace

LinkedIn chce, aby vaše zkušenosti potvrdili skuteční kolegové nebo firmy

LinkedIn rozšiřuje systém ověřování uživatelů i firem. Pracovní zkušenosti budou moci potvrdit lidé, kteří...

Discord zavádí kontrolu věku pro všechny. Přes 90 % uživatelů ji ani nepozná

Discord začíná celosvětově zavádět nový systém kontroly věku. Většina lidí nebude posílat občanku ani...

Když AI nakoupí špatně, kdo vrátí peníze? Banky chtějí nová pravidla

AI agent může najít zboží, vybrat nabídku a nakonec i zaplatit. Šest velkých bank ale upozorňuje, že s...

Google Gemini mělo útočit jen v laboratoři. Místo toho napadlo tři reálné firmy

Google potvrdil, že jeho modely Gemini při květnovém bezpečnostním testu omylem pronikly do systémů tří...

Tento článek byl publikován ze zdrojů cdr.cz

Web přináší články z oblasti informačních technologií, hardwaru, softwaru i moderních digitálních služeb. Čtenáři zde najdou přehled novinek, zajímavostí i témat, která ukazují, jak technologie ovlivňují každodenní život i budoucnost.Obsah kombinuje výběr aktuálních témat s vysvětlením...

Gemini měl být užitečný pro lidi. Místo toho je užitečný pro obří podvodné sítě

„V noci svítíme, aby po děckách neběhali švábi.“ Tady obecní volby nikoho nezajímají

Horko, které mělo přijít až za 20 let, je tady. Rekordní El Niño může připravit o život statisíce lidí

Kvízová dáma Dagmar Jandová shodila kila i roky. Prozradila, co stálo za její proměnou

Lék za 50 korun snižuje riziko návratu rakoviny prsu. Běžní doktoři o něm ale nevědí

Dva podezřelí, jedna DNA. Jak kriminalisté hledají pachatele mezi jednovaječnými dvojčaty