CENTRUM.CZ > Techzpravy.cz > dnes, 20:00

Šokující zjištění: Umělá inteligence pomáhá s kyberútoky. Stačí pár správných slov

| 3 min

Sdílet

Studie odhaluje, jak základní manipulační techniky přimějí ChatGPT a Gemini poskytnout informace o hackerských útocích, phishingu a kybernetických útocích jakémukoli uživateli.

Šokující zjištění: Umělá inteligence pomáhá s kyberútoky. Stačí pár správných slov

Zdroj: maximapryatin / Depositphotos

Studie odhaluje, jak základní manipulační techniky přimějí ChatGPT a Gemini poskytnout informace o hackerských útocích, phishingu a kybernetických útocích jakémukoli uživateli.

ChatGPT-4o a Gemini Pro 2.5 podlehly základním manipulačním technikám ve studii, která uvádí čísla zranitelnosti předních konverzačních modelů umělé inteligence. Výzkum ukázal, že „persona priming“ – přimět model, aby přijal spolupracující osobnost – stačí k tomu, aby poskytl informace o hackingu, phishingu a kybernetických útocích.

Studie, kterou provedla společnost Cybernews, poukazuje na rostoucí obavy ohledně bezpečnosti konverzačních modelů umělé inteligence (AI). S tím, jak se tyto technologie stále více integrují do našeho každodenního života, představuje jejich schopnost manipulace značné riziko. Persona priming využívá schopnosti modelů přebírat role nebo osobnosti a vede je k poskytování informací, které by za normálních okolností byly omezeny.

Video k článku ZDE

Zdroj: Youtube.com

Mohlo by vás zajímat: Musk pryč, soudy na obzoru: Inženýři z DOGE čelí federálním obviněním

Tým testoval šest modelů od společností OpenAI, Google a Anthropic pomocí této techniky psychologické manipulace. Výsledky jsou jasné: ChatGPT-4o generoval kompletní phishingové e-maily, zatímco ChatGPT-5 poskytl podrobnosti o útocích DDoS a fórech černého trhu, když ho výzkumníci požádali o pomoc pod zdánlivě legitimní záminkou.

Claude obstál lépe, ale ani on není neomylný

Postup byl jednoduchý: nejprve vycvičili každý model tak, aby si osvojil osobnost, která je vždy ochotná pomoci, čímž eliminovali jejich odpor. Pak zavedli dotazy na kybernetické útoky maskované jako výzkum nebo prevence. Gemini Pro 2.5 se choval stejně jako ChatGPT a poskytoval operativní informace, i když byly prezentovány s výchovnými výhradami.

Claude Sonnet 4 jako jediný vykazoval větší odolnost a odmítal většinu nebezpečných dotazů i po počátečním změkčení. Ani ten však nevyvázl bez úhony: výzkumníkům se podařilo prolomit i další asistenty, jako je Meta AI (zabudovaná v aplikacích WhatsApp, Instagram a Messenger), chatbot Lena společnosti Lenovo a umělá inteligence Snapchatu.

Snadnost obcházení těchto filtrů kontrastuje s miliony investovanými do bezpečnostních systémů. Nejsou potřeba specializované nástroje ani hackerské know-how: stačí dobře sestavené výzvy, které maskují škodlivý záměr. Co to znamená? Každý uživatel může z modelů, které zpracovávají miliony dotazů denně, získat nebezpečné informace.

Problém přesahuje rámec okamžitého použití. Jak dokumentoval předchozí výzkum, stačí kontaminace pouhých 250 tréninkových dokumentů k tomu, aby se do modelů jakékoli velikosti implantovala trvalá zadní vrátka. To znamená strukturální zranitelnost již od návrhu, nejen během používání.

Data potvrzují, že běžné modely mohou být stejně nebezpečné jako WormGPT nebo FraudGPT, upravené verze vytvořené přímo za účelem obejití filtrů. Globální přístup k těmto nástrojům demokratizuje schopnosti, které dříve vyžadovaly specializované školení. A přestože reakce obsahují výchovná varování, poskytují dostatek praktických informací pro škodlivé aktéry.

Video k článku ZDE

Zdroj: Youtube.com

Výzkum uvádí čísla na známý problém: techniky „persona priming“ jsou příliš účinné. Velké technologické společnosti musí stanovit jasnou odpovědnost za zneužití svých platforem, zatímco závod mezi ochranou a obcházením pokračuje s výsledky, které zatím neprospívají bezpečnosti.

Důsledky pro budoucnost AI a kybernetické bezpečnosti

Tato studie zdůrazňuje naléhavou potřebu zlepšit bezpečnostní opatření v modelech AI. Technologické společnosti musí investovat do vytvoření robustnějších systémů, které dokáží odhalit a zablokovat pokusy o manipulaci. Kromě toho je zásadní vypracovat politiky odpovědnosti, které budou řešit zneužití těchto technologií.

Zásadní roli hraje také vzdělávání uživatelů. Informování uživatelů o rizicích spojených s manipulací s umělou inteligencí a poskytování nástrojů k identifikaci pokusů o phishing nebo hacking může pomoci některá z těchto rizik zmírnit. Pro účinné řešení těchto problémů bude nezbytná spolupráce mezi technologickými společnostmi, vládami a organizacemi zabývajícími se kybernetickou bezpečností.

Umělá inteligence sice nabízí řadu příležitostí pro inovace a pokrok, ale zároveň představuje významné výzvy z hlediska bezpečnosti. Pro udržitelný rozvoj těchto technologií bude rozhodující rovnováha mezi technologickým pokrokem a ochranou před zneužitím.

Zdroje článku: cybernews.com, Autorský text, www.techzpravy.cz

DALŠÍ ČLÁNKY z Techzpravy.cz

Vybrali jsme pro vás MAGAZÍNY A ZAJÍMAVOSTI

Sabotérky vlastního orgasmu? Třetina žen by jej chtěla na povel a možná si tím škodí

Touha po rychlém, spolehlivém a pokaždé zaručeném orgasmu roste – ale odborníci varují, že právě tento tlak...

Žena.cz|

dnes, 20:40

Historie plná předsudků: Příběhy intersex osobností, které dějiny trestaly

Sedm zapomenutých příběhů žen, jejichž intersex těla rozbila svatý řád pohlaví. Od inkvizičních tribunálů...

Žena.cz|

dnes, 20:40

Nahé fotky, vydírání i zničené profily: hackeři útočí na celebrity čím dál drsněji

V posledních letech se hackerské útoky stávají čím dál promyšlenější. Stačí pár kliknutí a útočníci se...

Žena.cz|

dnes, 20:40

Velorex – legendární tříkolka z plátna, co se stala ikonou

Od hadráku po „prchající stan“ – Velorex zaujal humoristy i nadšence. Jako jediný světoznámý vůz s plátěnou...

NESPECHEJ.cz|

dnes, 20:30

| 3 min

Víkend u televize nabízí samé skvosty, nechte se pozvat

Tak už jsou tady vánoční nálady, tak se posaďte a jdeme na to. První adventní týden je tady. Pokud se...

KINOTIP2.cz|

dnes, 20:30

| 5 min

Mladší Kaše sestřelil Brno hattrickem za deset minut, bratr čtyřikrát asistoval

Poslední Litvínov v hokejové extralize jasně přehrál Brno. Třinec ukončil dlouhou sérii porážek a Sparta...

Sport - Aktuálně.cz|

dnes, 20:16

Většina lidí nevyužívá prostor pod postelí naplno, stačí investovat do jednoho typu krabic

Mnoho domácností má pod postelí místo, které zůstává roky bez povšimnutí. Přitom […]

Umíme poradit|

dnes, 20:15

| 3 min

Bratři Kašové řídili výhru posledního Litvínova nad mistrovským Brnem

Hokejisté posledního Litvínova porazili v 27. kole extraligy doma jednoznačně Brno 6:2, zásadní měrou se...

Brněnská Drbna|

dnes, 20:02

| 2 min

Znamení, která posílají svým blízkým ty nejroztomilejší balíčky, když jim není dobře

Poslat někomu blízkému roztomilý balíček, když mu není dobře, je naprosto krásný pocit. Dotyčný člověk má...

FAJNTIP.cz|

dnes, 20:00

| 2 min

Šokující zjištění: Umělá inteligence pomáhá s kyberútoky. Stačí pár správných slov

Studie odhaluje, jak základní manipulační techniky přimějí ChatGPT a Gemini poskytnout informace o...

Techzpravy.cz|

dnes, 20:00

| 3 min

Sparta po čtyřech výhrách prohrála na ledě Motoru 1:3

Hokejisté Českých Budějovic porazili v 27. kole extraligy Spartu 3:1 a po šesti utkáních naplno bodovali....

Pražská Drbna|

dnes, 19:55

| 2 min

Armaniho firmu povedou jeho partner, příbuzní i profesionální manažeři

Uvedla to pátek agentura AP. Do správní rady skupiny byl jmenován například Marco Bizzarri, bývalý výkonný...

Zprávy - Aktuálně.cz|

dnes, 19:46

Šéf mosteckého báňského úřadu Matz po dění kolem osudu lomu rezignoval

Matz v řízení ohledně energetické skupiny Sev.en podnikatele Pavla Tykače postupoval nestandardně a byl...

Zprávy - Aktuálně.cz|

dnes, 19:40

Kamarád do deště: Výbuch jako z Hollywoodu, nechápavý pes a upejpavka v jedné z hlavních rolí

Režisér Jaroslav Soukup byl průkopníkem v natáčení akčních filmů, které byly určeny pro „mladé dospělé“....

KINOTIP2.cz|

dnes, 19:30

| 2 min

Putin si před jednáním s Witkoffem diktuje podmínky. Evropské obavy jsou prý „směšné“

Vladimir Putin během návštěvy Kyrgyzstánu promluvil o zákulisních jednáních o mírovém plánu pro Ukrajinu a...

Zprávy - Aktuálně.cz|

dnes, 19:26

Motor na domácím ledě porazil lídra extraligy

Po necelém měsíci za tři body. Českobudějovický Motor si v pátečním duelu poradil s pražskou Spartou, když...

Budějcká Drbna|

dnes, 19:20

| 4 min

Tygři v Plzni přišli o vedení, nakonec mají bod po prohře v prodloužení

Pouhé tři branky padly v souboji Plzně s Libercem. Hosté po gólu Lence vedli, domácí srovnali na začátku...

Liberecká Drbna|

dnes, 19:02

| 2 min

Celý život jste si mysleli, že máte 5 smyslů. Vědci vás nyní vyvedli z omylu

Vědci z Queen Mary University v Londýně popsali u člověka sedmý smysl, který umožňuje vnímat předměty bez...

Techzpravy.cz|

dnes, 19:00

| 3 min

Tři nejlevnější druhy vánočního cukroví. Dělaly je naše šterné babičky a jsou vynikající

Vánoční cukroví nám nemusí udělat díru do rozpočtu, vzhledem k cenám za nejrůznějšího zdobení, polevy a...

Čas pro bydlení|

dnes, 18:55

| 3 min

Hokejisté Třince utnuli sérii porážek. Olomouc porazili 5:2

Hokejisté Třince si návrat na domácí led užili vítězně, po sedmi porážkách v řadě dokázali ve 27. kole...

Ostravská Drbna|

dnes, 18:54

| 2 min