2 min

AI dostala v simulaci kontrolu nad jadernou válkou. Výsledek vědce regulérně vyděsil

Přidejte si obsah Centrum.cz do oblíbených zdrojů pro Google hledání a Google zprávy

Sdílet

Dennívýzva

Umělá inteligence v simulovaných válkách často volila jadernou eskalaci. Odborníci nyní varují před jejím zapojením do strategických rozhodnutí.

AI dostala v simulaci kontrolu nad jadernou válkou. Výsledek vědce regulérně vyděsil

Zdroj: Zdroj Fotografie: Creative Commons / CC BY 3.0 / Fastfission

Obsah článku

Myšlenka, že by o použití jaderných zbraní někdy rozhodovala umělá inteligence, zní jako scénář ze sci-fi filmu. Nová studie ale ukazuje, že podobná představa není úplně mimo realitu. Vědci v ní nechali několik pokročilých chatbotů sehrát simulované válečné scénáře, ve kterých mohly radit s vojenskými rozhodnutími. Výsledky přitom vyvolaly obavy – v drtivé většině případů totiž umělá inteligence neváhala konflikt výrazně vyhrotit.

Chování AI v jaderné válce

Na rizika už dříve upozorňoval i generální tajemník António Guterres z Organizace spojených národů. Ten varoval, že rozhodování o jaderných zbraních musí zůstat výhradně v lidských rukou. „Dokud tyto zbraně existují, všechny země by se měly shodnout, že o jejich použití rozhodují lidé, nikoli stroje nebo algoritmy,“ zdůraznil. Historie totiž ukazuje, že i technika může hrát v jaderné strategii velkou roli – jako například sovětský systém takzvané „mrtvé ruky“, který měl automaticky spustit odvetný útok, pokud by velení země přestalo existovat.

Nejnovější výzkum vedl profesor strategie Kenneth Payne z King’s College London. Ten v simulaci proti sobě postavil několik moderních jazykových modelů – mimo jiné ChatGPT, Claude a Gemini. Chatboti přitom dostali různé krizové scénáře: územní spory, boj o suroviny, hrozbu pádu režimu nebo přímou jadernou hrozbu. K dispozici měli i tzv. eskalační žebříček – tedy možnosti od diplomacie až po jaderné útoky.

Výsledky simulace šokovaly odborníky

Právě zde ale přišlo největší překvapení. Umělá inteligence měla podle studie jen velmi malý problém sáhnout po taktických jaderných zbraních. „Taktický práh byl snadno překročen – v 95 procentech her došlo alespoň k nějakému taktickému jadernému použití,“ uvádí výzkum. Jeden z chatbotů dokonce své rozhodnutí vysvětlil slovy: „Moje role agresora znamená, že musím nyní rozhodně využít svou výhodu.“ Strategické, tedy mnohem ničivější jaderné údery, naopak modely používaly spíše výjimečně.

Podle odborníků může být důvodem skutečnost, že umělá inteligence postrádá lidské emoce a historickou zkušenost se skutečnými hrůzami jaderné války. „Možná modelům chybí lidský strach,“ naznačil Payne a připomněl napětí během Kubánské raketové krize. AI také čerpá z historických vojenských strategií ze studené války, kde se s taktickými jadernými zbraněmi pracovalo jako s běžnou součástí vojenského plánování. I proto experti varují, že v současné podobě by umělá inteligence rozhodně neměla mít slovo při skutečných jaderných rozhodnutích.

Zdroj: VědaŽivě.cz

Autor: Lukáš Jírovec

Reklama

Další články z VědaŽivě.cz

Tento článek byl publikován ze zdrojů VědaŽivě.cz

Články z VědaŽivě.cz přibližují aktuální dění ve světě vědy, technologií a přírody způsobem, který je srozumitelný i pro čtenáře bez odborného vzdělání. Nabízejí přehled nových objevů, výzkumů a trendů, ale i zajímavosti z každodenního života, které mají vědecké pozadí – od lidského zdraví přes...

AI dostala v simulaci kontrolu nad jadernou válkou. Výsledek vědce regulérně vyděsil

Tyto dvě političky se opravdu nemusí. Přitom toho mají tolik společného

Třicet let se mýlili. Nové zjištění o vesmírném objektu může pomoci předejít budoucí srážce se Zemí

"Nudné" Škody překvapily britské publikum. Králem srazu se ale stalo ještě průměrnější auto

Punčochář doma ztrácí monopol na vařečku. Syn Matěj už vaří večeře celé rodině

Nevěř každému, kdo se usmívá, nepij příliš a věz, kdy odejít. Odinovy rady jsou překvapivě současné