CENTRUM.CZ > Techzpravy.cz > dnes, 16:00

Dnes rozhoduje člověk. Zítra? Už jen nečitelné řádky kódu

3 min

Sdílet

Odborníci varují, že integrace umělé inteligence do vojenských systémů by mohla zvýšit riziko nekontrolované jaderné eskalace.

Dnes rozhoduje člověk. Zítra? Už jen nečitelné řádky kódu

Zdroj: sdecoret / Depositphotos

Odborníci varují, že integrace umělé inteligence do vojenských systémů by mohla zvýšit riziko nekontrolované jaderné eskalace.

Pokrok umělé inteligence a její využití v každodenním životě již vyvolává debaty o etice, kontrole a bezpečnosti. Když se však přenese do vojenské sféry, obavy se znásobí. Stále více odborníků na jadernou bezpečnost varuje, že by se umělá inteligence mohla stát spouštěčem rozsáhlého konfliktu, a to i jaderného.

Důvod je jasný: závod o integraci algoritmů do prakticky všech úrovní vojenského rozhodování vytváří nebezpečný „kluzký svah“. Riziko nespočívá jen v tom, že by automatizovaný systém mohl mít přístup k dodávkám jaderných zbraní, ale i v tom, že by sami vysocí důstojníci mohli příliš důvěřovat doporučením umělé inteligence a jednat podle nich.

AI, která konflikty eskaluje, ale neochlazuje je

Výzkumníci, jako je Jacquelyn Schneiderová ze Stanfordovy univerzity, testovali, jak systémy AI reagují ve válečných simulacích. Výsledek neponechává žádný prostor pro uklidnění: ve většině případů mají algoritmy tendenci eskalovat konflikty do katastrofických úrovní, kterým by se lidé pravděpodobně vyhnuli.

Mohlo by vás zajímat: Elon Musk se zlobí. OpenAI mezitím v klidu přepisuje pravidla hry

„Je to, jako by umělá inteligence rozuměla eskalaci, ale ne deeskalaci,“ shrnuje Schneiderová. A tento vzorec se opakuje stále dokola, což posiluje pocit, že ani plně nerozumíme tomu, jak tyto modely vnitřně fungují, natož jak by reagovaly ve skutečném scénáři mezinárodní krize.

Navzdory tomu, co je v sázce, odborníci, jako je Jon Wolfsthal z Federace amerických vědců, obviňují Pentagon, že neexistuje žádný jasný návod, jak by se umělá inteligence měla (nebo neměla) používat v systémech řízení jaderných zbraní a komunikace.

Oficiálně americká vláda trvá na tom, že v rozhodovacím řetězci bude vždy přítomen člověk. Tlak ze strany zemí, jako je Rusko a Čína, které rovněž začleňují umělou inteligenci do svých vojenských struktur, by však mohl tento závazek časem narušit. V konečném důsledku panují obavy, že uprostřed krize chybná interpretace nebo chybný pokyn algoritmu spustí řetězovou reakci s nevratnými následky.

Hrozba, která se již nezdá být science fiction

Nejvíce znepokojující je, že to, co se dříve zdálo jako scénář science fiction, je nyní vnímáno jako možný scénář. Odborníci připomínají systémy, jako byla sovětská „mrtvá ruka“, navržená tak, aby automaticky reagovala na jaderný útok, a obávají se, že umělá inteligence tuto logiku posune o krok dál.

Comment
byu/MetaKnowing from discussion
inFuturology

Skutečně se již našli tací, kteří tuto situaci přirovnávají k vesmíru Terminátora nebo ke stroji soudného dne ve filmu „Divnoláska aneb Jak jsem se naučil nedělat si starosti a mít rád bombu“. Rozdíl je v tom, že tentokrát se nejedná o film, ale o politická a technologická rozhodnutí, která se přijímají právě teď. Závěr odborníků je jednomyslný a zcela jasný: bez přísné a konsenzuální regulace by se umělá inteligence aplikovaná na jaderné odstrašování mohla stát největším existenčním rizikem naší éry.

Význam regulace a etiky ve vojenské umělé inteligenci

Pro zmírnění těchto rizik je zásadní, aby vlády a mezinárodní organizace zavedly jasné a účinné předpisy týkající se používání AI ve vojenském kontextu. Etika musí být ústředním prvkem při vývoji a zavádění těchto technologií. Instituce, jako je OSN, již diskutují o rámcích pro kontrolu autonomních zbraní, ale pokrok je pomalý a je zapotřebí rozhodnějších a koordinovanějších kroků.

Kromě toho je při vývoji vojenské umělé inteligence nezbytná transparentnost. Státy musí sdílet informace o svém pokroku a spolupracovat na stanovení mezinárodních standardů, které by zabránily zneužití těchto technologií. To pomůže nejen zabránit technologickým závodům ve zbrojení, ale také vybudovat důvěru mezi národy.

Umělá inteligence sice nabízí významné příležitosti ke zlepšení bezpečnosti a efektivity armády, ale zároveň přináší kritické výzvy, které je třeba urychleně řešit. Mezinárodní společenství musí spolupracovat, aby zajistilo, že tyto výkonné nástroje budou používány zodpovědně a bezpečně.

Zdroje článku: chathamhouse.org, politico.com, www.techzpravy.cz

DALŠÍ ČLÁNKY z Techzpravy.cz

Vybrali jsme pro vás MAGAZÍNY A ZAJÍMAVOSTI

Zdravotní pojišťovny samy určí, kolik peněz chtějí od lidí, chystá motorista Šťastný

Zprávy - Aktuálně.cz|

dnes, 16:05

Zdravotní pojišťovny samy určí, kolik peněz chtějí od lidí, chystá motorista Šťastný

"Dokud tady budeme mít nejdražší elektřinu z celé Evropy, tak se sem výroba léků nevrátí," říká motorista...

Mike Tyson přiznal užívání fentanylu. Vedly ho k tomu bolesti

SportWin|

dnes, 16:04

2 min

Mike Tyson přiznal užívání fentanylu. Vedly ho k tomu bolesti

Jen pár dní po potvrzení exhibice s Floydem Mayweatherem přišel Mike Tyson se šokující zpovědí. Bývalý...

Počet obyvatel na jihu Čech klesl o 1397. Více lidí zemřelo, než se narodilo

Budějcká Drbna|

dnes, 16:00

1 min

Počet obyvatel na jihu Čech klesl o 1397. Více lidí zemřelo, než se narodilo

Počet obyvatel na jihu Čech za letošní první pololetí se snížil o 1397 na 651.830 lidí. Hlavním důvodem...

Techzpravy.cz|

dnes, 16:00

3 min

Dnes rozhoduje člověk. Zítra? Už jen nečitelné řádky kódu

Odborníci varují, že integrace umělé inteligence do vojenských systémů by mohla zvýšit riziko...

V České Vsi vyroste krytý bazén. Vyjde na 300 milionů

Hanácká Drbna|

dnes, 15:47

1 min

V České Vsi vyroste krytý bazén. Vyjde na 300 milionů

Odstartovala stavba krytého bazénu v České Vsi na Jesenicku. Projekt vyjde na 300 milionů korun, polovinou...

Řidiči v Jičíně musí držet nervy na uzdě, čeká je tříletá rekonstrukce ulic Ruská a Poděbradova

Hradecká Drbna|

dnes, 15:35

1 min

Řidiči v Jičíně musí držet nervy na uzdě, čeká je tříletá rekonstrukce ulic Ruská a Poděbradova

Jičín se připravuje na rozsáhlou tříletou rekonstrukci ulic Ruská a Poděbradova, která začne 15. září 2025....

KVÍZ: Zvládli byste život bez Googlu? Naše babičky to uměly. Teď jste na řadě vy

NESPECHEJ.cz|

dnes, 15:30

1 min

KVÍZ: Zvládli byste život bez Googlu? Naše babičky to uměly. Teď jste na řadě vy

Vygoogluj to. Dnes už tohle slovní spojení používáme úplně přirozeně. Prostě stále googlujeme. Kdykoli si...

Kladivo na korupci. Albánská ministryně Diella je první svého druhu

Magazín - Aktuálně.cz|

dnes, 15:30

Kladivo na korupci. Albánská ministryně Diella je první svého druhu

Je to první virtuální ministryně na světě, a přestože nemá ani ruce, ani nohy, už teď dělá pořádný poprask.

Největším pokladem pračlověka byl čas: Prvnímu rolníkovi stačily 4 hodiny práce denně, zbytek byl odpočinek

NESPECHEJ.cz|

dnes, 15:30

2 min

Největším pokladem pračlověka byl čas: Prvnímu rolníkovi stačily 4 hodiny práce denně, zbytek byl odpočinek

Všeobecně se soudí, že život v pravěku byl krátký, drsný a plný námahy. Navzdory tomu všemu je možné...

Jana Paulová i v 70 letech září díky novému účesu. U fanoušků sklízí samou chválu a obdiv

In-lifestyle.cz|

dnes, 15:23

3 min

Jana Paulová i v 70 letech září díky novému účesu. U fanoušků sklízí samou chválu a obdiv

Jana Paulová předvedla svůj nový účes. Je to neuvěřitelná kočka, podívejte se, jak jí to sekne v sedmdesáti...

Doporučujeme

Právě u nás vyšlo

Na rodičovskou místo mámy babička nebo děda. ANO před volbami rozkrývá další plány

Dnes rozhoduje člověk. Zítra? Už jen nečitelné řádky kódu

Na rodičovskou místo mámy babička nebo děda. ANO před volbami rozkrývá další plány

Smolná jména spojovaná s nehodami a tragédiemi. Patří mezi ně i to vaše?

Temná kapitola se uzavřela. Ale na čtyři roky trvající útěk se jen tak nezapomene

Řekli dost! Ellie a její snoubenec utratili přes půl milionu korun za zeštíhlující operace

Nikol Švantnerová čelí kritice kvůli pleně své dcery. „Styďte se za tyhle komentáře!“, vzkazuje