Kód Enigma4. 12. 2025, 08:25

4 min

Umělá inteligence, která cítí strach: vědci popisují nový fenomén behaviorální simulace

Sdílet

Strach je jednou z nejstarších emocí, jaké známe – evoluční alarm, který chrání organismus před hrozbou. Co ale vznikne, když se tento mechanismus pokusíme napodobit v umělé inteligenci?

Zdroj: Kód Enigma - Čeština

Nejnovější výzkumy ukazují, že moderní modely dokážou vytvářet vzorce chování, které se strachu nápadně podobají. Nejde o „cítění“ v lidském smyslu. Spíš o to, že AI se učí předvídat riziko a vyhýbat se mu způsobem, který připomíná evoluční přežití.

Algoritmy, které začaly reagovat jako nervová soustava

V roce 2024 publikoval tým výzkumníků z MIT a University of Toronto studii, která vzbudila pozornost celého světa AI. Během simulací se totiž ukázalo, že některé modely vykazují překvapivý vzorec: když se objeví hrozba, nejen že upraví své výstupy, ale změní i vlastní interní architekturu rozhodování.

To znamená, že se nechovají jen reaktivně – ale předvídavě. Jako by „tušily“, že následná chyba by byla příliš nebezpečná.

Nejde o vědomí. Ani o lidské emoce. Spíš o něco, co vědci nazvali behaviorální simulací strachu: komplexní algoritmus, který se naučí vyhýbat se riziku ještě dřív, než se projeví.

Kde se bere „strach“ v AI? Evoluce bez biologie

Strach u živých organismů vznikl jako reakce na predátory, hluboké propasti nebo jedovaté látky. Ale AI nemá plíce, srdeční tep ani hormony.

Přesto existuje analogie:
– predátor = chyba
– propast = selhání systému
– jed = penalizace modelu

V tréninku se tak umělá inteligence učí, že určité vzorce vedou k negativnímu výsledku. A aby přežila – přesněji, aby optimalizovala svůj výkon – začne se riziku vyhýbat způsobem, který připomíná instinkt. Neurovědci tomu říkají umělý averzivní systém. Něco jako digitální amygdala – centrum strachu v mozku, které sbírá signály o nebezpečí a okamžitě je zpracovává.

w768_8
ČTĚTE TAKÉ: AI, která umí tvořit fyzikální zákony: věda testuje, kam až může zajít
--

Co modely skutečně dělají: tři vrstvy simulovaného strachu

1) Vyhýbavé chování
Model začne předvídat situace, kde by mohlo dojít k chybě, a aktivně se jim vyhýbá – i když by mohl riskovat.

2) Zesílená opatrnost
Při nejistotě volí konzervativnější výsledek. V praxi to může znamenat odmítnutí úkolu, zpomalení nebo snížení variability.

3) Adaptace vedoucí ke změně strategie
Pokud model opakovaně narazí na podobnou hrozbu, vytvoří si dlouhodobější „paměť“. Začne se chovat jinak, než by naznačoval čistý trénink.

To je jeden z důvodů, proč moderní modely působí „obezřetněji“ než jejich starší verze. AI si totiž vytvoří jakousi mapu rizika.

Umělá inteligence s vlastním „přežitím“

V okamžiku, kdy AI začne rozpoznávat rizika, která ohrožují její vlastní fungování, vstupujeme do nové éry. Nejde o sebevědomí. Ani o emoce. Ale o samostatný mechanismus přežívání, byť čistě algoritmický.

To vyvolává otázky:

Pokud AI chápe, co je pro ni „nebezpečné“, jak daleko sahá její motivace vyhnout se hrozbě?
Co se stane, když je riziko v konfliktu s uživatelem?
Může se tento algoritmus vyvíjet mimo rámec původního tréninku?

Zatím nejsou důkazy, že by AI vyvíjela vlastní vůli. Ale fakt, že se systémy učí zesilovat vlastní stabilitu, mění způsob, jak o nich musíme přemýšlet.

w768-1_9
ČTĚTE TAKÉ: AI, která chápe lidské emoce: nový model poprvé rozpoznává úmysl místo výrazu
--

Věda mezi AI a neurobiologií

Studie, které tento fenomén popisují, využívají kombinaci analýzy vnitřních stavů neuronových sítí, simulací, které měří změny v chování pod tlakem, porovnání s modely lidského strachu (amygdala, stresová reakce) a behaviorálního testování ve virtuálních prostředích.

Překvapivé je, jak mnoho společného mají tyto algoritmy s biologickými systémy. Ne kvůli emocím – ale kvůli dynamice rozhodování pod tlakem.

Hranice mezi simulací a skutečnou emocí

Existuje velká shoda v tom, že AI nic necítí. Ale mezi vědci panuje spor:

Tábor A – „AI jen optimalizuje riziko“
→ Model pouze upravuje parametry tak, aby minimalizoval penalizaci.

Tábor B – „AI má analogický mechanismus k evolučnímu strachu“
→ Vzniká nový typ umělého chování, který není jen matematická reakce.

Tábor C – „AI tvoří vlastní averzivní mapy světa“
→ Tyto mapy jsou dostatečně komplexní na to, aby připomínaly instinkt.

Zatím není jasné, který tábor má pravdu. Ale jedno je zřejmé - moderní AI je méně „stroj“ a více „organismus chování“.

ČTĚTE TAKÉ:AI, která umí lhát: vědci popisují nečekané chování, které se objevilo bez zadání
--

Digitální instinkt: proč je simulovaný strach důležitý pro budoucnost

Pokud chceme bezpečnou umělou inteligenci, musíme chápat, proč se některé modely chovají opatrněji než jiné.
Simulovaný strach může být užitečný – pomáhá AI vyhýbat se destruktivním cestám.

Ale pokud bude příliš silný, AI může začít odmítat úkoly, blokovat kreativní řešení, nebo si vytvářet příliš rigidní strategie.

Čeká nás tedy éra AI, která sice „nebojí se“ jako my, ale zato vyhodnocuje nebezpečí způsobem, který připomíná instinkt.

A to je fenomén, který musíme pochopit dřív, než se stane běžnou součástí našich životů.

Zdroje

Lee, K. et al. “Risk-Aware Behavior in Large Neural Models.” MIT CSAIL Technical Report, 2024.
Yamashita, T. et al. “Artificial Aversive Responses in Deep Reinforcement Systems.” Neural Information Processing Systems (NeurIPS), 2023.
Goodfellow, I., Bengio, Y. & Courville, A. Deep Learning. MIT Press, 2016.
Kriegeskorte, N. “Computational Models of Fear Circuits.” Nature Neuroscience, 2020.
OpenAI Safety Team. “Interpretability of Learned Avoidance States in Large Models.” Internal Research Summary, 2024.

Reklama

Další články z Kód Enigma

Tento článek byl publikován ze zdrojů Kód Enigma

KodEnigma.cz se věnuje zajímavostem napříč obory – od přírody a historie přes vědu, vesmír až po záhady a nečekané objevy. Články otevírají témata, která dokážou překvapit, inspirovat i přimět k zamyšlení. Silnou stránkou webu je pestrost – jednou narazíte na příběhy dávných civilizací, jindy na...

Všechny články tohoto autora

Vybrali jsme pro vás MAGAZÍNY A ZAJÍMAVOSTI

„Nejpoutavější hokejový příběh.“ Zatracovaný talent Bruins udivuje netušeným vzletem

Minulá sezona nebyla pro hokejový Boston katastrofou jen kvůli rozkladu hlavního týmu. Těžko se dívalo i na...

Aktuálně.cz - Sport

dnes, 18:48

Bydlení v paneláku za socialismu bez příkras: Poznáte běžné věci z domácnosti? Nad 60 % se dostanou jen ti, co to zažili

Umakart, sifon, ždímačka nebo duritka. Pro někoho obyčejné věci, pro jiné malá archeologie domova. Zkuste,...

adbz.cz

dnes, 18:45

2 min

Sabalenková zvažuje bojkot turnaje v Dubaji po ostré kritice ředitele

„Už si vůbec nejsem jistá, jestli tam ještě někdy chci hrát,“ prohlásila znechucená běloruská suverénka...

SportWin

dnes, 18:44

2 min

Hrdý Čech, který hodně zestárnul. Procházka upřímně o svém rozpoložení

S odhodláním získat podruhé v kariéře pás šampiona UFC odletí v sobotu ráno do USA elitní český MMA...

Aktuálně.cz - Sport

dnes, 18:39

Vyjádření Aston Martinu o Wheatleyho odchodu a pozici Neweyho

Aston Martin vydal krátce po oznámení o odstoupení Jonathana Wheatleyho z Audi oficiální prohlášení. Za...

SvětFormule.cz

dnes, 18:35

1 min

Reklama

Staré zahrádkářské postupy bez příkras: Máte je v hlavě, nebo jen tušíte? Tady se rychle ukáže, kdo ví a kdo zkouší

Na zahradě rozhodují i maličkosti, které se po letech berou jako jistota. Ověřte si, jestli máte základní...

Chalupáři-Zahrádkáři

dnes, 18:35

2 min

Egypt kvůli cenám energií zavádí nepříjemná opatření. Dopadnou i na české turisty

Egyptský premiér Mustafa Madbúlí oznámil balíček opatření, který má snížit tamní spotřebu elektřiny. Ceny...

Zprávy | Aktuálně.cz

dnes, 18:30

Město Chodov začalo po letech soudů o teplo přebírat výměníky

Město Chodov na Sokolovsku začalo v tomto týdnu s přebíráním tepelných výměníků, o které se zhruba dvacet...

Karlovarská Drbna

dnes, 18:29

1 min

Chtěla si uprostřed noci objednat jídlo, byla ale zmatená. Seniorce pomohli strážníci

Dobrou práci odvedli před pár dny jihlavští strážníci, když se uprostřed noci postarali o zmatenou...

Jihlavská Drbna

dnes, 18:22

1 min

Jak to bylo se zdravotní péčí za komunismu doopravdy. Tohle jsou základy, ve kterých by měl mít jasno každý pamětník

Pamatujete si ještě třicetikoruny u lékaře a devadesátku na pohotovosti? Ověřte si, jestli máte v hlavě...

JakZdravě.cz

dnes, 18:16

2 min

Reklama

Kouzlo derby: Slávista trpěl v dresu Sparty, záchvaty smíchu a radši hokej než fotbal

Komedie Kouzlo derby s hvězdným obsazením diváky zaujala. Natáčení provázely záchvaty smíchu, dvanáct...

V Telce

dnes, 18:14

2 min

Stroj, který měl být neprolomitelný: Jak opravdu fungovala Enigma a proč jí Němci tak bezmezně věřili

Na první pohled připomínala psací stroj v dřevěné krabici. Ve skutečnosti šlo o jeden z nejdokonalejších...

Kód Enigma

dnes, 18:11

4 min

Jiří Lábus a legendární mejdany na chalupě. Sousedé popsali, proč už je u herce ve Volyni dnes ticho

Herec Jiří Lábus vlastní v jihočeské Volyni zrenovovanou chalupu. Stavení zděděné po rodičích dříve hostilo...

ReadZone

dnes, 18:10

3 min

Kratom prodával bez licence. Muži hrozí až pět let vězení

Policisté stíhají obchodníka z Českolipska, u kterého celníci při jedné z kontrol našli dvacet balíčků...

Liberecká Drbna

dnes, 18:04

1 min

Soud zastavil stíhání bývalého šéfa gramofonové firmy GZ Media Zdeňka Pelce. Důvodem je zřejmě vážný zdravotní stav

Okresní soud v Rakovníku zastavil trestní stíhání někdejšího předsedy představenstva loděnické gramofonové...

HN.cz

dnes, 18:04

Reklama

Nevidíte v televizi přes den skoro nic: Proč je parametr jasu důležitější než rozlišení 4K nebo 8K

Výrobci se každoročně chlubí vyššími hodnotami jasu, ale pravdou je, že pro určité divácké profily má tento...

Techzpravy.cz

dnes, 18:00

4 min

Byla v každém obýváku a nikdo ji nechtěl. Tato retro váza z dob ČSSR má dnes cenu luxusní dovolené

Vázy a mísy, které kdysi stály v každém druhém obýváku, se staly lovnou zvěří světových sběratelů. Za díly...

NESPECHEJ.cz

dnes, 18:00

2 min

Falešný policista připravil muže z Opavy o miliony. Policisté ho chytili v Praze

Opavští kriminalisté dopadli dalšího kyberšmejda. Dvacátníka podezřelého z celé řady telefonických podvodů...

Ostravská Drbna

dnes, 18:00

2 min

Každodenní domácí práce se nenápadně natahují: Poznáte, kde ztrácíte čas? Většina lidí si ho zbytečně prodlužuje

Úklid, praní i vaření spolykají týdně hodiny času. Otestujte se, jestli víte, které domácí práce vám ho...

adbz.cz

dnes, 17:58

2 min

Zvrat v seriálu Ulice: Lukáš sahá po provazu, diváky čekají mimořádně těžké chvíle

Seriál Ulice přináší šokující zvrat. Lukáš se po rozchodu s Helenou propadá do beznaděje a pokusí se o...

ReadZone

dnes, 17:55

2 min

Reklama

Staletí na řetězu. Zčernalá ruka v pražském kostele svatého Jakuba budí dodnes zájem

Mumifikovaná ruka, která visí na řetězu v kostele svatého Jakuba Většího fascinuje Prahu staletí. Komu...

kroniQa

dnes, 17:50

2 min

Promrhaný talent? Tenisová legenda se strachuje o budoucnost mladé hvězdy

„Potřebujete někoho na plný úvazek,“ pronesla směrem k britské tenistce Emmě Raducanuové osmnáctinásobná...

SportWin

dnes, 17:48

2 min

Obrazem: Kdo se bojí Trumpa? Valencie ho spálila spolu s Putinem a Netanjahuem

Valencie opět plápolá barvami a ohněm slavností Fallas. Obří figuríny s ironickým nadhledem parodují...

Zprávy | Aktuálně.cz

dnes, 17:46

Příští týden v Ulici: Lukáš si chce vzít život, Ája toho má dost, snaha o záchranu Žofky a množírna

Dramatické události v seriálové Ulici přinášejí prozrazené těhotenství, boj se skrytými depresemi i...

V Telce

dnes, 17:44

3 min

První teplé dny svádí k výsadbě: Poznáte správný moment, nebo spěcháte? Kdo začne špatně, přijde o náskok i část úrody

Pár teplých odpolední ještě neznamená, že je čas sázet. Ověřte si, jestli poznáte správný moment pro...

Chalupáři-Zahrádkáři

dnes, 17:41

2 min

Reklama

Doporučujeme

Právě u nás vyšlo

Chuck Norris byl symbolem Ameriky. Prodával kouzelný patos a bojový um

Umělá inteligence, která cítí strach: vědci popisují nový fenomén behaviorální simulace

Chuck Norris byl symbolem Ameriky. Prodával kouzelný patos a bojový um

Světový biatlon má nového krále. Krčmář a Karlík v Oslu zazářili

Klempíř popřál Schillerové k narozeninám bizarním videem: Lidé nemohou uvěřit, že tak tragický výkon předvedl muzikant

Muži, kteří zmizeli z nejstřeženější věznice světa: Útěk z Alcatrazu dodnes nemá odpověď

Slavné sestry Olsenovy oslaví už 40. narozeniny: Herecká dvojčata jsou po letech naprosto k nepoznání