Kód Enigma4. 12. 2025, 08:25

4 min

Umělá inteligence, která cítí strach: vědci popisují nový fenomén behaviorální simulace

Sdílet

Strach je jednou z nejstarších emocí, jaké známe – evoluční alarm, který chrání organismus před hrozbou. Co ale vznikne, když se tento mechanismus pokusíme napodobit v umělé inteligenci?

Zdroj: Kód Enigma - Čeština

Nejnovější výzkumy ukazují, že moderní modely dokážou vytvářet vzorce chování, které se strachu nápadně podobají. Nejde o „cítění“ v lidském smyslu. Spíš o to, že AI se učí předvídat riziko a vyhýbat se mu způsobem, který připomíná evoluční přežití.

Algoritmy, které začaly reagovat jako nervová soustava

V roce 2024 publikoval tým výzkumníků z MIT a University of Toronto studii, která vzbudila pozornost celého světa AI. Během simulací se totiž ukázalo, že některé modely vykazují překvapivý vzorec: když se objeví hrozba, nejen že upraví své výstupy, ale změní i vlastní interní architekturu rozhodování.

To znamená, že se nechovají jen reaktivně – ale předvídavě. Jako by „tušily“, že následná chyba by byla příliš nebezpečná.

Nejde o vědomí. Ani o lidské emoce. Spíš o něco, co vědci nazvali behaviorální simulací strachu: komplexní algoritmus, který se naučí vyhýbat se riziku ještě dřív, než se projeví.

Kde se bere „strach“ v AI? Evoluce bez biologie

Strach u živých organismů vznikl jako reakce na predátory, hluboké propasti nebo jedovaté látky. Ale AI nemá plíce, srdeční tep ani hormony.

Přesto existuje analogie:
– predátor = chyba
– propast = selhání systému
– jed = penalizace modelu

V tréninku se tak umělá inteligence učí, že určité vzorce vedou k negativnímu výsledku. A aby přežila – přesněji, aby optimalizovala svůj výkon – začne se riziku vyhýbat způsobem, který připomíná instinkt. Neurovědci tomu říkají umělý averzivní systém. Něco jako digitální amygdala – centrum strachu v mozku, které sbírá signály o nebezpečí a okamžitě je zpracovává.

w768_8
ČTĚTE TAKÉ: AI, která umí tvořit fyzikální zákony: věda testuje, kam až může zajít
--

Co modely skutečně dělají: tři vrstvy simulovaného strachu

1) Vyhýbavé chování
Model začne předvídat situace, kde by mohlo dojít k chybě, a aktivně se jim vyhýbá – i když by mohl riskovat.

2) Zesílená opatrnost
Při nejistotě volí konzervativnější výsledek. V praxi to může znamenat odmítnutí úkolu, zpomalení nebo snížení variability.

3) Adaptace vedoucí ke změně strategie
Pokud model opakovaně narazí na podobnou hrozbu, vytvoří si dlouhodobější „paměť“. Začne se chovat jinak, než by naznačoval čistý trénink.

To je jeden z důvodů, proč moderní modely působí „obezřetněji“ než jejich starší verze. AI si totiž vytvoří jakousi mapu rizika.

Umělá inteligence s vlastním „přežitím“

V okamžiku, kdy AI začne rozpoznávat rizika, která ohrožují její vlastní fungování, vstupujeme do nové éry. Nejde o sebevědomí. Ani o emoce. Ale o samostatný mechanismus přežívání, byť čistě algoritmický.

To vyvolává otázky:

Pokud AI chápe, co je pro ni „nebezpečné“, jak daleko sahá její motivace vyhnout se hrozbě?
Co se stane, když je riziko v konfliktu s uživatelem?
Může se tento algoritmus vyvíjet mimo rámec původního tréninku?

Zatím nejsou důkazy, že by AI vyvíjela vlastní vůli. Ale fakt, že se systémy učí zesilovat vlastní stabilitu, mění způsob, jak o nich musíme přemýšlet.

w768-1_9
ČTĚTE TAKÉ: AI, která chápe lidské emoce: nový model poprvé rozpoznává úmysl místo výrazu
--

Věda mezi AI a neurobiologií

Studie, které tento fenomén popisují, využívají kombinaci analýzy vnitřních stavů neuronových sítí, simulací, které měří změny v chování pod tlakem, porovnání s modely lidského strachu (amygdala, stresová reakce) a behaviorálního testování ve virtuálních prostředích.

Překvapivé je, jak mnoho společného mají tyto algoritmy s biologickými systémy. Ne kvůli emocím – ale kvůli dynamice rozhodování pod tlakem.

Hranice mezi simulací a skutečnou emocí

Existuje velká shoda v tom, že AI nic necítí. Ale mezi vědci panuje spor:

Tábor A – „AI jen optimalizuje riziko“
→ Model pouze upravuje parametry tak, aby minimalizoval penalizaci.

Tábor B – „AI má analogický mechanismus k evolučnímu strachu“
→ Vzniká nový typ umělého chování, který není jen matematická reakce.

Tábor C – „AI tvoří vlastní averzivní mapy světa“
→ Tyto mapy jsou dostatečně komplexní na to, aby připomínaly instinkt.

Zatím není jasné, který tábor má pravdu. Ale jedno je zřejmé - moderní AI je méně „stroj“ a více „organismus chování“.

ČTĚTE TAKÉ:AI, která umí lhát: vědci popisují nečekané chování, které se objevilo bez zadání
--

Digitální instinkt: proč je simulovaný strach důležitý pro budoucnost

Pokud chceme bezpečnou umělou inteligenci, musíme chápat, proč se některé modely chovají opatrněji než jiné.
Simulovaný strach může být užitečný – pomáhá AI vyhýbat se destruktivním cestám.

Ale pokud bude příliš silný, AI může začít odmítat úkoly, blokovat kreativní řešení, nebo si vytvářet příliš rigidní strategie.

Čeká nás tedy éra AI, která sice „nebojí se“ jako my, ale zato vyhodnocuje nebezpečí způsobem, který připomíná instinkt.

A to je fenomén, který musíme pochopit dřív, než se stane běžnou součástí našich životů.

Zdroje

Lee, K. et al. “Risk-Aware Behavior in Large Neural Models.” MIT CSAIL Technical Report, 2024.
Yamashita, T. et al. “Artificial Aversive Responses in Deep Reinforcement Systems.” Neural Information Processing Systems (NeurIPS), 2023.
Goodfellow, I., Bengio, Y. & Courville, A. Deep Learning. MIT Press, 2016.
Kriegeskorte, N. “Computational Models of Fear Circuits.” Nature Neuroscience, 2020.
OpenAI Safety Team. “Interpretability of Learned Avoidance States in Large Models.” Internal Research Summary, 2024.

Reklama

Další články z Kód Enigma

Tento článek byl publikován ze zdrojů Kód Enigma

KodEnigma.cz se věnuje zajímavostem napříč obory – od přírody a historie přes vědu, vesmír až po záhady a nečekané objevy. Články otevírají témata, která dokážou překvapit, inspirovat i přimět k zamyšlení. Silnou stránkou webu je pestrost – jednou narazíte na příběhy dávných civilizací, jindy na...

Všechny články tohoto autora

Vybrali jsme pro vás MAGAZÍNY A ZAJÍMAVOSTI

Jak dnes žije Vladimír Mišík: Kvůli zdravotním problémům už zůstává jen doma, na nové album nemyslí

Vladimír Mišík má za sebou hvězdnou kariéru. Ze hry jej však vyřadily zdravotní problémy.

VIPživot.cz

dnes, 05:21

3 min

Proč a jak využít posekanou trávu na zahradě: Je to poklad zdarma pro celou řadu rostlin

Posekaná tráva nepatří do popelnice, i když ji tam někteří zahrádkáři často hážou. Obsahuje totiž celou...

Chalupáři-Zahrádkáři

dnes, 05:18

2 min

Spánek na podlaze není jen pro vězně a lidi bez domova. Ve skutečnosti uleví od řady běžných zdravotních problémů

Spát na tvrdé podlaze v momentě, kdy máte pár kroků od sebe pohodlnou postel, zní jako šílenství. Navzdory...

VědaŽivě.cz

dnes, 05:18

3 min

Kulturista hazarduje se svým životem. Už 14 let si vystačí pouze se 30 minutami spánku

Japonský kulturista Daisuke Hori tvrdí, že už 14 let spí jen půl hodiny denně a funguje naplno. Jeho...

MMAMAG.cz

dnes, 05:15

1 min

Trnitý život Stanislava Hložka: Přišel o syna, rodina se rozpadla. Zažil i zradu kamaráda

Stanislav Hložek, přestože na pódiích působí naprosto energicky a šťastně, zažil velmi bolestivé životní...

VIPživot.cz

dnes, 05:14

4 min

Reklama

Osudy dětí Jiřího Krampola: Jen dvě děti ho braly jako tátu. Dva synové ho zavrhli, o další dvě děti přišel

Jiří Krampol byl známý herec a bavič, který dokázal rozdávat smích na jevišti i před kamerou. Jeho osobní...

VIPživot.cz

dnes, 05:13

2 min

Senioři v Česku dál bojkotují samoobslužné pokladny. Zaměstnanci už si neví rady

Moderní nákupní centra slibovala revoluci v podobě samoobslužných pokladen, které měly bleskově odbavit...

Asenior.cz

dnes, 05:11

2 min

Řidička si všimla zdánlivě obyčejné krabice na chodníku. Po otevření pochopila, že jí zbývá 30 vteřin

Nejspíš to byl osud. Tato žena tudy totiž nikdy nejezdí. Na chodníku v boční ulici si všimla kartonové...

Světkreativity

dnes, 05:05

2 min

Klasické zapáchající odpaďáky vytlačuje chytrá novinka. Stává se nejužitečnější věcí v domácnosti

Elektrické kompostéry slibují konec zápachu, rychlý rozklad a kvalitní hnojivo. Podívali jsme se na to, co...

FAJNTIP.cz

dnes, 05:05

3 min

Reklama

Doporučujeme

Právě u nás vyšlo

Kalhotky sundala až po nátlaku. Základní instinkt se slavnou scénou slaví výročí

Umělá inteligence, která cítí strach: vědci popisují nový fenomén behaviorální simulace

Kalhotky sundala až po nátlaku. Základní instinkt se slavnou scénou slaví výročí

Rusko má být součástí Evropy, tvrdí Orbán. Jeho slova o Ukrajině dál šokují

Richard Chlad vytáhl archivní snímek mladičkého Filipa Turka: Kožená bunda a nejdražší auto světa!

Podivuhodný příběh Blanche Dumas: jak se asi žilo ženě se třemi nohama a dvěma vaginami?

Chuck Norris skončil krátce po narozeninách v nemocnici. Fanoušky vyděsila náhlá hospitalizace