AI, která chápe lidské emoce: nový model poprvé rozpoznává úmysl místo výrazu

Sdílet

Většina dosavadních systémů umělé inteligence dokáže pracovat s emocemi pouze na povrchu: rozpozná úsměv jako radost, svraštělé obočí jako hněv a zvýšený hlas jako stres. Nový výzkum však míří mnohem dál.

Zdroj: Kód Enigma - Čeština

Tým z Massachusetts Institute of Technology a University of Toronto představil model, který se nesoustředí na výraz, ale na úmysl. Místo toho, aby vyhodnocoval, jak se člověk tváří, se pokouší pochopit, proč tuto emoci projevuje — a v jakém kontextu.

Proč klasické rozpoznávání emocí nestačí

Systémy založené na čtení obličejových výrazů mají několik zásadních omezení. Emocionální signály se napříč kulturami liší, výrazy mohou být záměrně potlačené nebo naopak přehnané, a mnoho lidí projevuje emoce tak subtilně, že běžný algoritmus nedokáže vzorec zachytit.

Navíc emoce nejsou jen vizuální. Neurověda ukazuje, že emocionální stav je výsledkem interakce kontextu, paměti, fyziologie a motivace. Zaměřit se pouze na výrazy znamená zachytit jen zlomek skutečného psychologického procesu.

Nový přístup: od výrazu k úmyslu

Výzkumný tým vytvořil model, který analyzuje emoce jako funkci situace, nikoli jako izolovaný signál. Místo toho, aby sledoval jednotlivé tvářové rysy, kombinuje několik vrstev vstupních dat:

textový kontext (například obsah probíhající konverzace)
intonaci a rytmus řeči
mikrogesta a pohyby očí
fyziologické indikátory (kde jsou dostupné)
historické vzorce chování uživatele

Tím vytváří dynamickou mapu úmyslu – dokáže například rozlišit ironii, stres v důsledku přetížení, obranný smích nebo situace, kdy člověk vyjadřuje radost povrchově, ale vnitřně je nejistý.

Model tak nepředvídá emoci, ale motivaci, která ji vede.

w768 (14)
ČTĚTE TAKÉ: AI, která odhaluje ztracená města: algoritmy čtou terén rychleji než archeologické expedice

Jak se systém učí: spojení psychologie a strojového učení

Nový model vychází z tzv. Theory of Mind Networks – výzkumu, který zkoumá, jak lidé chápou mentální stavy druhých. Tuto oblast dříve využívala převážně kognitivní psychologie, nyní ale nachází uplatnění i ve strojovém učení.

Algoritmus je trénován na multimodálních datech, v nichž jsou emoce označeny nejen kategorií („hněv“, „radost“), ale i kontextem („hněv způsobený frustrací“, „hněv jako varování“, „falešná radost“). Výsledkem je systém, který dokáže předpovídat emocionální úmysl s přesností, která překonává dosavadní přístupy.

Studie také ukázala, že model dokáže lépe pracovat s ambivalentními signály — například smíšenými emocemi, které jsou pro klasické přístupy prakticky neuchopitelné.

Etické otázky: hranice mezi pomocí a narušením soukromí

Technologie, která dokáže odhadnout úmysl, otevírá zásadní etické otázky. Interpretace motivace může být citlivější než interpretace výrazu. Autoři studie proto zdůrazňují striktní omezení:

model má být použitelný pouze v prostředí s informovaným souhlasem
data mají být anonymizovaná a lokální, nikoli odesílaná na externí servery
výstupy mají sloužit k podpoře člověka, nikoli k rozhodování bez lidského dohledu
algoritmus nemá být využíván v represivních nebo kontrolních systémech

Etické rámce budou hrát klíčovou roli v tom, zda se technologie stane nástrojem pro podporu, nebo pro dohled.

w768 (15)
ČTĚTE TAKÉ: AI, která dokáže předvídat přírodní katastrofy: jak funguje nový model výzkumníků z MIT

Možné využití: od zdravotnictví po výuku

Pokud bude technologie směrována správným směrem, může mít pozitivní dopad v několika oblastech:

psychoterapie (jemnější porozumění klientovi)
zdravotnictví (monitoring stresu u pacientů)
asistivní technologie pro lidi s poruchami komunikace
vzdělávání (identifikace frustrace nebo nejistoty u studentů)
péče o osamělé nebo starší osoby

Modely založené na úmyslu mohou lépe reagovat na potřeby člověka, aniž by se spoléhaly jen na vizuální signály.

Emoce nejsou jen to, co vidíme. Jsou to komplexy motivací, vzpomínek a kontextů, které se projevují různými způsoby. Nový přístup ke strojovému učení ukazuje, že budoucnost práce s emocemi může být přesnější a více propojená s tím, jak lidé skutečně fungují.

Technologie, která dokáže rozlišit úmysl, přibližuje umělou inteligenci způsobu lidského porozumění. Tím však zároveň vyžaduje, aby se vývojáři i společnosti ptali, kde leží hranice jejího použití.

Zdroje

Lee, K., et al. (2024). "Intent-Aware Emotion Recognition via Multimodal Learning." Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR)
MIT Media Lab. "Affective Computing Group Research Overview."
University of Toronto, Cognitive Systems Lab. "Theory of Mind Models in Machine Learning."
Barrett, L. F. (2017). How Emotions Are Made: The Secret Life of the Brain. Houghton Mifflin Harcourt.

Reklama

Další články z Kód Enigma

Tento článek byl publikován ze zdrojů Kód Enigma

KodEnigma.cz se věnuje zajímavostem napříč obory – od přírody a historie přes vědu, vesmír až po záhady a nečekané objevy. Články otevírají témata, která dokážou překvapit, inspirovat i přimět k zamyšlení. Silnou stránkou webu je pestrost – jednou narazíte na příběhy dávných civilizací, jindy na...

Všechny články tohoto autora