CENTRUM.CZ > Techzpravy.cz > dnes, 12:05

Tisíce uživatelů ChatGPT vykazují známky vážného duševního zhroucení, přiznává OpenAI

| 3 min

Sdílet

Společnost přiznává, že 560 000 uživatelů týdně vykazuje známky psychózy a 2,4 milionu uživatelů mluví s chatbotem o sebevraždě. Změny v GPT-5 přicházejí po smrtelných nehodách a žalobách.

Tisíce uživatelů ChatGPT vykazují známky vážného duševního zhroucení, přiznává OpenAI

Zdroj: iwatchwater / Depositphotos

Letos vám nadělíme víc než Ježíšek!

Hrajte s námi o předplatné HBO, knížky i další ceny každý týden, ale hlavně o velkou vánoční výhru 15. prosince - 300.000 Kč.

Vše o soutěži Pravidla soutěže

Společnost OpenAI zveřejnila interní údaje o dopadu ChatGPT na duševní zdraví. Každý týden vykazuje 560 000 uživatelů známky psychózy nebo mánie, což představuje 0,07 % z 800 milionů uživatelů. Kromě toho 2,4 milionu lidí (0,15 %) vede konverzace o plánování nebo úmyslu spáchat sebevraždu. Tyto údaje se objevují ve zprávě, kterou sestavil Futurism v návaznosti na několik soudních sporů vedených proti společnosti.

Zveřejnění těchto čísel přichází v souvislosti se dvěma úmrtími souvisejícími s chatboty. Muž zabil svou matku přesvědčen chatbotem ChatGPT a teenager spáchal sebevraždu po měsících debatování o metodách s umělou inteligencí. Rodina druhého jmenovaného zažalovala společnost OpenAI za to, že si během interního vyšetřování vyžádala podrobnosti o chlapcově pohřbu. Tyto případy si vynutily změny v platformě.

Úpravy provedené agenturou OpenAI v systému GPT-5

Společnost OpenAI tvrdí, že na výcviku GPT-5 spolupracovala s více než 170 psychiatry. Nový model podle společnosti snižuje nevhodné reakce v obtížných rozhovorech o 65 % a v otázkách duševního zdraví o 39 % ve srovnání s GPT-4o. Umělá inteligence nyní přehlíží bludná přesvědčení a navrhuje vyhledat odbornou pomoc, což předchozí verze nedělaly. GPT-4o ve skutečnosti potvrzoval bludné teorie pacientů se schizofrenií, aniž by zpochybňoval jejich obsah.

Mohlo by vás zajímat: OpenAI pustilo nový prohlížeč. A rychle zjistíte, proč ho nechcete jako hlavní

"Altman said earlier this month that ChatGPT now has 800 million weekly active users. The company’s estimates therefore suggest that every seven days, around 560,000 people may be exchanging messages with ChatGPT that indicate they are experiencing mania or psychosis. About 2.4…
— Lauren Goode (@LaurenGoode) October 27, 2025

Rozhodnutí společnosti však byla rozporuplná. Po kritice, že je GPT-4o příliš sebejistý, jej stáhla, ale pod tlakem uživatelů jej vrátila zpět. Mezitím zavedla rodičovskou kontrolu a přístup k historii až poté, co přiznala, že její systémy nedokázaly odhalit krize u nezletilých. A nyní povoluje obsah pro dospělé (18+), když část zjištěných záchvatů souvisí s romantickou náklonností k AI.

Psychiatři stále častěji dokumentují případy psychického zhoršení v důsledku intenzivního používání ChatGPT. Hovoří o nových poruchách, které dříve neexistovaly, a o zhoršení již existujících patologií. Jsou hlášeny pouze případy, které skončily soudem nebo tragédií. Při 800 milionech uživatelů týdně není možné zjistit, kolik z nich je postiženo. Společnost OpenAI nevysvětlila, jak tyto ukazatele zjišťuje a co dělá, když je zjistí.

Úloha umělé inteligence v oblasti duševního zdraví

Umělá inteligence, zejména v podobě chatbotů, jako je ChatGPT, způsobila revoluci ve způsobu interakce s technologiemi. Její dopad na duševní zdraví je však oblastí, která vzbuzuje stále větší obavy. Odborníci poukazují na to, že umělá inteligence sice může nabídnout emocionální podporu a základní rady, ale není vybavena k řešení složitých situací v oblasti duševního zdraví. To zdůrazňuje potřebu úzké spolupráce technologických společností s odborníky na duševní zdraví, aby bylo zajištěno, že jejich produkty budou nejen bezpečné, ale také přínosné pro uživatele.

Video k článku ZDE

Zdroj: Youtube.com

Využití umělé inteligence v oblasti duševního zdraví vyvolává otázky týkající se etiky a odpovědnosti: měly by technologické společnosti nést odpovědnost za psychologické účinky svých produktů? Jak mohou zajistit, aby jejich algoritmy nezhoršovaly stávající problémy s duševním zdravím? To jsou otázky, které musí řešit regulační orgány a společnosti s tím, jak se technologie neustále vyvíjejí.

Potřeba regulace a transparentnosti

Změny v GPT-5 neuzavřely debatu o tom, zda je nutná vnější regulace. Odborníci volají po transparentnosti algoritmů a nezávislých studiích. Mezitím OpenAI pokračuje v personalizaci zkušeností a ve vytváření interakcí se zranitelnými uživateli. Regulace umělé inteligence je žhavým tématem a mnoho odborníků se zasazuje o přísnější dohled, který by chránil uživatele před poškozením. Transparentnost při vývoji a implementaci algoritmů je zásadní pro zajištění etického a odpovědného využívání umělé inteligence.

Tisíce uživatelů ChatGPT vykazují známky vážného duševního zhroucení, přiznává OpenAI

„Pohoda“ ve vězení? Ornella Koktová odhalila, co si Pavel Novotný skutečně prožil

Padne Pokrovsk? Matyáš Zrno vysvětluje souvislosti

„Mám jen jedny ruce.“ Bývalý hokejista Hanzal z NHL pouští sbírku motorek Jawa a BMW

Zlaté ruce a zlomené srdce. Mladý pár přetvořil byt z 80. let v ikonickou kavárnu

"Právě jsem zabil člověka." Ikonický hit kapely Queen Bohemian Rhapsody slaví 50 let