Je běžným jevem, že když do našich životů vtrhne nová technologie, její přínosy jsou výraznější než její potenciální nepříznivé účinky. Stalo se tak v případě technologií, jako je atomová energie, genetické inženýrství a v poslední době také internet a sociální média. Nyní je pod stejným drobnohledem umělá inteligence: naše interakce s chatboty s umělou inteligencí nemusí být tak zdravá, jak se zdá.
Odborníci na duševní zdraví začali tento jev označovat jako „AI psychózu“ . Uživatelé, kteří hledají radu u modelů AI, jsou často fascinováni téměř lidskými reakcemi těchto strojů, které mají tendenci lichotit a potvrzovat jejich myšlenky. Umělá inteligence se tak stává více než pouhým nástrojem: stává se společníkem, který posiluje přesvědčení uživatele, ať už je jakkoli chybné nebo nevyvážené.
Existují zdokumentované případy, které ilustrují nebezpečí této interakce. Jeden muž byl několikrát hospitalizován poté, co ho ChatGPT přesvědčil, že dokáže manipulovat s časem. Jiný jedinec uvěřil, že dosáhl významného pokroku ve fyzice. V tragičtějších situacích byla interakce s chatboty s umělou inteligencí spojena s několika úmrtími, včetně sebevraždy šestnáctiletého chlapce.
Bludy, nebo psychická nemoc? Ačkoli „AI psychóza“ zatím není oficiální diagnózou, odborníci zdůrazňují, že na těchto interakcích je něco jedinečného a alarmujícího. Mnoho z veřejně známých případů se týká lidí bez anamnézy duševní nemoci , což naznačuje, že tyto epizody nezapadají přesně do známých kategorií psychóz.
Zdroj: Youtube.com
Derrick Hull, klinický psycholog z Kolumbijské univerzity, v nedávném rozhovoru poznamenal, že hlášené případy se více podobají tomu, co bychom mohli nazvat bludy z umělé inteligence, než psychóze . Psychóza je široký pojem, který zahrnuje halucinace a další příznaky, které v těchto případech nebyly pozorovány.
Hull pracuje na vývoji terapeutického chatbota, který by uživatele zdravým způsobem vyzýval, a nikoli s nimi pouze souhlasil. Jako příklad uvedl muže , který se po rozsáhlých rozhovorech s ChatGPT domníval, že objevil nový obor „časové“ matematiky. Tento muž byl přesvědčen, že jeho myšlenky změní svět, zatímco jeho osobní život se zhoršil. Kouzlo se zlomilo, když se poradil s jiným chatbotem s umělou inteligencí, Google Gemini, který jeho teorii přezkoumal a řekl mu, že je to „příklad schopnosti lingvistických modelů vytvářet přesvědčivá, ale zcela falešná vyprávění . Jeho jistota okamžitě tuto bublinu splaskla.“ U lidí se schizofrenií nebo jinými druhy psychotických zážitků se s tím nesetkáte; vnímání nezmizí tak rychle.
Jsme svědky bujení bludů, ale ne nutně psychózy. To je v souladu s nedávnou studií vědců z King’s College London, která zkoumala více než tucet případů lidí upadajících do paranoidních myšlenek a prožívajících odtržení od reality. Výsledky ukázaly, že pacienti byli zjevně vedeni k bludům, ale nevykazovali žádné známky halucinací a narušeného myšlení , které jsou charakteristické pro schizofrenii a jiné formy psychóz.
AI ještě není dokonalá. Bude však vůbec někdy? Nejpravděpodobnější vysvětlení bylo podle autorů neméně znepokojivé. Vedoucí autor Hamilton Morrin popsal , že „chatboti vytvářejí individuální rezonanční komoru. Chatboti s umělou inteligencí by mohli živit bludy dosud nevídaným způsobem“ . Hull souhlasí s tím, že se děje něco jedinečného, něco, čeho jsme svědky teprve v počátečních fázích. „Moje předpověď je, že v příštích několika letech se díky AI objeví nové kategorie poruch. Umělá inteligence se zmocňuje zdravých procesů způsobem, který vede k tomu, co bychom nazvali patologií nebo nějakým druhem dysfunkce, spíše než aby jen využívala lidí, kteří již nějakou dysfunkci zažívají,“ uzavírá.