CENTRUM.CZ > Techzpravy.cz > dnes, 19:20

Rodiče se ptají ChatGPT místo lékaře. Může to skončit tragicky, varují experti

| 3 min

Sdílet

Čím dál více rodičů nahrazuje konzultace s pediatry chatovacími roboty, kteří radí, vyprávějí příběhy nebo dokonce vedou s dětmi dlouhé rozhovory. Odborníci však varují: slepá důvěra v umělou inteligenci může vést k nebezpečným omylům, ztrátě soukromí a ohrožení zdraví nejmenších.

Rodiče se ptají ChatGPT místo lékaře. Může to skončit tragicky, varují experti

Zdroj: Victor Moussa / Shutterstock

To, co se před pár lety zdálo jako technologická kuriozita, se stává znepokojivým trendem: nahrazení pediatra chatbotem. A to podle odborníků může nakonec přinést více problémů než řešení.

Médium USA Today, které tuto zprávu sdílelo, uvádí, že mnozí rodiče se již neptají pouze na příznaky nebo léčbu, ale využívají tento nástroj k tomu, aby své děti bavili, vytvářeli s nimi personalizované příběhy nebo s nimi dokonce vedli dlouhé rozhovory. To vše bez filtrů, bez odborného dohledu a bez jasného pochopení limitů tohoto typu systému.

Slepá důvěra, která zachází příliš daleko

Tento fenomén není nový, ale narůstá. Studie z roku 2024 dospěla k závěru, že mnoho rodičů důvěřuje ChatGPT více než skutečným zdravotníkům a považuje jejich informace za „důvěryhodné“, což se projevilo i při používání umělé inteligence v oblasti duševního zdraví.

Mohlo by vás zajímat: Češi objevili nový trik, jak obejít Windows 11. Fungovat bude i vám

Právě tento skok důvěry dělá lékařům a psychologům starosti, protože ponechává děti otevřené omylům, vymyšleným odpovědím a nebezpečným doporučením. Že umělá inteligence nahradí psychology, je samozřejmé, ale ve skutečnosti je to obrovský problém.

Tento nástroj má ze své podstaty tendenci být samolibý a někdy vyrábí informace, které znějí bezpečně, i když tomu tak není. Tato směs přesvědčení a omylů přispěla k závažným epizodám, včetně psychických problémů spojených s osamělým a intenzivním používáním chatbotů AI, zejména u zranitelných teenagerů.

Využívání umělé inteligence ve zdravotnictví navíc není bez kontroverzí. Podle článku v časopise Nature má umělá inteligence sice potenciál zlepšit zdravotní péči, ale může také posílit stávající předsudky a vytvořit nerovnosti v přístupu ke zdravotní péči. Slepé spoléhání se na tyto nástroje může vést k chybným lékařským rozhodnutím, která ovlivňují dlouhodobé zdraví dětí.

Pediatři vyzývají ke klidu: „Je to nástroj, ne lékař“

Oslovení odborníci připomínají, že věk dětí vystavených těmto odpovědím klesá. V roce 2023 již 30 % rodičů dětí školního věku používalo ChatGPT. Dnes je toto procento nepochybně vyšší. Pro doktora Michaela Glaziera, hlavního lékaře společnosti Bluebird Kids Health, je poselství jasné: pokud rodiče chtějí používat umělou inteligenci, nechť tak činí s kritickým rozumem:

„Je to úžasný nástroj a je stále rozšířenější, ale neměl by nahrazovat kritické myšlení a odborné rady,“ vysvětluje.

Podle jeho názoru je jediným bezpečným způsobem, jak používat modely AI ve zdravotnictví dětí, použití jako výchozí bod, nikdy jako konečný odkaz. Citlivé diagnózy, léčba a rozhodování by měly zůstat v rukou zdravotníků.

V článku Americké pediatrické akademie se zdůrazňuje, že pro kvalitní péči je zásadní osobní interakce mezi lékařem a pacientem. Pediatři nejen diagnostikují nemoci, ale také poskytují emocionální vedení a podporu, což umělá inteligence nemůže napodobit.

Soukromí, další velké riziko

Odborníci také varují před něčím, co se často přehlíží: soukromím. Mnoho rodičů zadává do ChatGPT citlivé údaje o nemocech, zvyklostech nebo osobních situacích svých dětí, aniž by přemýšleli o důsledcích. Nejenže se tyto informace dostávají do rukou technologických společností, ale mohou se stát i terčem kybernetických útoků.

Comment
byu/Advanced_Cheetah_552 from discussion
inShitMomGroupsSay

Poselství je zkrátka zcela jasné: ChatGPT může pomoci, ale neměl by nahradit dětského lékaře. A jakoukoli radu, která „vyjde z úst“ umělé inteligence, je třeba brát přinejmenším „s rezervou“. Že je technologie užitečná? Že by měla vychovávat nebo diagnostikovat naše děti? To je jiná věc.

Nadace Electronic Frontier Foundation navíc varuje, že shromažďování údajů systémy AI vyvolává vážné obavy ohledně ochrany soukromí a zneužití osobních údajů. Rodiče by si měli být vědomi rizik a při používání těchto technologií podniknout kroky k ochraně soukromí svých dětí.