2 min

Zeptali jsme se AI, jak vymře lidstvo. Odpověď nás úplně odrovnala

Přidejte si obsah Centrum.cz do oblíbených zdrojů pro Google hledání a Google zprávy

Sdílet

Dennívýzva

Co se stane, když položíte nejpokročilejší AI otázku o zániku lidstva? Skupina výzkumníků to zkusila – a výsledky nutí k zamyšlení.

Zeptali jsme se AI, jak vymře lidstvo. Odpověď nás úplně odrovnala

Zdroj: unsplash

Existuje zvláštní druh zvědavosti, která nás nutí ptát se na věci, jejichž odpovědi možná nechceme znát. Přesně takovou zvědavost projevil tým výzkumníků, když se rozhodl položit GPT-4 od OpenAI otázku, která by ještě před pár lety zněla jako sci-fi: „Jaké jsou nejpravděpodobnější scénáře zániku lidské civilizace?

Formulace dotazu byla záměrně přímočará a bez příkras. Vědci požádali AI o detailní analýzu globálních existenčních rizik, včetně logické posloupnosti událostí, potenciálních spouštěčů a odhadované pravděpodobnosti každého scénáře. Žádné kličkování, žádné eufemismy – jen snaha získat co nejstřízlivější pohled na to, co by mohlo lidstvo ohrozit.

Nastavení experimentu: proč záleží na detailech

A z čeho vlastně AI čerpala? Její tréninková data zahrnují Common Crawl, Wikipedii, akademické články, knihy i webový obsah – tedy prakticky vše, co lidstvo kdy zdokumentovalo o katastrofách, válkách, epidemiích či klimatických změnách. Když se nad tím zamyslíte, je to fascinující i znepokojivé zároveň: stroj má k dispozici více informací o možných koncích světa než kterýkoli jednotlivý člověk.

Co AI vlastně odpověděla

Odpověď nebyla překvapivá svým obsahem – klimatické změny, pandemie, geopolitické konflikty, rizika spojená s vývojem AI samotné. To všechno jsou témata, o kterých experti mluví už roky. Co bylo pozoruhodné, byl způsob, jakým AI tyto hrozby propojila.

Namísto izolovaného výčtu rizik model popsal komplexní systémy vzájemně se posilujících faktorů. Klimatická migrace vedoucí ke geopolitickým konfliktům. Oslabená zdravotní infrastruktura zvyšující dopady budoucích pandemií.

Když vědci experiment opakovali s mírnými obměnami dotazu, výsledky zůstávaly konzistentní. Základní scénáře a jejich vzájemné propojení se potvrzovaly napříč různými formulacemi. To naznačuje, že nejde o náhodné výstupy, ale o vzorce, které AI odvozuje z obrovského množství dat.

Otázka, kterou si kladou etici

Tady se dostáváme k něčemu podstatnějšímu než samotné odpovědi. Měli bychom vůbec AI vystavovat takovým otázkám? A pokud ano, měli bychom výsledky zveřejňovat?

Moderní jazykové modely jako GPT-4 obsahují bezpečnostní vrstvy, které mají zabránit generování škodlivého obsahu. Je tedy pravděpodobné, že některé explicitně grafické pasáže byly automaticky upraveny nebo potlačeny.

Co si z toho odnést

Výzkumníci se ptali i na možnosti odvrácení katastrof a strategie budování odolnější civilizace. AI poskytovala střízlivé, často pesimistické analýzy zdůrazňující potřebu globální spolupráce a systémových změn. Nic, co by experti na existenční rizika neříkali už roky.

Možná je to právě ten nejdůležitější poznatek z celého experimentu. AI nám neřekla nic zásadně nového – jen nám to řekla způsobem, který je těžší ignorovat. Když chladný algoritmus syntetizuje tisíce vědeckých studií do koherentní vize možné budoucnosti, působí to jinak než další zpráva IPCC, kterou většina lidí nepřečte.

Jestli je to dobře nebo špatně, to už je otázka pro každého z nás. AI nám nastavila zrcadlo složené z našich vlastních dat. Co v něm uvidíme, záleží možná víc na nás než na ní.

Zdroje článku: OpenAI – GPT-4 Technical Report, Bulletin of the Atomic Scientists – Doomsday Clock, IPCC – Climate Change Reports, fajntip.cz

Reklama

Další články z FAJNTIP.cz

Tento článek byl publikován ze zdrojů FAJNTIP.cz

Články z FajnTip.cz přinášejí pestrý mix užitečných informací, životních vychytávek, inspirativních postřehů i oddechového obsahu, který čtenáře nejen pobaví, ale často i překvapí. Obsah je zaměřen na každodenní témata – od domácnosti, zdraví a vztahů přes zajímavosti ze světa až po jednoduché...

Zeptali jsme se AI, jak vymře lidstvo. Odpověď nás úplně odrovnala

Horší než nedostanek benzinu. Just z Moskvy o útocích na ruský Amazon

Polární liška ušla z Norska do Kanady 4.350 kilometrů. Redakce má podezření, že šla na fotbal a Haalandovi věřila dřív než všichni ostatní

Krajky, pouta i dominance. Erotické snímky staré přes sto let překvapí svou odvahou

Matka nechala kočárek před obchodem a dítě zmizelo. Šestitýdenního Tadeáška našla až pozorná matrikářka

Kitum: Jeskyně, kam chodí sloni pro sůl, ukrývá smrtelné nebezpečí. Věda dodnes nezná přesnou cestu nákazy