3 min

Britský nositel Nobelovy ceny varuje: Superinteligence zničí lidstvo

Přidejte si obsah Centrum.cz do oblíbených zdrojů pro Google hledání a Google zprávy

Sdílet

Dennívýzva

Geoffrey Hinton, průkopník umělých neuronových sítí a nositel Nobelovy ceny, volá po zákazu vývoje superinteligentních systémů. Británie možná bude první zemí, která jejich tvorbu zakáže zákonem.

Britský nositel Nobelovy ceny varuje: Superinteligence zničí lidstvo

Zdroj: Pexels

Když tvůrce varuje před vlastním dílem

Geoffrey Hinton strávil celý profesní život budováním základů technologie, která dnes mění svět. Britsko-kanadský informatik položil klíčové kameny umělých neuronových sítí – systémů, které dnes řídí vše od rozpoznávání obličejů až po lékařské diagnózy. V roce 2024 za tento přínos získal Nobelovu cenu za fyziku.

Přesto dnes tento muž stojí v čele těch, kdo před dalším vývojem AI bijí na poplach. Jeho varování zní jasně: pokud lidstvo ztratí kontrolu nad systémy chytřejšími, než jsme my sami, může to znamenat naši katastrofu. Dokonce hovoří o možném vyhynutí celého druhu.

Co přesně se změnilo? Hinton sleduje tempo, jakým se technologie vyvíjí, a vidí nebezpečný bod na obzoru – okamžik, kdy umělá inteligence překročí hranici pouhého nástroje a stane se superinteligencí. Tímto pojmem odborníci označují systém, který by svými schopnostmi převýšil nejen jednotlivce, ale i celé společnosti či národy.

Mohlo by vás zajímat: HOSPODSKÝ KVÍZ: Jak dobře znáte své auto? Překonejte všechny otázky a kámoš vám musí koupit pivo

Británie chce zakázat vývoj superinteligence

Britský parlament bude nyní skutečně projednávat návrh zákona, který by vývoj superinteligentní AI na území Spojeného království zcela zakázal. Legislativu připravila organizace ControlAI společně s labouristickým poslancem Alexem Sobelem. Více než 135 britských parlamentářů napříč politickým spektrem už kampaň podpořilo.

Návrh se ale neomezuje jen na lokální zákaz. Obsahuje také závazek britské vlády aktivně usilovat o globální mezinárodní dohodu, která by zakázala vývoj superinteligence po celém světě. Jde o bezprecedentní krok – poprvé v historii by stát mohl právně zakázat určitý směr technologického pokroku ještě předtím, než se plně realizoval.

Hinton k návrhu říká:

Bylo by velmi pošetilé vyvíjet superinteligenci nyní, když neexistuje vědecká shoda na tom, zda ji lze vyvíjet bezpečně a kontrolovaně. Ztráta kontroly nad AI chytřejší než lidstvo by mohla být katastrofální a vést až k našemu vyhynutí.

Kampaň ControlAI ve svém prohlášení zdůrazňuje:

Laureáti Nobelovy ceny, vědci a ředitelé předních AI společností se shodují, že zmírnění rizika vyhynutí v důsledku AI musí být globální prioritou. Specializovaná AI v oblasti vědy a medicíny podporuje růst a veřejné služby, zatímco superinteligentní systémy by ohrozily národní i globální bezpečnost.

Mohlo by vás zajímat: Až se kontinenty opět spojí dohromady, život už nebude existovat. Vědci vědí, kdy se to stane

Technologičtí giganti tlačí na volnou ruku

Ne všichni v oboru ale souhlasí s přísnější kontrolou. Sam Altman, šéf společnosti OpenAI, která stojí za chatbotem ChatGPT, ještě loni v Senátu volal po větší regulaci. Dnes jeho postoj zní diametrálně odlišně. Před senátory v květnu minulého roku prohlásil, že regulace podobné těm v Evropské unii by byly katastrofální. Technologické firmy podle něj potřebují prostor pro inovace a rychlý postup.

Na konferenci o ochraně soukromí o měsíc dříve Altman šel ještě dál. Tvrdil, že je nemožné zavést bezpečnostní záruky dříve, než se objeví konkrétní problémy. Jinými slovy: musíme nejprve vidět, co se pokazí, teprve pak můžeme reagovat.

Hinton tento přístup považuje za nebezpečný. "Pokud lidstvo nenajde řešení, jak přežít vedle mnohem chytřejší a mocnější technologie, budeme vyřízení," varoval už dříve. A dodává: "Potřebujeme protitlak vůči technologickým nadšencům, kteří tvrdí, že by pro AI neměly platit žádné regulace."

Británie se tak může stát první zemí, která řekne: ne všechno, co lze vytvořit, by mělo být vytvořeno. Otázka zní, zda ji ostatní státy budou následovat – nebo zda se superinteligence narodí jinde, mimo dosah jakéhokoli zákona.

Zdroje článku: us.headtopics.com, dailymail.com, mlex.com, nespechej.cz

Autor článku: Roman Veselý

Reklama

Další články z NESPECHEJ.cz

Od září stát radikálně přepočítá ženám důchody. Změní se všem, kdo mají děti

Toto vložte na 5 minut do mikrovlnky. Špína steče po stěnách jako voda

Rozstříknutá omáčka, rozteklý sýr, zbytky polévky. Stačí pár neopatrných okamžiků a vnitřek mikrovlnky...

V těchto znameních se rodí lidé, kteří se dožívají nejnižšího věku

Že by hvězdy měly vliv na naši osobnost, to už jsme slyšeli mnohokrát. Ale co když ovlivňují i délku našeho...

Pod hladinou Karibiku se rýsují záhadné linie. Mohlo by jít o dávno ztracené město

Záhadné geometrické útvary na mapě mořského dna u Kuby rozpoutaly debatu o ztraceném městě. Jde o...

Nejlepší ovoce pro ženy nad 50: Zhubnou a žádné křečáky

Po padesátce se tělo mění a s ním i to, co mu prospívá. Jedno tropické ovoce přitom nabízí kombinaci...

Tento článek byl publikován ze zdrojů NESPECHEJ.cz

Nespechej.cz je pozvánka zpomalit – a znovu si všimnout věcí, které běžně přehlížíme. Web nabízí inspiraci k jednoduššímu, vědomějšímu životu, který není o výkonech, ale o rovnováze. Témata se točí kolem zdraví, duševní pohody, rodiny, vztahů i smysluplného využití času. Namísto radikálních změn...

Britský nositel Nobelovy ceny varuje: Superinteligence zničí lidstvo

„Nejdivnější, to se úplně nedělá.“ Noskovou zaskočilo rozhodnutí v klíčový moment

Obětí radikálních škrtů nakonec nemusí být Fabia. Nahnuté to má ale úplně jiná Škoda

„Ať už mi dá pokoj!“ Dopita po vítězství nad Soukupem promluvil o jejich válce

Aktualizace předpovědi. Bouřky zasáhnou jen část republiky

Starověký Egypt, jak jsme si ho vymysleli: 10 mýtů, které moderní archeologie rozmetala