3 min

Šéf ChatGPT přiznal barvu: Vytváříme monstrum, které nás může zničit

Sdílet

Dennívýzva

Dnes by Isaac Asimov oslavil 106. narozeniny. Jeho slavné Tři zákony robotiky jsou dnes aktuálnější než kdy dřív. Co na to říkají experti?

Asimovovy zákony selhávají? Roboti jsou chytřejší, než jsme si mysleli.

Zdroj: FOTO:FreePik.com

Dnes by oslavil 106. narozeniny muž, který sice nestvořil ChatGPT, ale dost možná předpověděl jeho osud. Isaac Asimov totiž popsal budoucnost, která se nám právě teď začíná nepříjemně vymykat z rukou. Jeho legendární zákony robotiky měly lidstvo chránit, jenže realita dneška vypadá spíš jako začátek hodně drsného thrilleru. Otcové umělé inteligence bijí na poplach a konečně přiznávají barvu, tenhle starý pán měl v mnoha ohledech pravdu a my teď možná hasíme požár, který jsme sami, v dobré víře, založili.

Isaac Asimov se narodil 2. ledna 1920 v ruském Petroviči, a i když většinu života prožil v Americe, jeho myšlenky neznaly hranice. Už ve čtyřicátých letech minulého století, kdy počítač zabral celou místnost a uměl sotva sčítat, Asimov formuloval pravidla, která měla zajistit, že nás stroje nezničí. Říká se jim Tři zákony robotiky a donedávna působily jako čistá fantazie. Dnes? Dnes by si je měl povinně přečíst každý vývojář v Silicon Valley.

Asimov a tři věty, které měly zachránit svět

Asimov věřil, že roboti, nebo umělá inteligence, chcete-li, musí mít v sobě napevno zakódované morální brzdy. Ve své povídce Runaround z roku 1942 je definoval naprosto přesně. Zní to jednoduše, ale dnes, kdy se potýkáme s deepfake videi a autonomními systémy, to má úplně jinou váhu:

Robot nesmí ublížit člověku nebo svou nečinností dopustit, aby mu bylo ublíženo.

Robot musí poslechnout příkazy člověka, kromě případů, kdy by to porušilo první zákon.

Robot musí chránit sám sebe, pokud to není v rozporu s prvním nebo druhým zákonem.

Zní to jako dokonalá pojistka, že? Jenže realita je složitější. Asimov sám ve svých knihách často ukazoval, jak se tyto zákony dají obejít nebo logicky zamotat. A přesně to se děje dnes. Stroje sice nemají fyzická těla, která by nás napadla, ale mají algoritmy, které umí manipulovat našimi názory, a to je možná ještě nebezpečnější.

Kmotr AI varuje: Jsme jako batolata

Že Asimov nebyl paranoidní, potvrzují i ti nejpovolanější. Geoffrey Hinton, britsko-kanadský vědec, kterému se přezdívá „Kmotr umělé inteligence“ a který za svou práci získal Nobelovu cenu, v posledních letech totálně obrátil. Místo nadšení přichází varování.

Hinton otevřeně mluví o riziku, že umělá inteligence převezme kontrolu. „Představte si sebe a tříleté dítě. My budeme ta tříletá,“ řekl Hinton nedávno pro The Guardian. Podle něj existuje „deseti až dvacetiprocentní šance“, že AI povede k vyhynutí lidstva v příštích třiceti letech. Proč? Protože, jak sám říká: „Kolik příkladů znáte, kdy méně inteligentní věc ovládá tu inteligentnější?“. To je otázka, na kterou se těžko hledá uklidňující odpověď.

Sam Altman: Hra s ohněm?

Na druhé straně barikády stojí lidé jako Sam Altman, šéf OpenAI, který nám dal ChatGPT. I on si uvědomuje rizika, ale vidí je jinak. Altman přiznává, že „při vývoji AI lidstvo vytváří něco mocnějšího než ono samo, co se může vymknout naší kontrole a ohrozit přežití našeho druhu.“ Přesto věří v takzvanou „jemnou singularitu“, tedy že se technologie a společnost budou vyvíjet společně a my se naučíme s AI žít.

Je to fascinující paradox. Zatímco Asimov psal o zákonech, které by robotům zabránily nám ublížit, my dnes stavíme systémy, u kterých teprve zpětně vymýšlíme, jak je uhlídat. Altman sice volá po regulacích a tvrdí, že „naše budoucí konkurenceschopnost závisí na přijetí AI“, ale tempo vývoje je zběsilé.

Asimov nakonec do svých knih přidal ještě „Nultý zákon“: Robot nesmí ublížit lidstvu jako celku. Možná právě na ten bychom se v roce 2026 měli soustředit nejvíc. Protože jestli měl tenhle spisovatel v něčem pravdu, tak v tom, že technologie je dobrý sluha, ale příšerný pán.

Zdroj informací: autorské zpracování redakce Readzone.cz na základě veřejně dostupných informací z médií (ebsco, theguardian, aiifi.ai, weforum, dig.watch).

Reklama

Další články z ReadZone

Tento článek byl publikován ze zdrojů ReadZone

Web nabízí pestrou paletu článků o životním stylu, zdraví, vztazích, kultuře i aktuálních trendech. Obsah je kombinací praktických rad, odlehčených zajímavostí a inspirativních textů, které dokážou zaujmout široké publikum. Čtenáři tu najdou tipy do každodenního života, nápady pro volný čas i...

Šéf ChatGPT přiznal barvu: Vytváříme monstrum, které nás může zničit

„Ukončete válku.“ Macinka popsal setkání s ruskou velvyslankyní, volil i ostrá slova

Situace v Karviné je neúnosná. Hráči hrozí výpovědí, chtějí z klubu utéct

Trénink soupeře sledovali tajně a přišli o boj o Premier League. Southampton ukázal cenu moderní špionáže

Dvojnásobný držitel Thálie šokoval. Přiznal závislost na kokainu a exekuce

To je přece absurdní, křičela komentátorka. Pražská show Sáry Bejlek obletěla svět