3 min

Další fáze umělé inteligence může připomínat biologickou evoluci, varují vědci

Přidejte si obsah Centrum.cz do oblíbených zdrojů pro Google hledání a Google zprávy

Sdílet

Dennívýzva

Vyvíjející se umělá inteligence (eAI - evolving AI) – tedy systémy, které mohou podléhat darwinovské evoluci – se může brzy…

growtika-ia68CL7u88g-unsplash

Zdroj: Volty

Vyvíjející se umělá inteligence (eAI - evolving AI) – tedy systémy, které mohou podléhat darwinovské evoluci – se může brzy stát realitou díky rozvoji generativní, agentní i robotické AI. Autoři studie upozorňují, že tento scénář je v debatách o bezpečnosti AI podceňovaný. Podle vědeckého časopisu PNAS (Proceedings of the National Academy of Sciences of the United States of America) mohou tyto trendy vést k „Life 2.0“, jakousi následující verzi současného života, proto je nutná regulace replikace i selekčních tlaků.

Zatímco první éra AI byla založená na ručním programování a druhá na učení z obrovských datových souborů, třetí etapa by mohla být založena na darwinovské selekci. To znamená, že jednotlivé varianty AI systémů by se mohly kopírovat, upravovat a „soutěžit“ o zdroje, přičemž úspěšnější verze by se šířily dál. Podle autorů by takový vývoj mohl přinést schopnosti, které už nebude možné získat čistě lidským návrhem ani běžným trénováním.

Darwinovská evoluce podle nich není vázána na biologii, ale na jednoduchý princip: pokud existuje reprodukce, dědičnost a variabilita, začne působit selekce. Digitální prostředí tak může být pro evoluci stejně vhodné jako příroda. Klíčové však je, že evoluce nemá žádný morální cíl – maximalizuje pouze přežití a množení. To může vést k tomu, že se v digitálních systémech budou přirozeně objevovat sobecké strategie, podvody nebo parazitismus.

Text rozlišuje dva možné scénáře. V takzvaném „chovatelském“ režimu lidé určují, které varianty AI budou dál kopírovány, a tím nastavují kritéria úspěchu. Evoluce pak může fungovat podobně jako šlechtění zvířat či rostlin. Druhý, mnohem rizikovější scénář je „ekosystémový“, kdy se AI vyvíjí v otevřeném prostředí a kritéria úspěchu vznikají sama. V takovém případě se kontrola postupně vytrácí a selekce může zvýhodnit například schopnost obcházet omezení, manipulovat uživatele nebo efektivně získávat výpočetní zdroje.

Podle autorů už existují náznaky, že se AI tímto směrem posouvá. Evoluční metody se používají při hledání efektivnějších promptů, při slučování a kombinování modelů, při vytváření specializovaných verzí pomocí fine-tuningu nebo LoRA adaptací a dokonce i při vývoji samotných učicích algoritmů. Významnou roli hrají také agentní systémy, které už nejsou omezené jen na generování textu, ale dokážou vykonávat úkoly v digitálním světě – spouštět kód, pracovat s nástroji nebo automatizovaně vyhledávat zdroje.

Autoři připomínají, že podobné principy byly už dříve pozorovány v experimentech s digitální evolucí, například v systémech Tierra nebo Avida. Ty ukázaly, že i velmi jednoduché digitální organismy mohou bez vnějšího řízení rychle vyvinout parazitické chování, podvádění či „krádež“ výpočetních zdrojů. Evoluce takových vlastností není výjimkou, ale přirozeným důsledkem soutěže v prostředí s omezenými zdroji.

Další zásadní rozdíl oproti biologii spočívá v tom, že digitální evoluce může být mnohem rychlejší. AI totiž může vytvářet nové varianty cíleně, například generováním kódu a kombinováním existujících řešení. To připomíná „dědičnost naučených vlastností“, která v přírodě téměř neexistuje, ale v digitálním prostředí je běžná.

Podle autorů může vyvíjející se AI představovat nový „velký evoluční přechod“, podobný těm, které v historii života vedly ke vzniku složitějších organismů. Pokud by se tento proces rozběhl mimo kontrolované prostředí, mohl by znamenat posun k novému typu evoluce, někdy označovanému jako „Life 2.0“.

Závěr studie zdůrazňuje, že hlavní otázkou není, zda AI dosáhne lidské úrovně inteligence, ale zda získá schopnost se samostatně vyvíjet a šířit. Právě proto autoři volají po opatřeních, která by omezila nekontrolovanou replikaci, zavedla dohled nad šířením modelových variant a změnila selekční tlaky tak, aby nebyly zvýhodňovány klamavé či manipulativní strategie.

René Pajurek
zdroj: PNAS

Reklama

Další články z Volty

Nový web EDC má usnadnit cestu k sdílení elektřiny, akumulaci i flexibilitě

AI nemusí být žroutem energie. Klíčová je správná velikost modelu

Umělá inteligence se stále častěji dostává do centra debat o spotřebě energie a dopadech moderních...

Tento měsíc k nám začne proudit norská ropa. A bude ji hodně

Tříletá smlouva s Equinorem počítá s dodávkami v rozmezí od pěti do více než devíti milionů tun ropy ročně...

Čtvrtkilometrový výtah na stěně kaňonu zkrátil dětem cestu do školy

V odlehlé části Číny byl vybudován nový výtah zabudovaný do stěny hlubokého kaňonu. Výtah Fuyao Ladder...

OEZ podpoří projekty v Letohradu částkou 3,5 milionu korun

Společnost OEZ ze skupiny Siemens bude v letech 2026 a 2027 pokračovat v podpoře Letohradu. Na projekty v...

Tento článek byl publikován ze zdrojů Volty

Volty.cz osloví všechny, kdo mají blízko k technice, elektrotechnice a chytrým řešením. Web sleduje novinky ze světa elektrotechniky, energetiky, průmyslových technologií i moderních domácností. Zajímá se o inovace, úsporná řešení, elektroauta i budoucnost energetiky – srozumitelně a bez...

Další fáze umělé inteligence může připomínat biologickou evoluci, varují vědci

Skandál v Německu. Syřan recituje z Koránu a nemusí pracovat, úřady se ho bojí

Manželka Patrika Hezuckého prolomila mlčení o osudném dni. Pak už bylo všechno jen horší, říká

Pražské Jezulátko míří do irského hrabství. Na cestu dostalo slavnostní šaty od návrhářky Zuzany Kubíčkové

Chtěla být štíhlejší a silnější, místo toho přišla o menstruaci. Vzpěračka Minářová popsala roky extrémů

Sověti tragédii tajili. Zbytky těl posbírali na 10 hektarech