CENTRUM.CZ > Techzpravy.cz > 4. 12. 2025, 10:00

Lidem zůstane chaos, AI firmám zisky. Tak vypadá nový digitální řád

| 4 min

Sdílet

Umělá inteligence míří vpřed závratnou rychlostí, ale podle řady předních expertů se neubírá správným směrem. Kritizují koncentraci moci v rukou technologických gigantů, varují před nezaměstnaností i narušením demokratických hodnot – a volají po otevřenější, spravedlivější a lidštější AI budoucnosti.

Lidem zůstane chaos, AI firmám zisky. Tak vypadá nový digitální řád

Zdroj: WANAN YOSSINGKUM / iStockphoto

Odborníci na umělou inteligenci varují, že současná podoba vývoje není pro lidstvo dobrá. Umělá inteligence má široce používané nástroje a neustále nás překvapuje novými technologiemi. V době, kdy umělá inteligence postupuje závratnou rychlostí a slibuje proměnu všech oblastí života, rostou i další obavy. Například z toho, zda nezničí pracovní místa, nebo z toho, že umělá inteligence je v rukou několika málo milionářů.

Několik předních hlasů ze světa AI varuje, že současný vývoj je v rukou hrstky velkých korporací a miliardářů, kteří prosazují technokratickou, hierarchickou a nepříliš inkluzivní vizi. Tito odborníci mají daleko k pokroku pro společné dobro a odsuzují bezprecedentní koncentraci moci, která by mohla představovat velké riziko.

Potřeba vymanit se z nadvlády AI

Audrey Tangová je hackerka a již deset let je tchajwanskou ministryní pro digitální záležitosti. Jejím cílem je udělat z internetu bezpečnější místo, kde služby, které nabízí, slouží občanům, a ne naopak. Jednou z jejích hlavních kritik vývoje umělé inteligence, které jsme svědky, je, že jsme svědky vývoje jedné nebo několika „superinteligentních umělých vertikál“.

Mohlo by vás zajímat: Když technologie selžou: Švédské školy se vracejí k papíru a knihám

Video k článku ZDE

Zdroj: Youtube.com

Jeho myšlenka spočívá v tom, že by měly existovat decentralizované, transparentní a participativní bezpečnostní infrastruktury, které by lidem poskytovaly horizontální kolektivní inteligenci, asistenční systémy, jež by posilovaly lidskou aktivitu. Tang prosazuje iniciativy, jako je využívání open source platforem pro veřejnou správu, které umožňují větší transparentnost a zapojení občanů. Je také zastáncem zavádění technologií, které respektují soukromí a autonomii uživatelů a vyhýbají se masovému dohledu a centralizované kontrole.

Zisk získává přednost před bezpečností

Geoffrey Hinton, nositel Nobelovy ceny za rok 2024 a jeden ze zakladatelů hlubokého učení, které je základem dnešní umělé inteligence, patří již několik desetiletí k nejvlivnějším hlasům v této oblasti technologií. Od svého odchodu ze společnosti Google v roce 2023 však převzal novou roli: roli kritického mluvčího existenčních rizik, která AI představuje.

V nedávné přednášce dal Hinton jasně najevo svou skepsi vůči některým technikám, které se nejčastěji používají k „sladění“ systémů AI s lidskými hodnotami. Ústředním bodem jeho kritiky je technika známá jako RLHF. RLHF (Reinforcement Learning from Human Feedback) je technika, při níž je jazykový model (např. GPT-4o) trénován nejen na surových textových datech, ale také prostřednictvím lidského zásahu.

Hinton je jedním z průkopníků hlubokého učení a od prosazování umělé inteligence přešel k varování před jejími nebezpečími. Kritizuje skutečnost, že vývoj je v rukou velkých korporací (např. některých velkých technologických firem), které upřednostňují obchodní soutěž před bezpečností. Varuje také, že „závod o AI“ může zanedbat existenční rizika, jako je masová nezaměstnanost a koncentrace bohatství: „Musk bude bohatnout a mnoho lidí se stane nezaměstnanými.“

Problém s inteligencí umělé inteligence

Yann LeCun (považovaný spolu s Hintonem za jednoho z „kmotrů AI“ a držitele Turingovy ceny) potvrdil to, co mnozí tušili od doby, kdy Meta přijala éru superinteligence: odchází ze společnosti. Oznámil to před několika dny.

Odchod přichází na pozadí filozofického napětí. LeCun už léta varuje, že dnešní generativní umělá inteligence je „hloupá jako čert“ a že modely jako GPT-4 nejsou chytřejší než kočka domácí. Zatímco Silicon Valley a samotná Meta investují miliardy do rozšiřování LLM shromažďováním většího množství dat a výpočetního výkonu, LeCun tvrdí, že tato strategie je slepou uličkou.

Video k článku ZDE

Zdroj: Youtube.com

Podle něj LLM neřeší skutečné problémy, ale pouze předpovídají text na základě pravděpodobnosti, aniž by rozuměly realitě. Tímto přístupem Lecun ztrácí vnitřní vliv ve prospěch takových osobností, jako je Alexandr Wang a další přírůstky do týmu superinteligence. LeCun také navrhl alternativní přístupy, jako je vývoj systémů umělé inteligence, které napodobují lidské schopnosti učení, využívají méně dat, ale efektivněji, a prosazují kontextovou inteligenci, která je méně závislá na velkých objemech informací.

Extrémní koncentrace moci, bohatství a kontroly

Jaime Sevilla je španělský výzkumník a zakladatel organizace Epoch AI, která se zabývá analýzou a předpovídáním vývoje umělé inteligence, který varoval před scénáři, v nichž „99 % zdrojů skončí v rukou umělé inteligence„. Jeho vize poukazuje na možnou extrémní koncentraci moci, bohatství a kontroly v rukou těch, kteří systémy AI ovládají. To by mohlo vést k hlubokému sociálnímu zlomu, kdy bude jen málo zvýhodněných a mnoho vyloučených.

Navíc varuje, že mnoho způsobů využití AI by mohlo být škodlivých: nejen kvůli nezaměstnanosti, ale také kvůli jejímu potenciálu pro škodlivé činnosti (podvody, manipulace atd.). Sevilla rovněž navrhl vytvoření mezinárodních regulačních rámců, které by zaručily etický a spravedlivý rozvoj AI a zajistily spravedlivé rozdělení přínosů této technologie a minimalizaci souvisejících rizik.

Lidem zůstane chaos, AI firmám zisky. Tak vypadá nový digitální řád

Hasiči v neděli ráno dostali na povrch zraněného z jeskyně v Moravském krasu

Luxus na svahu i po lyžování: Monika Babišová ukázala Courchevel a výbavu za desetitisíce

Smutné umírání Krakena. Vlaku, kterého si nikdo nevážil a podle toho i tak skončil

Dovolená v Thajsku se změnila v horor: Andrea Pomeje popsala děsivou plavbu na Ko Tao

Vypjaté chvíle dojaly svět tenisu. Ukrajinka měla na krajíčku, reakce Bělorusky překvapila