3 min

Jakub Pachocki: Nikdo není připraven na to, co přijde s dalším růstem AI

Přidejte si obsah Centrum.cz do oblíbených zdrojů pro Google hledání a Google zprávy

Sdílet

Dennívýzva

Jazykové modely AI se vyvíjí rychleji než kdy dříve. Ještě před několika lety byly především zajímavým technologickým experimentem, dnes se však stávají běžnou součástí firem, škol, výzkumu i každodenního života. Právě tempo tohoto vývoje ale začíná vyvolávat stále více otázek. Podle hlavního vědce společnosti OpenAI Jakuba Pachockého jsme se dostali do bodu, kdy je potřeba vážně uvažovat nad tím, zda by nemělo dojít ke zpomalení vývoje...

Jakub Pachocki: Nikdo není připraven na to, co přijde s dalším růstem AI

Zdroj: Shutterstock

Pachocki upozorňuje, že nejde pouze o to zastavit technologický pokrok. Mnohem důležitější je podle něj zajistit, aby lidé nad umělou inteligencí neztratili kontrolu. Vývoj stále schopnějších systémů by proto měl jít ruku v ruce s lepším zabezpečením, dohledem a mechanismy, které zajistí, že člověk zůstane součástí důležitých rozhodovacích procesů.

Ve svém textu publikovaném na webu OpenAI Pachocki upozorňuje na nová rizika, která pokročilá umělá inteligence přináší například v oblasti počítačové bezpečnosti. Podle něj nikdo není skutečně připraven na důsledky situace, kdy bude schopnost strojů růst stejným tempem jako doposud.

Tato slova přicházejí v poměrně překvapivou chvíli. OpenAI totiž jen krátce předtím představila nový model GPT-6 Astra zaměřený především na využití ve firmách. Pachocki přesto naznačuje, že samotné uvádění stále výkonnějších modelů na trh nemůže být jediným cílem celého odvětví. Pokud se schopnosti umělé inteligence budou dál zvyšovat, je podle něj potřeba zároveň lépe rozumět tomu, co vlastně vytváříme.

Zde se podle Pachockého nachází jeden z největších problémů současného vývoje. Výzkum jazykových modelů založených na hlubokém strojovém učení je stále do značné míry experimentální disciplínou. Dokážeme vytvářet stále schopnější systémy, ale naše porozumění tomu, jak přesně jejich inteligence funguje a jak se bude vyvíjet při dalším růstu jejich schopností, není vždy stejně rychlé jako samotný technologický pokrok.

OpenAI už od svých začátků vycházela z předpokladu, že výrazný pokrok v oblasti umělé inteligence bude vyžadovat stále větší výpočetní výkon. Podobný přístup se postupem času potvrdil. Vedle nových algoritmů a efektivnějších metod sehrálo důležitou roli také budování stále výkonnější infrastruktury. Dneska existují systémy, které snadno dokážou řešit úkoly, jež byly ještě nedávno považovány za doménu lidí.

Vývoj ale přináší další otázku. Co se stane ve chvíli, kdy schopnosti umělé inteligence začnou v některých důležitých oblastech výrazně překonávat schopnosti člověka? Pachocki se obává především toho, že společnost může technologický vývoj urychlit dříve, než bude mít dostatečné nástroje pro jeho kontrolu.

Zdroj: Shutterstock

Zpomalení vývoje proto podle něj nebude znamenat úplné odmítnutí umělé inteligence, to by samozřejmě ničemu nepomohlo. Může však vytvořit prostor pro to, aby technologické korporace, vědci i vlády lépe promysleli, jakým směrem se má další vývoj ubírat.

Jedna z možností je vytváření systémů, které budou umělou inteligenci průběžně monitorovat a zároveň umožní lidem zasahovat do důležitých rozhodnutí. Člověk tak nezmizí z procesu a stále má možnost vývoj nebo konkrétní rozhodnutí systému ovlivnit. Druhá možnost je koordinované zpomalení dalšího vývoje, alespoň do doby, než bude existovat větší jistota, že nové technologie dokážeme bezpečně řídit.

Podle Pachockého přitom nemusí jít o volbu mezi jednou nebo druhou cestou. Nejlepší řešení může spočívat v kombinaci obou přístupů. AI je možné dále rozvíjet, ale zároveň posilovat bezpečnostní mechanismy, dohled a lidskou kontrolu. V případě potřeby by pak bylo možné tempo vývoje koordinovaně zpomalit.

Koordinace je ale pravděpodobně jeden z nejtěžších úkolů. Pachocki naznačuje, že budoucí vývoj umělé inteligence nebude možné řešit pouze na úrovni jednotlivých firem. Pokud budou mít stále schopnější systémy globální dopad, bude podle něj nutná také mezinárodní spolupráce a koordinace mezi vládami.

Otázkou zůstává, zda je něco takového v praxi vůbec realistické. Umělá inteligence se dnes stala jednou z nejdůležitějších technologických oblastí a společnosti i státy do jazykových modelů investují nesčetné prostředky. Pro mnoho firem představuje konkurenční výhodu a pro vlády zase strategickou technologii, která může ovlivnit ekonomiku, bezpečnost i geopolitické postavení jednotlivých zemí.

Dobrovolné zpomalení proto nebude technologický sektor příliš atraktivní. Každá společnost má totiž oprávněné obavy, že pokud zpomalí ona, její konkurence bude pokračovat dál. Přesto Pachockého upozornění ukazuje, že debata o budoucnosti jazykových modelů se postupně mění.

Už nejde jen o otázku, jak vytvořit schopnější modely nebo rychlejší systémy. Stále důležitější je také to, zda chceme a dokážeme technologii, kterou vytváříme, skutečně pochopit, kontrolovat a bezpečně začlenit do společnosti.

Reklama

Další články z cdr.cz

Co když mimozemšťané myslí úplně jinak než my? Vědomí nepotřebuje lidský mozek

Češi budou čekat, Nový Zéland už bude hrát. Půjde GTA 6 spustit dříve?

O GTA 6 se v posledních letech mluví prakticky neustále a my na CDR o něm píšeme taktéž pravidelně. Hra se...

Bakterie místo tranzistorů. MIT postavil živý obvod z pouhých pěti typů buněk

Vědci z MIT vytvořili živé obvody, ve kterých místo klasických tranzistorů pracují upravené bakterie. Z...

Google zrychluje Chrome na dvojnásobek. AI mění boj s bezpečnostními chybami

Google od Chromu 153 zkrátil hlavní aktualizační cyklus ze čtyř na dva týdny. Jedním z důvodů je rostoucí...

OpenAI znovu předělalo obrázky v ChatGPT. Nově stačí načrtnout, co chcete

OpenAI nasadilo ChatGPT Images 2.5. Nová verze má být rychlejší, lépe držet vzhled původního obrázku při...

Tento článek byl publikován ze zdrojů cdr.cz

Web přináší články z oblasti informačních technologií, hardwaru, softwaru i moderních digitálních služeb. Čtenáři zde najdou přehled novinek, zajímavostí i témat, která ukazují, jak technologie ovlivňují každodenní život i budoucnost.Obsah kombinuje výběr aktuálních témat s vysvětlením...

Jakub Pachocki: Nikdo není připraven na to, co přijde s dalším růstem AI

„Klauni a impotenti.“ Ruský exdiplomat vyzval Evropu, ať použije jaderný scénář

Za charismatem Brzobohatého se skrýval těžký milostný příběh. Jednu ženu ztratil navždy

KVÍZ: Historii máte v malíku? U těchto 80 otázek možná narazíte

Proč máš někdy chuť přesně na čokoládu. A proč z toho opravdu nemusíš dělat morální selhání

Není hůř postříkaná zelenina než tato. Češi ji jedí denně a netuší, kolik chemie v ní zůstává