CENTRUM.CZ > Techzpravy.cz > dnes, 06:00

Češi si opět nechají líbit, že za ně rozhodují stroje. Světoví lídři ale mají jasno

3 min

Sdílet

Světoví lídři, vědci a řada osobností se sešli na setkání před 80. shromážděním OSN, na kterém jasně řekli jedno: umělá inteligence musí mít své limity a světoví vládci je musí stanovit.

Češi si opět nechají líbit, že za ně rozhodují stroje. Světoví lídři ale mají jasno

Zdroj: agsandrew / Depositphotos

Tento týden začal ve znamení důležitého setkání před 80. Valným shromážděním OSN v New Yorku. Kromě hlavních důvodů byl prostor k zamyšlení nad otázkou, která se týká nás všech stejně: umělou inteligencí. Více než 200 bývalých hlav států, diplomatů, vedoucích představitelů a vědců zabývajících se umělou inteligencí se mimo jiné shodlo na tom, že umělá inteligence musí mít mezinárodní dohodu o hranici, kterou by neměla překročit. Příklady byly jasné: AI by se neměla vydávat za člověka a neměla by být schopna se duplikovat.

Iniciativa Global Call for AI Red Lines

Jedná se o jednu z nejzávažnějších dohod, o nichž se diskutuje od doby, kdy se AI stala součástí našeho technologického života. Jejím cílem je, aby světové vlády dosáhly „politické dohody“ o limitech pro AI do konce roku 2026. Při podpisu dohody vystoupili spoluzakladatel OpenAI Wojciech Zaremba, CISO společnosti Anthropic Jason Clinton a výzkumník společnosti Google DeepMind Ian Goodfellow.

„Pokud se státy stále nemohou dohodnout na tom, co chtějí s AI dělat, měly by se alespoň dohodnout na tom, co by AI nikdy dělat neměla.“ Charbel-Raphaël Segerie, výkonný ředitel francouzského Centra pro bezpečnost umělé inteligence (CESIA).
Mohlo by vás zajímat: Nejstahovanější aplikace světa. A vy ji pořád ignorujete

Opening the 80th General Assembly session on Tuesday, @UN_PGA Annalena Baerbock says now is the moment for leaders to live up to the promises of the UN Charter.

“To forge a better future we must work together – be better together.”#UNGA pic.twitter.com/sVV3HoAKZs

— United Nations (@UN) September 9, 2025

Maria Ressa, nositelka Nobelovy ceny míru, během hlavního projevu zmínila, že vyzývá k „úsilí o ukončení beztrestnosti velkých technologií prostřednictvím globální odpovědnosti“. Tato výzva zdůrazňuje potřebu odpovědného řízení AI, které zajistí, že technologie nebudou využívány k porušování lidských práv nebo prohlubování nerovností.

Některé země si to uvědomují, ale chybí globální konsenzus

Zákony o umělé inteligenci v Evropské unii považují některá použití za „zakázaná“ nebo „nepřijatelná“, která jsou v jiných regionech světa akceptována. Mezi USA a Čínou existuje dohoda, že jaderné zbraně musí „zůstat pod lidskou kontrolou“, nikoliv AI. Jedná se o citlivou otázku, zejména v souvislosti s nedávnými konflikty, jako je Ukrajina a Rusko, Izrael, Írán a Palestina.

Kromě toho je stále větším problémem využívání umělé inteligence k masovému sledování a manipulaci s informacemi. Například technologie rozpoznávání obličeje je kritizována za to, že může porušovat soukromí a občanská práva. Evropská unie navrhla omezení jejího používání, zatímco jinde, například v Číně, byla široce přijata pro sociální kontrolu.

Video k článku ZDE

Zdroj: Youtube.com

Pozornost vzbudilo prohlášení profesora informatiky Stuarta Russellaz Kalifornské univerzity v Berkeley, který naznačil, že „mohou vyhovět, pokud nebudou vyvíjet umělou inteligenci, dokud nebudou vědět, jak ji učinit bezpečnou“. Tento výrok zdůrazňuje význam odpovědného vývoje AI, který zajistí, že technologie budou před masovým nasazením bezpečné.

Uvidíme, zda se této iniciativě podaří dostat k uším nejvlivnějších světových politiků a vládců. Měly by umělou inteligenci regulovat vlády, nebo kompetentní a odpovědní úředníci? Nepochybně to bude otázka veřejného zájmu, které budeme věnovat více pozornosti, jistě poznamenané pokrokem, kterého v následujících letech dosáhne.

Cesta k účinné regulaci AI je složitá a vyžaduje společný přístup zahrnující vlády, technologické společnosti, etiky a občanskou společnost. Transparentnost při vývoji a využívání umělé inteligence spolu se vzděláváním veřejnosti o jejích schopnostech a omezeních jsou zásadními kroky k zajištění toho, aby tato výkonná technologie byla přínosem pro celé lidstvo.