4 min

Oppenheimer naší doby: Šéf Anthropicu řekl Pentagonu NE a teď mu hrozí likvidace

Sdílet

Anthropic se odmítl podvolit tlaku Pentagonu. Její spoluzakladatel a generální ředitel Dario Amodei právě zveřejnil prohlášení, v němž dává jasně najevo, že nejsou ochotni porušit své etické zásady.

Zdroj: Mamun_Sheikh / Shutterstock

Žádné masové špehování pomocí umělé inteligence, žádný vývoj smrtících autonomních zbraní s jejich modely. A to nám připomíná strašlivý případ: případ atomové bomby.

J. Robert Oppenheimer se z „otce atomové bomby“ a národního hrdiny stal vyvrhelem. Jeho hříchem nebyla zrada, ale morální čistota. Poté, co se stal svědkem hrůzy v Hirošimě a Nagasaki, se Oppenheimer zoufale snažil zastavit eskalaci atomového útoku a vývoj vodíkové bomby.

Mohlo by vás zajímat: Horší než stávka herců! Nový model od ByteDance ztělesňuje nejtemnější noční můry Hollywoodu

Buď jste s námi, nebo proti nám. USA, které ho v minulosti chválily, využily jeho dřívější politické příslušnosti a zbavily ho všech privilegií a vlivu. Ukázal, jak americká vláda bez dalšího rozhodla, že vědecké poznatky jsou majetkem státu a že s každým výzkumníkem, který se pokusí navrhnout etické limity svých projektů, bude zacházeno jako s nepřítelem vlasti.

Od Oppenheimera k antropologii

Děje se tak s jedním protagonistou, který stále existuje – vládou USA – a druhým, který se mění: tím, kdo nyní hájí etiku vědecko-technologického projektu, není Oppenheimer, ale Dario Amodei, generální ředitel společnosti Anthropic.

Video k článku ZDE

Zdroj: Youtube.com

Claude je ve vládě USA stále důležitější. Jeho společnost se dnes nachází mezi kamenem a nožem. Anthropicu se podařilo udělat ze svého modelu Claude miláčka americké vlády. Schopnosti této umělé inteligence se ukázaly být tak pozoruhodné, že byla zřejmě použita k naplánování zatčení bývalého venezuelského prezidenta Nicoláse Madura.

Aby však Pentagon mohl Clauda používat, stanovil Anthropic určité červené linie. Zákaz použití pro masové sledování občanů USA a zákaz použití pro vývoj autonomních smrtících zbraní. A Pentagonu se tyto červené linie nakonec nelíbí, takže je chce odstranit a používat Clauda, jak se mu zlíbí, pokud prý bude respektovat americkou ústavu a americké zákony.

Pentagon chce neomezenou umělou inteligenci

To vedlo v posledních dnech k mimořádně napjaté situaci. Pentagon pohrozil, že Anthropic potrestá, pokud neustoupí jeho požadavkům, a tyto hrozby ze strany ministerstva obrany nebyly vůbec jemné. Ve skutečnosti navrhli, že by Anthropic mohl být označen za společnost, která představuje „riziko pro dodavatelský řetězec“, což je černá nálepka, která je obvykle vyhrazena společnostem z konkurenčních zemí, jako je Čína nebo Rusko.

Sám Dario Amodei v příspěvku na oficiálním blogu společnosti vysvětlil, že tyto dvě hrozby se vylučují samy: „Tyto dvě poslední hrozby jsou ve své podstatě protichůdné: jedna nás označuje za bezpečnostní riziko, druhá označuje Clauda za nezbytného pro národní bezpečnost.“

Může být umělá inteligence znárodněna? Je to znepokojivá ironie: tatáž vláda, která považuje Clauda za zásadní nástroj národní bezpečnosti, je ochotna označit jeho tvůrce za veřejnou hrozbu, pokud jí neodevzdají klíče od království a jeho AI. Ministerstvo obrany a Pentagon chtějí v podstatě „znárodnit“ technologii AI vyvinutou společností Anthropic a přivlastnit si ji stejně jako technologii, která vedla k výrobě atomové bomby. Víme, jak to dopadlo.

Anthropic odmítá ustoupit

Nebezpečí je obrovské v obou ohledech: masový dohled, místo aby bránil demokracii, ji může dynamizovat zevnitř, a skandál NSA je toho dobrým příkladem. Ještě větší obavy však vzbuzuje záměr Pentagonu využít tuto umělou inteligenci k vývoji autonomních smrtících zbraní. Amodei na to upozornil prohlášením, že „základní modely umělé inteligence prostě nejsou dostatečně spolehlivé, aby poháněly plně autonomní zbraně. Nebudeme vědomě poskytovat produkt, který by ohrožoval americké bojovníky a civilisty“.

Amodei dokonce nabízí ministerstvu války/obrany pomoc při „přechodu k jinému poskytovateli“ modelů AI, ale v tuto chvíli není jasné, jakou cestou se americká vláda vydá.

Pokud Pentagon nakonec svou hrozbu uskuteční a bude Anthropic vetovat, bude to pro průmysl mrazivý vzkaz. V éře umělé inteligence neexistují svědomití odpůrci: pokud nějaká společnost vyvine technologickou a strategickou výhodu na vojenské úrovni, je tato společnost vydána na milost a nemilost státu. Je to děsivý nový „Oppenheimerův moment“, který podmiňuje budoucnost nejen Anthropicu, ale i samotného vývoje modelů AI.

Úvahy o budoucnosti AI a etice

Situace mezi společností Anthropic a Pentagonem je odrazem širšího napětí, které provází vývoj umělé inteligence. S tím, jak se umělá inteligence stává stále mocnějším nástrojem, jsou otázky etiky a kontroly stále naléhavější. Kdo by měl mít pravomoc rozhodovat o tom, jak budou tyto technologie využívány? Jak můžeme zajistit, aby jejich vývoj a využívání bylo odpovědné a bezpečné pro lidstvo? To jsou otázky, které se týkají nejen společností a vlád, ale celé společnosti.

Video k článku ZDE

Zdroj: Youtube.com

Případ Anthropic zdůrazňuje, že je důležité vytvořit pevné etické rámce a podporovat otevřený dialog mezi vývojáři technologií, vládami a veřejností. Pouze prostřednictvím spolupráce a transparentnosti můžeme zajistit, že umělá inteligence bude využívána pro společné dobro a nestane se nástrojem útlaku nebo ničení.

„Oppenheimerův okamžik“ AI nám nakonec připomíná, že technologie sice může přinést velké výhody, ale také velkou odpovědnost. To, jak se s těmito povinnostmi vypořádáme, určí budoucnost lidstva ve věku umělé inteligence.

Zdroje článku: theguardian.com, wsj.com, anthropic.com, www.techzpravy.cz

Reklama

Další články z Techzpravy.cz

Tento článek byl publikován ze zdrojů Techzpravy.cz

Články z TechZprávy.cz nabízejí pohled na svět moderních technologií. Sledují dění v oblasti IT, mobilních zařízení, chytré domácnosti, vědy, vesmíru i digitálních trendů, které ovlivňují každodenní život. Obsah je určen čtenářům, kteří chtějí být v obraze, rozumět novinkám a vědět, co se děje na...

Všechny články tohoto autora

Vybrali jsme pro vás MAGAZÍNY A ZAJÍMAVOSTI

Jednoduché protahovací cviky odhalí skutečný věk vašeho těla. Jste připraveni na pravdu?

Čas je neúprosný. Podléhá mu také lidské tělo a zdraví jako takové. Díky protahovacímu cvičení od...

JakZdravě.cz

dnes, 20:02

3 min

Kolik měsíčně vydělává nejlepší tenista světa? Víc než většina fotbalistů. Podepsal Nike za 3,6 miliardy Kč

Jannik Sinner inkasuje jen od Nike v průměru přes 30 milionů korun měsíčně. A to je teprve začátek jeho...

SportyŽivě

dnes, 19:55

4 min

109 gólů a konec debat: Kompanyho Bayern je zpět v režimu dominance a má zaděláno na bájný treble

Slovutný Bayern Mnichov si o víkendu mohl dovolit menší drama a taky si ho dopřál. Jen aby pak všem...

SportWin

dnes, 19:43

2 min

Spíte dost, ale kvalita pokulhává? Jedna drobnost v ložnici může změnit víc, než čekáte

Příliš vysoká teplota v ložnici může zhoršit usínání, kvalitu spánku i celkovou regeneraci. Odborníci...

Žena.cz

dnes, 19:40

Stryková, Švehlík i Abrhám: Než se proslavili, snili o duchovní dráze

Někteří slavní odmala věděli, že chtějí být herci. Jiní to vzali trochu oklikou a k herectví se dostali...

Žena.cz

dnes, 19:40

Reklama

Chandhok radí Bearmanovi: Připomínej se u Ferrari

Bývalý pilot a nynější analytik formule 1 Karun Chandhok pochválil Olivera Bearmana za výbornou práci,...

SvětFormule.cz

dnes, 19:37

1 min

Našla jsem doma starou krabičku s bižuterií. Vetešník mi řekl, že některé kousky jsou ze vzácných kovů

Krabička někde na dně skříně občas neukrývá jen vzpomínky. Některé na první pohled obyčejné kousky...

Čas pro ženy

dnes, 19:36

3 min

Nikol Leitgeb v slzách. Zemřela jí babička, zubařka Blanka Kozáková

Nešťastná událost dnes zasáhla herečku a influencerku Nikol Leitgeb (Štíbrovou). Ačkoli se ještě včera v...

ČR Zprávy

dnes, 19:29

2 min

Plot a kamery již nestačí. Moderní ochrana areálů přechází do 3D

Březnový útok na průmyslový areál v Pardubicích znovu otevřel otázku, zda tradiční způsoby zabezpečení...

Securitytech

dnes, 19:17

4 min

15letá dcera dvojnásobného mistra světa F1 už závodí ve formuli. Otec věří, že má na víc

Ella Hakkinen nasbírala první body ve formuli hned při debutu na Red Bull Ringu. Její otec Mika tvrdí, že...

SportyŽivě

dnes, 19:12

3 min

Reklama

Češky vyhazují klasické batohy. Na jaře 2026 budou všichni nosit tyto tašky z pratelného papíru

Batohy z ulic mizí rychleji než by člověk čekal. Místo nich se čím dál víc objevují tašky z pratelného...

Umíme poradit

dnes, 19:05

2 min

Jihočeský kraj si vyzkoušel blackout. S komunikací bez elektřiny pomohli radioamatéři

Rozsáhlý výpadek proudu a kolaps běžných sítí. Takový scénář si v sobotu vyzkoušeli krizoví pracovníci na...

Budějcká Drbna

dnes, 19:00

1 min

Jaká jména ponesou stanice nově budovaného metra D?

Místopisná komise rady Prahy doporučila vedení města pojmenování stanic budované linky metra D. Oproti...

Náš REGION

dnes, 18:50

2 min

Prosil ho, ať už nepokračuje. Krpálek po finále popsal moment, který ho rozhodil

Do finále si došel zkušeně, s přehledem a navzdory bolavým loktům. Když pak Lukáš Krpálek stál proti domácí...

SportWin

dnes, 18:44

3 min

Írán vkládá nečekané naděje ve Vance. Ten hraje i o své budoucí prezidentské křeslo

Čtrnáctidenní příměří mezi Íránem a Spojenými státy se chýlí ke konci. Pozornost se tak upíná ke středečním...

Zprávy | Aktuálně.cz

dnes, 18:37

Reklama

Jak získat náhradu škody. Advokáti radí pumpařům v boji proti cenovým stropům

Atmosféra mezi čerpadláři houstne. Někteří už začali řešit, zda budou od státu žádat kompenzace. Vláda...

Zprávy | Aktuálně.cz

dnes, 18:25

Černé legíny jsou hitem roku 2026: Jak je nosit a s čím je kombinovat?

Ještě před pár lety byly legíny předmětem hlubokého opovržení. Slavná návrhářka Jil Sander dokonce...

Žena.cz Extra

dnes, 18:20

2 min

Vykročte do léta s elegancí i pohodlím: Velký přehled obuvi pro pláže, města i dobrodružné výpravy

Také už voláte po slunečních paprscích a přemýšlíte, jaké modely bot by měly doprovázet vaše kroky v...

Žena.cz Extra

dnes, 18:15

3 min

Leoše Mareše zaskočila nečekaná zpráva: Už není cesty zpět, přiznal fanouškům na Instagramu

Moderátor Leoš Mareš fanoušky trochu zaskočil. Na Instagramu totiž sdílel zprávu, která působí dost...

Umíme poradit

dnes, 18:13

3 min

Družba je připravena na obnovení provozu, oznámil Zelenskyj. Slovensko a Maďarsko tím podmiňují schválení půjčky pro Ukrajinu

Ukrajina dokončila opravu úseku ropovodu Družba, který poškodil ruský úder, a zařízení může obnovit provoz,...

HN.cz

dnes, 18:12

Reklama

Banky mění pravidla pro půjčky. Kdo si chce půjčit peníze, musí splnit tuto novou podmínku v roce 2026

V Česku se postupně mění pravidla pro poskytování úvěrů a rok 2026 přinese docela zásadní posun. Nestačí už...

Čas pro ženy

dnes, 18:10

3 min

Bývalý mariňák zemřel při pokusu o světový rekord v běhu. Trasu absolvoval na počest kamaráda, který zahynul stejně

David Parrish, vítěz Cape Wrath Ultra 2023 a bývalý příslušník Royal Marines, byl 11. dubna nalezen mrtvý...

SportyŽivě

dnes, 18:08

3 min

Jak poznáš, že nováček je opravdu jiný: Porter Martone a rozdíl mezi hype a realitou

Každý rok přichází do NHL noví hráči, o kterých se mluví jako o budoucích hvězdách. Každý z nich má talent,...

Vše o sportu

dnes, 18:07

2 min

V Praze dvakrát přistál speciál amerického letectva. Air Force Two letěl přes Česko do Pákistánu

Na pražském Letišti Václava Havla přistál v posledních dnech dvakrát speciál amerického letectva. Poprvé to...

HN.cz

dnes, 18:03

Reklama

Doporučujeme

Právě u nás vyšlo

„To bude zlé. Udělala tu největší chybu.“ Osobnosti českého tenisu se diví Vondroušové

Oppenheimer naší doby: Šéf Anthropicu řekl Pentagonu NE a teď mu hrozí likvidace

„To bude zlé. Udělala tu největší chybu.“ Osobnosti českého tenisu se diví Vondroušové

Nikol Leitgeb v slzách. Zemřela jí babička, zubařka Blanka Kozáková

Válka má nečekaný důsledek. Dotkne se i sexuálního života Čechů

Samozvaná císařovna z Floreany žila na ostrově s nudisty. Potom za záhadných okolností zemřela

Král Petr I. exhumoval milenku a pět let po její smrti ji posadil na trůn. Dvořané museli líbat její ruce