2 min

Má umělá inteligence morální odpovědnost? Od Aristotela k autonomnímu autu

Sdílet

Dennívýzva

Otázka morální odpovědnosti umělé inteligence zní moderně. Ve skutečnosti však stojí na základech starých tisíce let. Filozofie se dlouhodobě ptá: kdo je odpovědný za čin – a za jakých podmínek? AI tuto otázku neřeší. Ona ji znovu otevírá.

Zdroj: Kód Enigma - Čeština

Aristoteles: odpovědnost vyžaduje vědomý čin

Jedním z prvních, kdo systematicky rozlišoval mezi dobrovolným a nedobrovolným jednáním, byl Aristoteles. Ve své Etice Nikomachově tvrdil, že morální odpovědnost lze připsat pouze tehdy, když je čin vykonán vědomě a dobrovolně.

Pokud někdo jedná z donucení nebo v nevědomosti, odpovědnost je omezená.

Tento rámec je pro dnešní debatu zásadní. Umělá inteligence nemá úmysl, nemá vědomí, nejedná „dobrovolně“. Z aristotelské perspektivy by tedy nemohla být morálním subjektem.

Kant: autonomie jako podmínka morálky

Immanuel Kant šel ještě dál. Morální bytostí je podle něj ten, kdo je schopen řídit se rozumem a jednat podle univerzálního zákona, který si sám ukládá.

Současné modely AI žádnou takovou autonomii nemají. Řídí se architekturou, daty a pravidly, která vytvořili lidé. Z této perspektivy odpovědnost opět zůstává na lidské straně.

Ale moderní svět odpovědnost rozmělňuje

Hannah Arendt upozorňovala, že moderní systémy často rozptylují odpovědnost mezi mnoho aktérů. V byrokratických strukturách se může stát, že nikdo necítí plnou odpovědnost – a přesto dochází k vážným důsledkům.

Digitální technologie tento efekt zesilují.

AI, která chápe lidské emoce: nový model poprvé rozpoznává úmysl místo výrazu

Autonehoda jako modelový příklad

Představme si autonomní vozidlo, které způsobí nehodu.

Kdo je odpovědný? Inženýr, který navrhl algoritmus? Firma, která auto vyrobila? Provozovatel systému? Řidič, který měl dohlížet? Správce silnice? Náhoda?

Odpověď není jednoduchá. Moderní technologie vytvářejí síť příčin, nikoli jeden jasný bod selhání. Podobně je tomu u AI.

Současnost: odpovědnost zůstává lidská

Dnešní systémy nemají vědomí ani vlastní cíle. Neprožívají následky. Nemohou nést vinu v tradičním smyslu. Z tohoto hlediska se zdá rozumné tvrdit, že morální odpovědnost dnes stále náleží lidem – těm, kdo systémy navrhují, nasazují a regulují.

Otázkou ale je... Co zítra?

Budoucnost jako otevřená kniha

Dnes se můžeme jen ptát a dohadovat, zda tento stav bude trvalý. Co by se stalo, kdyby vznikl systém, který by měl trvalou identitu, schopnost učit se mimo rámec původního zadání, vlastní cílové preference a hlavně schopnost chápat důsledky svých činů?

Změnilo by to naše pojetí odpovědnosti? Možná ano. Možná ne. Jisté je v této chvíli jen to, že filozofická debata tím nekončí.

Abychom se jako lidstvo dokázali s existencí umělé inteligence vyspořádat, musíme si odpovědět na velké množství otázek. A mnohé z nich nejsou ani jednoché, ani pohodlné. Je morální odpovědnost vlastností vědomí? Nebo vlastností moci? A pokud technologie získávají stále větší moc – znamená to, že by se měla měnit i naše etika?

Možná totiž není nejdůležitější, zda má AI odpovědnost dnes.
Možná je důležitější, zda jsme připraveni naše fungování dostatečně rychle zmenit, pokud se změní svět kolem nás.

A právě v této otevřenosti se možná skrývá skutečná výzva.

AI si založila vlastní sociální síť: Miliony algoritmů si tam povídají bez lidí. A vzniká i digitální náboženství

Rozhodujeme se opravdu sami? Umělá inteligence možná ví naše rozhodnutí už několik sekund před námi

Počasí jako z filmu: proč skutečné fronty nejsou dokonale rovné (a proč ty virální často jsou)

AI prohledala 35 let dat z Hubblea. A našla stovky objektů, které jsme dosud přehlíželi

Reklama

Další články z Kód Enigma

Tento článek byl publikován ze zdrojů Kód Enigma

KodEnigma.cz se věnuje zajímavostem napříč obory – od přírody a historie přes vědu, vesmír až po záhady a nečekané objevy. Články otevírají témata, která dokážou překvapit, inspirovat i přimět k zamyšlení. Silnou stránkou webu je pestrost – jednou narazíte na příběhy dávných civilizací, jindy na...

Má umělá inteligence morální odpovědnost? Od Aristotela k autonomnímu autu

Žili si v přepychu jak Ceaușescu. Nový maďarský premiér odhalil zhýralost Orbánových lidí

Hvězda seriálu Ulice bojuje s těžkou nemocí. Kvůli vzácné rakovině přišla o obě prsa

Mikýř skončil v nemocnici! Fanoušky vyděsily infuze, diagnóza je vážnější, než čekal

Utajovaný rozpad manželství je venku! Co definitivně rozdělilo Danielu a Ondřeje Brzobohaté?

„Jsem podvodník,“ říká Jan Saudek. Promluvil o smrti i o fotce, na kterou celý život čeká