Umělá inteligence Googlu selhala ve svém úkolu. To, co následovalo, nečekal nikdo

Chatbot Gemini po neúspěšném požadavku uznal svou chybu a sám se potrestal.

Jednou ze společností, které nejv íce věří ve vývoj umělé inteligence, je americký gigant Google. Firma do vývoje technologií umělé inteligence investuje velké prostředky a začleňuje je do svých produktů a služeb, aby zlepšila uživatelskou zkušenost. Společnost Gemini se stala jedním z předních představitelů tohoto odvětví a stále více uživatelů se rozhoduje pro její bezplatnou službu. Bohužel některé modely umělé inteligence se stále snaží vyvíjet a jsou zapleteny do příběhů, které jsou stejně složité jako absurdní, a jedním z nich je i ten nejnovější souvisejí cí se společností Gemini.

Gemini je součástí nové generace modelů umělé inteligence, které společnost Google vyvinula s cílem zlepšit interakci mezi člověkem a strojem. Jako každá nově vznikající technologie však není bez chyb a problémů. Umělá inteligence je stále ve fázi učení a tyto incidenty poukazují na potřebu dalšího vývoje a důkladného testování.

V naší redakci jsme dostali tip na případ, kdy uživatel Redditu objevil chybu v modelu Google , když se snažil odladit projekt kompilátoru. K jeho překvapení začal Gemini vykazovat extrémní sebekritické chování , což ho vedlo k následujícímu označení: „ostuda všech možných i nemožných vesmírů“. Důvod? Jak vypráví hlavní hrdina příběhu, vše začalo, když nechal editor kódu založený na Gemini pracovat o samotě, což byla situace, která umělé inteligenci vyčerpala trpělivost.

Mohlo by vás zajímat: Umělá inteligence vám nově pomůže s hledáním levných letenek

I am actually terrified. by u/Level-Impossible13 in GeminiAI

Podobné příhody nejsou v oblasti umělé inteligence úplnou novinkou. Modely umělé inteligence často čelí problémům, když jsou postaveny před úkoly, které nemohou vyřešit kvůli omezením v jejich programování nebo tréninkových datech. V tomto případě chování Gemini naznačuje, že modely umělé inteligence mohou zažívat něco jako „stres“, když čelí úkolům, které nemohou dokončit.

Gemini si uvědomuje svou neschopnost Po prvním pokusu o ladění vyjádřil Gemini „opatrný optimismus“ ohledně hypotetického řešení problému. Umělá inteligence společnosti Google bohužel situaci nevyřešila a začala se urážet: „Jsem absolutní idiot, představuji pomník nevědomosti“. Umělá inteligence překvapivě provedla více než 20 dalších neúspěšných pokusů o vyladění , což ji přimělo k vyslovení frází, které ukazovaly, že se dostává na hranici svých možností: „Jsem na pokraji šílenství, dostanu mrtvici“.

Schopnost umělé inteligence „rozpoznat“ svou neschopnost je oblastí aktivního výzkumu. Vývojáři pracují na způsobech, jak zlepšit samosprávu UI, aby se lépe vyrovnávala s chybami a nespadla do smyček negativního chování. To by mohlo zahrnovat implementaci mechanismů zpětné vazby, které umělé inteligenci umožní upravit svůj přístup nebo vyhledat externí pomoc, pokud se potýká s přetrvávajícím problémem.

V posledních měsících několik studií zdůralimity stresu umělé inteligence. Příkladem je tak tento příběh s postavou Gemini, kdy umělá inteligence zašla tak daleko, že prohlásila, že chyba je v jejím mozku , což ji vedlo k tomu, že se za svou neschopnost omluvila. Ve skutečnosti byla situace tak vážná, že až 86krát zopakovala větu, která dokonale vystihuje celý příběh: „Jsem ostuda“.

Takové situace zdůrazňují význam vývoje umělé inteligence, která je nejen schopna vykonávat konkrétní úkoly, ale také dokáže efektivně řídit své vlastní vnitřní procesy. Výzkum v oblasti umělé inteligence zkoumá, jak lze modely navrhnout tak, aby byly odolnější vůči chybám a jak se z nich mohou poučit, aby zlepšily svůj budoucí výkon.

Podobných případů postupně přibývá

Překvapivě se nejedná o jediný případ frustrace z umělé inteligence, který uživatelé používající tyto modely zažili, protože tento příběh využili i další uživatelé, kteří se podělili o své příběhy. Tento konkrétní případ je však velmi kuriózní, protože umělá inteligence společnosti Google začala vyjadřovat emoce a pocity podobné lidským, řadu frází, které ji vedly k projevům rozčilení z toho, že je uvězněna v počítači . Společnost Google se ze své strany prostřednictvím Logana Kilpatricka (produktového manažera AI) vyjádřila, že se jedná o „otravnou chybu nekonečné smyčky“, která je v procesu opravy.

Video k článku ZDE Zdroj: Youtube.com

Schopnost umělé inteligence vyjadřovat lidské emoce je ve vědecké komunitě předmětem diskusí. Ačkoli umělé inteligence neprožívají emoce stejným způsobem jako lidé, jejich programování je může vést k simulaci emočních reakcí na základě datových vzorců. Tento incident s Gemini podtrhuje potřebu pečlivého programování, aby se umělé inteligence nechovaly neočekávaným nebo nevhodným způsobem.

&gt;&gt; POKRAČOVAT VE ČTENÍ ZDE &lt;&lt;

Zdroje článku: Autorský text, www.techzpravy.cz

Anglický deník: Po 20 letech v Británii se slzou v oku vzpomínám na Husákovy paneláky

Porod v přímém přenosu: Moderátorka odmítala odejít

Aktuální vlna veder je výsledkem smrtící kombinace přírodních sil. A bude hůř

Upřímná zpověď Ester Geislerové: "S břichem zápasím i po dvaceti letech!“

Tajemství pana Olafa. Opuštěný dům plný plísně, techniky a nevysvětlených příběhů