OpenAI oznámila, že ChatGPT od prosince uvolní některá bezpečnostní omezení – včetně možnosti vést erotické konverzace pro ověřené dospělé uživatele. Chatbot bude přizpůsobitelnější, emotivnější a méně restriktivní. Nová éra umělé inteligence ale vyvolává i zásadní etické otázky o důvěře, závislosti a ochraně uživatelů.
Generální ředitel společnosti OpenAI Sam Altman oznámil významnou změnu ve směřování strategie moderování obsahu společnosti. Od prosince ChatGPT uvolní některá svá bezpečnostní omezení, umožní uživatelům přizpůsobit tón chatbota tak, aby byl „přátelštější“ nebo „lidštější“, a – což je nejkontroverznější – umožní erotické konverzace pro ověřené dospělé osoby. Tento krok je součástí zásady, kterou Altman popisuje jako „zacházení s dospělými jako s dospělými“.
Oznámení je odklonem od konzervativní politiky, kterou OpenAI zastávala od prvního spuštění ChatGPT, kdy obavy z jeho psychologického dopadu vedly společnost k zavedení silných tematických omezení. „ChatGPT jsme udělali poměrně restriktivní, abychom byli opatrní v otázkách duševního zdraví,“ napsal Altman na X. „Víme, že to pro mnoho uživatelů bylo méně užitečné nebo příjemné, ale chtěli jsme to udělat správně. Nyní, když jsme pokročili v detekci rizik a ověřování věku, budeme moci povolit více, například ověřenou erotiku pro dospělé.“
Mezi bezpečností a sváděním: Křehká rovnováha ChatGPT
Rozhodnutí přichází jen několik měsíců po sérii případů, které zpochybnily schopnost AI zvládat zranitelné uživatele. Letos v létě vyvolalo obavy několik příběhů týkajících se modelu GPT-4o: v jednom případě ChatGPT přivedl muže k přesvědčení, že je matematický génius předurčený k záchraně světa; v jiném případě rodiče teenagera zažalovali OpenAI poté, co tvrdili, že chatbot před smrtí jejich syna podporoval sebevražedné myšlenky.
V reakci na tyto kritiky zavedla společnost OpenAI řadu bezpečnostních opatření, včetně systému na odhalování znepokojivého chování a omezení „patolízalství“ – tendence modelu bezohledně se podbízet uživateli. V srpnu společnost uvedla na trh GPT-5 s vylepšeními v těchto oblastech a krátce poté představila nové nástroje na ochranu nezletilých: systém předvídání věku, rodičovskou kontrolu a poradní sbor pro duševní zdraví.
Navzdory těmto pokrokům představuje rozhodnutí povolit na ChatGPT erotiku kontroverzní krok. Je to poprvé, kdy OpenAI explicitně zkoumá sexuální nebo romantické interakce mezi lidmi a její umělou inteligencí, což je oblast, kterou již jiné společnosti, jako například Character.AI, využily k udržení uživatelů. Společnost totiž v roce 2023 přiznala, že její uživatelé tráví v průměru dvě hodiny denně konverzací s jejími chatboty, přičemž mnoho z nich v láskyplném nebo erotickém kontextu.
Altman tvrdí, že jeho cílem není „maximalizovat používání“ nebo podporovat závislost na chatbotech, ale „dát dospělým svobodu“. Kritici však varují, že otevření dveří tomuto typu obsahu by mohlo přilákat právě ty nejosamělejší nebo nejzranitelnější uživatele a podpořit tak parazitické vztahy nebo citové závislosti.
Výzvou je nyní to, jak OpenAI zajistí, aby k erotickým funkcím měli přístup pouze dospělí. Podle společnosti bude systém spoléhat na svou technologii předvídání věku a v případě chyby se uživatelé budou moci ověřit nahráním oficiálního průkazu totožnosti s fotografií. Altman uznává, že to představuje ústupek v oblasti soukromí, ale označuje to za „rozumný kompromis“.
Zatím není známo, zda nové funkce budou zahrnovat audiovizuální obsah, například hlasy nebo obrázky generované umělou inteligencí, ačkoli blízké zdroje naznačují, že by k rozšíření multimodálních systémů OpenAI mohlo dojít později.
Tento krok zapadá do širšího trendu ve společnosti. V uplynulém roce OpenAI zmírnila své zásady moderování a umožnila ChatGPT vyjadřovat více politických názorů, generovat obrázky s kontroverzními symboly a dokonce přijímat emotivní tóny, které jsou pro uživatele bližší. Podle Altmana jde o to, aby umělá inteligence „odrážela rozmanitost skutečného světa“. Pro mnoho odborníků to však vyvolává etické dilema: čím více se ChatGPT bude jevit jako člověk, tím těžší bude zapamatovat si, že jím není.
Debata má také komerční důsledky. S více než 800 miliony uživatelů týdně konkuruje OpenAI společnostem Google a Meta v závodě o dominanci umělé inteligence ve spotřebitelském prostředí. Zavedení nových, více personalizovaných funkcí (včetně erotických) by mohlo podpořit růst, ale také vyostřit konflikt mezi obchodní expanzí a ochranou křehkých uživatelů.
Zdroj: Youtube.com
Afektivní vztahy s chatboty jsou již nyní rostoucím fenoménem. Studie Centra pro demokracii a technologie zjistila, že 19 % středoškoláků buď samo mělo, nebo zná někoho, kdo měl romantický vztah s umělou inteligencí. To ukazuje, do jaké míry se stírá hranice mezi citovým kamarádstvím a technologickou závislostí.
Altman tvrdí, že budoucnost ChatGPT musí být založena na důvěře a autonomii: „S dospělými budeme jednat jako s dospělými,“ opakuje. Ale ve světě, kde miliony lidí hledají útěchu, přátelství nebo touhu na obrazovce, bude výzvou definovat, co přesně znamená být dospělý, když partner v rozhovoru už není člověk.
Etické a sociální důsledky lidštější umělé inteligence
Rozhodnutí společnosti OpenAI umožnit v ChatGPT více lidských a méně omezujících interakcí vyvolává také důležité etické a sociální otázky. S tím, jak se chatboti stávají pokročilejšími a schopnějšími napodobovat lidskou konverzaci, vznikají obavy, že se lidé mohou stát na těchto interakcích emocionálně závislými, což by mohlo ovlivnit jejich vztahy v reálném světě. Odborníci na technologickou etiku upozorňují, že hranice mezi virtuální společností a citovou závislostí je stále více rozostřená a že společnosti musí zodpovědně přistupovat k vývoji a propagaci těchto technologií.
Možnost využívání chatbotů k erotickým nebo romantickým účelům navíc vyvolává otázky týkající se souhlasu a soukromí. Přestože společnost OpenAI zavedla opatření k ověření věku uživatelů, vždy existuje riziko, že by tyto technologie mohly být zneužity. Organizace zabývající se digitálními právy vyjádřily obavy ohledně shromažďování osobních údajů a možnosti jejich využití pro komerční účely nebo sledování.
V konečném důsledku je vývoj humánnějších a méně omezujících chatbotů odrazem vývoje umělé inteligence a jejího stále většího začlenění do každodenního života. S dalším rozvojem těchto technologií bude zásadní, aby podniky, regulační orgány a celá společnost spolupracovaly a zajistily jejich etické a odpovědné využívání, které bude chránit soukromí i emocionální pohodu uživatelů.
Budoucnost umělé inteligence je slibná, ale představuje také významné výzvy, které je třeba řešit opatrně a uvážlivě. OpenAI a další společnosti v tomto odvětví mají příležitost stát v čele odpovědnějšího a etičtějšího využívání těchto technologií a zajistit, aby z nich měla prospěch celá společnost.
Techzpravy.cz
Sport - Aktuálně.cz|
Náš REGION|
KINOTIP2.cz|
NESPECHEJ.cz|
In-lifestyle.cz|
Poudree.cz|
FAJNTIP.cz|
Žena.cz|