Na YouTube mizí technické návody bez varování – tvůrci tvrdí, že za tím stojí umělá inteligence bez lidského přezkumu. Platforma to popírá, ale odmítnutí odvolání během několika sekund a mlhavé odpovědi naznačují opak.
Komunita tvůrců technologických videí na YouTube je už několik dní na poplach. Ze stránek začaly bez varování mizet stovky výukových videí. Mnoho z těchto obsahů, které platforma po léta tolerovala a dokonce podporovala, bylo náhle označeno jako „nebezpečné“ nebo „škodlivé“, což vyvolalo vlnu podezření: svěřil YouTube moderování obsahu do rukou umělé inteligence?
Vlna mazání bez jasného vysvětlení
Vše začalo, když si zkušení tvůrci, jako například britský youtuber Brian White, známý svým kanálem s návody pro Windows a hardware, všimli, že některá z jeho nejoblíbenějších videí byla odstraněna. Jednalo se o tzv. bread and butter videa, tedy obsah, který generuje většinu zhlédnutí a příjmů kanálu. V rozhovoru pro Ars Technica White vysvětlil, že „tato videa byla v minulosti propagována samotným YouTube a neporušovala žádná zjevná pravidla„.
Znepokojivé bylo nejen odstranění videí, ale i rychlost, s jakou byla odvolání zamítnuta. White tvrdí, že jedno z jeho odvolání bylo zamítnuto za méně než minutu, což je tak krátká doba, že nebylo možné, aby zasáhl lidský kontrolor. „Bylo jasné, že mluvím s botem, ne s člověkem,“ řekl. Obecný pocit tvůrců byl, že automatizovaný systém umělé inteligence rozhoduje svévolně, bez reálné možnosti lidského přezkumu.
Tento případ nebyl ojedinělý. Další tvůrce, známý jako Britec09, s téměř 900 000 odběrateli, oznámil, že jedno z jeho videí bylo také odstraněno pro „nebezpečný nebo škodlivý obsah“. Na rozdíl od Whitea však obdržel „strike“, formální varování, které může vést k pozastavení účtu, pokud nasbírá tři striky během 90 dnů. Britec uvedl, že mu tato situace způsobila značné finanční ztráty, protože musel pozastavit sponzorské smlouvy a omezit svou činnost ze strachu z dalších sankcí.
Oba tvůrci se shodují na tom, že se to týká zřejmě jen posledních videí. Obavy však jdou ještě dál: pokud by se údajná automatizace vztahovala i na starší materiál, mohla by léta práce zmizet „v mžiku oka“.
YouTube popírá používání automatizované moderace
V reakci na tuto kontroverzi vydal YouTube prohlášení, ve kterém popírá, že by za mazáním stála umělá inteligence. Podle společnosti nedávná rozhodnutí učinili lidští moderátoři, ačkoli nevysvětlila, jak je možné, že některá odvolání byla zamítnuta během několika sekund.
Whitea a další tvůrce to nepřesvědčilo. Ve svých nejnovějších videích poukazují na to, že vlastní systém podpory YouTube zřejmě řídí umělá inteligence, protože i když žádají o rozhovor s vedoucím, dostávají „podezřele obecné“ automatické odpovědi. „Nejsme si jisti, co teď můžeme zveřejnit,“ postěžoval si White. „Jsou to jen teorie, protože YouTube nám neposkytuje žádné konkrétní vysvětlení.“
Část zmatku pramení ze zjevného rozporu mezi interními doporučeními obsahu, která YouTube svým tvůrcům nabízí, a pravidly, která následně prosazuje. Britec ukázal snímky obrazovky, na nichž ho vlastní systém nabídek YouTube nabádal k vytvoření videí o instalaci Windows 11 na nepodporované počítače, tedy právě o tématech, která nyní vyvolávají sankce. „Systém vás k tvorbě takových videí vybízí, a pokud tak učiníte, riskujete ztrátu kanálu,“ řekl.
Zdroj: Youtube.com
Tvůrci navrhli několik hypotéz, aby pochopili, co se děje. Někteří mají podezření, že platforma možná posiluje své mechanismy pro odhalování pirátství a že návody na instalaci Windows bez účtu Microsoft mohly být ovlivněny omylem. White však upřesňuje, že jeho videa vyžadují platnou licenci a že Microsoft nikdy nepožadoval jejich odstranění.
Jiní se domnívají, že YouTube možná testuje nové moderátorské nástroje poháněné umělou inteligencí, které však ještě nebyly řádně zkalibrovány. Podle Whitea je možné, že společnost umožnila umělé inteligenci identifikovat potenciální porušení předpisů, aniž by ukládala automatické sankce, jako formu interního testování. On ani jeho kolegové to však nemají jak potvrdit.
Znepokojení se neomezuje pouze na dotčené tvůrce. Na fórech, jako je Reddit, začali uživatelé stahovat a archivovat návody ze strachu, že zmizí. Mnohá z těchto videí jsou sice pro širokou veřejnost triviální, ale pro komunity zabývající se opravami, údržbou nebo instalací softwaru představují zásadní odkazy a jejich ztráta by v ekosystému digitálního vzdělávání zanechala výraznou mezeru.
Pro YouTube přichází tato situace v choulostivém okamžiku. Společnost již několik měsíců integruje umělou inteligenci do svých systémů pro správu obsahu a doporučování, což vyvolává otázky ohledně rovnováhy mezi automatizací a lidskou kontrolou. V minulosti společnost přiznala, že její umělá inteligence zasahuje do procesů prověřování a filtrování, ale tvrdí, že při kritických rozhodnutích vždy existuje lidská kontrola.
Dilema ohledně budoucnosti online moderování
Případ kanálu White a Britec vyvolává širší otázku: do jaké míry lze umělé inteligenci důvěřovat při moderování technických znalostí? Algoritmy, které mají zabránit poškozování nebo porušování práv, mohou nakonec potlačit legitimní informace a postihnout ty, které vzdělávají. V kontextu, kdy jsou tvůrci finančně závislí na svých kanálech, může jedno chybné rozhodnutí systému znamenat úplnou ztrátu příjmů nebo reputace.
YouTube prozatím trvá na tom, že žádná nová politika neexistuje a že mazání byla přezkoumávána ručně, ale tvůrce to neuklidňuje. „Dříve jste si mohli promluvit s člověkem a nedorozumění vyřešit,“ připomíná White, „nyní máte pocit, že se dohadujete se strojem.“
Obecně panuje pocit nejistoty. Mnozí se obávají, že kritéria moderování se stávají neprůhlednými a svévolnými a že kreativita a vzdělávací hodnota technických tutoriálů bude obětována přílišné automatizaci. „Pokud začnou technické znalosti mizet „z algoritmické opatrnosti„, říkají tvůrci, „největším poraženým bude samotná veřejnost„.
Dopad umělé inteligence na moderování obsahu
Využívání umělé inteligence při moderování obsahu na platformách, jako je YouTube, není novinkou. Ve skutečnosti YouTube v roce 2020 přiznal, že kvůli pandemii COVID-19 zvýšil závislost na umělé inteligenci při moderování obsahu, což vedlo k nárůstu chyb při moderování. To vyvolalo obavy mezi tvůrci obsahu, kteří se obávali, že jejich videa budou bez řádné lidské kontroly nespravedlivě odstraněna.
Umělá inteligence má potenciál zlepšit efektivitu moderování obsahu díky rychlému zpracování velkých objemů dat. Představuje však také značné výzvy. Algoritmy mohou mít problém porozumět kontextu a jemnostem obsahu, což může vést k chybným rozhodnutím. Nedostatečná transparentnost fungování těchto algoritmů a způsobu rozhodování může navíc vést k nedůvěře uživatelů.
Youtube's now terminating channels with AI
byu/Choutenz inTechNope
Pro řešení těchto problémů je zásadní, aby obsahové platformy, jako je YouTube, našly rovnováhu mezi automatizací a lidským zásahem. Umělá inteligence může být cenným nástrojem pro identifikaci potenciálně problematického obsahu, ale konečná rozhodnutí musí být přezkoumána lidmi, aby byla zajištěna přesnost a spravedlnost.
Kromě toho je důležité, aby platformy transparentně informovaly o tom, jak jejich moderátorské systémy fungují, a aby tvůrcům obsahu poskytly jasný a spravedlivý postup pro odvolání proti rozhodnutí o odstranění obsahu. To by pomohlo zmírnit nejistotu a frustraci, kterou v současnosti mnozí tvůrci pociťují.
V konečném důsledku je využívání umělé inteligence při moderování obsahu rozvíjející se oblastí, která vyžaduje pečlivý dohled a vyvážený přístup, aby byla zajištěna ochrana práv tvůrců obsahu i bezpečnost uživatelů.
Případ odstraněných technických návodů na YouTube poukazuje na složitost moderování obsahu v digitálním věku. Vzhledem k tomu, že platformy nadále zkoumají možnosti využití umělé inteligence pro správu velkých objemů obsahu, je nezbytné zachovat vyvážený přístup, který kombinuje efektivitu automatizace s lidským citem a úsudkem. Jedině tak lze zajistit spravedlivé a bezpečné prostředí pro tvůrce obsahu i uživatele.
Techzpravy.cz
