CENTRUM.CZ > Techzpravy.cz > dnes, 22:00

Zní to jako noční můra: Dobrovolníci bojují s lavinou strojového odpadu

Techzpravy.cz

4 min

Sdílet

Internetová encyklopedie čelí ohrožení své důvěryhodnosti kvůli odkazům a textům generovaným umělou inteligencí.

Zní to jako noční můra: Dobrovolníci bojují s lavinou strojového odpadu

Zdroj: JarTee / Shutterstock

Internetová encyklopedie čelí ohrožení své důvěryhodnosti kvůli odkazům a textům generovaným umělou inteligencí.

Pokud něco hledáte na internetu, je velmi pravděpodobné, že vám jako první nabídne odpověď umělá inteligence Gemini. A jako by to nestačilo, pokud budete rolovat dolů a rozhodnete se zadat další odkazy, prchající před umělou inteligencí ve prospěch těch autoritativních webových stránek s obsahem psaným specializovanými lidmi, najdete stále více textů vytvořených v AI.

Není žádnou novinkou, že umělá inteligence klame, ani to, že nabízí údaje, které se zdají být pravdivé, ale nejsou, od nepravdivých informací až po citáty, které nikdy neexistovaly. A to je problém pro ty, kteří hledají kvalitu. Protože pokud už Wikipedie měla problém s internetovými crawlery, na obzoru se objevil další: internet (a samotná Wikipedie) bude plný falešných článků generovaných umělou inteligencí.

Video k článku ZDE

Zdroj: Youtube.com

Mohlo by vás zajímat: Google chystá tajnou zbraň, se kterou chce dobýt technologický trh

Protože lidé teď mohou žádat nováčka Groka, aby se zbavil pochybností, jako by byl mistrem pravdy, ale Wikipedii trvalo roky, než si vydobyla své postavení a opustila stigma encyklopedie psané jakýmkoli způsobem amatéry, aby pochopila rozsah a hodnotu svého projektu. A pozor, protože i Wikipedie se potýkala se souhrny s umělou inteligencí a pod tlakem svých editorů musela říci „ne, díky“.

Wikipedie bojuje proti používání umělé inteligence v rychlém sledu

Wikipedie se proto musela pustit do práce s týmem dobrovolníků ochotných bojovat proti tomuto smetí generovanému umělou inteligencí nazvaným WikiProject AI Cleanup. Pro Marshalla Millera, produktového manažera nadace Wikimedia, jde o analogii k imunitnímu systému:

„Jak se internet mění a přicházejí věci jako AI, tento imunitní systém se přizpůsobuje novým výzvám a nachází způsob, jak je zpracovat. V tomto případě se jedná o „reakci imunitního systému.“

Jak to dělají? Jedním ze způsobů je, jednoduše řečeno, zrychlené sledování. Tato skupina wikipedistů se rozhodla pro zrychlené odstraňování těchto špatně napsaných článků, jak uvádí 404 Media. Odhalit takový obsah a vyčistit ho však vyžaduje spoustu času a prostředků v podobě zkušených editorů. Ti jsou navíc zavaleni nekvalitními návrhy, říká jeden z recenzentů.

Proces mazání ve Wikipedii není tak rychlý a jednoduchý jako kliknutí na tlačítko: jakmile je jednou označen jako potenciálně smazatelný, přechází do jakési sedmidenní karantény zvané diskusní období, kdy členové komunity rozhodují, zda jej smazat, či nikoli. Toto nové pravidlo rychlého mazání umožňuje správcům tento krok přeskočit, pokud byl článek zjevně vytvořen umělou inteligencí a nebyl zkontrolován zadavatelem. Tento postup rychlého odstranění uvádí tři signály, které je třeba zkontrolovat:

Že se jedná o psaní zaměřené přímo na uživatele, s takovými skandujícími frázemi jako „Tady je váš článek na Wikipedii o“ nebo „Doufám, že je pro vás užitečný!“.
S nesmyslnými citacemi a nesprávnými odkazy na autory a publikace.
S neexistujícími odkazy, nefunkčními odkazy, neplatnými kódy ISBN nebo identifikátory digitálních objektů, které nelze vyřešit.

Protože výše uvedené nestačí, připravil tým WikiProject AI Cleanup seznam frází a formátovacích prvků, které AI běžně připravuje, včetně nadměrného používání dlouhých pomlček, nadužívání slova „dále“, propagačního jazyka nebo problémů s formátováním.

Nadace Wikimedia, která je zodpovědná za tvorbu Wikipedie, ale nikoli za tvorbu jejích zásad, se již v otázkách spojených s umělou inteligencí střetla se svými dobrovolníky, například v případě souhrnů generovaných umělou inteligencí, jejichž experiment musel být po kritice ze strany komunity zastaven. Používá ji však již k identifikaci témat obsahujících vandalismus. Ve skutečnosti se nadace umělé inteligenci nebrání, pokud generuje kvalitní a přesný text. Pro Millera je používání AI dvousečná zbraň:

„Umožňuje lidem generovat méně kvalitní obsah ve velkém měřítku, ale AI může být také nástrojem, který pomůže dobrovolníkům v jejich práci, pokud ji dobře využijeme a budeme s nimi spolupracovat při hledání nejlepšího způsobu jejího použití.“

Identifikace generovaných článků je klíčová

Mezi další iniciativy, které mají udržet používání AI na uzdě, patří uvádění procenta textu generovaného chatboty nebo podávání ruku při konstruktivních úpravách, aby ti, kdo sledují důvěryhodnost obsahu, mohli věnovat pozornost relevantnějším úpravám nebo pokrýt více obsahu.

Kromě toho komunita Wikipedie zkoumá možnosti využití nástrojů AI ke zlepšení detekce problematického obsahu. Tyto nástroje by mohly pomoci identifikovat vzory v textu generovaném umělou inteligencí, které nejsou snadno odhalitelné lidmi. Klíčové je vyvinout algoritmy, které se dokáží učit z minulých úprav a neustále zlepšovat svou přesnost.

Wikipedie také zvažuje, že bude své editory vzdělávat v tom, jak identifikovat obsah generovaný umělou inteligencí a jak s ním zacházet. To by mohlo zahrnovat semináře a online zdroje, které by poskytovaly návod, jak rozlišovat mezi autentickým a strojově generovaným obsahem.

V neposlední řadě je zásadní spolupráce s dalšími technologickými platformami. Spoluprací se společnostmi vyvíjejícími technologie umělé inteligence může Wikipedie zajistit, že její obavy budou vyslyšeny a že budou vyvinuta řešení, která ochrání integritu jejího obsahu.

Zdroje článku: en.wikipedia.org, theverge.com, 404media.co, www.techzpravy.cz

DALŠÍ ČLÁNKY z Techzpravy.cz

Vybrali jsme pro vás MAGAZÍNY A ZAJÍMAVOSTI

Izrael věděl, kde útočit. Vylákal Trump svým "mírovým plánem" předáky Hamásu na smrt?

Zprávy - Aktuálně.cz|

dnes, 22:14

Izrael věděl, kde útočit. Vylákal Trump svým "mírovým plánem" předáky Hamásu na smrt?

Izraelské letouny provedly precizní úder na exilové vedení Hamasu v katarské metropoli Dauhá, ve...

Techzpravy.cz|

dnes, 22:00

4 min

Zní to jako noční můra: Dobrovolníci bojují s lavinou strojového odpadu

Internetová encyklopedie čelí ohrožení své důvěryhodnosti kvůli odkazům a textům generovaným umělou...

Při podvečerní nehodě na Trutnovsku zemřeli čtyři lidé

Hradecká Drbna|

dnes, 21:50

1 min

Při podvečerní nehodě na Trutnovsku zemřeli čtyři lidé

Při nehodě dvou osobních aut u Choustníkova Hradiště na Trutnovsku zemřeli dnes vpodvečer čtyři lidé. Další...

Procházka před jídlem, nebo po něm? Vědci mají jasno. V tuto dobu spalujete rychleji

SportDeník|

dnes, 21:42

3 min

Procházka před jídlem, nebo po něm? Vědci mají jasno. V tuto dobu spalujete rychleji

Jít se projít před jídlem, či po jídle, to je, oč tu běží. Odpověď na tuhle otázku vás možná překvapí....

"Dluží mi statisíce," obviňuje moderátora Karla Kašáka jeho bývalá partnerka

Žena.cz|

dnes, 21:40

"Dluží mi statisíce," obviňuje moderátora Karla Kašáka jeho bývalá partnerka

Rozchod televizního moderátora Karla Kašáka s Kateřinou Teplou probíhal v médiích téměř v přímém přenosu....

Po ibuprofenu skončila v kómatu. Žena přišla o oko a na druhé vidí jen částečně

Žena.cz|

dnes, 21:40

Po ibuprofenu skončila v kómatu. Žena přišla o oko a na druhé vidí jen částečně

Jedna „obyčejná“ tabletka proti křečím a život se převrátí naruby. Brazilka Jaqueline Gmack po ibuprofenu...

Život na zámku, Pojišťovna štěstí i Rodinná pouta: takhle se proměnily seriálové hvězdy

Žena.cz|

dnes, 21:40

Život na zámku, Pojišťovna štěstí i Rodinná pouta: takhle se proměnily seriálové hvězdy

Život na zámku, Pojišťovna štěstí a Rodinná pouta definují začátek porevoluční seriálové tvorby u nás. Jak...

KVÍZ: Přestaňte machrovat s českým filmem. Teď se ukažte v kvízu o filmech Věry Chytilové

KINOTIP2.cz|

dnes, 21:30

1 min

KVÍZ: Přestaňte machrovat s českým filmem. Teď se ukažte v kvízu o filmech Věry Chytilové

Fandíte filmům režisérky Věry Chytilové? Potom se nebudete upejpat vyplnit náš zábavný kvíz, který vaše...

Kampaň Pirátů se bude studovat. ANO s ničím novým nepotřebuje přijít, říká expertka

Zprávy - Aktuálně.cz|

dnes, 21:15

Kampaň Pirátů se bude studovat. ANO s ničím novým nepotřebuje přijít, říká expertka

U ANO podle Konrádové není jednoduché odhadnout volební potenciál, protože někteří voliči nemusí svou...

KVÍZ: 10 bizarních jídel, které jsou ve světě považovány za delikatesu

Techzpravy.cz|

dnes, 21:00

1 min

KVÍZ: 10 bizarních jídel, které jsou ve světě považovány za delikatesu

Každá země si nese vlastní specifickou kulturu. A do ní patří jednoznačně i národní gastronomie. Ta...

Doporučujeme

Právě u nás vyšlo

Zní to jako noční můra: Dobrovolníci bojují s lavinou strojového odpadu

"Dluží mi statisíce," obviňuje moderátora Karla Kašáka jeho bývalá partnerka

Ukrajina nás chtěla vtáhnout do války, říká exprezident Polska. Naletěla i Černochová

Po ibuprofenu skončila v kómatu. Žena přišla o oko a na druhé vidí jen částečně

Herečka Bára Štěpánová překvapila fanoušky. U moře se ukázala nahoře bez

Kampaň Pirátů se bude studovat. ANO s ničím novým nepotřebuje přijít, říká expertka