CENTRUM.CZ > Techzpravy.cz > dnes, 13:00

Google jde po vašich fotkách. Chce rozlišit realitu od fikce

Techzpravy.cz

Sdílet

S dalším vývojem umělé inteligence se její integrace do našeho každodenního života prohlubuje.

Zdroj: lightsource / Depositphotos

S dalším vývojem umělé inteligence se její integrace do našeho každodenního života prohlubuje.

Nástroje AI se stále častěji používají ke zefektivnění úkolů, zvýšení produktivity a organizaci našich každodenních činností. S tímto pokrokem však přicházejí i výzvy, zejména v oblasti rozlišování mezi tím, co je skutečné, a tím, co je uměle vytvořené. Vzestup deepfakes, což jsou syntetická média generovaná umělou inteligencí, je ukázkovým příkladem této výzvy. Zatímco některé deepfakes jsou vytvářeny pro zábavu, jiné se používají k nekalým účelům, jako je manipulace, podvody a vytváření explicitního obsahu. V reakci na tyto rostoucí obavy podniká společnost Google proaktivní kroky, které mají uživatelům pomoci identifikovat upravené fotografie pomocí umělé inteligence.

Nová éra transparentnosti digitálních snímků

Služba Fotky Google se chystá spustit převratnou funkci nazvanou „How Was This Made“ (kterou lze do češtiny přeložit jako „Jak to bylo vytvořeno“), která má uživatelům pomoci rozpoznat původ fotografií a videí. Cílem této funkce je objasnit, zda byl mediální obsah zachycen přirozeně, upraven pomocí tradičních nástrojů pro úpravy nebo zda byl vytvořen výhradně umělou inteligencí.

Může žaloba změnit konec Windows 10? Microsoft míří k soudu

Funkce byla odhalena při testování aplikace Fotky Google ve verzi 7.41, které provedl server Android Authority. Bude integrována jako zvláštní oddíl v rámci podrobností o obrázku nebo videu, který jasně označuje, zda bylo médium zachyceno fotoaparátem, upraveno pomocí nástrojů, které nejsou součástí umělé inteligence, nástrojů umělé inteligence nebo zcela vytvořeno umělou inteligencí.

Funkce „How Was This Made“ využívá Content Credentials, což je vznikající průmyslový standard, který vkládá historii úprav položky do jejích metadat. Tato metadata zajišťují transparentnost procesu tvorby a úprav média. Pokud nějaké informace chybí nebo jsou zjištěny změny, aplikace Fotky Google tyto nejasnosti označí a upozorní uživatele na potenciální nesrovnalosti. Tato aktualizace je obzvláště významná v době, kdy se stále více rozšiřují nástroje pro úpravy pomocí umělé inteligence, jako je například Magic Eraser a Reimagine od společnosti Google, které jsou schopny snímky zcela změnit.

Nástroje pro úpravy pomocí umělé inteligence sice nabízejí tvůrčí tvůrčí potenciál, ale zároveň stírají hranice mezi autentickým a digitálně upraveným obsahem. Nová funkce společnosti Google má za cíl překlenout tuto mezeru v důvěře zavedením důležitých ochranných opatření, která jsou v dnešním mediálním prostředí poháněném umělou inteligencí klíčová. Tato iniciativa je v souladu s celoprůmyslovým trendem směřujícím ke značkám autenticity, kdy společnosti jako Adobe, Nikon a Leica již podobné technologie zkoumají.

Boj proti deepfakes pokračuje

Zavedení funkce „How Was This Made“ by mohlo sloužit jako základní krok k zavedení standardů digitální transparentnosti. Úspěch těchto snah však bude záviset na tom, zda povedou ke zvýšení povědomí a přijetí v celém odvětví. Uvidíme, zda tyto značky autenticity přijmou i další platformy a přispějí tak k transparentnějšímu digitálnímu ekosystému.

Deepfakes are getting insane
byu/PradipJayakumar inThatsInsane

Vzhledem k tomu, že umělá inteligence nadále formuje budoucnost médií, představují iniciativy, jako je funkce „How Was This Made“ společnosti Google, zásadní krok k zajištění toho, aby uživatelé mohli důvěřovat obsahu, s nímž se setkávají online. Poskytnutím jasných ukazatelů autenticity médií společnost Google nejen řeší současné obavy, ale také vytváří precedens pro zodpovědné využívání umělé inteligence při tvorbě digitálního obsahu.