Google zavádí novou funkci, která uživatelům aplikace Gemini umožní snadněji zjistit, zda byl obrázek vytvořen nebo upraven pomocí umělé inteligence. Stačí se zeptat: „Je tento obrázek vytvořen AI?“ a Gemini ověří jeho původ.
Google přináší vylepšenou detekci AI obsahu
Funkce je zatím omezena pouze na obrázky a využívá technologii SynthID, tedy neviditelné digitální vodoznaky, které Google vkládá do obsahu generovaného svými AI nástroji. Díky tomu může Gemini rozpoznat, zda byl obsah vytvořen jeho systémy. V budoucnu Google plánuje tuto možnost rozšířit i na videa a zvuk a také přímo do vyhledávání Google.
C2PA: Budoucnost ověřování obsahu
Významným krokem do budoucna bude podpora standardu C2PA (Coalition for Content Provenance and Authenticity). Na rozdíl od SynthID nejde o proprietární řešení, ale o průmyslový standard, který umožní ověřit původ obsahu vytvořeného širokou škálou AI nástrojů, včetně například OpenAI Sora.
Zdroj: The Verge
Google zároveň oznámil, že nový generativní model Nano Banana Pro, bude automaticky přidávat do obrázků metadata C2PA. Minulý týden stejný krok oznámil i TikTok, což svědčí o rostoucím přijetí tohoto standardu napříč technologickými firmami.
Ověřování je jen začátek
Možnost manuálního ověřování přes Gemini je sice krok správným směrem, ale dlouhodobé řešení vyžaduje automatické označování obsahu na sociálních sítích a v online službách. Dokud budou uživatelé muset sami ověřovat jednotlivé obrázky, bude boj proti AI fakům složitý.
Google se však snaží být aktivní v ochraně uživatelů před neoznačeným nebo zavádějícím obsahem vytvořeným umělou inteligencí.
Zdroj: theverge.com