Zdroj: Google
Domů » Články »
Google představil SynthID Detector – službu, která umožní rychle a spolehlivě ověřit, zda byl obraz, text, zvuk nebo video vytvořen pomocí generativní umělé inteligence. Nástroj přináší vyšší transparentnost v éře digitálního obsahu.
SynthID Detector pomáhá identifikovat AI obsah
Rozmach generativní AI umožňuje lidem tvořit texty, obrázky, hudbu i videa zcela novými způsoby. S těmito schopnostmi však rostou i obavy o autenticitu a důvěryhodnost obsahu, zejména na sociálních sítích a v médiích. SynthID Detector přichází jako reakce na problém dezinformací a špatné interpretace AI obsahu. Jak se ale dočteme dále, tento nástroj slouží pouze pro identifikaci obsahu vytvořeného AI nástroji od Googlu.
Jak funguje SynthID Detector?
Nový portál využívá vodotisk SynthID, který Google již dříve vyvinul a integroval do svých AI modelů jako Gemini (text), Imagen (obrázky), Lyria (hudba) a Veo (video). SynthID vkládá do obsahu neviditelný digitální podpis, který zůstává zachován i při úpravách a sdílení.
Detekce funguje ve třech krocích. Nahrání obsahu – uživatel nahraje obrázek, video, audio nebo text vytvořený nástroji Googlu. Skenování – služba prohledá soubor a identifikuje, zda obsahuje SynthID vodotisk. Pokud je vodotisk nalezen, zvýrazní portál konkrétní části obsahu, kde se pravděpodobně nachází.
Zdroj: Google
Například u zvuku označí konkrétní úseky, u obrázků konkrétní oblasti. Tím poskytuje uživatelsky přívětivý přehled o míře pravděpodobnosti, že byl obsah vytvořen AI nástrojem od Googlu.
Pro koho je nástroj určen?
V první fázi je SynthID Detector zpřístupněn omezenému počtu testerů, mezi něž patří novináři, výzkumníci a mediální profesionálové. Ti se mohou zapsat na čekací listinu a požádat o přístup. Později bude nástroj otevřen širší veřejnosti.
Google nejen že zpřístupnil samotný portál pro detekci, ale zároveň otevřel SynthID pro vývojáře – konkrétně opatření textu vodotiskem je dostupné jako open-source technologie. Vývojáři si tak mohou integrovat tuto ochranu přímo do svých vlastních systémů.
Kromě toho Google oznámil spolupráci s firmou NVIDIA, kde pomocí SynthID opatřuje vodotiskem videa generovaná v rámci platformy NVIDIA Cosmos. Současně také navázal partnerství se společností GetReal Security, která se zaměřuje na ověřování digitálního obsahu.
Záměrem Google je vybudovat ekosystém, v rámci kterého bude snadno rozpoznatelné, co je vytvořeno AI a co člověkem. Vzhledem k rostoucímu objemu generativního obsahu považuje společnost transparentnost za klíčový prvek digitální bezpečnosti.
Zdroj: blog.google
Domů » Články »
Nahrávání ...Jakub Sobotka
Senior Editor jehož vášní jsou AI, mobilní technologie a vše kolem IT. Ve volném čase rád sportuje, čte, nebo se toulá přírodou. Ač uživatel Apple platformy, dobře si rozumí i s Androidem.
Komentáře