Meta představila nástroj, který odhalí obrázky vytvořené její vlastní AI. Brzy rozpozná i videa

Meta pracuje na novém systému pro rozpoznávání obsahu vytvořeného umělou inteligencí a představila webový nástroj, který dokáže zjistit, zda obrázek vznikl nebo byl upraven pomocí jejího nejnovějšího modelu Muse Image. V budoucnu má stejná technologie fungovat také pro detekci videa.

Meta přináší svůj systém na ověření AI obsahu

Nová technologie ověřování přichází několik měsíců poté, co dozorčí rada společnosti kritizovala Metu za nekonzistentní označování AI obsahu vytvořeného jejími vlastními nástroji. Nový systém má nabídnout spolehlivější způsob, jak takový obsah identifikovat.

Systém využívá technologii Content Seal, což je neviditelný digitální vodoznak vložený přímo do obrázku. Meta tvrdí, že zůstává zachovaný i po ořezu, kompresi, změně velikosti nebo pořízení snímku obrazovky. Pomocí nového webového nástroje lze následně ověřit, zda obrázek tento vodoznak obsahuje. Pokud ano, znamená to, že vznikl nebo prošel úpravou v aplikaci Meta AI či na webu meta.ai.

Zdroj: Engadget

Detekce se v současnosti omezuje pouze na obsah vytvořený modelem Muse Image. Starší obrázky vygenerované předchozími verzemi Meta AI nástroj nerozpozná. Stejná technologie by se měla rozšířit také na videa. Meta už potvrdila, že připravuje nový model Muse Video, který bude využívat stejný systém označování.

Content Seal je proprietární řešení Mety a není kompatibilní s běžně používanými standardy SynthID od Googlu ani C2PA Content Credentials, které podporují další společnosti. Samotný nástroj navíc zatím není součástí aplikace Meta AI. Pokud se uživatel zeptá chatbota, zda konkrétní obrázek vytvořila Meta AI, odpověď zatím nedostane. Ověření je možné pouze přes samostatnou webovou stránku. Meta zároveň omezuje počet kontrol během dne. Po několika ověřeních systém uživatele upozorní, že dosáhl denního limitu.

Zdroj: engadget.com

Sdílet článekDomů » Články » Meta představila nástroj, který odhalí obrázky vytvořené její vlastní AI. Brzy rozpozná i videa

💡ANKETA: Používáte na svém telefonu VPN (virtuální privátní síť)?

• Ano, trvale zapnutá
• Používám jen občas
• Ne, ale plánuji ji používat
• Ne, nepoužívám
• Nevím, k čemu to je

 Nahrávání ...

Jakub Sobotka

Senior Editor jehož vášní jsou AI, mobilní technologie a vše kolem IT. Ve volném čase rád sportuje, čte, nebo se toulá přírodou. Ač uživatel Apple platformy, dobře si rozumí i s Androidem.