Meta pracuje na novém systému pro rozpoznávání obsahu vytvořeného umělou inteligencí a představila webový nástroj, který dokáže zjistit, zda obrázek vznikl nebo byl upraven pomocí jejího nejnovějšího modelu Muse Image. V budoucnu má stejná technologie fungovat také pro detekci videa.
Meta přináší svůj systém na ověření AI obsahu
Nová technologie ověřování přichází několik měsíců poté, co dozorčí rada společnosti kritizovala Metu za nekonzistentní označování AI obsahu vytvořeného jejími vlastními nástroji. Nový systém má nabídnout spolehlivější způsob, jak takový obsah identifikovat.
Systém využívá technologii Content Seal, což je neviditelný digitální vodoznak vložený přímo do obrázku. Meta tvrdí, že zůstává zachovaný i po ořezu, kompresi, změně velikosti nebo pořízení snímku obrazovky. Pomocí nového webového nástroje lze následně ověřit, zda obrázek tento vodoznak obsahuje. Pokud ano, znamená to, že vznikl nebo prošel úpravou v aplikaci Meta AI či na webu meta.ai.
Zdroj: Engadget
Detekce se v současnosti omezuje pouze na obsah vytvořený modelem Muse Image. Starší obrázky vygenerované předchozími verzemi Meta AI nástroj nerozpozná. Stejná technologie by se měla rozšířit také na videa. Meta už potvrdila, že připravuje nový model Muse Video, který bude využívat stejný systém označování.
Content Seal je proprietární řešení Mety a není kompatibilní s běžně používanými standardy SynthID od Googlu ani C2PA Content Credentials, které podporují další společnosti. Samotný nástroj navíc zatím není součástí aplikace Meta AI. Pokud se uživatel zeptá chatbota, zda konkrétní obrázek vytvořila Meta AI, odpověď zatím nedostane. Ověření je možné pouze přes samostatnou webovou stránku. Meta zároveň omezuje počet kontrol během dne. Po několika ověřeních systém uživatele upozorní, že dosáhl denního limitu.
Zdroj: engadget.com