S obrázky vytvořenými pomocí umělé inteligence se setkáváme prakticky na každém kroku a rozeznat je od skutečné fotografie začíná být stále obtížnější. Apple podle informací objevených v iOS 27 Beta 5 připravuje funkci Apple Reference Image (ARI), která umožní ověřit, že fotografie skutečně vznikla na iPhonu.
Apple by mohl v rámci iOS2 27 přinést zajímavou funkcí
Pro většinu majitelů iPhonů pravděpodobně nepůjde o funkci, kterou by nějak měli využívat. Význam ale může mít například v novinářské branži nebo při soudních řízeních, kde je důležité nezávisle doložit pravost fotografie. Princip funkce Apple Reference Image má být poměrně jednoduchý. Pokud uživatel pořídí fotografii na iPhonu se zapnutou funkcí ARI, bude ji následně možné nahrát na server Applu a ověřit její pravost. Podle informací které obsahuje aktuální betaverze iOS 27 bude tato možnost ve výchozím nastavení vypnutá.
Apple přitom není jediný, kdo problém s důvěryhodností digitálního obsahu řeší. Více než 500 společností se připojilo k organizaci Coalition for Content Provenance and Authenticity (C2PA). Její technologie umožňuje ověřovat původ fotografií a také zjistit, jakými úpravami prošly a zda při nich hrála roli umělá inteligence. Apple se prozatím vydává vlastní cestou právě prostřednictvím ARI.
Ověřování původu obsahu bude s rozvojem AI důležitější
Přestože Apple Reference Image zpočátku využije jen poměrně úzká skupina lidí, podobné technologie mohou rychle nabývat na významu. Generátory obrázků a videí pomocí AI se neustále zlepšují a falešný obsah, který vypadá stále více realističtěji, mohou zneužívat podvodníci i lidé šířící dezinformace.
Zdroj: Dotekomanie.cz
Podobným směrem míří také Evropská unie. Ta nedávno oznámila dobrovolný kodex zaměřený na transparentnost obsahu vytvořeného pomocí AI. Cílem je umožnit lidem jednoduše poznat, kdy sledují nebo čtou uměle vytvořený obsah. Pravidla se přitom netýkají pouze obrázků, ale také textu.
Na evropskou iniciativu už reagoval Anthropic. Společnost oznámila, že všechny budoucí modely Claude budou používat digitální označení u textového i obrazového obsahu vytvořeného AI. Firma jej chce zavést celosvětově, nikoliv pouze v Evropské unii.
U textu může systém využívat například neviditelné znaky vložené mezi běžná písmena či slova. Takové označení by mělo přetrvat i při obyčejném kopírování textu, obejít ho ale není příliš složité. Stačí například udělat snímek obrazovky a následně text z obrázku znovu získat pomocí technologie OCR.
Objevují se proto i úvahy o využívání specifických jazykových vzorců, podle kterých by bylo možné obsah vytvořený modelem rozpoznat i po takové konverzi. Zdroj však neuvádí, že by Anthropic měl tento způsob skutečně použít. Pokud by se digitální označování obsahu vytvořeného AI v budoucnu stalo povinným, podobná pravidla by se dotkla také Applu. Firma by je musela řešit například u funkcí, které pomocí AI a Siri přepisují nebo upravují text.
Zdroj: 9to5mac.com