Anthropic zavádí neviditelné vodoznaky v textech od Claude

Zdroj: Dotekomanie.cz

S rozmachem AI služeb vzniklo mnoho příležitostí, ale jak to již bývá, našli se i tací, co umí zneužít tyto služby k podvodům a jiným nekalým praktikám. Sice se společnosti snaží bojovat proti zneužití. Například přidávají filtry a mantinely na to, co je možné generovat a co ne. U obrázku se navíc společnosti soustředily na digitální podpisy, respektive označení generovaného obsahu. Claude jde ale trochu dále.

Po útoku AI na Hugging Face vzniká Open Secure AI Alliance. Přidaly se Nvidia, Microsoft i OpenAI

I označený text

Společnost Anthropic aktualizovala své stránky podpory, kde popisuje novou praktiku u generovaného textu a souborů. Dle popisu budou modely této společnosti vytvářet v generovaném textu značky, něco jako vodoznaky, kterých se nepůjde jednoduše zbavit. Má se jednat o neviditelné části, které jsou strojově čitelné pro identifikaci. Ani větší editace textu je nezničí jen tak.

Tyto značky budou součástí textu i při kopírování. Navíc tento systém bude součástí modelů, tedy se bude jednat o automatický systém. Firma vše integruje do Claude Platform (API), Claude, Claude Code, Claude Cowork a Claude Tag, přičemž již nyní fungují u nových modelů, ale budou se aktualizovat i starší.

Zdroj: Dotekomanie

To samé se týká i souborů, kam budou přidávána metadata s informací, že se jedná o soubor vygenerovaný pomocí AI. Zde se používá standard C2PA.

Anthropic tak činí vzhledem k nové legislativě v Evropě, která začala platit již 2. srpna. Bohužel již nevysvětlil jak přesně tato technologie označování textu funguje. Dá se ale očekávat, že vzniknou nástroje, které budou umět odebrat tyto značky, případně je otázkou, jestli nebude nakonec stačit kopírovat přes jednoduché textové editory jako Poznámkový blok nebo něco jednoduššího.

Neznalý člověk, případně ten, co si nedá pozor, jednoduše překopíruje výstup z Claude, tak současně zkopíruje i tyto značky, takže se bude dát lehce odhalit, že text pochází z AI.

Zdroj: techcrunch.com