Facebook Rosetta bojuje proti nenávistným obrázkům a videím

Možná jste si všimli, že sociální sítě čím dál více řeší, jestli uživatelé nešíří nenávistný obsah. V případě běžného textu, který je zveřejněn v příspěvku, je systém na rozpoznávání negativního obsahu poměrně rychlý a funguje do jisté míry vcelku dobře. Problém ale je v případě obrázků a videí. Zde nejde použít standardní techniky a mnohdy se muselo přistoupit k identifikaci na základě moderátora. Facebook ale nyní zveřejnil projekt Rosetta, který napomůže s identifikací například nenávistných meme.

Rosetta

Jak už je v poslední době zvykem, nový systém pracuje na bázi umělé inteligence, respektive konvoluční neuronovou sítí. Jako první se využije rozpoznávání textu v obrázku (technologie OCR), následně dojde k předání dat systému, který se snaží identifikovat, o čem je vlastně na obrázku řeč. V případě porušení pravidel, je taková obrázek označen a prochází dalším šetřením.

Facebook se pochlubil, že Rosetta je již nyní v nasazení a snaží se získat maximum dat, čímž se vlastně učí a zdokonaluje. Sociální síť tuto novinku vůbec nešetří, jelikož každý den prověří na jednu miliardu obrázků a jednotlivých snímků z videí. Aby toho nebylo málo, systém se nesoustřeďuje jen na Facebook, identifikuje škodlivý nebo nenávistný obsah i na Instagramu.

Mohlo by se předpokládat, že Rosetta zatím funguje jen v angličtině, ale ve skutečnosti již zvládá několik jazyků. Facebook ale neurčil, které to jsou. Když vezmeme v potaz, že Rosetta pracuje v reálném času, Facebook získává poměrně zajímavý nástroj, který bude hlídat obsah na sociální síti. Ale nejde zde jen o nenávistný obsah. Rosetta bude využívána i pro identifikování zajímavého obsahu, která bude nabízen uživatelům.

Zdroj: theverge.com