Ilegální obsah na sociálních sítích je dnes poměrně velké téma. Ačkoliv se Meta snaží mnoha způsoby obsah eliminovat, bohužel současné nástroje nestačí. Na Facebooku, Instagramu a dalších platformách se pak objevuje obsah, ke kterému mají přístup především děti.
Meta nasazuje další systémy na detekci ilegálního obsahu
Proto Meta představuje nová bezpečnostní opatření, která mají zabránit šíření obsahu zobrazující sexuální zneužívání dětí na Facebooku a Instagramu. Zaměřuje se především na reklamy, které na první pohled vypadají neškodně, ale ve skutečnosti odkazují na nelegální obsah mimo sociální platformy. S odhalováním nově pomáhá umělá inteligence.
To jak je problém závažný ukazují zveřejněné statistiky. Od ledna do června letošního roku Meta řešila 33,2 milionu případů, které souvisely se sexuálním vydíráním dětí. Více než 97 % z těchto případů bezpečnostní mechanismy odhalily ještě před tím, než je nahlásil nějaký uživatel.
Tvůrci tohoto obsahu stále častěji obcházejí bezpečnostní kontroly skrze reklamy, které na první pohled vypadají neškodně Mohou ale obsahovat různé šikovně skryté odkazy a znaky, které uživatele navedou na externí stránky s nelegálním obsahem. Meta se proto rozhodla kontrolu reklam vylepšit a zapojila do analýzy umělou inteligenci, která má umět rozpoznat nenápadné znaky odkazující na škodlivý obsah. Další podpůrné systémy budou analyzovat nejen samotnou reklamu, ale také cílové webové stránky.
Zdroj: GPT
Umělá inteligence dokáže navíc zpětně prověřit reklamy, které předchozí bezpečnostní mechanismy nezachytily. Speciální AI agentní systém dokáže testovat případné slabiny ochrany a hledá nové způsoby jak pachatelé tyto systémy obcházejí. Meta rovněž nasazuje technologii, která dokáže rozpoznat pachatele zakládající nové účty po zablokování těch původních.
Nové AI nástroje Meta také doplňuje o technologie, které již dlouhodobě k identifikaci takového obsahu používá. Jednou z nich je PhotoDNA, jež rozpozná známé fotografie, na kterých je zachyceno sexuální zneužívání dětí podle specifických digitálních otisků. Dokáže identifikovat i téměř identické kopie obrázků. Meta tyto technologie využívá již od roku 2011. Systémy dokáží zároveň odhalit chování účtů, kontrolovat náhledy externích odkazů a blokovat weby s nelegálním obsahem. Pokud Meta závadný odkaz odhalí, automaticky ho vyhledává také v příspěvcích, komentářích a reklamách. Další zveřejňování pak zablokuje na Facebooku, Instagramu a Threads. Meta údajně nespoléhá pouze na detekční systémy, ale zapojuje do boje se zločinem i specializované týmy, ve kterých působí také bývalí vyšetřovatelé FBI. Cílem je odhalit jak zločinecké organizace fungují a odstranit jejich účty a aktivity.
Zdroj: fonearena.com