
Zdroj: REUTERS / Dado Ruvic
OpenAI podle nejnovějších zpráv zavádí nové bezpečnostní nástroje, které by měly zvýšit účinnost v boji proti obsahu zobrazujícím sexuální zneužívání dětí. Tento obsah je také označovaný jako CSAM. Opatření obsahuje nový systém pro rozpoznávání závadného obrazového obsahu, přísnější kontroly v ChatGPT a také nástroje určené vývojářům a pro potřeby vyšetřování. OpenAI reaguje na rostoucí obavy ze zneužívání umělé inteligence k vytváření nelegálního obsahu.
Nový AI systém dokáže rozpoznat i dosud neznámé obrázky
OpenAI vyvinula nový obrazový klasifikátor ve spolupráci s americkou organizací National Center for Missing and Exploited Children (NCMEC). Tento nástroj dokáže vyhledávat známky sexuálního zneužívání dětí i na dosud neznámých snímcích, včetně těch, které byly vytvořeny, nebo upraveny pomocí umělé inteligence. Systém přiřazuje každému obrázku skóre rizikovosti, které pomáhá lidským moderátorům vyhodnocovat, jakým případům věnovat prioritní pozornost. Samotné vyhodnocení algoritmem však ještě neznamená, že je obsah opravdu závadný, ale slouží k prvotní identifikaci a má usnadnit práci lidským moderátorům.
Výsledky prvních testů ukazují, že nový klasifikační systém dokázal snížit počet obrázků označených ke kontrole o 48 %, aniž by klesl počet odhalených případů zneužívání. Pravděpodobnost, že označený snímek skutečně obsahuje závadný materiál, se navíc přibližně zdvojnásobila. Nový nástroj by měl být také bezplatně dostupný pro vybrané organizace skrze API rozhraní.
Nová opatření se mají týkat také ChatGPT aplikace. Pokud se uživatel pokusí vyhledávat nebo získat obsah týkající se sexuality dětí, zobrazí se varování, dojde k ukončení konverzace a účet může být na 24 hodin zablokován. Součástí upozornění budou také odkazy na odbornou pomoc zaměřenou na prevenci škodlivého chování. Při opakovaném porušení pravidel může OpenAI přistoupit k delšímu omezení používání nebo trvalému smazání účtu.
Zdroj: techcrunch.com
Získejte Dotekománie Premium Kolik měsíčně platíte operátorovi za svůj mobilní tarif?



Komentáře