OpenAI chce lépe chránit mladistvé, ChatGPT bude nově varovat uživatele a blokovat účty kvůli nevhodnému obsahu

OpenAI chce lépe chránit mladistvé, ChatGPT bude nově varovat uživatele a blokovat účty kvůli nevhodnému obsahu

Zdroj: REUTERS / Dado Ruvic

OpenAI podle nejnovějších zpráv zavádí nové bezpečnostní nástroje, které by měly zvýšit účinnost v boji proti obsahu zobrazujícím sexuální zneužívání dětí. Tento obsah je také označovaný jako CSAM. Opatření obsahuje nový systém pro rozpoznávání závadného obrazového obsahu, přísnější kontroly v ChatGPT a také nástroje určené vývojářům a pro potřeby vyšetřování. OpenAI reaguje na rostoucí obavy ze zneužívání umělé inteligence k vytváření nelegálního obsahu.

Nový AI systém dokáže rozpoznat i dosud neznámé obrázky

OpenAI vyvinula nový obrazový klasifikátor ve spolupráci s americkou organizací National Center for Missing and Exploited Children (NCMEC). Tento nástroj dokáže vyhledávat známky sexuálního zneužívání dětí i na dosud neznámých snímcích, včetně těch, které byly vytvořeny, nebo upraveny pomocí umělé inteligence. Systém přiřazuje každému obrázku skóre rizikovosti, které pomáhá lidským moderátorům vyhodnocovat, jakým případům věnovat prioritní pozornost. Samotné vyhodnocení algoritmem však ještě neznamená, že je obsah opravdu závadný, ale slouží k prvotní identifikaci a má usnadnit práci lidským moderátorům.

Openai Chatgpt Csam

Zdroj: Techcrunch

Výsledky prvních testů ukazují, že nový klasifikační systém dokázal snížit počet obrázků označených ke kontrole o 48 %, aniž by klesl počet odhalených případů zneužívání. Pravděpodobnost, že označený snímek skutečně obsahuje závadný materiál, se navíc přibližně zdvojnásobila. Nový nástroj by měl být také bezplatně dostupný pro vybrané organizace skrze API rozhraní.

Nová opatření se mají týkat také ChatGPT aplikace. Pokud se uživatel pokusí vyhledávat nebo získat obsah týkající se sexuality dětí, zobrazí se varování, dojde k ukončení konverzace a účet může být na 24 hodin zablokován. Součástí upozornění budou také odkazy na odbornou pomoc zaměřenou na prevenci škodlivého chování. Při opakovaném porušení pravidel může OpenAI přistoupit k delšímu omezení používání nebo trvalému smazání účtu.

Zdroj: techcrunch.com

Dnešní čtenářská akce
Dotekománie Premium
Dotekománie Získejte Dotekománie Premium
Čtěte náš magazín zcela bez reklam, odemkněte prémiové funkce a podpořte nezávislou českou novinařinu.

Dotykový MacBook za raketu! 💻 Mobil s větráčky a konec levných iPhonů? 🍏

Kolik měsíčně platíte operátorovi za svůj mobilní tarif?

Načítání ankety...

Profilovka

Senior Editor jehož vášní jsou AI, mobilní technologie a vše kolem IT. Ve volném čase rád sportuje, čte, nebo se toulá přírodou. Ač uživatel Apple platformy, dobře si rozumí i s Androidem.

Nahlásit chybu v článku
Našli jste v textu překlep nebo věcnou chybu? Dejte nám vědět.
reklama
NejPripojeni

Komentáře

Dotekománie.cz

Přidat komentář

Pro komentování se musíte přihlásit