Zdroj: Images 2.0
Domů » Články » Meta představila nové bezpečnostní funkce pro svého chatbota Meta AI. Pokud systém rozpozná, že dospívající hovoří o sebevraždě nebo sebepoškozování, upozorní na to jeho rodiče pakliže mají nastavený rodičovský dohled. Firma zároveň pracuje na funkci, která v nejzávažnějších případech umožní kontaktovat záchranné složky.
Vylepšení ochrany mladistvých při konverzaci s Meta AI
Novinky přicházejí v době, kdy společnosti jako Meta a další čelí rostoucímu tlaku ze strany regulátorů i rodičů kvůli tomu, jak AI chatboti reagují v podobných situacích Meta vytvořila speciální systém umělé inteligence, který vyhledává konverzace obsahující jasné zmínky o úmyslu ublížit si.
Než bude rodičům odesláno upozornění, každou označenou konverzaci zkontroluje lidský moderátor. Pokud nebude záměr uživatele zcela jednoznačný, Meta dá přednost detailnějšímu přezkoumání ale i tak rodiče přesto upozorní. Meta připouští, že se mohou objevit i falešná upozornění, považuje je ale za přijatelnou daň za vyšší bezpečnost mladistvých.
Zdroj: Images 2.0
Nová upozornění jsou zatím dostupná rodičům využívajícím funkci Instagram Parental Supervision – tedy rodičovského dohledu na Instagramu ve Spojených státech, Velké Británii, Kanadě a Austrálii. Je však v plánu rozšířit tuto ochranu do dalších zemí ještě do konce letošního roku.
Společnost zároveň rozšířila režim Limited Content – Omezený obsah, který rodičům umožňuje nastavit přísnější prostředí pro dospívající uživatele na Instagramu. Nově se tato omezení vztahují také na Meta AI. Chatbot už nyní odmítá vést s nezletilými konverzace o sexuálních tématech, romantických vztazích nebo alkoholu. Režim omezeného obsahu nově rozšiřuje okruh dotazů, které AI nebude zpracovávat.
Meta oznámila také připravovanou funkci, která umožní kontaktovat záchranné složky, pokud konverzace s Meta AI naznačí bezprostřední riziko sebevraždy. Toto opatření se nebude týkat pouze dospívajících, ale všech uživatelů. Podobný postup už Meta několik let používá na Facebooku a Instagramu, pokud příspěvky uživatelů naznačují vážné ohrožení života. Nově chce stejný princip rozšířit také na komunikaci s Meta AI chatbotem.
Zdroj: techcrunch.com
Domů » Články » 
Nahrávání ...Jakub Sobotka
Senior Editor jehož vášní jsou AI, mobilní technologie a vše kolem IT. Ve volném čase rád sportuje, čte, nebo se toulá přírodou. Ač uživatel Apple platformy, dobře si rozumí i s Androidem.
Komentáře