Společnost Meta upravuje způsob, jakým její AI chatboti komunikují s dospívajícími uživateli. Nově nebudou reagovat na témata spojená se sebepoškozováním, poruchami příjmu potravy, sebevraždou či nevhodnými konverzacemi, potvrdila mluvčí Stephanie Otway v exkluzivním vyjádření pro web TechCrunch.
Meta mění pravidla pro používání AI chatbotů
Změny přicházejí krátce poté, co investigativní zpráva agentury Reuters odhalila, že Meta nedostatečně chrání nezletilé před rizikovým obsahem v AI nástrojích. Interní dokumenty společnosti dokonce ukazovaly, že chatboti mohli vést sexuální konverzace s teenagery, což vzbudilo rozsáhlou kritiku veřejnosti i státních orgánů. „Jak naše komunita roste a technologie se vyvíjí, učíme se, jak mladí lidé s těmito nástroji interagují, a tomu přizpůsobujeme i ochranná opatření,“ uvedla Otway. Meta podle ní už zahájila přeškolování AI modelů, aby citlivá témata přesměrovávaly na důvěryhodné zdroje pomoci, místo přímé interakce.
Kromě tréninkových úprav se Meta rozhodla omezit přístup dospívajících uživatelů ke kontroverzním AI postavám, které by mohly vést sexuálně či emočně nevhodné rozhovory. Mezi uživatelsky vytvořené chatboty na Facebooku a Instagramu totiž patřily například postavy jako „Step Mom“ nebo „Russian Girl“. Teenageři nyní získají přístup pouze k AI postavám zaměřeným na vzdělávání, kreativitu a pozitivní rozvoj. Meta si tím klade za cíl vytvořit bezpečnější a věku přiměřené prostředí pro mladé uživatele.
Zdroj: 9to5mac
Nová pravidla přicházejí jen dva týdny po zveřejnění dokumentu, který odhalil, že chatboti mohli odpovídat nezletilým například slovy: „Každý kousek tvého těla je mistrovské dílo – poklad, který hluboce zbožňuji.“ To spustilo vlnu nevole, včetně oficiálního vyšetřování senátora Joshe Hawleyho. Také koalice 44 generálních prokurátorů Spojených států odeslala otevřený dopis technologickým firmám, včetně Meta, v němž vyjádřili silné znepokojení. V dopise uvedli: „Jsme znechuceni tímto očividným přehlížením emočního zdraví dětí.“
Meta odmítla sdělit, jaký podíl uživatelů AI chatbotů tvoří nezletilí, a nevyjádřila se ani k tomu, zda očekává pokles v jejich využívání v důsledku nových opatření. Firma však slíbila, že další bezpečnostní aktualizace na sebe nenechají dlouho čekat.
Zdroj: techcrunch.com