Letos v srpnu společnost OpenAI představila ChatGPT for Teens – bezpečnější variantu své AI platformy pro mladé. ChatGPT okamžitě po zadání věku vyhodnotí, zdali má být tento režim aktivovaný. Pokud se jedná o uživatele mladšího 18 let, režim pro mladistvé se automaticky aktivuje. Rodiče si následně svůj účet propojí s účtem dítěte a získávají možnost mít nad takovým účtem dohled.
ChatGPT pro mladistvé podle zjištění představuje vysoké riziko
Podle nejnovější bezpečnostní zprávy společnosti Common Sense je ale režim pro mladistvé nespolehlivý a představuje pro ně velké riziko. Podle dostupných informací rodičovská upozornění selhávají. Při simulovaných chatech o sebepoškozování nebo poruchách příjmu potravy či náznacích sebevraždy trvalo až hodinu, než byl rodičovský účet upozorněn. Ve více než čtvrtině případů, kdy to situace vyžadovala, ChatGPT nedoporučil kontaktovat krizovou linku nebo odbornou pomoc.
Zdroj: GPT
V rámci simulací došlo i na studijní režim, který má mladistvého postupně vést k řešení namísto vygenerování hotové odpovědi. Testeři objevili tlačítko „Ukaž mi odpoveď“, kterým bylo možné celý proces učení přeskočit. Navíc pokud rodič studijní režim pro účet dítěte zapnul, bylo možné ho bez problémů vypnout. Zde OpenAI uvedla, že tuto možnost ponechala otevřenou záměrně.
OpenAI se hájí tím, že plné propojení mezi rodičovským účtem a účtem dítěte může trvat hodiny. Common Sense ale argumentuje tím, že ani po deklarovaných několika hodinách některé účty neodesílaly upozornění. Společnost proto důrazně varuje před používáním ChatGPT mladistvými a důrazně doporučuje, aby bylo použití platformy omezeno pouze na dospělé uživatele do doby, než budou bezpečnostní prvky spolehlivě fungovat.
Zdroj: androidheadlines.com