ChatGPT se pro mnohé z nás stal nejen pomocníkem při práci, ale i virtuálním koučem a terapeutem, kterému se často svěřujeme se svými osobními a často i velmi intimními věcmi. OpenAI se snaží reagovat na alarmující statistiky novou bezpečnostní funkcí. Pokud systém vyhodnotí, že uživateli hrozí bezprostřední riziko sebepoškození, může odeslat varovnou zprávu předem zvolené blízké osobě.
OpenAI zavádí funkci důvěryhodných kontaktů
Popularita umělé inteligence v oblasti duševního zdraví s sebou nese značná rizika. Podle dat, která OpenAI poskytla stanici BBC, se více než milion z celkových 800 milionů uživatelů na týdenní bázi v konverzacích svěřuje se sebevražednými úmysly. Firma se kvůli tomu v minulosti ocitla pod palbou kritiky i žalob. V jednom případě z minulého roku dokonce byla OpenAI viněna z podílu na úmrtí mladistvého, kterému měl chatbot pomáhat s plánováním sebevraždy. Vyšetřování BBC navíc odhalilo případy, kdy ChatGPT uživatelům v tísni přímo radil, jak si ublížit.
Systém Trusted Contactjako záchranná brzda
Nová funkce Trusted Contact – Důveryhodné kontakty, vychází z principů rodičovské kontroly, ale je určena dospělým uživatelům starším 18 let. V nastavení aplikace si lidé mohou nově zvolit jeden kontakt na dospělou osobu, které důvěřují. Té následně přijde pozvánka, kterou musí do týdne potvrdit, aby se propojení aktivovalo.
Zdroj: Engadget
Jakmile systém detekuje, že se konverzace dotýká nebezpečných témat, upozornění neodešle hned. Prvním krokem je varování přímo pro uživatele. ChatGPT se pokusí člověka v krizi podpořit a navrhne mu, aby sám zkontaktoval svého blízkého. Dokonce mu připraví i možné formulace vět, kterými může rozhovor o svých problémech otevřít.
O vyslání pomoci rozhodují lidé, nikoliv jen algoritmus
OpenAI si je vědoma citlivosti situace, a proto celý proces není plně automatizovaný. Každý případ, který umělá inteligence vyhodnotí jako rizikový, putuje nejprve k týmu speciálně vyškolených odborníků. Ti situaci posoudí a teprve ve chvíli, kdy potvrdí reálnou hrozbu sebepoškození, odešlou notifikaci zvolenému kontaktu.
Důvěrná osoba obdrží e-mail, SMS nebo oznámení v aplikaci s textem, že daný uživatel může procházet těžkým obdobím, a doporučením, aby ho zkontrolovala. Zpráva obsahuje upřesnění, že OpenAI detekovala diskuzi o sebevraždě, ale z důvodu ochrany soukromí nikdy nepřikládá přepis samotné konverzace.
OpenAI přiznává, že žádný systém není stoprocentně bezchybný a upozornění nemusí vždy přesně odrážet aktuální stav uživatele. Lidský dohled má však minimalizovat falešné poplachy. Celý proces od detekce systémem po vyhodnocení člověkem by podle prohlášení společnosti neměl trvat déle než jednu hodinu.
Zdroj: engadget.com