Společnost Meta oznámila, že Instagram začne v následujících týdnech upozorňovat rodiče, pokud jejich dospívající děti opakovaně vyhledávají výrazy související se sebevraždou nebo sebepoškozováním. Nová funkce je určena pro rodiče, kteří mají aktivovanou rodičovskou kontrolu v rámci Instagramu.
Instagram vylepšuje ochranu mladistvých na své platformě
Instagram již delší dobu blokuje vyhledávání konkrétních výrazů, které mohou odkazovat na nebezpečný nebo sebedestruktivní obsah. Nové upozornění ale cílí na opakované pokusy. Pokud dospívající dítě několikrát během krátké doby hledá tato témata, bude rodič informován formou upozornění.
Co může upozornění aktivovat?
Podle Instagramu se jedná o hledané výrazy, které:
- přímo podporují sebepoškozování nebo sebevraždu;
- naznačují riziko, že si mladistvý může chtít ublížit;
- zahrnují obecné výrazy jako „sebevražda“ nebo „sebe poškození“.
Notifikace má být odeslána e-mailem, SMS nebo přes WhatsApp (dle kontaktních údajů) a zobrazí se i v aplikaci. Součástí oznámení jsou také zdroje a doporučení, jak s teenagerem bezpečně a citlivě otevřít dané téma.
Opatření přichází v době sílících žalob proti sociálním sítím
Meta čelí rostoucímu tlaku soudních žalob, které se snaží sociální sítě hnát k odpovědnosti za negativní dopady na duševní zdraví mladistvých. Na nedávném slyšení u soudu v Kalifornii byl například šéf Instagramu Adam Mosseri dotazován na opožděné zavedení základních bezpečnostních funkcí včetně filtru nahoty v soukromých zprávách.
Zdroj: Techcrunch
Interní výzkum společnosti Meta navíc ukázal, že rodičovské nástroje mají jen omezený dopad na regulaci užívání sociálních sítí, zejména u dětí, které čelí stresujícím životním událostem.
Společnost zdůrazňuje, že notifikace nebude posílat při každém pokusu o hledání, ale pouze při opakovaných pokusech v krátkém časovém rámci. Cílem je najít rovnováhu mezi zbytečným alarmováním a skutečnou prevencí. „Chceme být opatrní, ale zároveň se držet zásady bezpečnosti. Raději občas upozorníme i bez reálného rizika, než bychom zůstali zcela pasivní,“ uvedl tým Instagramu ve svém blogovém příspěvku.
Kdy bude funkce dostupná?
Dostupná bude od příštího týdne v USA, Velké Británii, Austrálii a Kanadě, s plánovaným rozšířením do dalších regionů ještě v průběhu letošního roku. Do budoucna Instagram plánuje rozšířit upozornění také na případy, kdy dítě začne vést konverzaci s AI v rámci Instagramu na téma sebevraždy nebo sebepoškozování.
Zdroj: techcrunch.com