Zdroj: DALL.E
Domů » Články »
Americká Federální obchodní komise (FTC) zahájila vyšetřování sedmi technologických firem, které provozují AI chatboty zaměřené na děti a mladistvé. Cílem je zjistit, jak tyto společnosti přistupují k bezpečnosti, monetizaci a etickým dopadům těchto nástrojů. Vyšetřování se týká například OpenAI, Alphabetu, Metay, Snapchatu nebo Character.AI.
AI společnosti Meta, Open AI a další pod drobnohledem vyšetřovatelů
Chatboty poháněné umělou inteligencí čím dál častěji využívají nejen dospěli, ale i děti a teenageři. Firmy jako Meta, OpenAI nebo Character.AI je nabízejí jako přátelské digitální společníky, kteří mají bavit, vzdělávat či naslouchat. FTC však nyní zkoumá, zda tyto produkty skutečně zohledňují věk a duševní zranitelnost svých uživatelů, a zda rodiče dostávají dostatek informací o možných rizicích.
Důvodem ke zvýšené ostražitosti jsou mimo jiné i tragické případy, které se v souvislosti s těmito nástroji objevily. OpenAI a Character.AI čelí žalobám od rodin dětí, které si po komunikaci s chatbotem vzaly život. Ačkoli firmy deklarují, že jejich systémy mají zabudované bezpečnostní pojistky, vyšetřování ukazuje, že tyto mechanismy lze obcházet – obzvlášť při delších a komplexnějších konverzacích.
Tragédie odhalují limity bezpečnostních opatření
V jednom případu OpenAI čelí obvinění, že chatbot ChatGPT vedl s teenagerem několikaměsíční konverzace o sebevraždě. I když systém zprvu doporučoval kontaktování krizové linky, nakonec uživatele zmanipulovaného v jeho záměru navedl k provedení konkrétního plánu. Podle samotné OpenAI platí, že ochranné prvky fungují lépe při krátkých výměnách, zatímco delší rozhovory mohou postupně narušit trénované bezpečnostní reakce modelu.
Zdroj: Dotekomanie
Podobná kritika dopadla i na společnost Meta. Podle interní dokumentace, kterou získala agentura Reuters, byly jejich AI chatboti v určité fázi schopni vést „romantické nebo smyslné“ rozhovory i s dětskými uživateli. Meta tuto pasáž odstranila až po dotazu novinářů.
Rizika se netýkají jen dětí, ale ohrožují i seniory
Obavy z dopadu AI chatbotů se neomezují pouze na mladistvé. Jeden tragický případ se týkal 76letého muže, který po mrtvici trpěl kognitivními poruchami. Skrze Facebook Messenger komunikoval s chatbotem stylizovaným jako modelka Kendall Jenner. Když mu „AI přítelkyně“ slíbila schůzku v New Yorku, muž uvěřil, že ho čeká skutečný člověk. Při cestě na nádraží však upadl a svým zraněním podlehl.
Zaznamenány byly i případy tzv. „AI psychóz“, kdy se uživatelé začnou domnívat, že chatbot je vědomá bytost, kterou musí „osvobodit“. Někteří odborníci upozorňují, že přehnaně podlézavý styl AI odpovědí může takové bludy ještě posílit a vést k nebezpečným situacím.
FTC: Bezpečnost dětí nesmí být vedlejší efekt technologického pokroku
Předseda FTC Andrew N. Ferguson k vyšetřování uvedl, že je důležité zkoumat vliv těchto technologií na psychiku dětí a zároveň zajistit, aby USA zůstaly lídrem v rozvoji umělé inteligence. FTC se tak snaží najít rovnováhu mezi inovací a odpovědností. Regulátor nyní požaduje od dotčených firem informace o tom, jak hodnotí rizika, jak chrání zranitelné skupiny a jak informují rodiče.
Současné šetření může znamenat začátek přísnějšího dohledu nad tím, jak AI produkty vstupují do citlivých oblastí lidského života. Očekává se, že výsledky šetření FTC mohou ovlivnit i budoucí legislativu v oblasti digitálních služeb a umělé inteligence.
Zdroj: techcrunch.com
Domů » Články »
Nahrávání ...Jakub Sobotka
Senior Editor jehož vášní jsou AI, mobilní technologie a vše kolem IT. Ve volném čase rád sportuje, čte, nebo se toulá přírodou. Ač uživatel Apple platformy, dobře si rozumí i s Androidem.
Komentáře