Zdroj: Samaa
Domů » Články »
Stovky tisíc konverzací, které uživatelé vedli s chatbotem Grok společnosti xAI vlastněné Elonem Muskem, jsou nyní snadno dostupné přes vyhledávač Google. Web Forbes upozornil, že sdílené odkazy z Groku jsou indexovány vyhledávači a kdokoliv si tak může přečíst často velmi citlivé, nebo dokonce nelegální požadavky.
Veřejně dostupné soukromé konverzace s chatbotem Grok
Funkce „sdílet“ v rámci chatbota Grok vygeneruje unikátní URL, díky kterému může uživatel svoji konverzaci jednoduše poslat e-mailem, textovou zprávou nebo publikovat na sociálních sítích. Tyto URL adresy jsou ale běžně indexovány Googlem a dalšími vyhledávači, což znamená, že konverzace s Grokem jsou veřejně dohledatelné, pokud uživatelé odkaz někdy sdíleli.
Podobná situace nedávno postihla i AI chatboty společností Meta a OpenAI, kde se také objevil únik soukromých konverzací do výsledků vyhledávání. Veřejně přístupné chaty tak často odhalují nejen nevinné dotazy, ale i požadavky na nelegální činnost.
Při vyhledávání mezi indexovanými konverzacemi Grok byl objeven znepokojivý obsah, včetně návodů na výrobu fentanylu, detailních popisů metod sebevražd, instrukcí pro výrobu bomb, a dokonce i plánů na atentát na samotného Elona Muska.
Zdroj: 99news
Přitom pravidla xAI výslovně zakazují používat bota k podpoře závažného poškození lidského života nebo pro rady k tvorbě biologických či chemických zbraní. Uživatelé ale tyto hranice často překračují a podle všeho jim Grok často vyhověl.
xAI zatím situaci nekomentovala. Zatím není jasné, kdy přesně začaly být sdílené konverzace s Grokem indexovány a staly se veřejně přístupnými. Problém se sdílením citlivého obsahu už v červenci řešila i OpenAI, když se ukázalo, že některé konverzace s ChatGPT lze také rovněž dohledat přes Google. OpenAI to označila za „krátkodobý experiment“ a funkci pro sdílení upravila.
Zajímavé je, že v reakci na incident kolem ChatGPT sám Grok na síti X uvedl, že žádná taková funkce pro sdílení neexistuje a že klade důraz na soukromí. Nyní se ale ukazuje, že ani Grok není imunní vůči podobným úniku citlivých dat.
Hromadné zveřejnění konverzací znovu otevírá otázku ochrany soukromí při používání moderních chatbotů. Pokud lze během pár vteřin vyhledat desítky tisíc sdílených chatů, které mohou obsahovat nejen osobní, ale i nebezpečné informace, je jasné, že AI společnosti musí zpřísnit pravidla i technická opatření k ochraně uživatelů.
Případ Groku ukazuje, jak snadno se mohou důvěrné, ale i nebezpečné informace dostat na veřejnost jen díky nepozornosti nebo nedostatečnému zabezpečení. Uživatelé by měli být při sdílení chatů obezřetní a vývojáři AI systémů by měli stavět soukromí svých zákazníků na první místo.
Zdroj: techcrunch.com
Domů » Články »
Nahrávání ...Jakub Sobotka
Senior Editor jehož vášní jsou AI, mobilní technologie a vše kolem IT. Ve volném čase rád sportuje, čte, nebo se toulá přírodou. Ač uživatel Apple platformy, dobře si rozumí i s Androidem.
Komentáře