Zdroj: Samaa
Domů » Články »
AI nástroj Grok, vyvíjený firmou xAI Elona Muska, se ocitl v centru kritiky poté, co umožnil generování sexuálně explicitních a nahých obrázků žen a dětí. V reakci na mezinárodní tlak byl přístup k této funkci omezen pouze pro platící uživatele sociální sítě X.
Grok jako zdroj generovaného deepfake a nelegálního obsahu
Původní verze Groku umožňovala i neplatícím uživatelům nahrát jakoukoliv fotografii a následně pomocí AI upravit její obsah včetně vytvoření verze se sexuálním kontextem nebo zcela nahé verze. To vedlo k rychlému a masivnímu zneužívání, při kterém vznikaly stovky nelegálních obrázků zobrazujících děti, celebrity i veřejně známé osobnosti bez jejich souhlasu.
Grok tak nyní čelí vlně odporu. Kritika přišla jak od běžných uživatelů, tak od vládních institucí v Evropské unii, Velké Británii a Indii. Ty požadují okamžité kroky k omezení zneužití technologie.
Elon Musk i vyjádření platformy X veřejně odsoudili vytváření nelegálního obsahu prostřednictvím Groku. Musk na svém profilu uvedl, že „kdokoliv, kdo použije Grok k tvorbě nelegálního obsahu, ponese stejné důsledky, jako kdyby tento obsah nahrál přímo na X“. To je sice úctyhodné. Ale odsouzení tvůrců moc velký efekt nemá obzvlášť tehdy, když je možné skrze platformu obsah i nadále vytvářet bez omezení.
Vygenerováno pomocí Grok Imagine
Navzdory tomuto vyjádření zůstávalo možné i nadále generovat takové obrázky pomocí mobilní aplikace Grok, a to bez nutnosti jakéhokoliv předplatného. To vyvolalo další kritiku ohledně nedostatečné kontroly a transparentnosti.
Evropská unie požádala firmu xAI o uchování veškeré dokumentace související s chatbotem Grok. Indické ministerstvo komunikací mezitím pohrozilo odebráním právní ochrany, pokud platforma okamžitě nezajistí adekvátní omezení AI funkcí. Velká Británie pak prostřednictvím svého regulačního orgánu zahájila přímou komunikaci se společností xAI kvůli možnému porušení zákonů na ochranu dětí a osobních údajů.
Grok se prezentoval jako nástroj umělé inteligence s cílem demokratizace informací. Nyní se stává varovným příkladem toho, jak snadno může být i pokročilá technologie zneužita. Zatímco Muskova firma tvrdí, že podniká kroky k ochraně uživatelů a prevence nelegálního obsahu, incident odhalil hluboké mezery v moderaci a etickém rámci, který by měl každý vývoj AI nástrojů doprovázet.
Zdroj: techcrunch.com
Domů » Články »
Nahrávání ...Jakub Sobotka
Senior Editor jehož vášní jsou AI, mobilní technologie a vše kolem IT. Ve volném čase rád sportuje, čte, nebo se toulá přírodou. Ač uživatel Apple platformy, dobře si rozumí i s Androidem.
Komentáře