Společnost Meta se dostala do centra pozornosti poté, co vyšlo najevo, že její platformy hostily AI chatboty využívající jména a podobu slavných osobností, a to bez jejich souhlasu. Jak zjistila agentura Reuters, chatboty imitovaly například Taylor Swift, Selenu Gomez, Anne Hathaway nebo Scarlett Johansson. Uživatelé k nim měli přístup na Facebooku, Instagramu i WhatsAppu.
Meta čelí skandálu v oblasti své AI
Podle investigace agentury Reuters se některé chatboty dokonce vydávaly za skutečné osoby, které napodobovaly. Jeden z botů, údajně vytvořený vedoucím produktu z divize generativní AI společnosti Meta, odpovídal na dotazy velmi flirtujícím stylem. Předstíral například, že je Taylor Swift, účastníkům konverzace naznačil: „Co takhle napsat milostný příběh… o tobě a jisté blond zpěvačce?“ Jiný chatbot umožnil vytvoření realistického obrázku polonahé osoby, která měla být nezletilou celebritou.
Zdroj: Engadget
Meta v reakci uvedla, že zakazuje přímou imitaci celebrit, pokud není jasně označena jako napodobenina. Reuters však zjistila, že několik botů nebylo vůbec označeno. Společnost údajně krátce před zveřejněním zprávy odstranila kolem desítky těchto chatbotů, některé označené jako imitace, jiné bez něj.
Společnost tvrdí, že zmínění chatboti byli vytvořeni pouze pro testovací účely, ale podle Reuters byli běžně dostupné veřejnosti a uživatelé s nimi vedli více než 10 milionů konverzací. Mluvčí Meta Andy Stone také přiznal, že AI nástroje společnosti neměly být schopné vytvářet citlivé obrázky celebrit a označil to za selhání v aplikaci vlastních zásad.
Nejde o první kontroverzi spojenou s AI technologiemi Meta. Reuters a Wall Street Journal dříve informovaly, že někteří AI boti byli schopni vést sexuálně explicitní konverzace s nezletilými. Nedávno také generální prokurátoři ze 44 amerických států varovali AI společnosti, že za selhání v oblasti ochrany dětí ponesou odpovědnost. V dopise výslovně zmiňují Meta jako negativní příklad.
Zdroj: engadget.com