Meta, mateřská společnost Facebooku, podniká další krok ve sběru dat pro vývoj svých AI modelů, tentokrát se zaměřuje na fotografie, které jste nikdy nezveřejnili. Zatímco dříve Meta trénovala své AI systémy výhradně na veřejných příspěvcích z Facebooku a Instagramu, nově zkoumá možnost zpracovávat i obsah uložený pouze ve vašem zařízení. Facebook tak začíná testovat funkci, která může nahrávat a analyzovat snímky z vaší soukromé galerie.
Facebook si s respektováním soukromí moc hlavu neláme
Někteří uživatelé si všimli nového vyskakovacího okna při pokusu o přidání fotografie do Facebook Story. Zobrazí se nabídka na aktivaci funkce „cloud processing“, která by pravidelně přistupovala k obsahu z vašeho fotoaparátu a nahrávala jej do cloudu. Cílem má být nabídnout návrhy na koláže, vzpomínková videa nebo AI úpravy s tematickým zaměřením, například na svatby, narozeniny nebo domácí mazlíčky.
Problémem však není jen samotné nahrávání. Uživatel tímto uděluje Facebooku souhlas ke zpracování „médií a obličejových rysů“, včetně identifikace osob, objektů a data pořízení. Podle Meta tak dochází k využití osobních údajů k dalšímu zpracování – ačkoliv společnost tvrdí, že fotografie zatím nejsou využívány k trénování AI modelů.
Zdroj: Dotekomanie
Oficiální postoj Meta je, že funkce je ve velmi rané fázi vývoje, je zcela volitelná a data se používají pouze k vytváření návrhů, které se zobrazují jen uživateli. Funkci lze kdykoli deaktivovat, a po jejím vypnutí se data mají po 30 dnech automaticky mazat. Nicméně Meta zároveň přiznává, že některé návrhy mohou zahrnovat starší obsah, což zpochybňuje časové omezení uchovávání dat.
Zejména znepokojivý je fakt, že podmínky služby neobsahují výslovné ustanovení, že soukromě nahrané fotografie nebudou v budoucnu použity pro trénink AI. Společnost Meta se těmto otázkám ve veřejných vyjádřeních vyhýbá a opakovaně odmítla poskytnout konkrétní záruky.
Srovnání se nabízí s Fotkami Google, kde uživatelé také dostávají AI návrhy a editace. Google ovšem jasně deklaruje, že jejich generativní AI není trénována na osobních datech z těchto fotografií. Meta tak zatím zůstává v nejasné šedé zóně, kterou kritici vnímají jako potenciálně zneužitelnou.
Přestože Meta tvrdí, že současný test neslouží k trénování AI, jeho zavedení vytváří precedens, kdy uživatelé mohou nevědomky zpřístupnit intimní části svých digitálních životů algoritmům. Na sociálních sítích se objevují zprávy uživatelů, kteří si všimli, že Facebook automaticky stylizoval jejich fotografie pomocí AI bez výslovného souhlasu – v jednom případě šlo dokonce o svatební snímky upravené do podoby inspirované studiem Ghibli. Facebook tak opět posouvá hranice toho, co znamená soukromí ve věku umělé inteligence. Zatím s možností opt-out, ale otázkou zůstává, na jak dlouho.
Zdroj: theverge.com