Zdroj: Wikipedia
Domů » Články »
Společnost X ve své aplikaci tiše spustila novou funkci, která se snaží blokovat úpravy fotografií prostřednictvím Groku. To sice částečně funguje, ale k opravdovému vyřešení situace má toto řešení ještě hodně daleko.
Problém upravování fotek (ne)vyřešen
Začátkem roku se na sociální síti X rozšířilo zneužívání chatbotu Grok k vytváření falešných nahých fotografií. Stačilo označit Grok v odpovědi na libovolný příspěvek s fotografií a zadat pokyn. Terčem se stali běžní uživatelé, celebrity i děti a případ vyvolal ostrou reakci nejenom z médií.
Společnost X nejprve úpravu fotek skrze označení chatbota zablokovala uživatelům bezplatných účtů a ponechala ji pouze předplatitelům. Nyní ale přišla v tichosti s další funkcí, která se snaží chránit fotografie uživatelů. V nastavení X na platformě iOS se nově objevilo tlačítko, pomocí kterého můžete zablokovat Groka před úpravou vaší fotky, pokud by se ho někdo rozhodnul označit v komentářích.
Zdroj: The Verge
Má to ale háček. Zatímco v komentářích skutečně přestane Grok na pokyny k úpravě fotografií odpovídat, „záškodníkům“ stále zbývá mnoho možností, jak tuto ochranu snadno obejít. Stačí přidržet prst na fotografii a vybrat možnost „Upravit s Grokem“. Další možností je pak například stažení fotografie a opětovné nahrání do komentářů.
Skutečným řešením by přitom bylo nastavit Grok tak, aby odmítal provádět úpravy, které mohou osoby poškodit. Bez ohledu na to, odkud fotografie pochází. Dokud chatbot sám nepozná a neodmítne provést škodlivé instrukce, bude mít každá nová „ochrana“ nekonečnou mezeru. Jediné skutečné a očividné řešení leží na straně vývojářů. Ti k němu ale zatím nepřistoupili.
Zdroj: theverge.com
Domů » Články »
Nahrávání ...Jakub Jan Ondráček
Student, kterého fascinují moderní technologie. Baví ho jejich propojení s každodenním životem, od chytrých zařízení až po umělou inteligenci a elektromobily.
Komentáře