Zdroj: Dotekomanie
Domů » Články » Meta ve své aplikaci WhatsApp začíná testovat novou volitelnou AI funkci Scam Alert, která dokáže uživatele upozornit na zprávy vykazující známky podvodu. S ohledem na stále se zvětšující číslo aktivních uživatelů tato funkce dává smysl. Důležité je, že analýza konverzací probíhá přímo v telefonu pomocí strojového učení. Podle Mety se uživatelé nemusí být o své soukromí, analýza zpráv probíhá lokálně na zařízení.
WhatsApp upozorní na konverzaci, která připomíná podvod
Pokud model vyhodnotí zprávu jako pravděpodobný pokus o podvod, přímo v konverzaci zobrazí varování. Druhá strana toto upozornění neuvidí. Uživatel se následně může rozhodnout, zda kontakt zablokuje, nahlásí, nebo bude pokračovat v komunikaci. Systém na analýzu samozřejmě nemusí být neomylný. Pokud WhatsApp označí legitimní konverzaci, uživatel ji může označit za důvěryhodnou. Varování následně zmizí a Scam Alert už tuto konkrétní konverzaci nebude ověřovat a označovat. V takovém případě může uživatel také dobrovolně poskytnout službě WhatsApp posledních 5 přijatých zpráv, které poslouží k vylepšení přesnosti funkce.
Zprávy kvůli kontrole neopouštějí telefon
Meta uvádí, že při zapnuté funkci Scam Alert neopouští obsah analyzovaných zpráv zařízení, což je dobrá zpráva pro všechny, kdo by měli strach z narušení soukromí. Systém zároveň podezřelé zprávy automaticky neposílá WhatsApp, Metě ani nikam jinam. Funkce je navíc volitelná a uživatel ji může kdykoliv vypnout respektive ve výchozím stavu by měla být vypnutá. V současnosti se Scam Alert zavádí pouze v rámci omezeného beta testování.
Zdroj: Meta
Meta má k zavádění podobných nástrojů rozhodně dobrý důvod. WhatsApp se poměrně často využívá například k podvodům s převody peněz nebo k takzvaným „pig butchering“ podvodům. Při nich si útočník dlouhodobě buduje důvěru své oběti, aby ji následně přesvědčil k zaslání peněz nebo falešné investici. Toto nebezpečí může číhat hlavně v rámci kanálů a skupin, kde komunikuje velké množství lidí a nemusí být lehké hned odhalit záměry lidí, se kterými si píšeme. Vysoce zranitelnou skupinou jsou mladiství a děti, kteří dnes v rámci WhatsApp intenzivně komunikují.
Podle americké Federal Trade Commission (FTC) nahlásily oběti za minulý rok ztráty způsobené podvody přes WhatsApp ve výši 425 milionů dolarů. Celkové nahlášené ztráty spojené s podvody na sociálních sítích přitom přesáhly 2,1 miliardy dolarů. Scam Alert není prvním podobným bezpečnostním opatřením na WhatsApp. Meta už dříve v letošním roce spustila také detekci podvodů souvisejících s požadavky na propojení zařízení. Novinka nyní ochranu rozšiřuje přímo na obsah podezřelých konverzací.
Zdroje: theverge.com, engineering.fb.com
Domů » Články »
Jakub Sobotka
Senior Editor jehož vášní jsou AI, mobilní technologie a vše kolem IT. Ve volném čase rád sportuje, čte, nebo se toulá přírodou. Ač uživatel Apple platformy, dobře si rozumí i s Androidem.
Komentáře