Vodafone spojuje síly se Synhawk: Nová obrana proti AI podvodům v reálném čase

Zprava doleva Matyáš Boháček- Lukáš Floral- Veronika Brázdilová- Václav Moravec; Zdroj: Vodafone

Dnešní umělá inteligence v rukách podvodníků již připravuje nejen firmy o nemalé finance. Příklad je podvod uskutečněný na britskou inženýrskou společnost Arup. Ta přišla skrze deepfake podvod o 25 milionů dolarů. Firmy na to reagují a snaží se budovat systémy na ochranu, zejména s cílem odhalovat AI obsah podvodného charakteru, tedy i deepfake. Vodafone kvůli tomu uzavřel strategické partnerství se společností Synhawk.

Bič na AI podvody?

Konkrétně půjde o nasazení technologie, která byla vyvinuta Maty Boháčkem, výzkumníkem v oblasti umělé inteligence a deepfake technologií na Stanfordově univerzitě a spoluzakladatelem společnosti Synhawk. Dělí se celkem na tři úrovně, každá zaměřená na jinou kategorii.

„Generativní umělá inteligence zásadně změnila ekonomiku podvodů. Útoky, které dříve vyžadovaly odborné znalosti a značné lidské kapacity, jsou dnes levné, snadno škálovatelné a mnohem sofistikovanější. Naší odpovědností jako operátora je stejným způsobem změnit ekonomiku obrany. Proto jsme mezi prvními v Evropě, kdo zákazníkům a zákaznicím přináší detekci deepfake obsahu v reálném čase, od mobilní aplikace až po síťovou vrstvu,“ uvádí Violeta Luca, generální ředitelka Vodafonu v České republice.

V první řadě se dočkáme aplikace Vodafone Verify, která bude sloužit uživatelům pro ověření obsahu. Bude k dispozici pro Android a iOS. Umožní analyzovat různé typy obsahu, například hlasové zprávy z komunikačních aplikací typu WhatsApp, Messenger apod., fotografie nebo videa. V tomto případě se bude využívat lokální model na zařízení a nic se nebude odesílat na servery, takže bude z tohoto pohledu ctít soukromí uživatele. Aplikace bude dostupná hlavně pro klienty Vodafonu a pak různé instituce. Bude uvedena na podzim tohoto roku.

„Deepfakes, syntetické identity a AI generované podvody představují jednu z největších bezpečnostních výzev digitální éry. Ochrana autenticity lidské komunikace se stává novou kategorií digitální bezpečnosti. Velmi si vážíme důvěry, kterou nám Vodafone dal, a oceňujeme jeho ambici být mezi prvními operátory, kteří toto téma aktivně řeší a pomáhají určovat budoucí standardy důvěryhodné komunikace v době umělé inteligence,“ říká Lukáš Foral, CEO a spoluzakladatel společnosti Synhawk.

Druhá úroveň bude Vodafone Verify Meetings, přičemž se bude jednat o AI agenta pro online schůzky. Výsledkem by mělo být odhalení podvodu přímo v rámci video konference. Tento nástroj je cílen hlavně na firmy.

„Povaha a tempo podvodů s využitím umělé inteligence zpochybňují předpoklady, na kterých byla postavena konvenční ochrana komunikace. Efektivní obrana musí být založena na neustálém výzkumu a integrována přímo do vrstvy infrastruktury, kde komunikace probíhá, což z Vodafonu dělá přirozeného partnera. Vytvořili jsme základní modely, které analyzují veškerý dostupný kontext, a tím posuzují holistickou integritu signálu při jeho pohybu po síti. Jsme nadšeni, že můžeme i nadále rozvíjet náš výzkum a zpřístupňovat ho zákazníkům prostřednictvím tohoto partnerství,“ dodává Maty Boháček.

Třetí úroveň bude nejsofistikovanější. Jmenuje se Vodafone Verify Network a bude fungovat přímo v síti operátora. Jakmile zaznamená, že někdo bude komunikovat s deepfake osobou, klient dostane upozornění, že druhá strana není reálnou osobou. Zde ale nevíme, jestli bude nutné mít nějakou speciální aplikaci, nebo bude stačit aktuální pro zobrazení upozornění. Je možné, že varování může zaznít i během hovoru, ale budeme si muset počkat na přímé zavedení. Kdy se tak stane, ještě není zcela jasné.

Zdroj: tisková zpráva