Popularita AI služeb roste a i samotné možnosti. Firmy se předhání v tom, co kdo umí rychleji, lépe nebo efektivněji. Jakmile se ale něco stane natolik populárním jako ChatGPT nebo Claude, tak se na to zaměří kyberzločinci. To se děje i nyní u těchto služeb.
Lepší oklamání
Bezpečnostní experti zachytili nové hackerské kampaně, které se snaží oklamat uživatele a donutit je stáhnout škodlivý software (malware). Využívají k tomu přímo AI služby jako ChatGPT a Claude, a to velmi jednoduše. Obě webové verze totiž umí generovat a zobrazovat HTML kód, takže útočníci využijí této nativní funkce a nechají zobrazit vygenerovanou stránku přímo v prostředí chatbota.
Aktuálně například u ChatGPT se objevují takové stránky s informací, že je služba nedostupná a že si návštěvník má stáhnout desktopovou aplikaci. Vzhledem k tomu, že se obsah zobrazuje přímo na doméně OpenAI, je uživatel méně ostražitý. Odkaz z dané stránky ale nevede na software, přesměruje uživatele na jinou stránku, kde si má stáhnout aplikaci. A zde právě čeká malware.
Zdroj: pushsecurity
Druhá varianta se týká Claude, kde je postup trochu odlišný. Odkaz vede na sdílený chat, kde chatbot (vydávající se za podporu) dává uživateli návod, jak vyřešit technický problém. Místo stažení aplikace ho však navede, aby zkopíroval a spustil specifický příkaz v příkazové řádce (terminálu) svého počítače. Ten následně malware sám stáhne a spustí.
Zdroj: pushsecurity
Samotné generování stránek je jen začátek. Útočnici hlavně využívají možnosti sdílení veřejných odkazů k daným chatům, a ty následně propagují skrze reklamy, i na Googlu, případně je sdílí jinými způsoby. Bezpečnostní mechanismy zde selhávají, jelikož odkazy vedou na legitimní stránky ChatGPT a Claude. Problém tak bude i na straně těchto AI služeb, jelikož jejich platformy jsou zneužívány pro šíření škodlivého softwaru.
Zdroje: pushsecurity.com, neowin.net