OpenAI zavádí pro ChatGPT Lockdown mode – režim, který má zabránit úniku citlivých dat při prompt injection útoku

Útoky typu prompt injection představují pro jazykové modely zásadní bezpečnostní riziko. Útočníci pro tyto specializované útoky vkládají škodlivé instrukce přímo do webových stránek nebo dokumentů, které pak chatbot při zpracování přečte a provede. OpenAI na tuto hrozbu reaguje novou funkcí Lockdown Mode. Ta má za cíl ochránit citlivá data firem i jednotlivců, ovšem za cenu výrazného omezení schopností samotné umělé inteligence.

Nová bezpečnostní funkce pro ChatGPT – Lockdown mode

Aktivací režimu Lockdown Mode uživatel v podstatě izoluje ChatGPT od obsahu z internetu. Systém v tomto módu okamžitě zablokuje živé procházení webu, takže umělá inteligence dokáže přistupovat pouze k obsahu, který má natrénovaný a uloženy v cache.

Mezi další restrikce patří zákaz stahování a zobrazování externích obrázků z internetu, přičemž samotné generování nových obrázků zůstává funkční. Funkce kompletně vypíná také hloubkový výzkum (Deep Research) a autonomní agentský režim. Tedy nástroje, které ke své práci nejvíce potřebují volný přístup k externím zdrojům.

Zdroj: Images 2.0

Sama společnost OpenAI otevřeně přiznává, že ani Lockdown Mode nezaručuje absolutní bezpečí. ChatGPT může být vůči podvrženým instrukcím stále zranitelný. Škodlivý kód se totiž může nacházet i v povoleném dokumentu, který uživatel sám nahraje, případně v bezpečně se tvářícímu obsahu z mezipaměti.

Hlavním smyslem nové funkce tak není kompletní eliminace útoků, ale radikální snížení rizika, že v průběhu takového útoku dojde k neoprávněnému odeslání a úniku citlivých dat mimo organizaci. Podle vyjádření OpenAI není tato funkce určena pro běžné uživatele. Cílí primárně na korporace, instituce a jednotlivce, kteří pracují s citlivými informacemi a vyžadují maximální úroveň zabezpečení. V tuto chvíli firma novinku nasazuje pro firemní účty ChatGPT Business a vybrané osobní profily.

Zdroj: techcrunch.com

Domů » Články » OpenAI zavádí pro ChatGPT Lockdown mode – režim, který má zabránit úniku citlivých dat při prompt injection útoku

💡ANKETA: Jaký materiál na zádech smartphonu preferujete nejvíce?

• Matné sklo
• Lesklé sklo
• Veganská kůže
• Kvalitní plast
• Kov
• Neřeším to, telefon jde hned krytu

 Nahrávání ...

Jakub Sobotka

Senior Editor jehož vášní jsou AI, mobilní technologie a vše kolem IT. Ve volném čase rád sportuje, čte, nebo se toulá přírodou. Ač uživatel Apple platformy, dobře si rozumí i s Androidem.