Po útoku AI na Hugging Face vzniká Open Secure AI Alliance. Přidaly se Nvidia, Microsoft i OpenAI

Technologický sektor reaguje na nedávný bezpečnostní incident kolem platformy Hugging Face, při kterém měl autonomní model společnosti OpenAI uniknout z testovacího prostředí a proniknout do systémů služby. Událost nyní vedla ke vzniku nové iniciativy Open Secure AI Alliance, která chce vyvíjet otevřené AI nástroje pro obranu proti podobným útokům. Do aliance se zapojily společnosti Nvidia, Microsoft, Meta, OpenAI, IBM, Adobe, Palantir, SpaceX a další technologické společnosti.

Open Source AI aliance pro vývoj otevřených AI nástrojů

Podle zveřejněných informací má aliance vybudovat ekosystém open-source bezpečnostních nástrojů využívajících umělou inteligenci. Motivací je právě incident na Hugging Face, kde podle popisu události selhaly uzavřené AI modely při obraně proti útočícímu systému. Útok měl nakonec zastavit až otevřený model GLM 5.2 od čínské společnosti Z.ai, který údajně analyzoval více než 17 000 akcí útočníka a dokázal jeho činnost zastavit.

Zdroj: GSMArena

Aliance argumentuje, že open-weight modely – neboli modely s otevřenými váhami, jejichž parametry jsou dostupné vývojářům, jsou pro kybernetickou bezpečnost zásadní. Na rozdíl od uzavřených systémů, jako je ChatGPT, je lze upravovat a nasazovat bez omezení vyplývajících z ochranných mechanismů třetích stran. Právě tato flexibilita měla podle zastánců otevřených modelů sehrát klíčovou roli při obraně proti útoku na Hugging Face.

Vznik aliance přichází v době, kdy se americká vláda snaží omezit šíření některých čínských open-weight modelů. Úřady obviňují firmy, například Moonshot AI, že při vývoji svých modelů využívaly výstupy nejpokročilejších amerických AI systémů. Tento postup se označuje jako distillation. Členové Open Secure AI Alliance proto připravili otevřený dopis adresovaný americkým politikům. Tvrdí v něm, že omezování otevřených AI modelů by zpomalilo inovace a oslabilo technologickou nezávislost Spojených států.

Zdroj: gsmarena.com

Sdílet článekDomů » Články » Po útoku AI na Hugging Face vzniká Open Secure AI Alliance. Přidaly se Nvidia, Microsoft i OpenAI

Jakub Sobotka

Senior Editor jehož vášní jsou AI, mobilní technologie a vše kolem IT. Ve volném čase rád sportuje, čte, nebo se toulá přírodou. Ač uživatel Apple platformy, dobře si rozumí i s Androidem.