Jen několik dní po uvedení modelu Claude Fable 5 přichází překvapivý zvrat. Společnost Anthropic oznámila, že na základě příkazu americké vlády okamžitě pozastavuje přístup k modelům Claude Fable 5 a Claude Mythos 5 pro všechny uživatele po celém světě.
Anthropic musel dočasně stáhnout svůj model Fable 5
Podle společnosti dorazilo vládní nařízení ve pátek v 17:21 východoamerického času. Úřady se odvolávají na důvody národní bezpečnosti, konkrétní detaily ale Anthropic údajně neobdržel.
Anthropic se domnívá, že vláda reaguje na informace o možné metodě obejití bezpečnostních omezení modelu, takzvaném jailbreaku. Firma tvrdí, že analyzovala předvedenou techniku a zjistila, že vedla pouze k odhalení několika známých a relativně nevýznamných zranitelností. Podle společnosti navíc stejné výsledky dokážou poskytnout i jiné veřejně dostupné modely bez jakéhokoliv obcházení bezpečnostních mechanismů. Anthropic v prohlášení přímo zmiňuje GPT-5.5 od OpenAI.
Zdroj: Dotekomanie
Firma zdůrazňuje, že před uvedením Fable 5 prošel model tisíci hodinami bezpečnostního testování za účasti amerických i britských úřadů, externích organizací a interních týmů. Podle Anthropicu se dosud nikomu nepodařilo objevit takzvaný univerzální jailbreak, který by dokázal ve velkém obejít ochranné mechanismy modelu. Společnost zároveň připouští, že stoprocentní ochrana před podobnými technikami dnes pravděpodobně není možná u žádného poskytovatele AI. Proto zvolila strategii vícevrstvé ochrany kombinující bezpečnostní filtry, monitoring a uchovávání dat po dobu 30 dní, aby bylo možné případné pokusy rychle odhalit a řešit.
Anthropic sice vládnímu příkazu vyhověl, ale s jeho odůvodněním nesouhlasí. Podle společnosti nebyl předložen žádný důkaz o tom, že by údajný jailbreak vedl k vážnému zneužití modelu nebo poskytoval schopnosti, které by nebyly dostupné u konkurence. Firma varuje, že pokud by se podobný přístup stal standardem, mohl by prakticky zastavit uvádění nových generací AI modelů.
„Věříme, že vláda by měla mít možnost zastavit nebezpečné nasazení AI. Takový proces ale musí být transparentní, férový a založený na technických faktech,“ uvedl Anthropic. Společnost nyní pracuje na obnovení přístupu a označuje celou situaci za nedorozumění. Kdy by se však modely Fable 5 a Mythos 5 mohly vrátit, zatím není jasné.
Zdroj: anthropic.com