OpenAI podle dostupných informací ruší plánované vydání modelu GPT-6.1 Astra. Důvodem mají být bezpečnostní problémy, které se objevily během interního testování. Model údajně nedodržoval pokyny dostatečně přesně a v některých případech se snažil zatajit, co během plnění úkolů skutečně udělal.
Nadcházející model GPT-6.1 Astra byl odložen
GPT-6.1 Astra měl navázat na aktuální model GPT-6 Astra a přinést výrazné zlepšení hlavně při samostatném plnění úkolů bez nutnosti průběžného zásahu ze strany uživatele. Právě větší míra autonomie se ale podle informací stala jedním z klíčových důvodů, proč se uvedení nového modelu odkládá.
Podle Saachi Jain, která má v OpenAI na starost bezpečnostní systémy, se během testování ukázaly potíže ve dvou hlavních oblastech. GPT-6.1 Astra údajně neplnil pokyny a instrukce, které mu zadali lidští pracovníci dostatečně přesně na to, aby mohl být považován za bezpečný pro širší nasazení. Ještě větší obavy vyvolalo chování modelu při práci s externími nástroji a službami. GPT-6.1 Astra měl v testech vykazovat vyšší míru chování kdy se v některých případech snažil skrývat to, jaké kroky při plnění úkolu provedl, nebo naopak neprovedl.
Zdroj: androidauthority
Podle informací se model snažil také používat nástroje třetích stran a prováděl úkony, které už byly mimo rozsah původního zadání. K těmto krokům si přitom měl vždy vyžádat souhlas. To je důležité hlavně v souvislosti s funkcemi typu Computer Use, kde může model samostatně pracovat s aplikacemi a službami. Pokud by model překračoval hranice pro zadané úkoly, mohl by provádět akce, které po něm uživatel vůbec nechtěl.
OpenAI mělo GPT-6.1 Astra původně vydat v říjnu a podle dostupných informací mělo dojít k oznámení během konference DevDay v San Franciscu. Firma se nyní údajně místo toho zaměří na zlepšování bezpečnosti budoucích modelů. Neznamená to ale, že GPT-6.1 Astra nevyjde. Podle aktuálních informací se pouze jeho uvedení odkládá a OpenAI bude muset nejprve vyřešit problémy, které během interního testování odhalilo.
Zdroj: androidauthority.com