OpenAI oficiálně představila svůj první vlastní čip pro umělou inteligenci. Novinka s názvem Jalapeño vznikla ve spolupráci se společností Broadcom a je určena pro provoz AI modelů, nikoliv jejich trénování.
OpenAI se snaží snížit závislost na Nvidii
Jalapeño je navržen pro takzvanou inferenci, tedy fázi, kdy již natrénovaný model odpovídá na dotazy uživatelů. Právě tato část provozu dnes tvoří obrovskou část nákladů služeb jako ChatGPT. Podle OpenAI první testy ukazují výrazně lepší poměr výkonu a spotřeby energie než u současných řešení. Firma zároveň přiznává, že při trénování nových modelů bude i nadále využívat grafické procesory Nvidia. Vlastní čip má ale výrazně zlevnit každodenní provoz AI služeb.
Zajímavostí je, že při vývoji Jalapeña využila OpenAI také své vlastní modely umělé inteligence. Ty pomáhaly s návrhem jednotlivých částí čipu. Spolupráce s Broadcomem byla oznámena už loni, nyní ale společnost poprvé představila hotový produkt.
Zdroj: Techcrunch
Vývoj vlastního čipu zapadá strategie, kterou se OpenAI chce vydat. Společnost už nevyvíjí pouze AI modely, ale postupně buduje celý technologický ekosystém. Od datových center přes síťovou infrastrukturu až po vlastní hardware. Podle prezidenta společnosti Grega Brockmana chce OpenAI optimalizovat celý řetězec. Díky tomu mohou být budoucí modely rychlejší, spolehlivější a levnější z hlediska provozu.
Stejnou cestou se již vydaly také společnosti Google nebo Amazon, které pro své AI řešení vyvíjejí vlastní specializované akcelerátory. OpenAI se tak snaží snížit závislost na čipech Nvidia, jejichž poptávka i ceny v posledních letech výrazně rostou.
Zdroj: techcrunch.com