OpenAI lansira Jalapeño čip kako bi umjetna inteligencija radila brže

Razvoj vlastitog hardvera označava novo doba za OpenAI, gdje žele kontrolirati ne samo same modele i softver, već i procesorske jezgre, memoriju i mrežnu infrastrukturu. Čip, nazvan OpenAI Jalapeño, dizajniran je kako bi se uklonila klasična dilemo pokretanja AI modela: odabir između visokog protoka i niske latencije.

U mjerenjima provedenim korištenjem softverskog alata otvorenog koda InferenceX, performanse OpenAI Jalapeño čipa uspoređene su s postojećim komercijalnim rješenjima tvrtke Nvidia, točnije s platformom Nvidia Blackwell. Testiranje na javno dostupnim modelima kao što su OpenAI GPT-OSS 120B, DeepSeek R1 i Moonshot AI Kimi K2.5 pokazalo je da novajlija postiže 1,5 do 1,9 puta bolju učinkovitost po vatu potrošene električne energije pri vršnoj propusnosti. Istovremeno, ukupna latencija smanjena je za 1,7 do 3,6 puta. Spomenute prednosti bile su još izraženije za visoko interaktivne zadatke.

Iako je službeno predviđena snaga OpenAI Jalapeña od 700 W, mjerenja su pokazala da je stvarna potrošnja energije pod opterećenjem ostala na ili ispod 550 W. Za programere je ključna metrika prvenstveno količina obavljenog rada po jedinici energije, a ne samo sirova snaga. Prilikom obrade podataka, novi akcelerator pokazao je visok broj obrađenih tokena po kilovatu energije u usporedbi s trenutno vodećim sustavima na tržištu.

Arhitektura čipa prilagođena je specifičnim fazama obrade jezičnih modela, gdje se zahtjevi za računalnom snagom i propusnošću memorije brzo mijenjaju. Novi sustav je, naravno, razvijen kao cjelina, povezujući procesor, memoriju i mrežu na razini cijelih serverskih rackova. Još jedna zanimljiva činjenica je da je OpenAI koristio vlastite alate umjetne inteligencije za dizajn čipa, što je skratilo ciklus razvoja na samo devet mjeseci. Umjetna inteligencija pomogla je u optimizaciji čak i pojedinačnih matematičkih sklopova i ubrzala prilagodbu koda za nove modele.

Naravno, podaci trenutno dolaze uglavnom iz kontroliranih testova, a stvarna stabilnost i isplativost sustava bit će dokazane tek kada se bude koristio u okruženju masovne proizvodnje. OpenAI također ne planira potpuno napustiti postojeće partnere. Nastavit će koristiti opremu tvrtki Nvidia, AMD, Microsoft, Amazon AWS i drugih, jer žele održati raznolikost izvora.

Početak integracije OpenAI Jalapeño čipa u vlastite podatkovne centre planiran je do kraja 2026. godine. Istovremeno, OpenAI već intenzivno planira drugu i treću generaciju ovog hardvera, s ciljem osiguranja još veće brzine i nižih troškova implementacije svojih usluga na dugi rok.