OpenAI lancia il chip Jalapeño per rendere più veloce l'intelligenza artificiale.

Lo sviluppo del proprio hardware segna una nuova era per OpenAI, che punta a controllare non solo i modelli e il software, ma anche i core del processore, la memoria e l'infrastruttura di rete. Il chip, denominato OpenAI Jalapeño, è progettato per eliminare il classico dilemma dell'esecuzione dei modelli di intelligenza artificiale: scegliere tra elevata velocità di elaborazione e bassa latenza.

Nelle misurazioni effettuate utilizzando il software open-source InferenceX, le prestazioni del chip OpenAI Jalapeño sono state confrontate con le soluzioni commerciali esistenti di Nvidia, in particolare con la piattaforma Nvidia Blackwell. I test su modelli disponibili pubblicamente come OpenAI GPT-OSS 120B, DeepSeek R1 e Moonshot AI Kimi K2.5 hanno dimostrato che il nuovo chip raggiunge un'efficienza per watt di energia elettrica consumata da 1,5 a 1,9 volte superiore al throughput di picco. Allo stesso tempo, la latenza complessiva è stata ridotta da 1,7 a 3,6 volte. I vantaggi sopra menzionati sono risultati ancora più evidenti per le attività altamente interattive.

Sebbene l'OpenAI Jalapeño sia ufficialmente classificato a 700 W, le misurazioni hanno dimostrato che il consumo energetico effettivo sotto carico si mantiene pari o inferiore a 550 W. Per gli sviluppatori, il parametro chiave è principalmente la quantità di lavoro svolto per unità di energia, non solo la potenza pura. Nell'elaborazione dei dati, il nuovo acceleratore ha dimostrato un elevato numero di token elaborati per kilowattora di energia rispetto ai principali sistemi attualmente presenti sul mercato.

L'architettura del chip è stata progettata su misura per le specifiche fasi di elaborazione del modello linguistico, dove i requisiti di potenza di calcolo e larghezza di banda della memoria cambiano rapidamente. Il nuovo sistema è stato ovviamente sviluppato nella sua interezza, collegando processore, memoria e rete a livello di interi rack di server. Un altro aspetto interessante è che OpenAI ha utilizzato i propri strumenti di intelligenza artificiale per progettare il chip, riducendo il ciclo di sviluppo a soli nove mesi. L'intelligenza artificiale ha contribuito a ottimizzare anche i singoli circuiti matematici e ad accelerare l'adattamento del codice ai nuovi modelli.

Naturalmente, i dati attuali provengono principalmente da test controllati e la reale stabilità e convenienza del sistema saranno dimostrate solo quando verrà utilizzato in un ambiente di produzione di massa. OpenAI non prevede inoltre di abbandonare completamente i partner esistenti. Continuerà a utilizzare apparecchiature di Nvidia, AMD, Microsoft, Amazon AWS e altri, poiché desidera mantenere una diversificazione delle fonti.

L'integrazione del chip OpenAI Jalapeño nei propri data center è prevista entro la fine del 2026. Parallelamente, OpenAI sta già lavorando intensamente alla pianificazione della seconda e terza generazione di questo hardware, con l'obiettivo di garantire velocità ancora maggiori e costi di implementazione dei propri servizi ancora inferiori nel lungo termine.