Una nueva era para la inteligencia artificial: Nvidia lanza los servidores Groq 3 LPX.

Nvidia ha confirmado oficialmente que su acelerador de inferencia de IA, denominado Groq 3 LPX, ha alcanzado la producción en masa. Esta tecnología se creó mediante la adquisición del personal y las licencias de Groq, valoradas en casi 18.500 millones de euros. Los nuevos aceleradores Nvidia Groq 3 LPX están diseñados para integrarse directamente en la plataforma Nvidia Vera Rubin. Un único rack de servidores puede albergar hasta 256 aceleradores LPX, lo que permite una densidad de potencia de cálculo extrema.

El primer cliente de servicios en la nube en utilizar estos nuevos sistemas de servidores en su infraestructura es Nebius. Como parte de su denominada "fábrica de chips", los gabinetes LPX se instalarán junto con los procesadores Nvidia Vera y los aceleradores gráficos Nvidia Rubin. Se espera que esta combinación de equipos proporcione una eficiencia excepcional al procesar los modelos de inteligencia artificial más exigentes. A pesar de las promesas de alto rendimiento, queda por ver en la práctica cómo se comportará todo el sistema bajo cargas prolongadas y si la integración entre los diferentes tipos de chips se llevará a cabo sin cuellos de botella.

Las mediciones realizadas por la plataforma independiente de análisis de inteligencia artificial ya han mostrado resultados impresionantes. Al probar el modelo Google Gemma 4 31B con un volumen de contexto de 100 000, el equipo alcanzó una velocidad de 3400 tokens de salida por segundo. Estas cifras representan un salto significativo en la velocidad de respuesta de los sistemas de IA.

La industria espacial también muestra interés en el nuevo hardware de Nvidia. SpaceX ha revelado que su próximo sistema avanzado de inteligencia artificial funcionará con procesadores Nvidia Vera. Este plan contempla su funcionamiento en futuros centros de datos orbitales, lo que representa un desafío tecnológico completamente nuevo y bastante arriesgado.