General Compute apuesta por chips SambaNova para liderar la nueva ola de nubes de inferencia de IA

La demanda de computación para inteligencia artificial sigue disparada, pero las empresas chocan con dos grandes barreras: conseguir los chips adecuados y encontrar centros de datos donde instalarlos sin invertir fortunas en nueva infraestructura. La startup General Compute, una “neocloud” especializada en inferencia (la fase en la que los modelos ya entrenados responden a los usuarios), plantea una vía alternativa que apunta hacia el futuro del ecosistema de IA.

En lugar de depender de las muy solicitadas GPU o de fabricantes estrella como Groq y Cerebras —ambos con capacidad al límite tras grandes operaciones y salidas a bolsa— General Compute ha cerrado un acuerdo con SambaNova, un productor de chips enfocado en inferencia respaldado por Intel que había perdido protagonismo en Silicon Valley. La compañía ha encargado 300 millones de dólares en chips SN50 y asegura que será la primera nube de inferencia en desplegarlos.

Estos nuevos chips prometen entre 600 y 700 tokens por segundo, frente a unos 250 tokens por segundo de las GPU, gracias a una arquitectura más flexible y con más memoria para mantener el contexto durante los cálculos de inferencia. SambaNova sostiene que sus procesadores superan no solo a las GPU tradicionales, sino también a otros chips especializados de competidores como Groq o Cerebras.

Además, los SN50 son de menor consumo, se refrigeran por aire y no requieren complejos sistemas de refrigeración líquida, lo que permite instalarlos en centros de datos ya existentes sin grandes obras. Eso facilita a General Compute cerrar acuerdos de “colocation”, alojando su hardware en infraestructuras de terceros, incluidos mineros de criptomonedas que buscan reutilizar sus instalaciones ahora que producir bitcoin suele salir más caro que su propio precio.

General Compute lanzó su servicio en la nube la semana pasada y afirma ser ya la opción más rápida para ejecutar MiniMax 2.7, un potente modelo de lenguaje abierto. El proyecto ha seducido a inversores especializados en chips de inferencia, como Joe Hasselmann, pionero en Groq y hoy al frente del fondo Evercrest Capital Partners. Hasselmann compara la alianza SambaNova–General Compute con la relación Nvidia–CoreWeave, señalando que ambos socios se están jugando buena parte de su futuro en esta apuesta.

El trasfondo es una carrera por definir qué arquitectura de computación capturará más valor en la próxima década de la IA. Las nubes de inferencia como General Compute parten de un escenario con múltiples modelos y agentes, donde ningún proveedor único domina y las variables clave son el coste y la velocidad por token. La reciente ronda Serie B de 113 millones de dólares de OpenRouter, que centraliza el acceso a varios modelos para optimizar el gasto, refuerza esa tendencia.

El objetivo de General Compute es claro: transformar cargas de trabajo que hoy tardan una hora —por ejemplo, agentes de código— en procesos de 5 a 10 minutos, y abaratar agentes de voz para atención al cliente que necesitan respuestas prácticamente inmediatas. Según el CEO Finn Puklowski, en un mundo de agentes que “leen y consultan bases de datos por nosotros”, la velocidad de inferencia ya no es un lujo, sino un requisito central para que la IA resulte útil y competitiva.