IBM y Together AI construirán un clúster de IA con chips de Nvidia por 240 millones de dólares

El primer clúster estará ubicado en Estados Unidos. Según Kai Mak, director de ingresos de Together AI, la configuración inicial incluirá alrededor de 2.000 chips Nvidia Blackwell 300. El ejecutivo estima que la capacidad de cómputo disponible podría ser contratada incluso antes de que la infraestructura entre en funcionamiento.

El clúster estará destinado principalmente a la inferencia, es decir, a la ejecución de modelos de IA previamente entrenados para generar respuestas. Este segmento de infraestructura está adquiriendo rápidamente importancia debido al creciente número de empresas que utilizan modelos de inteligencia artificial en sus procesos empresariales cotidianos.

Como parte del proyecto, IBM utilizará sistemas Nvidia HGX B300 basados en procesadores Blackwell. La infraestructura también estará equipada con soluciones de red Nvidia Spectrum-X Ethernet.

Nvidia desarrolla la plataforma Blackwell, entre otras cosas, para tareas relacionadas con la inferencia. A medida que aumenta el número de implementaciones de IA, la demanda de este tipo de capacidad de cómputo se está convirtiendo en uno de los principales factores que impulsan las inversiones de los proveedores de servicios en la nube y los fabricantes de chips.

Together AI desarrolla una plataforma que permite a las empresas entrenar y ejecutar modelos de código abierto. La compañía ofrece, entre otros, soporte para los modelos DeepSeek, MiniMax y Kimi.

Este enfoque responde al creciente interés de las empresas por soluciones capaces de reducir los costes asociados al uso de inteligencia artificial. Los modelos de código abierto ofrecen a las compañías mayor libertad para elegir la infraestructura y la forma de implementarlos que los sistemas cerrados proporcionados por los principales proveedores de IA.

La importancia de la inferencia también aumenta con la expansión de la IA generativa. El entrenamiento de un modelo requiere grandes recursos de cómputo, pero una vez desplegado es necesario disponer de una infraestructura capaz de procesar las consultas de los usuarios. A gran escala, esto se traduce en una demanda constante de servidores, aceleradores y redes de alta capacidad.

Together AI fue valorada recientemente en 8.300 millones de dólares. El nuevo acuerdo con IBM permitirá aumentar la disponibilidad de la infraestructura necesaria para ejecutar modelos de código abierto y, al mismo tiempo, reforzar la posición de ambas compañías en el mercado de servicios de inteligencia artificial, que continúa creciendo.