Amazon lanza rápidamente su último chip de IA, Trainium3, desafiando directamente a Nvidia y Google.

Amazon Web Services (AWS) ha desplegado recientemente a gran velocidad su nueva generación de chips aceleradores de IA, Trainium3, en algunos de sus centros de datos, y desde el 2/12 ha abierto oficialmente su uso a los clientes. Este chip se considera el arma clave de Amazon para competir en el campo de la computación de IA contra NVIDIA (NVIDIA) y Google, destacando por su alto rendimiento y buena relación calidad-precio. Sin embargo, también se ha observado que, aunque AWS es líder en la nube, su atractivo para los desarrolladores de modelos de IA sigue estando por detrás de Microsoft y Google. La prioridad es presentar hardware propio que realmente consolide a los clientes empresariales y refuerce la fidelidad al ecosistema.

Lanzamiento de Trainium3, AWS acelera el despliegue de chips de IA

El vicepresidente de AWS, Dave Brown, ha declarado que la última generación de chips aceleradores de IA, Trainium3, ya se ha desplegado en parte de sus centros de datos y está oficialmente en funcionamiento, desde ahora disponible para clientes empresariales. Este chip ha llegado solo un año después de la generación anterior, algo poco común en el sector. Brown añadió que AWS ampliará su distribución a un ritmo muy rápido a principios del próximo año.

Amazon destaca que la serie Trainium ofrece alto rendimiento y una excelente relación calidad-precio, permitiendo completar el gran volumen de cálculos necesarios para el entrenamiento de IA a un coste menor. Los ingenieros de AWS bromean diciendo que cuando encendieron Trainium3 por primera vez en agosto, solo rezaron para que no echara humo ni se incendiara, lo que pone de manifiesto el ajustado calendario de desarrollo y lanzamiento de este chip.

Desafiar a NVIDIA no es fácil, el ecosistema de software sigue siendo el mayor punto débil

Aunque AWS sigue destacando públicamente las ventajas de precio y rendimiento de Trainium, NVIDIA sigue teniendo una enorme ventaja en el ecosistema de desarrolladores de IA. Algunas empresas del sector de la construcción automatizada afirman que, aunque su infraestructura está en AWS, a la hora de entrenar modelos autónomos de excavadoras siguen optando principalmente por las GPU de NVIDIA, afirmando que necesitan soluciones potentes y fáciles de usar, es decir, NVIDIA.

En general, se considera que la falta de una cadena de herramientas de software suficiente hace que la adopción de Trainium siga teniendo una barrera de entrada alta para muchos equipos de desarrollo, lo que supone un reto para AWS a la hora de conquistar el mercado de entrenamiento de IA de alto nivel.

Anthropic es el mayor usuario, AWS espera impulsar la demanda a través de ellos

Actualmente, el mayor usuario de Trainium en el mercado es la startup de IA Anthropic. AWS anunció a principios de año que había desplegado más de 500.000 chips Trainium para Anthropic, con el objetivo de alcanzar el millón a finales de año.

El CEO de AWS, Matt Garman, declaró que la relación entre ambas empresas es muy buena y que la demanda de entrenamiento de modelos de Anthropic es enorme, por lo que adquieren capacidad de cómputo tanto de AWS como de otros proveedores de nube como Google. Anthropic ha cerrado previamente un acuerdo con Google para utilizar TPU valoradas en miles de millones de dólares. Según fuentes del sector, aparte de Anthropic, AWS todavía no ha hecho públicos muchos grandes clientes de Trainium, lo que dificulta al mercado evaluar completamente el rendimiento real de este chip.

AWS presenta Nova 2 y Forge en su conferencia, subrayando que el rendimiento real es la clave

En la conferencia anual re:Invent, Amazon presentó la serie actualizada de modelos de lenguaje Nova 2, cuyo modelo multimodal Nova Omni puede procesar texto, imágenes, voz y vídeo, y los resultados pueden visualizarse en texto o imágenes.

Rohit Prasad, responsable del desarrollo de AGI, afirmó que, aunque Nova no ha liderado los rankings de pruebas estándar, el verdadero indicador importante es el uso real, y está convencido de que la nueva versión es suficientemente competitiva.

AWS también ha lanzado la nueva herramienta Nova Forge, que permite a las empresas personalizar sus propios datos antes de finalizar el entrenamiento del modelo. Reddit ya utiliza esta herramienta para crear un modelo que determina si las publicaciones infringen las normas de la plataforma. El CTO, Chris Slowe, señaló que muchas empresas querrán usar directamente el modelo más potente, pero el verdadero valor está en “convertir el modelo en el experto de tu sector”.

(OpenAI y AWS cierran un acuerdo de colaboración en la nube valorado en 38.000 millones de dólares, allanando el camino para independizarse de Microsoft y salir a bolsa)

Este artículo, Amazon lanza urgentemente su último chip de IA Trainium3 y desafía directamente a NVIDIA y Google, apareció primero en la cadena de noticias ABMedia.