Amazon Web Services anunció Trainium2, un chip para entrenar modelos de inteligencia artificial, y también ofrecerá acceso a las unidades de procesamiento de gráficos H200
Tensor Core de próxima generación de Nvidia.
AWS albergará un clúster informático especial para que lo utilicen los clientes y Nvidia.
Por ahora, los clientes de AWS pueden comenzar a probar nuevos chips Graviton4 de uso general.
Amazon Web Services (AWS) ha revelado sus planes para lanzar nuevos chips destinados a impulsar aplicaciones de inteligencia artificial. En una estrategia para destacarse en el mercado de la nube, AWS no solo se centra en productos propios, sino que también integra tecnología de punta de proveedores líderes como Nvidia, respondiendo a la creciente demanda de unidades de procesamiento gráfico (GPU) de calidad.
El aumento en la demanda de las GPU de Nvidia se ha acelerado con el éxito de aplicaciones de inteligencia artificial como el chatbot ChatGPT de OpenAI. Este anuncio llega después de la revelación de un enfoque similar por parte de Microsoft con su chip Maia 100 y GPU Nvidia H200 en Azure.
En el evento Reinvent en Las Vegas, AWS anunció el acceso a las últimas GPU Nvidia H200 AI, así como su propio chip de inteligencia artificial Trainium2 y el procesador Graviton4. La GPU Nvidia H200 promete una producción casi el doble de rápida que su predecesora, el H100, utilizado en el entrenamiento del avanzado modelo GPT-4 de OpenAI.
Los chips Trainium2 de AWS están diseñados para entrenar modelos de inteligencia artificial, incluyendo aquellos utilizados por chatbots como ChatGPT. Con un rendimiento cuatro veces mejor que el modelo original, estos chips impulsarán proyectos de empresas como Databricks y Anthropic respaldados por Amazon.
Los procesadores Graviton4, basados en la arquitectura Arm, ofrecen un rendimiento un 30% superior a los Graviton3, consumiendo menos energía que los chips de Intel o DMAE. Esta actualización proporciona una mejor relación rendimiento-precio, especialmente en un contexto de inflación.
Más de 50,000 clientes de AWS ya están utilizando chips Graviton, y la empresa anunció su colaboración más profunda con Nvidia, operando más de 16,000 Superchips Nvidia GH200 Grace Hopper. Esta infraestructura estará disponible tanto para el grupo de investigación y desarrollo de Nvidia como para los clientes de AWS.
Aunque AWS no ha anunciado fechas de lanzamiento específicas, los clientes pueden comenzar a probar instancias de máquinas virtuales Graviton4 antes de su lanzamiento comercial en los próximos meses.
