Amazon спешно выпускает новейший AI-чип Trainium3, бросая прямой вызов Nvidia и Google

Amazon Web Services (AWS) недавно в срочном порядке развернула новое поколение AI-ускорителей Trainium3 в некоторых дата-центрах и с 2 декабря официально открыла их для клиентов. Этот чип рассматривается как ключевое оружие Amazon в погоне за (NVIDIA) и Google в области AI-вычислений, официально делая упор на высокую производительность и соотношение цена-качество. Однако наблюдатели отмечают, что, несмотря на лидерство AWS в облачных технологиях, для разработчиков AI-моделей платформа менее привлекательна, чем Microsoft и Google. Наиболее актуальная задача — предложить собственные аппаратные решения, которые действительно укрепят позиции среди корпоративных клиентов и усилят лояльность экосистемы.

Trainium3 запущен, AWS ускоряет развертывание AI-чипов

Вице-президент AWS Дэйв Браун заявил, что новейшие AI-ускорители Trainium3 уже развернуты и официально введены в эксплуатацию в ряде дата-центров, с этого момента корпоративные клиенты могут их использовать. Между этим и предыдущим поколением чипа прошел всего год, что довольно редко для отрасли. Браун также добавил, что в начале следующего года AWS планирует очень быстро расширять поставки.

Amazon подчеркивает, что серия Trainium ориентирована на высокую производительность и оптимальное соотношение цена-качество, позволяя с меньшими затратами решать задачи крупномасштабного AI-обучения. Инженеры AWS в шутку отмечают, что, впервые запустив Trainium3 в августе, молились, чтобы он не задымился и не загорелся, что подчеркивает динамичный темп разработки и вывода чипа на рынок.

Бросить вызов NVIDIA непросто, программная экосистема — главный недостаток

Несмотря на то что AWS постоянно акцентирует ценовые и производительные преимущества Trainium, NVIDIA сохраняет значительное лидерство в среде AI-разработчиков. Представители автоматизированной строительной компании отмечают, что хотя инфраструктура размещена в AWS, для обучения AI-моделей автономных экскаваторов они предпочитают GPU NVIDIA, потому что им нужны мощные и удобные решения — именно это и предлагает NVIDIA.

В целом считается, что из-за недостатка программных инструментов Trainium пока остается труднодоступным для многих команд разработчиков, что создает сложности для AWS в борьбе за рынок высокоуровневого AI-тренинга.

Anthropic — крупнейший пользователь, AWS надеется на рост спроса благодаря сотрудничеству

В настоящее время крупнейшим пользователем Trainium на рынке является AI-стартап Anthropic. В начале года AWS объявила, что развернула для Anthropic более 500 тысяч чипов Trainium, а к концу года намерена довести это количество до миллиона.

Генеральный директор AWS Мэтт Гарман отметил, что отношения между компаниями отличные, и из-за огромных потребностей Anthropic в обучении моделей они покупают вычислительные мощности сразу у нескольких облачных провайдеров, включая AWS и Google. Ранее Anthropic заключила сделку с Google на использование TPU на миллиарды долларов. По мнению наблюдателей, кроме Anthropic, среди крупных публичных клиентов Trainium у AWS пока немного, что затрудняет комплексную оценку эффективности чипа.

На конференции AWS представлены Nova 2 и Forge, акцент на реальной производительности

На ежегодной конференции re:Invent Amazon одновременно представила обновленную линейку языковых моделей Nova 2, включая мультимодальную версию Nova Omni с поддержкой ввода текста, изображений, речи и видео, а также выводом в виде текста или изображения.

Рохит Прасада, руководитель AGI-разработки, отметил, что хотя Nova ранее не занимала лидирующих позиций в стандартных тестах, реальный показатель — это практическое использование, и он уверен в достаточной конкурентоспособности нового поколения.

AWS также представила новый инструмент Nova Forge, который позволяет компаниям кастомизировать модели на собственных данных еще до завершения полного обучения. Reddit уже использует этот инструмент для создания модели, определяющей нарушения правил платформы в постах. Технический директор Крис Слоу отметил, что многие компании хотят сразу использовать самые мощные модели, но настоящая ценность — сделать модель экспертом именно в своей сфере.

(OpenAI и AWS заключили облачный контракт на $38 млрд, готовясь к уходу от зависимости от Microsoft и к IPO)

Эта статья «Amazon срочно продвигает новейший AI-чип Trainium3, напрямую бросая вызов NVIDIA и Google» впервые появилась на Chain News ABMedia.