Amazon терміново впроваджує новітній AI-чіп Trainium3, кидаючи прямий виклик Nvidia та Google

Amazon Web Services (AWS) нещодавно стрімко розгорнула власний новітній AI-акселератор Trainium3 у частині дата-центрів і з 02/12 офіційно відкрила його для клієнтів. Цей чип розглядається як ключова зброя Amazon для наздоганяння (NVIDIA) та Google у сфері AI-обчислень; компанія робить ставку на високу продуктивність і вигідне співвідношення ціни та якості. Проте експерти також зауважують, що попри лідерство AWS у хмарних сервісах, для розробників AI-моделей привабливість все ще поступається Microsoft та Google. Нагальним завданням є представити власне обладнання, яке зможе дійсно зміцнити позиції серед корпоративних клієнтів і посилити лояльність екосистеми.

Trainium3 запущено, AWS прискорює розвиток AI-чипів

Віце-президент AWS Дейв Браун повідомив, що новітній AI-акселератор Trainium3 вже розгорнуто у частині дата-центрів і він офіційно введений в експлуатацію, відтепер доступний для корпоративних клієнтів. Від появи попереднього покоління минув лише рік, що є вкрай рідкісним для індустрії. Браун додав, що AWS на початку наступного року почне дуже швидко масштабувати постачання.

Amazon наголошує, що серія Trainium забезпечує високу продуктивність і вигідну ціну, дозволяючи виконувати масштабні AI-тренування за нижчою вартістю. Інженери AWS жартують, що коли у серпні вперше запускали Trainium3, лише сподівалися, що він не задимиться і не загориться, підкреслюючи надзвичайно стислий графік розробки й запуску цього чипа.

Кинути виклик NVIDIA непросто, софтверна екосистема залишається головною слабкістю

Попри постійний акцент AWS на цінових і продуктивних перевагах Trainium, NVIDIA досі має величезну перевагу у спільноті AI-розробників. Один з автоматизованих будівельників зазначив, що хоча їхня інфраструктура базується на AWS, для тренування AI-моделі автономного екскаватора вони все одно обрали в основному GPU NVIDIA, оскільки їм потрібне потужне й зручне рішення — саме те, що пропонує NVIDIA.

Загалом вважається, що через брак достатньої кількості програмних інструментів впровадження Trainium залишається складним для багатьох команд розробників, що ускладнює AWS боротьбу за сегмент високопродуктивних AI-тренувань.

Anthropic — найбільший користувач, AWS сподівається підвищити попит завдяки співпраці

Наразі найбільше користувачів Trainium — це AI-стартап Anthropic. На початку року AWS повідомила, що розгорнула для Anthropic понад 500 000 Trainium, а до кінця року планує збільшити цю кількість до 1 мільйона.

Генеральний директор AWS Метт Гарман зазначив, що партнерство з Anthropic дуже міцне, компанія має величезні потреби у тренуванні моделей, тому купує потужності одразу у кількох провайдерів, зокрема AWS та Google. Anthropic раніше уклала угоду з Google про використання TPU на мільярди доларів. Експерти зауважують, що крім Anthropic, AWS наразі не має багатьох великих публічних клієнтів Trainium, тому ринку важко повністю оцінити реальні можливості цього чипа.

AWS на конференції представила Nova 2 і Forge, наголосивши на практичній ефективності

На щорічній конференції re:Invent Amazon одночасно презентувала оновлену серію мовних моделей Nova 2, зокрема мультимодальну Nova Omni, яка може обробляти текст, зображення, аудіо й відео, а результати видавати у вигляді тексту чи картинок.

Очільник відділу AGI Рохіт Прасад зазначив, що хоча Nova раніше не займала провідних позицій у стандартних тестах, найважливіший показник — це реальне використання, і він вірить, що нова версія є достатньо конкурентоспроможною.

AWS також представила новий інструмент Nova Forge, який дозволяє компаніям налаштовувати моделі на власних даних ще до завершення навчання. Reddit вже використав цей інструмент для створення моделі, яка визначає, чи порушує пост правила платформи. Технічний директор Кріс Слоу зазначив, що багато компаній прагнуть відразу використовувати найпотужнішу модель, але справжня цінність у тому, щоб “перетворити модель на експерта саме у вашій сфері”.

(OpenAI та AWS уклали хмарну угоду на 38 мільярдів доларів, готуючись до виходу з-під впливу Microsoft і IPO)

Ця стаття Amazon терміново просуває новітній AI-чип Trainium3 та відкрито кидає виклик NVIDIA й Google вперше з’явилася на Ланцюгові новини ABMedia.