Amazon gấp rút ra mắt chip AI mới nhất Trainium3, trực tiếp thách thức Nvidia và Google

Dịch vụ đám mây Amazon (AWS) gần đây đã nhanh chóng triển khai chip tăng tốc AI thế hệ mới Trainium3 tại một số trung tâm dữ liệu và chính thức mở cho khách hàng sử dụng từ ngày 2/12. Con chip này được xem là vũ khí chủ chốt giúp Amazon bắt kịp NVIDIA (NVIDIA) và Google trong lĩnh vực tính toán AI, với cam kết hiệu năng cao và tỷ lệ hiệu suất/chi phí vượt trội. Tuy nhiên, giới quan sát cũng nhận thấy rằng, dù AWS là ông lớn trong lĩnh vực đám mây, nhưng sức hút đối với các nhà phát triển mô hình AI vẫn kém so với Microsoft và Google. Việc cấp bách hiện tại là phải tung ra phần cứng tự phát triển có thể thực sự củng cố khách hàng doanh nghiệp và tăng tính gắn kết hệ sinh thái.

Trainium3 ra mắt, AWS đẩy nhanh chiến lược chip AI

Phó chủ tịch AWS, ông Dave Brown, cho biết chip tăng tốc AI thế hệ mới nhất Trainium3 đã được triển khai tại một số trung tâm dữ liệu và chính thức đi vào sử dụng, hiện doanh nghiệp có thể bắt đầu áp dụng. Con chip này chỉ cách thế hệ trước một năm, điều khá hiếm trong ngành. Brown cũng bổ sung, AWS sẽ mở rộng cung ứng với tốc độ rất nhanh từ đầu năm sau.

Amazon nhấn mạnh, dòng Trainium hướng đến hiệu năng cao và tỷ lệ hiệu suất/chi phí tốt, giúp giảm chi phí cho các tác vụ huấn luyện AI đòi hỏi tính toán lớn. Kỹ sư AWS còn hài hước chia sẻ, khi lần đầu khởi động Trainium3 vào tháng 8, họ chỉ cầu mong thiết bị không bốc khói hay cháy nổ, cho thấy tiến độ phát triển và ra mắt chip này rất cấp tập.

Thách thức NVIDIA không dễ, hệ sinh thái phần mềm vẫn là điểm yếu lớn nhất

Dù AWS liên tục quảng bá lợi thế về giá thành và hiệu suất của Trainium, NVIDIA vẫn nắm lợi thế lớn về hệ sinh thái dành cho nhà phát triển AI. Một doanh nghiệp trong ngành xây dựng tự động cho biết, dù hạ tầng đặt trên AWS, khi huấn luyện mô hình máy xúc tự hành AI vẫn ưu tiên sử dụng GPU của NVIDIA vì cần giải pháp mạnh và dễ dùng – đó chính là NVIDIA.

Nhiều ý kiến cho rằng, Trainium còn thiếu bộ công cụ phần mềm đầy đủ, gây khó khăn cho nhiều nhóm phát triển khi áp dụng, khiến AWS gặp thử thách trong việc cạnh tranh ở phân khúc huấn luyện AI cao cấp.

Anthropic là khách hàng lớn nhất, AWS kỳ vọng thúc đẩy nhu cầu qua đối tác này

Hiện tại, phần lớn khách hàng sử dụng Trainium là startup AI Anthropic. Đầu năm, AWS công bố đã triển khai hơn 500.000 chip Trainium cho Anthropic, mục tiêu cuối năm nâng lên 1 triệu chip.

CEO AWS Matt Garman cho biết, quan hệ hai bên rất tốt, nhu cầu huấn luyện mô hình của Anthropic rất lớn nên họ đồng thời mua sức mạnh tính toán từ AWS, Google và các nhà cung cấp đám mây khác. Anthropic cũng hợp tác với Google để sử dụng TPU trị giá hàng chục tỷ USD. Ngoài Anthropic, số khách hàng lớn công khai sử dụng Trainium của AWS vẫn còn ít, khiến thị trường khó đánh giá toàn diện hiệu quả thực tế của con chip này.

AWS ra mắt Nova 2, Forge tại hội nghị, nhấn mạnh hiệu năng thực tế mới là chìa khóa

Tại hội nghị thường niên re:Invent, Amazon đồng thời giới thiệu dòng mô hình ngôn ngữ Nova 2 nâng cấp, trong đó phiên bản đa phương tiện Nova Omni có thể xử lý đầu vào văn bản, hình ảnh, giọng nói và video, kết quả đầu ra cũng có thể là văn bản hoặc hình ảnh.

Ông Rohit Prasad, phụ trách mảng AGI, chia sẻ rằng Nova trước đây không dẫn đầu các bảng xếp hạng thử nghiệm, nhưng chỉ số quan trọng nhất là hiệu quả sử dụng thực tế, và ông tin phiên bản mới đủ sức cạnh tranh.

AWS cũng ra mắt công cụ Nova Forge mới, cho phép doanh nghiệp tùy biến mô hình trên dữ liệu riêng trước khi quá trình huấn luyện hoàn tất. Reddit đã dùng công cụ này phát triển mô hình kiểm duyệt bài viết vi phạm quy định nền tảng. CTO Chris Slowe nhận xét, nhiều công ty muốn dùng mô hình mạnh nhất, nhưng giá trị thực sự là “biến mô hình thành chuyên gia trong lĩnh vực của bạn”.

(OpenAI và AWS ký hợp đồng điện toán đám mây trị giá 38 tỷ USD để thoát khỏi ảnh hưởng của Microsoft và chuẩn bị IPO)

Bài viết này Amazon gấp rút ra mắt chip AI mới nhất Trainium3, thách thức trực diện NVIDIA và Google lần đầu xuất hiện trên Chain News ABMedia.