Amazon segera meluncurkan chip AI terbaru Trainium3, secara langsung menantang Nvidia dan Google

Amazon Web Services (AWS) baru-baru ini dengan cepat menerapkan chip akselerator AI generasi terbarunya, Trainium3, ke sebagian pusat data, dan mulai 2/12 secara resmi dibuka untuk digunakan pelanggan. Chip ini dianggap sebagai senjata kunci Amazon untuk mengejar (NVIDIA) dan Google di bidang komputasi AI, dengan klaim resmi mengenai performa tinggi dan rasio harga/kinerja yang baik. Namun, pihak luar juga mencatat bahwa meskipun AWS adalah pemimpin cloud, di mata pengembang model AI, daya tariknya masih kalah dibanding Microsoft dan Google. Prioritas utamanya adalah menghadirkan perangkat keras buatan sendiri yang benar-benar bisa memperkuat pelanggan perusahaan dan mempererat ekosistem.

Trainium3 Diluncurkan, AWS Mempercepat Tata Letak Chip AI

Wakil Presiden AWS, Dave Brown, menyatakan bahwa chip akselerator AI generasi terbaru, Trainium3, telah selesai diterapkan di beberapa pusat data dan secara resmi mulai digunakan, kini terbuka bagi pelanggan perusahaan untuk online. Chip ini hanya berjarak satu tahun dari generasi sebelumnya, sesuatu yang cukup langka di industri. Brown juga menambahkan, AWS akan mempercepat distribusi secara besar-besaran mulai awal tahun depan.

Amazon menekankan bahwa seri Trainium mengutamakan performa tinggi dan rasio harga/kinerja yang baik, sehingga dapat menyelesaikan komputasi besar untuk pelatihan AI dengan biaya lebih rendah. Insinyur AWS juga bercanda bahwa saat pertama kali menyalakan Trainium3 pada bulan Agustus, mereka hanya berharap tidak mengeluarkan asap atau terbakar, menyoroti jadwal pengembangan dan peluncuran chip ini yang sangat ketat.

Menantang NVIDIA Tidak Mudah, Ekosistem Perangkat Lunak Masih Menjadi Kelemahan Terbesar

Meskipun AWS terus menekankan keunggulan harga dan performa Trainium, NVIDIA masih memiliki keunggulan besar dalam ekosistem pengembang AI. Seorang pelaku konstruksi otomatisasi menyatakan, meskipun infrastruktur perusahaan ditempatkan di AWS, saat melatih model AI untuk ekskavator otonom, mereka tetap memilih GPU NVIDIA karena membutuhkan solusi yang kuat dan mudah digunakan, yaitu NVIDIA.

Pihak luar umumnya berpendapat bahwa Trainium karena kurangnya toolchain perangkat lunak yang memadai, ambang adopsi bagi banyak tim pengembang masih tinggi, ini juga menyebabkan AWS menghadapi tantangan dalam merebut pasar pelatihan AI tingkat lanjut.

Anthropic Menjadi Pengguna Terbesar, AWS Berharap Meningkatkan Permintaan Melalui Mereka

Saat ini, pengguna Trainium terbanyak di pasar berasal dari startup AI, Anthropic. AWS pada awal tahun mengumumkan telah menerapkan lebih dari 500.000 chip Trainium untuk Anthropic, dengan target meningkat menjadi 1 juta chip pada akhir tahun.

CEO AWS, Matt Garman, menyatakan hubungan kedua belah pihak sangat baik, kebutuhan pelatihan model Anthropic sangat besar, sehingga mereka membeli daya komputasi dari beberapa penyedia cloud seperti AWS dan Google. Anthropic sebelumnya telah mencapai kerja sama dengan Google, dapat menggunakan Google TPU senilai miliaran dolar AS. Pihak luar menunjukkan, selain Anthropic, saat ini masih sedikit pelanggan besar Trainium AWS yang diumumkan secara publik, sehingga pasar sulit untuk sepenuhnya menilai efek nyata dari chip ini.

Konferensi AWS Meluncurkan Nova 2, Forge, Menekankan Performa Nyata adalah Kunci

Pada konferensi tahunan re:Invent, Amazon sekaligus meluncurkan seri model bahasa terbaru Nova 2, di mana versi multimodal Nova Omni dapat memproses input teks, gambar, suara, dan video, serta output dapat berupa teks atau gambar.

Kepala R&D AGI, Rohit Prasad, menyatakan bahwa meskipun Nova sebelumnya tidak unggul dalam peringkat uji standar, indikator terpenting sebenarnya adalah penggunaan nyata, ia yakin versi baru ini cukup kompetitif.

AWS juga meluncurkan alat baru Nova Forge, yang memungkinkan perusahaan melakukan kustomisasi data internal mereka sebelum pelatihan model selesai. Reddit telah menggunakan alat ini untuk membangun model yang menentukan apakah sebuah postingan melanggar aturan platform. CTO Chris Slowe menyatakan, banyak perusahaan ingin langsung menggunakan model terkuat, tetapi nilai sesungguhnya adalah “membuat model menjadi ahli di bidang Anda”.

(OpenAI dan AWS Menyepakati Kerja Sama Cloud Senilai 38 Miliar Dolar AS, Membuka Jalan untuk Lepas dari Microsoft dan IPO)

Artikel ini Amazon Segera Meluncurkan Chip AI Terbaru Trainium3, Menantang NVIDIA dan Google secara Terbuka pertama kali muncul di Berita Blockchain ABMedia.