NVIDIA Mendefinisikan Ulang Superkomputasi AI: Grace Blackwell DGX SuperPOD Mencapai Batas Triliun Parameter

Era Baru Infrastruktur AI Generatif

NVIDIA telah memperkenalkan perubahan mendasar dalam infrastruktur AI dengan peluncuran DGX SuperPOD yang didukung oleh Grace Blackwell Superchips. Platform generasi berikutnya ini mengatasi tantangan paling menuntut yang dihadapi pengembangan AI saat ini: bagaimana memproses dan menerapkan model dengan triliunan parameter secara efisien dalam skala produksi dengan gangguan minimal.

Skalanya sangat besar. Satu konfigurasi DGX SuperPOD dapat mengintegrasikan 576 GPU Blackwell ke dalam lingkungan komputasi terpadu, menghasilkan 11.5 exaflops performa AI dengan presisi FP4 sambil mempertahankan 240 terabyte memori cepat. Ini merupakan loncatan kemampuan yang signifikan—hingga 30x lebih cepat dalam inferensi untuk model bahasa besar dibandingkan generasi H100 sebelumnya dari NVIDIA.

Arsitektur yang Menggerakkan AI Masa Depan

Apa yang membedakan inovasi NVIDIA ini bukan hanya performa mentah, tetapi keanggunan arsitektur. Setiap sistem DGX GB200 menggabungkan 36 GPU Blackwell dengan 36 CPU Grace, terhubung melalui teknologi NVLink generasi kelima. Hasilnya adalah desain skala rak yang menyelesaikan bottleneck bandwidth yang mengganggu superkomputer generasi sebelumnya.

DGX SuperPOD yang baru mencapai bandwidth 1.800 gigabyte per detik per GPU—dicapai melalui kain komputasi terpadu yang mengintegrasikan NVIDIA BlueField-3 DPU dan jaringan InfiniBand Quantum-X800 yang akan datang. Kemampuan In-Network Computing ini menghasilkan 14.4 teraflops kekuatan pemrosesan terdistribusi, peningkatan 4x dibandingkan generasi DGX SuperPOD sebelumnya.

Ini adalah sistem pendingin cair, buatan pabrik yang dioptimalkan untuk penerapan data-center. Setiap DGX SuperPOD dikirim dalam kondisi lengkap terpasang, terkabel, dan teruji—mengubah pembangunan infrastruktur AI dari berbulan-bulan menjadi minggu.

Uptime sebagai Keunggulan Kompetitif

NVIDIA menyematkan kecerdasan ke dalam DGX SuperPOD ini yang tidak dimiliki superkomputer konvensional. Platform ini secara terus-menerus memantau ribuan parameter perangkat keras dan perangkat lunak secara bersamaan, menggunakan algoritma prediktif untuk mengidentifikasi dan mencegah kegagalan sebelum terjadi.

Jika sistem mendeteksi komponen yang menurun performanya, secara otomatis mengaktifkan kapasitas cadangan untuk menjaga beban kerja tetap berjalan. Pemeliharaan rutin dapat dijadwalkan di sekitar jendela komputasi, dan pekerjaan yang terhenti akan dilanjutkan secara otomatis—semua tanpa intervensi manusia. Untuk tim yang menjalankan pelatihan model dengan triliunan parameter, kemampuan manajemen prediktif ini secara langsung berarti penghematan biaya dan percepatan waktu ke pasar.

Skalasi Lebih dari Satu Rak

Arsitektur modular NVIDIA DGX SuperPOD dapat diskalakan secara horizontal. Delapan sistem yang terhubung melalui Quantum InfiniBand menciptakan ruang memori bersama di seluruh ratusan GPU. Pendekatan ini memungkinkan perusahaan dan lembaga riset membangun pusat AI unggulan yang melayani tim pengembang besar yang menjalankan beban kerja paralel secara bersamaan.

NVIDIA juga memperkenalkan sistem DGX B200 untuk organisasi yang membutuhkan konfigurasi rak tradisional yang didinginkan udara. Setiap unit berisi delapan GPU Blackwell yang dipasangkan dengan prosesor Intel Xeon generasi kelima, menghasilkan 144 petaflops performa AI dan 1.4TB memori GPU—memungkinkan inferensi real-time 15x lebih cepat untuk aplikasi dengan triliunan parameter.

Perangkat Lunak dan Keahlian Menutup Siklus

Perangkat keras saja tidak menjamin keberhasilan AI produksi. NVIDIA memadukan setiap DGX SuperPOD dengan tumpukan perangkat lunak AI Enterprise-nya, yang mencakup model dasar pra-latih, kerangka pengembangan, dan arsitektur mikroservis NIM yang baru untuk penerapan yang lebih efisien.

Para ahli NVIDIA bersertifikat dan mitra resmi mendukung pelanggan dari tahap awal penerapan hingga fase optimalisasi, memastikan bahwa kemampuan tersebut benar-benar memberikan nilai bisnis. Pendekatan end-to-end ini mengatasi kesenjangan keahlian yang dihadapi banyak organisasi saat menerapkan infrastruktur superkomputer dalam skala besar.

Apa Artinya Ini untuk Pengembangan AI

Jensen Huang, pendiri dan CEO NVIDIA, menyatakan pentingnya secara sederhana: “Superkomputer AI NVIDIA DGX adalah pabrik revolusi industri AI.” DGX SuperPOD yang didukung Grace Blackwell memperluas visi tersebut—mendemokratisasi akses ke pelatihan dan inferensi model dengan triliunan parameter di tingkat infrastruktur.

Ketersediaan baik untuk DGX SuperPOD dengan sistem DGX GB200 maupun platform DGX B200 diperkirakan akan berlangsung sepanjang 2024 melalui jaringan mitra global NVIDIA, menempatkan generasi baru superkomputer AI ini sebagai fondasi untuk gelombang berikutnya kemajuan AI generatif di berbagai industri.