Huaxi Securities memperkirakan bahwa pasar perangkat lunak AI global akan mencapai US$126 miliar pada tahun 2025, dengan tingkat pertumbuhan gabungan sebesar 41,02% dari tahun 2021 hingga 2025.
Di balik kemakmuran ChatGPT adalah dukungan daya komputasi astronomi.
Menurut perkiraan, dalam hal server pelatihan AI, satu pelatihan model bahasa besar mendorong permintaan server pelatihan AI menjadi sekitar 200 juta dolar AS; dalam hal server penalaran AI, seperti ChatGPT, ini dapat mendorong permintaan server penalaran menjadi sekitar 4,5 miliar dolar AS pada tahap awal.
Untuk sementara, ChatGPT muncul satu demi satu, dan jalur server AI di belakang mereka juga mulai meningkat.
Daya komputasi menentukan ChatGPT
Daya komputasi adalah mesin inti dari model besar, dan rumus kalkulasinya sangat sederhana: berapa banyak chip GPU yang dapat menghasilkan daya komputasi sebanyak itu, dan jumlah chip GPU kelas atas dapat secara langsung memengaruhi daya komputasi.
**Daya komputasi yang dibutuhkan oleh ChatGPT tidak tetap, tetapi meningkat selangkah demi selangkah. Semakin pintar ChatGPT, harga di baliknya adalah semakin banyak daya komputasi yang dibutuhkan. **
Menurut spekulasi media, biaya pelatihan GPT-3 diharapkan menjadi 5 juta dolar AS per waktu, model GPT-3 membutuhkan biaya sekitar 1,4 juta dolar AS untuk biaya pelatihan, dan model PaLM Google membutuhkan biaya sekitar 11,2 juta dolar AS dolar untuk biaya pelatihan.
Menurut eksekutif Microsoft, superkomputer AI yang memberikan dukungan daya komputasi untuk ChatGPT adalah superkomputer kelas atas berskala besar yang dibangun oleh Microsoft dengan investasi US$1 miliar pada 2019. Dilengkapi dengan puluhan ribu GPU Nvidia A100 dan lebih dari 60 Total, ratusan ribu GPU Nvidia dikerahkan di pusat data.
Untuk memenuhi permintaan daya komputasi ChatGPT yang terus meningkat, Microsoft mengumumkan bahwa mereka akan meluncurkan serangkaian mesin virtual AI Azure yang dapat diskalakan berdasarkan chip unggulan Nvidia terbaru H100 GPU dan teknologi interkoneksi jaringan Quantum-2 InfiniBand Nvidia untuk mempercepat pengembangan secara signifikan model AI.
Tampaknya di belakang ChatGPT penuh dengan Nvidia, Nvidia, dan Nvidia.
Faktanya, Nvidia, sebagai penguasa perangkat keras, tidak hanya menempati sebagian besar pasar di pasar konsumen, tetapi juga merupakan pilihan nomor satu di bidang chip server AI.
Barang langka lebih mahal. Saat ini, chip andalan Nvidia H100 telah meningkat harganya hampir 70.000 yuan dalam seminggu, dan harganya umumnya setinggi 300.000 yuan; Yuan naik hingga 90.000 yuan, meningkat lebih dari 50%.
Tidak hanya tidak dapat dibeli dengan harga lebih tinggi, bahkan Amerika Serikat telah melarang Nvidia menjual chip. Pada Agustus tahun lalu, pemerintah AS mengeluarkan kebijakan kontrol ekspor, melarang Nvidia menjual chip A100 dan H100 ke China.
Agar tidak kehilangan pasar Cina dan mematuhi kontrol ekspor AS, Nvidia kemudian meluncurkan versi chip A800 dan H800 yang dikebiri kinerja. Tetapi kedua chip ini juga direbut oleh pasar karena kekurangan pasokan, dan harganya juga naik.
Dipimpin oleh Baidu, Ali, dan Tencent, sebagian besar perusahaan Internet di China telah mengumumkan masuknya mereka ke dalam model berskala besar. Menurut statistik pasar, sejak ChatGPT, jumlah model besar yang diluncurkan di China tahun ini telah melebihi 10.
Jika Anda ingin mencapai level ChatGPT, Anda memerlukan setidaknya 3.000 chip A100, yaitu 270 juta RMB dengan harga 90.000 per potong untuk menyelesaikan penerapan model besar; 10 model besar membutuhkan 30.000 chip A100, 2,7 miliar RMB .
Selain biaya pelatihan nanti, chip yang dibutuhkan bahkan lebih besar lagi. Namun dilihat dari waktu pengiriman Nvidia saat ini, tidak mudah untuk membeli chip yang cukup.
Dalam keadaan kesurupan, era kartu penambangan datang lagi.
Nvidia duduk di udara lagi
Ketika mata uang virtual sedang panas dalam beberapa tahun terakhir, sebagai penyedia kartu grafis yang diperlukan untuk penambangan, Nvidia menghasilkan keuntungan besar sebesar 4,8 miliar dolar AS dalam beberapa tahun. Sekarang mengandalkan ChatGPT untuk menjalani kehidupan kedua, biarkan sejarah terulang kembali.
Menghadapi lonjakan permintaan pasar, Nvidia yang memanfaatkan gelombang AI untuk berbalik arah meluncurkan layanan penyewaan daya komputasi.
Pada 21 Maret, pada konferensi GTC 2023, pendiri dan CEO NVIDIA Jen-Hsun Huang meluncurkan NVIDIA DGX Cloud, yang dapat menyediakan infrastruktur dan perangkat lunak yang dibutuhkan perusahaan untuk melatih model AI tingkat lanjut. Setiap instance DGX Cloud dilengkapi dengan 8 H100 atau A100 80GB GPU Perusahaan dapat menyewa cluster DGX Cloud setiap bulan dalam bentuk penyewaan cloud dengan harga mulai dari USD 37.000 per instans per bulan.
** Apakah benar-benar tidak ada pengganti untuk Nvidia? Mengapa perusahaan lebih memilih leasing daripada produsen chip GPU lainnya? **
Menurut data IDC, server GPU domestik akan mencapai lebih dari 88,4% pasar server domestik pada tahun 2021, dan produk yang menggunakan NVIDIA akan mencapai lebih dari 80%.
**Chip yang dibutuhkan oleh model besar AI memiliki persyaratan yang lebih tinggi pada ketepatan pemrosesan informasi dan kecepatan daya komputasi.Di bidang superkomputer, kemampuan komputasi floating-point presisi ganda FP64 adalah indikator kaku untuk tinggi perhitungan daya komputasi. H100 dan A100 Nvidia saat ini adalah satu-satunya chip dengan kemampuan ini. **
Penjualan chip Nvidia bukan satu-satunya hal yang macet di Amerika Serikat Teknologi, peralatan, dan material semuanya membatasi penelitian dan pengembangan perusahaan China. Namun, di bawah pembatasan ketat Amerika Serikat, perusahaan China masih kehabisan beberapa kuda hitam di bawah tekanan.
Menurut "Laporan Pelacakan Pasar Komputasi Akselerasi China (Paruh Kedua 2021) terbaru" yang dirilis oleh IDC, skala pasar server AI China akan mencapai 35,03 miliar yuan pada tahun 2021, meningkat dari tahun ke tahun sebesar 68,6%.
Di bidang chip GPU tingkat perusahaan, pabrikan China Biren Technology akan meluncurkan chip BR100 pada tahun 2022, Tianshu Zhixin akan meluncurkan chip Zhikai 100, dan Cambrian akan meluncurkan chip Siyuan 270.
Di antara mereka, Biren Technology mengatakan bahwa BR100 memiliki daya komputasi tertinggi di dunia, dan daya komputasi puncaknya telah mencapai lebih dari tiga kali lipat dari produk unggulan di pasar, daya komputasi mencapai level PFLOPS.
Meski datanya bagus, namun kurang memiliki kemampuan krusial untuk memproses FP64, dan masih belum bisa sepenuhnya menggantikan dua bersaudara Nvidia H100 dan A100.
Apalagi, platform CUDA yang digunakan Nvidia sudah menjadi ekosistem pengembangan AI yang paling banyak digunakan, hanya mendukung GPU berbasis Tesla milik Nvidia, yang saat ini belum bisa digantikan oleh chip dalam negeri.
Meskipun pabrikan chip China sedang mengejar di bidang chip GPU, kesenjangan teknologi dan hambatan di Amerika Serikat masih menjadi masalah utama, dan akan membutuhkan waktu untuk bekerja keras.
Lebih dari server AI
Tidak hanya server AI dan chip GPU, tetapi juga pasar penyimpanan meningkat pesat dengan bantuan model berskala besar.
**Kondisi pengoperasian ChatGPT mencakup data pelatihan, algoritme model, dan daya komputasi tinggi. Infrastruktur dasar dengan daya komputasi tinggi adalah dasar untuk data dan pelatihan masif. **
Fitur yang paling jelas adalah setelah beberapa iterasi ChatGPT, jumlah parameter telah meningkat dari 117 juta menjadi 175 miliar, meningkat hampir 2.000 kali lipat, yang juga membawa tantangan besar bagi komputasi dan penyimpanan.
**Saat era baru AI dimulai, diharapkan jumlah pembuatan, penyimpanan, dan pemrosesan data global akan meningkat secara eksponensial, dan memori akan mendapat manfaat yang signifikan. Penyimpanan komputasi adalah landasan penting ChatGPT. Dengan masuknya raksasa teknologi seperti Alibaba dan Baidu ke dalam proyek ChatGPT, permintaan pasar penyimpanan komputasi secara keseluruhan akan semakin meningkat dengan cepat. **
Saat AIGC terus berkembang, Beijing, Shanghai, Guangzhou, dan kawasan ekonomi digital lainnya juga telah memperkenalkan kebijakan untuk mempromosikan pembangunan pusat komputasi cerdas. Misalnya, Beijing mengusulkan untuk membangun batch baru pusat data komputasi dan pusat daya komputasi kecerdasan buatan, dan mengolahnya menjadi hub daya komputasi kecerdasan buatan pada tahun 2023; Shanghai mengusulkan untuk membangun batch komputasi kecerdasan buatan berkinerja tinggi dan throughput tinggi pusat daya , Mempromosikan pembangunan platform layanan daya komputasi publik, dll.
Dan semua lapisan masyarakat akan menghadapi baptisan ChatGPT Di bawah gelombang baru kecerdasan buatan, industri terkait AI akan mengantarkan ruang pasar yang luas.
Dan perusahaan China terikat untuk menerobos batasan Amerika Serikat dan mematahkan belenggu ketidakadilan.
Lihat Asli
Konten ini hanya untuk referensi, bukan ajakan atau tawaran. Tidak ada nasihat investasi, pajak, atau hukum yang diberikan. Lihat Penafian untuk pengungkapan risiko lebih lanjut.
Permainan kekuatan komputasi di belakang perusahaan China ChatGPT sangat perlu untuk mematahkan belenggu Amerika Serikat
Huaxi Securities memperkirakan bahwa pasar perangkat lunak AI global akan mencapai US$126 miliar pada tahun 2025, dengan tingkat pertumbuhan gabungan sebesar 41,02% dari tahun 2021 hingga 2025.
Di balik kemakmuran ChatGPT adalah dukungan daya komputasi astronomi.
Menurut perkiraan, dalam hal server pelatihan AI, satu pelatihan model bahasa besar mendorong permintaan server pelatihan AI menjadi sekitar 200 juta dolar AS; dalam hal server penalaran AI, seperti ChatGPT, ini dapat mendorong permintaan server penalaran menjadi sekitar 4,5 miliar dolar AS pada tahap awal.
Untuk sementara, ChatGPT muncul satu demi satu, dan jalur server AI di belakang mereka juga mulai meningkat.
Daya komputasi menentukan ChatGPT
Daya komputasi adalah mesin inti dari model besar, dan rumus kalkulasinya sangat sederhana: berapa banyak chip GPU yang dapat menghasilkan daya komputasi sebanyak itu, dan jumlah chip GPU kelas atas dapat secara langsung memengaruhi daya komputasi.
**Daya komputasi yang dibutuhkan oleh ChatGPT tidak tetap, tetapi meningkat selangkah demi selangkah. Semakin pintar ChatGPT, harga di baliknya adalah semakin banyak daya komputasi yang dibutuhkan. **
Menurut spekulasi media, biaya pelatihan GPT-3 diharapkan menjadi 5 juta dolar AS per waktu, model GPT-3 membutuhkan biaya sekitar 1,4 juta dolar AS untuk biaya pelatihan, dan model PaLM Google membutuhkan biaya sekitar 11,2 juta dolar AS dolar untuk biaya pelatihan.
Menurut eksekutif Microsoft, superkomputer AI yang memberikan dukungan daya komputasi untuk ChatGPT adalah superkomputer kelas atas berskala besar yang dibangun oleh Microsoft dengan investasi US$1 miliar pada 2019. Dilengkapi dengan puluhan ribu GPU Nvidia A100 dan lebih dari 60 Total, ratusan ribu GPU Nvidia dikerahkan di pusat data.
Untuk memenuhi permintaan daya komputasi ChatGPT yang terus meningkat, Microsoft mengumumkan bahwa mereka akan meluncurkan serangkaian mesin virtual AI Azure yang dapat diskalakan berdasarkan chip unggulan Nvidia terbaru H100 GPU dan teknologi interkoneksi jaringan Quantum-2 InfiniBand Nvidia untuk mempercepat pengembangan secara signifikan model AI.
Tampaknya di belakang ChatGPT penuh dengan Nvidia, Nvidia, dan Nvidia.
Faktanya, Nvidia, sebagai penguasa perangkat keras, tidak hanya menempati sebagian besar pasar di pasar konsumen, tetapi juga merupakan pilihan nomor satu di bidang chip server AI.
Barang langka lebih mahal. Saat ini, chip andalan Nvidia H100 telah meningkat harganya hampir 70.000 yuan dalam seminggu, dan harganya umumnya setinggi 300.000 yuan; Yuan naik hingga 90.000 yuan, meningkat lebih dari 50%.
Tidak hanya tidak dapat dibeli dengan harga lebih tinggi, bahkan Amerika Serikat telah melarang Nvidia menjual chip. Pada Agustus tahun lalu, pemerintah AS mengeluarkan kebijakan kontrol ekspor, melarang Nvidia menjual chip A100 dan H100 ke China.
Agar tidak kehilangan pasar Cina dan mematuhi kontrol ekspor AS, Nvidia kemudian meluncurkan versi chip A800 dan H800 yang dikebiri kinerja. Tetapi kedua chip ini juga direbut oleh pasar karena kekurangan pasokan, dan harganya juga naik.
Dipimpin oleh Baidu, Ali, dan Tencent, sebagian besar perusahaan Internet di China telah mengumumkan masuknya mereka ke dalam model berskala besar. Menurut statistik pasar, sejak ChatGPT, jumlah model besar yang diluncurkan di China tahun ini telah melebihi 10.
Jika Anda ingin mencapai level ChatGPT, Anda memerlukan setidaknya 3.000 chip A100, yaitu 270 juta RMB dengan harga 90.000 per potong untuk menyelesaikan penerapan model besar; 10 model besar membutuhkan 30.000 chip A100, 2,7 miliar RMB .
Selain biaya pelatihan nanti, chip yang dibutuhkan bahkan lebih besar lagi. Namun dilihat dari waktu pengiriman Nvidia saat ini, tidak mudah untuk membeli chip yang cukup.
Dalam keadaan kesurupan, era kartu penambangan datang lagi.
Nvidia duduk di udara lagi
Ketika mata uang virtual sedang panas dalam beberapa tahun terakhir, sebagai penyedia kartu grafis yang diperlukan untuk penambangan, Nvidia menghasilkan keuntungan besar sebesar 4,8 miliar dolar AS dalam beberapa tahun. Sekarang mengandalkan ChatGPT untuk menjalani kehidupan kedua, biarkan sejarah terulang kembali.
Menghadapi lonjakan permintaan pasar, Nvidia yang memanfaatkan gelombang AI untuk berbalik arah meluncurkan layanan penyewaan daya komputasi.
Pada 21 Maret, pada konferensi GTC 2023, pendiri dan CEO NVIDIA Jen-Hsun Huang meluncurkan NVIDIA DGX Cloud, yang dapat menyediakan infrastruktur dan perangkat lunak yang dibutuhkan perusahaan untuk melatih model AI tingkat lanjut. Setiap instance DGX Cloud dilengkapi dengan 8 H100 atau A100 80GB GPU Perusahaan dapat menyewa cluster DGX Cloud setiap bulan dalam bentuk penyewaan cloud dengan harga mulai dari USD 37.000 per instans per bulan.
** Apakah benar-benar tidak ada pengganti untuk Nvidia? Mengapa perusahaan lebih memilih leasing daripada produsen chip GPU lainnya? **
Menurut data IDC, server GPU domestik akan mencapai lebih dari 88,4% pasar server domestik pada tahun 2021, dan produk yang menggunakan NVIDIA akan mencapai lebih dari 80%.
**Chip yang dibutuhkan oleh model besar AI memiliki persyaratan yang lebih tinggi pada ketepatan pemrosesan informasi dan kecepatan daya komputasi.Di bidang superkomputer, kemampuan komputasi floating-point presisi ganda FP64 adalah indikator kaku untuk tinggi perhitungan daya komputasi. H100 dan A100 Nvidia saat ini adalah satu-satunya chip dengan kemampuan ini. **
Penjualan chip Nvidia bukan satu-satunya hal yang macet di Amerika Serikat Teknologi, peralatan, dan material semuanya membatasi penelitian dan pengembangan perusahaan China. Namun, di bawah pembatasan ketat Amerika Serikat, perusahaan China masih kehabisan beberapa kuda hitam di bawah tekanan.
Menurut "Laporan Pelacakan Pasar Komputasi Akselerasi China (Paruh Kedua 2021) terbaru" yang dirilis oleh IDC, skala pasar server AI China akan mencapai 35,03 miliar yuan pada tahun 2021, meningkat dari tahun ke tahun sebesar 68,6%.
Di bidang chip GPU tingkat perusahaan, pabrikan China Biren Technology akan meluncurkan chip BR100 pada tahun 2022, Tianshu Zhixin akan meluncurkan chip Zhikai 100, dan Cambrian akan meluncurkan chip Siyuan 270.
Di antara mereka, Biren Technology mengatakan bahwa BR100 memiliki daya komputasi tertinggi di dunia, dan daya komputasi puncaknya telah mencapai lebih dari tiga kali lipat dari produk unggulan di pasar, daya komputasi mencapai level PFLOPS.
Meski datanya bagus, namun kurang memiliki kemampuan krusial untuk memproses FP64, dan masih belum bisa sepenuhnya menggantikan dua bersaudara Nvidia H100 dan A100.
Apalagi, platform CUDA yang digunakan Nvidia sudah menjadi ekosistem pengembangan AI yang paling banyak digunakan, hanya mendukung GPU berbasis Tesla milik Nvidia, yang saat ini belum bisa digantikan oleh chip dalam negeri.
Meskipun pabrikan chip China sedang mengejar di bidang chip GPU, kesenjangan teknologi dan hambatan di Amerika Serikat masih menjadi masalah utama, dan akan membutuhkan waktu untuk bekerja keras.
Lebih dari server AI
Tidak hanya server AI dan chip GPU, tetapi juga pasar penyimpanan meningkat pesat dengan bantuan model berskala besar.
**Kondisi pengoperasian ChatGPT mencakup data pelatihan, algoritme model, dan daya komputasi tinggi. Infrastruktur dasar dengan daya komputasi tinggi adalah dasar untuk data dan pelatihan masif. **
Fitur yang paling jelas adalah setelah beberapa iterasi ChatGPT, jumlah parameter telah meningkat dari 117 juta menjadi 175 miliar, meningkat hampir 2.000 kali lipat, yang juga membawa tantangan besar bagi komputasi dan penyimpanan.
**Saat era baru AI dimulai, diharapkan jumlah pembuatan, penyimpanan, dan pemrosesan data global akan meningkat secara eksponensial, dan memori akan mendapat manfaat yang signifikan. Penyimpanan komputasi adalah landasan penting ChatGPT. Dengan masuknya raksasa teknologi seperti Alibaba dan Baidu ke dalam proyek ChatGPT, permintaan pasar penyimpanan komputasi secara keseluruhan akan semakin meningkat dengan cepat. **
Saat AIGC terus berkembang, Beijing, Shanghai, Guangzhou, dan kawasan ekonomi digital lainnya juga telah memperkenalkan kebijakan untuk mempromosikan pembangunan pusat komputasi cerdas. Misalnya, Beijing mengusulkan untuk membangun batch baru pusat data komputasi dan pusat daya komputasi kecerdasan buatan, dan mengolahnya menjadi hub daya komputasi kecerdasan buatan pada tahun 2023; Shanghai mengusulkan untuk membangun batch komputasi kecerdasan buatan berkinerja tinggi dan throughput tinggi pusat daya , Mempromosikan pembangunan platform layanan daya komputasi publik, dll.
Dan semua lapisan masyarakat akan menghadapi baptisan ChatGPT Di bawah gelombang baru kecerdasan buatan, industri terkait AI akan mengantarkan ruang pasar yang luas.
Dan perusahaan China terikat untuk menerobos batasan Amerika Serikat dan mematahkan belenggu ketidakadilan.