Huaxi Securities dự đoán rằng thị trường phần mềm AI toàn cầu sẽ đạt 126 tỷ USD vào năm 2025, với tốc độ tăng trưởng kép là 41,02% từ năm 2021 đến năm 2025.
Đằng sau sự thịnh vượng của ChatGPT là sự hỗ trợ của sức mạnh tính toán thiên văn.
Theo ước tính, về máy chủ đào tạo AI, một khóa đào tạo mô hình ngôn ngữ lớn duy nhất sẽ thúc đẩy nhu cầu về máy chủ đào tạo AI lên khoảng 200 triệu đô la Mỹ; về máy chủ lý luận AI, chẳng hạn như ChatGPT, nó có thể thúc đẩy nhu cầu về máy chủ lý luận lên khoảng 4,5 tỷ đô la Mỹ trong giai đoạn đầu.
Trong một thời gian, ChatGPT lần lượt xuất hiện và lượt theo dõi máy chủ AI đằng sau chúng cũng bắt đầu tăng theo.
Sức mạnh tính toán quyết định ChatGPT
Sức mạnh tính toán là động cơ cốt lõi của mô hình lớn và công thức tính toán của nó rất đơn giản: có bao nhiêu chip GPU có thể tạo ra bao nhiêu sức mạnh tính toán và số lượng chip GPU cao cấp có thể ảnh hưởng trực tiếp đến sức mạnh tính toán.
**Sức mạnh tính toán mà ChatGPT yêu cầu không cố định mà tăng dần. ChatGPT càng thông minh thì cái giá đằng sau nó là càng cần nhiều sức mạnh tính toán hơn. **
Theo suy đoán của giới truyền thông, chi phí đào tạo GPT-3 dự kiến là 5 triệu đô la Mỹ mỗi lần, mô hình GPT-3 cần chi phí đào tạo khoảng 1,4 triệu đô la Mỹ và mô hình PaLM của Google cần chi phí khoảng 11,2 triệu đô la Mỹ đô la Mỹ cho chi phí đào tạo.
Theo lãnh đạo Microsoft, siêu máy tính AI cung cấp khả năng tính toán hỗ trợ ChatGPT là siêu máy tính đỉnh cao quy mô lớn do Microsoft đầu tư 1 tỷ USD vào năm 2019. Nó được trang bị hàng chục nghìn GPU Nvidia A100 và hơn 60 Tổng cộng, hàng trăm nghìn GPU Nvidia được triển khai trong trung tâm dữ liệu.
Để đáp ứng nhu cầu ngày càng tăng về sức mạnh điện toán ChatGPT, Microsoft đã thông báo rằng họ sẽ ra mắt một loạt máy ảo AI có khả năng mở rộng Azure dựa trên GPU H100 của chip hàng đầu mới nhất của Nvidia và công nghệ kết nối mạng Quantum-2 InfiniBand của Nvidia để tăng tốc đáng kể sự phát triển của các mô hình AI.
Có vẻ như đằng sau ChatGPT có đầy Nvidia, Nvidia và Nvidia.
Trên thực tế, với tư cách là bá chủ phần cứng, Nvidia không chỉ chiếm lĩnh phần lớn thị trường trên thị trường tiêu dùng mà còn là lựa chọn số một trong lĩnh vực chip máy chủ AI.
Đồ hiếm thì đắt hơn, hiện tại, chip hàng đầu của Nvidia H100 đã tăng giá gần 70.000 nhân dân tệ trong một tuần và giá thường cao tới 300.000 nhân dân tệ, Nhân dân tệ đã tăng lên 90.000 nhân dân tệ, tăng hơn 300.000 nhân dân tệ. 50%.
Không những không mua được với giá cao hơn mà thậm chí Mỹ còn cấm Nvidia bán chip. Vào tháng 8 năm ngoái, chính phủ Mỹ đã ban hành chính sách kiểm soát xuất khẩu, cấm Nvidia bán chip A100 và H100 cho Trung Quốc.
Để không đánh mất thị trường Trung Quốc và tuân thủ các biện pháp kiểm soát xuất khẩu của Hoa Kỳ, Nvidia sau đó đã tung ra các phiên bản hiệu suất cao của chip A800 và H800. Nhưng hai con chip này cũng bị thị trường chộp lấy trong tình trạng thiếu nguồn cung, và giá cũng theo đó mà tăng lên.
Được dẫn dắt bởi Baidu, Ali và Tencent, hầu hết các công ty Internet ở Trung Quốc đã tuyên bố gia nhập mô hình quy mô lớn. Theo thống kê thị trường, kể từ ChatGPT, số lượng mẫu lớn sẽ được ra mắt tại Trung Quốc trong năm nay đã vượt quá con số 10.
Nếu bạn muốn đạt đến cấp độ ChatGPT, bạn cần ít nhất 3.000 chip A100, tương đương 270 triệu RMB với giá 90.000 mỗi chiếc để hoàn thành việc triển khai một mô hình lớn; 10 mô hình lớn cần 30.000 chip A100, 2,7 tỷ RMB .
Ngoài chi phí đào tạo sau này, số chip cần thiết thậm chí còn cao hơn. Nhưng xét về thời gian giao hàng hiện tại của Nvidia, không dễ để mua đủ chip.
Trong một lần xuất thần, kỷ nguyên thẻ khai thác lại đến.
Nvidia lại ngồi trên không
Khi tiền ảo đang nóng lên trong vài năm qua, với tư cách là nhà cung cấp card đồ họa cần thiết cho việc khai thác, Nvidia đã kiếm được khoản lợi nhuận khổng lồ 4,8 tỷ đô la Mỹ trong vài năm. Bây giờ dựa vào ChatGPT để sống cuộc đời thứ hai, hãy để lịch sử lặp lại một lần nữa.
Trước sự gia tăng nhu cầu của thị trường, Nvidia, hãng đã tận dụng làn sóng AI để xoay chuyển tình thế, đã tung ra dịch vụ cho thuê năng lượng máy tính.
Vào ngày 21 tháng 3, tại hội nghị GTC 2023, Jensen Huang, người sáng lập kiêm Giám đốc điều hành NVIDIA, đã ra mắt NVIDIA DGX Cloud, dịch vụ có thể cung cấp cho các doanh nghiệp cơ sở hạ tầng và phần mềm cần thiết để đào tạo các mô hình AI tiên tiến. Mỗi phiên bản DGX Cloud được trang bị 8 GPU H100 hoặc A100 80GB. Doanh nghiệp có thể thuê các cụm DGX Cloud hàng tháng dưới hình thức cho thuê đám mây. Giá khởi điểm là 37.000 USD/phiên bản/tháng.
** Có thực sự không có sự thay thế cho Nvidia? Tại sao các công ty thích chọn cho thuê hơn là các nhà sản xuất chip GPU khác? **
Theo dữ liệu của IDC, máy chủ GPU trong nước sẽ chiếm hơn 88,4% thị trường máy chủ trong nước vào năm 2021 và các sản phẩm sử dụng NVIDIA sẽ chiếm hơn 80%.
**Chip mà mô hình AI lớn yêu cầu có yêu cầu cao hơn về độ chính xác của thông tin xử lý và tốc độ của sức mạnh tính toán. tính toán sức mạnh tính toán. H100 và A100 của Nvidia hiện là những con chip duy nhất có những khả năng này. **
Doanh số bán chip Nvidia không phải là thứ duy nhất bị mắc kẹt ở Hoa Kỳ, công nghệ, thiết bị và vật liệu đều hạn chế hoạt động nghiên cứu và phát triển của các công ty Trung Quốc. Tuy nhiên, dưới những hạn chế nặng nề của Hoa Kỳ, các công ty Trung Quốc vẫn chạy ra khỏi một vài con ngựa đen dưới áp lực.
Theo "Báo cáo theo dõi thị trường máy tính tăng tốc Trung Quốc (nửa cuối năm 2021)" mới nhất do IDC phát hành, quy mô thị trường máy chủ AI của Trung Quốc sẽ đạt 35,03 tỷ nhân dân tệ vào năm 2021, tăng 68,6% so với cùng kỳ năm ngoái.
Trong lĩnh vực chip GPU cấp doanh nghiệp, nhà sản xuất Trung Quốc Biren Technology sẽ ra mắt chip BR100 vào năm 2022, Tianshu Zhixin sẽ ra mắt chip Zhikai 100 và Cambrian sẽ ra mắt chip Siyuan 270.
Trong số đó, Biren Technology cho biết BR100 có sức mạnh tính toán cao nhất trên thế giới và sức mạnh tính toán cao nhất của nó đã đạt hơn ba lần so với các sản phẩm chủ lực trên thị trường, sức mạnh tính toán đạt đến mức PFLOPS.
Dữ liệu tuy tốt nhưng nó lại thiếu đi khả năng xử lý FP64 cốt yếu và vẫn chưa thể thay thế hoàn toàn hai người anh em Nvidia H100 và A100.
Hơn nữa, nền tảng CUDA mà Nvidia sử dụng đã trở thành hệ sinh thái phát triển AI được sử dụng rộng rãi nhất, nó chỉ hỗ trợ GPU dựa trên Tesla của Nvidia, không thể thay thế bằng chip nội địa ở giai đoạn này.
Mặc dù các nhà sản xuất chip Trung Quốc đang bắt kịp lĩnh vực chip GPU, nhưng khoảng cách công nghệ và nút thắt cổ chai ở Hoa Kỳ vẫn là những vấn đề then chốt và sẽ cần một thời gian để nỗ lực.
Hơn cả máy chủ AI
Không chỉ máy chủ AI và chip GPU, mà cả thị trường lưu trữ cũng đang phát triển vượt bậc với sự trợ giúp của các mô hình quy mô lớn.
**Các điều kiện hoạt động của ChatGPT bao gồm dữ liệu đào tạo, thuật toán mô hình và sức mạnh tính toán cao. Cơ sở hạ tầng cơ bản với sức mạnh tính toán cao là cơ sở để hoàn thành dữ liệu lớn và đào tạo. **
Đặc điểm rõ ràng nhất là sau nhiều lần lặp lại ChatGPT, số lượng tham số đã tăng từ 117 triệu lên 175 tỷ, tăng gần hai nghìn lần, điều này cũng mang đến những thách thức lớn cho tính toán và lưu trữ.
**Khi kỷ nguyên mới của AI bắt đầu, dự kiến số lượng tạo, lưu trữ và xử lý dữ liệu toàn cầu sẽ tăng theo cấp số nhân và bộ nhớ sẽ được hưởng lợi đáng kể. Lưu trữ máy tính là nền tảng quan trọng của ChatGPT. Với sự gia nhập của những gã khổng lồ công nghệ như Alibaba và Baidu vào các dự án ChatGPT, nhu cầu chung của thị trường lưu trữ máy tính sẽ tăng nhanh hơn nữa. **
Khi AIGC tiếp tục phát triển, Bắc Kinh, Thượng Hải, Quảng Châu và các khu vực phát triển kinh tế kỹ thuật số khác cũng đã đưa ra các chính sách thúc đẩy xây dựng các trung tâm điện toán thông minh. Ví dụ, Bắc Kinh đề xuất xây dựng một loạt trung tâm dữ liệu điện toán và trung tâm sức mạnh điện toán trí tuệ nhân tạo mới, đồng thời phát triển chúng thành trung tâm sức mạnh điện toán trí tuệ nhân tạo vào năm 2023; Thượng Hải đề xuất xây dựng một loạt trung tâm điện toán trí tuệ nhân tạo hiệu suất cao, thông lượng cao các trung tâm điện toán, Thúc đẩy xây dựng các nền tảng dịch vụ điện toán công cộng, v.v.
Và mọi tầng lớp xã hội sẽ đối mặt với lễ rửa tội của ChatGPT Dưới làn sóng trí tuệ nhân tạo mới, các ngành liên quan đến AI sẽ mở ra một không gian thị trường rộng lớn.
Và các công ty Trung Quốc nhất định phải vượt qua những ràng buộc của Hoa Kỳ và phá bỏ xiềng xích của sự bất công.
Xem bản gốc
Nội dung chỉ mang tính chất tham khảo, không phải là lời chào mời hay đề nghị. Không cung cấp tư vấn về đầu tư, thuế hoặc pháp lý. Xem Tuyên bố miễn trừ trách nhiệm để biết thêm thông tin về rủi ro.
Trò chơi sức mạnh điện toán đằng sau ChatGPT Các công ty Trung Quốc cần khẩn trương phá vỡ xiềng xích của Hoa Kỳ
Huaxi Securities dự đoán rằng thị trường phần mềm AI toàn cầu sẽ đạt 126 tỷ USD vào năm 2025, với tốc độ tăng trưởng kép là 41,02% từ năm 2021 đến năm 2025.
Đằng sau sự thịnh vượng của ChatGPT là sự hỗ trợ của sức mạnh tính toán thiên văn.
Theo ước tính, về máy chủ đào tạo AI, một khóa đào tạo mô hình ngôn ngữ lớn duy nhất sẽ thúc đẩy nhu cầu về máy chủ đào tạo AI lên khoảng 200 triệu đô la Mỹ; về máy chủ lý luận AI, chẳng hạn như ChatGPT, nó có thể thúc đẩy nhu cầu về máy chủ lý luận lên khoảng 4,5 tỷ đô la Mỹ trong giai đoạn đầu.
Trong một thời gian, ChatGPT lần lượt xuất hiện và lượt theo dõi máy chủ AI đằng sau chúng cũng bắt đầu tăng theo.
Sức mạnh tính toán quyết định ChatGPT
Sức mạnh tính toán là động cơ cốt lõi của mô hình lớn và công thức tính toán của nó rất đơn giản: có bao nhiêu chip GPU có thể tạo ra bao nhiêu sức mạnh tính toán và số lượng chip GPU cao cấp có thể ảnh hưởng trực tiếp đến sức mạnh tính toán.
**Sức mạnh tính toán mà ChatGPT yêu cầu không cố định mà tăng dần. ChatGPT càng thông minh thì cái giá đằng sau nó là càng cần nhiều sức mạnh tính toán hơn. **
Theo suy đoán của giới truyền thông, chi phí đào tạo GPT-3 dự kiến là 5 triệu đô la Mỹ mỗi lần, mô hình GPT-3 cần chi phí đào tạo khoảng 1,4 triệu đô la Mỹ và mô hình PaLM của Google cần chi phí khoảng 11,2 triệu đô la Mỹ đô la Mỹ cho chi phí đào tạo.
Theo lãnh đạo Microsoft, siêu máy tính AI cung cấp khả năng tính toán hỗ trợ ChatGPT là siêu máy tính đỉnh cao quy mô lớn do Microsoft đầu tư 1 tỷ USD vào năm 2019. Nó được trang bị hàng chục nghìn GPU Nvidia A100 và hơn 60 Tổng cộng, hàng trăm nghìn GPU Nvidia được triển khai trong trung tâm dữ liệu.
Để đáp ứng nhu cầu ngày càng tăng về sức mạnh điện toán ChatGPT, Microsoft đã thông báo rằng họ sẽ ra mắt một loạt máy ảo AI có khả năng mở rộng Azure dựa trên GPU H100 của chip hàng đầu mới nhất của Nvidia và công nghệ kết nối mạng Quantum-2 InfiniBand của Nvidia để tăng tốc đáng kể sự phát triển của các mô hình AI.
Có vẻ như đằng sau ChatGPT có đầy Nvidia, Nvidia và Nvidia.
Trên thực tế, với tư cách là bá chủ phần cứng, Nvidia không chỉ chiếm lĩnh phần lớn thị trường trên thị trường tiêu dùng mà còn là lựa chọn số một trong lĩnh vực chip máy chủ AI.
Đồ hiếm thì đắt hơn, hiện tại, chip hàng đầu của Nvidia H100 đã tăng giá gần 70.000 nhân dân tệ trong một tuần và giá thường cao tới 300.000 nhân dân tệ, Nhân dân tệ đã tăng lên 90.000 nhân dân tệ, tăng hơn 300.000 nhân dân tệ. 50%.
Không những không mua được với giá cao hơn mà thậm chí Mỹ còn cấm Nvidia bán chip. Vào tháng 8 năm ngoái, chính phủ Mỹ đã ban hành chính sách kiểm soát xuất khẩu, cấm Nvidia bán chip A100 và H100 cho Trung Quốc.
Để không đánh mất thị trường Trung Quốc và tuân thủ các biện pháp kiểm soát xuất khẩu của Hoa Kỳ, Nvidia sau đó đã tung ra các phiên bản hiệu suất cao của chip A800 và H800. Nhưng hai con chip này cũng bị thị trường chộp lấy trong tình trạng thiếu nguồn cung, và giá cũng theo đó mà tăng lên.
Được dẫn dắt bởi Baidu, Ali và Tencent, hầu hết các công ty Internet ở Trung Quốc đã tuyên bố gia nhập mô hình quy mô lớn. Theo thống kê thị trường, kể từ ChatGPT, số lượng mẫu lớn sẽ được ra mắt tại Trung Quốc trong năm nay đã vượt quá con số 10.
Nếu bạn muốn đạt đến cấp độ ChatGPT, bạn cần ít nhất 3.000 chip A100, tương đương 270 triệu RMB với giá 90.000 mỗi chiếc để hoàn thành việc triển khai một mô hình lớn; 10 mô hình lớn cần 30.000 chip A100, 2,7 tỷ RMB .
Ngoài chi phí đào tạo sau này, số chip cần thiết thậm chí còn cao hơn. Nhưng xét về thời gian giao hàng hiện tại của Nvidia, không dễ để mua đủ chip.
Trong một lần xuất thần, kỷ nguyên thẻ khai thác lại đến.
Nvidia lại ngồi trên không
Khi tiền ảo đang nóng lên trong vài năm qua, với tư cách là nhà cung cấp card đồ họa cần thiết cho việc khai thác, Nvidia đã kiếm được khoản lợi nhuận khổng lồ 4,8 tỷ đô la Mỹ trong vài năm. Bây giờ dựa vào ChatGPT để sống cuộc đời thứ hai, hãy để lịch sử lặp lại một lần nữa.
Trước sự gia tăng nhu cầu của thị trường, Nvidia, hãng đã tận dụng làn sóng AI để xoay chuyển tình thế, đã tung ra dịch vụ cho thuê năng lượng máy tính.
Vào ngày 21 tháng 3, tại hội nghị GTC 2023, Jensen Huang, người sáng lập kiêm Giám đốc điều hành NVIDIA, đã ra mắt NVIDIA DGX Cloud, dịch vụ có thể cung cấp cho các doanh nghiệp cơ sở hạ tầng và phần mềm cần thiết để đào tạo các mô hình AI tiên tiến. Mỗi phiên bản DGX Cloud được trang bị 8 GPU H100 hoặc A100 80GB. Doanh nghiệp có thể thuê các cụm DGX Cloud hàng tháng dưới hình thức cho thuê đám mây. Giá khởi điểm là 37.000 USD/phiên bản/tháng.
** Có thực sự không có sự thay thế cho Nvidia? Tại sao các công ty thích chọn cho thuê hơn là các nhà sản xuất chip GPU khác? **
Theo dữ liệu của IDC, máy chủ GPU trong nước sẽ chiếm hơn 88,4% thị trường máy chủ trong nước vào năm 2021 và các sản phẩm sử dụng NVIDIA sẽ chiếm hơn 80%.
**Chip mà mô hình AI lớn yêu cầu có yêu cầu cao hơn về độ chính xác của thông tin xử lý và tốc độ của sức mạnh tính toán. tính toán sức mạnh tính toán. H100 và A100 của Nvidia hiện là những con chip duy nhất có những khả năng này. **
Doanh số bán chip Nvidia không phải là thứ duy nhất bị mắc kẹt ở Hoa Kỳ, công nghệ, thiết bị và vật liệu đều hạn chế hoạt động nghiên cứu và phát triển của các công ty Trung Quốc. Tuy nhiên, dưới những hạn chế nặng nề của Hoa Kỳ, các công ty Trung Quốc vẫn chạy ra khỏi một vài con ngựa đen dưới áp lực.
Theo "Báo cáo theo dõi thị trường máy tính tăng tốc Trung Quốc (nửa cuối năm 2021)" mới nhất do IDC phát hành, quy mô thị trường máy chủ AI của Trung Quốc sẽ đạt 35,03 tỷ nhân dân tệ vào năm 2021, tăng 68,6% so với cùng kỳ năm ngoái.
Trong lĩnh vực chip GPU cấp doanh nghiệp, nhà sản xuất Trung Quốc Biren Technology sẽ ra mắt chip BR100 vào năm 2022, Tianshu Zhixin sẽ ra mắt chip Zhikai 100 và Cambrian sẽ ra mắt chip Siyuan 270.
Trong số đó, Biren Technology cho biết BR100 có sức mạnh tính toán cao nhất trên thế giới và sức mạnh tính toán cao nhất của nó đã đạt hơn ba lần so với các sản phẩm chủ lực trên thị trường, sức mạnh tính toán đạt đến mức PFLOPS.
Dữ liệu tuy tốt nhưng nó lại thiếu đi khả năng xử lý FP64 cốt yếu và vẫn chưa thể thay thế hoàn toàn hai người anh em Nvidia H100 và A100.
Hơn nữa, nền tảng CUDA mà Nvidia sử dụng đã trở thành hệ sinh thái phát triển AI được sử dụng rộng rãi nhất, nó chỉ hỗ trợ GPU dựa trên Tesla của Nvidia, không thể thay thế bằng chip nội địa ở giai đoạn này.
Mặc dù các nhà sản xuất chip Trung Quốc đang bắt kịp lĩnh vực chip GPU, nhưng khoảng cách công nghệ và nút thắt cổ chai ở Hoa Kỳ vẫn là những vấn đề then chốt và sẽ cần một thời gian để nỗ lực.
Hơn cả máy chủ AI
Không chỉ máy chủ AI và chip GPU, mà cả thị trường lưu trữ cũng đang phát triển vượt bậc với sự trợ giúp của các mô hình quy mô lớn.
**Các điều kiện hoạt động của ChatGPT bao gồm dữ liệu đào tạo, thuật toán mô hình và sức mạnh tính toán cao. Cơ sở hạ tầng cơ bản với sức mạnh tính toán cao là cơ sở để hoàn thành dữ liệu lớn và đào tạo. **
Đặc điểm rõ ràng nhất là sau nhiều lần lặp lại ChatGPT, số lượng tham số đã tăng từ 117 triệu lên 175 tỷ, tăng gần hai nghìn lần, điều này cũng mang đến những thách thức lớn cho tính toán và lưu trữ.
**Khi kỷ nguyên mới của AI bắt đầu, dự kiến số lượng tạo, lưu trữ và xử lý dữ liệu toàn cầu sẽ tăng theo cấp số nhân và bộ nhớ sẽ được hưởng lợi đáng kể. Lưu trữ máy tính là nền tảng quan trọng của ChatGPT. Với sự gia nhập của những gã khổng lồ công nghệ như Alibaba và Baidu vào các dự án ChatGPT, nhu cầu chung của thị trường lưu trữ máy tính sẽ tăng nhanh hơn nữa. **
Khi AIGC tiếp tục phát triển, Bắc Kinh, Thượng Hải, Quảng Châu và các khu vực phát triển kinh tế kỹ thuật số khác cũng đã đưa ra các chính sách thúc đẩy xây dựng các trung tâm điện toán thông minh. Ví dụ, Bắc Kinh đề xuất xây dựng một loạt trung tâm dữ liệu điện toán và trung tâm sức mạnh điện toán trí tuệ nhân tạo mới, đồng thời phát triển chúng thành trung tâm sức mạnh điện toán trí tuệ nhân tạo vào năm 2023; Thượng Hải đề xuất xây dựng một loạt trung tâm điện toán trí tuệ nhân tạo hiệu suất cao, thông lượng cao các trung tâm điện toán, Thúc đẩy xây dựng các nền tảng dịch vụ điện toán công cộng, v.v.
Và mọi tầng lớp xã hội sẽ đối mặt với lễ rửa tội của ChatGPT Dưới làn sóng trí tuệ nhân tạo mới, các ngành liên quan đến AI sẽ mở ra một không gian thị trường rộng lớn.
Và các công ty Trung Quốc nhất định phải vượt qua những ràng buộc của Hoa Kỳ và phá bỏ xiềng xích của sự bất công.