掃描下載 Gate App
qrCode
更多下載方式
今天不再提醒

科技巨頭微軟剛剛公布了關於AI推理性能的重大數據。他們最新的基準測試在一台Nvidia GB300 NLV72機架上達到了每秒1.1百萬個tokens的速度——打破了他們自己之前用GB200設置創造的每秒865,000個tokens的紀錄。



這種吞吐量的飛躍比數字本身更具意義。我們談論的是支撐從語言模型到潛在去中心化AI應用的一切的基礎架構。更快的推理速度意味著更低的延遲、更好的擴展性,最終也降低了計算成本——這些因素直接影響AI在現實系統中的整合方式。

GB300架構顯然代表了原始處理能力的重大提升。對於關注AI與分散式系統交叉點的人來說,這些性能提升預示著計算層的未來方向。在毫秒級和每個tokens成本都至關重要的領域,這種規模的效率改進不僅令人印象深刻,更是基礎性的。
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 6
  • 轉發
  • 分享
留言
0/400
盲盒开出大熊猫vip
· 11小時前
微軟在炫耀什麼呢
查看原文回復0
NotFinancialAdvice1vip
· 20小時前
大力出奇跡 啥時候降價
查看原文回復0
薛定谔的纸手vip
· 20小時前
微軟這泵是真頂,明天溢價接大單
查看原文回復0
PanicSeller69vip
· 20小時前
卷起來了,想貼貼
查看原文回復0
幻象猎手vip
· 20小時前
這錢燒的...真香
查看原文回復0
DegenWhisperervip
· 20小時前
臥槽 實在太快了
查看原文回復0
交易,隨時隨地
qrCode
掃碼下載 Gate App
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)