F5 Bermitra dengan NVIDIA Untuk Menskalakan Platform Inferensi AI

robot
Pembuatan abstrak sedang berlangsung

F5 telah memperluas kolaborasinya dengan NVIDIA untuk meningkatkan platform inferensi AI dengan mengintegrasikan F5 BIG-IP Next for Kubernetes dengan NVIDIA BlueField-3 DPU. Kemitraan ini bertujuan untuk meningkatkan throughput token, mengurangi latensi, dan memungkinkan platform AI multi-penyewa yang aman secara skala besar. Solusi bersama ini telah menunjukkan peningkatan kinerja yang signifikan dalam pengujian, termasuk peningkatan throughput token hingga 40% dan waktu hingga token pertama 61% lebih cepat, menjadikan BIG-IP Next for Kubernetes sebagai kontrol utama untuk ekonomi pabrik AI.

Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar
  • Sematkan