輝達將發表加速推論的新AI晶片

Nvidia 宣布推出用於 AI 推論的新處理器

據報導，Nvidia 正計劃推出一款旨在加速 AI 推論運算的新處理器。據《華爾街日報》報導，此舉旨在幫助像 OpenAI 這樣的客戶建立更快、更高效的 AI 系統，以大規模部署服務。

應對市場需求

此項宣布發布之際，有報導稱 OpenAI 對於特定 AI 任務的當前硬體速度感到不滿。這個預計在 Nvidia GTC 大會上發布的新平台，將專注於推論——即使用經過訓練的 AI 模型來生成回應的過程。據報導，該系統將整合來自新創公司 Groq 的晶片，Nvidia 最近與該公司達成了一項授權協議。

對 AI 產業的影響

這項發展透過將其產品擴展到訓練晶片之外，鞏固了 Nvidia 在 AI 硬體市場的主導地位。這款新處理器可以解決 AI 部署中的關鍵瓶頸，潛在地提高性能並降低像 ChatGPT 這樣的大規模 AI 服務的營運成本。它也突顯了專用硬體的競爭格局。

展望

即將舉行的 GTC 開發者大會上的官方發布將受到密切關注，以了解其技術規格和性能基準。市場將評估這個新平台如何使 Nvidia 在與競爭對手晶片設計師和其他科技巨頭的內部解決方案中定位。

常見問題

問：什麼是 AI 推論？
答：AI 推論是使用經過訓練的神經網路，根據新的即時數據進行預測或生成輸出的過程。

問：為什麼這款新晶片很重要？
答：它解決了對專門用於運行 AI 模型更快、更高效硬體的日益增長的需求，這是大規模部署 AI 服務的關鍵環節。

來源: Investing.com