Meta 為代理式 AI 採用亞馬遜 Graviton 處理器

核心合作夥伴關係詳情

Meta 宣布與 Amazon Web Services 建立重要的合作夥伴關係，承諾部署數千萬個 AWS Graviton CPU 核心。這項合作將為 Meta 的先進代理式 AI 工作負載提供動力，這些系統專為複雜推理和自主任務執行而設計。

AI 基礎設施的轉變

此舉突顯了 AI 硬體需求的關鍵轉變。雖然 GPU 對於透過平行處理訓練大型語言模型至關重要，但代理式 AI 則依賴 CPU 持續、低延遲的效能來執行邏輯和程式碼執行等序列任務。Amazon 的 Graviton 處理器專為這些連續工作負載而設計。

市場與股票影響

消息傳出後，Amazon 股價上漲 1.2%。分析師認為這項交易是對 Amazon 客製化晶片業務的重大肯定。這項合作將 AWS Graviton 定位為 AI 下一階段的關鍵組成部分，預計該階段將由自主代理主導。

展望

這項合作強化了 Amazon 在 AI 基礎設施市場的競爭地位。隨著產業從訓練模型轉向部署智慧代理，對高效能 CPU 的需求預計將會成長，為 AWS 創造巨大的機會。

常見問題

問： Meta 為何使用 AWS Graviton CPU 而非 GPU？
答： 代理式 AI 需要持續運算來執行推理和規劃等序列任務，而 Graviton CPU 正是為此類工作負載而優化。GPU 擅長訓練模型所需的平行處理，而非執行代理式任務。

問： 什麼是代理式 AI？
答： 代理式 AI 指的是能夠理解目標、將其分解為序列步驟並獨立執行這些步驟的自主系統，這與主要處理提示的大型語言模型不同。

來源: Investing.com