【導讀】AI 智能體仍處于早期的發(fā)展階段，但使用規(guī)模正快速增長。根據(jù)美國知名風險投資機構(gòu) a16z 援引的 OpenRouter 數(shù)據(jù)，自2026年 2 月以來，智能體的 Token（詞元）使用量增長約 14 倍。從基礎(chǔ)設施的角度來看， AI 智能體就像擁有持久計算環(huán)境的虛擬用戶，能夠持久保持狀態(tài)、檢索上下文、調(diào)用工具和服務、執(zhí)行任務，并持續(xù)評估執(zhí)行結(jié)果，直至任務完成。
當數(shù)百萬甚至數(shù)十億個智能體全天候持續(xù)工作時，計算、內(nèi)存、存儲和輸入/輸出（I/O）都必須在高并發(fā)環(huán)境下支持持續(xù)運行。這不僅對 CPU 提出了新的要求，也意味著業(yè)界需要建立新的評估標準，以測評系統(tǒng)處理智能體實際完成工作負載的能力。
構(gòu)建面向虛擬用戶的數(shù)據(jù)中心
智能體 AI 正在推動 AI 數(shù)據(jù)中心多個環(huán)節(jié)的計算需求增長。CPU 在智能體維護上下文、調(diào)用工具和訪問數(shù)據(jù)的同時執(zhí)行相關(guān)工作負載；在 AI 頭節(jié)點（head node）中，CPU 負責作業(yè)調(diào)度、數(shù)據(jù)準備和傳輸以及系統(tǒng)調(diào)度，以確保昂貴的加速器持續(xù)保持高效運轉(zhuǎn)。
與此同時，智能體還會催生更多云原生工作負載。每一次搜索、服務調(diào)用、代碼執(zhí)行或數(shù)據(jù)請求，都會驅(qū)動底層基礎(chǔ)設施執(zhí)行相應任務。智能體 AI 不會替代云原生工作負載，而是在現(xiàn)有云原生需求之上進一步疊加和放大新的需求。
隨著智能體的自主性不斷增強，并獲得更多工具和數(shù)據(jù)訪問權(quán)限，保障運行時安全的重要性也愈發(fā)凸顯。主機 CPU 可專注于執(zhí)行智能體工作負載，而數(shù)據(jù)處理器（DPU）及其他基礎(chǔ)設施處理器則可為網(wǎng)絡、存儲、策略執(zhí)行、遙測和隔離提供獨立的控制平面。從運行云計算和智能體工作負載的 CPU，到提供安全保障和基礎(chǔ)設施管控能力的 DPU， Arm 技術(shù)覆蓋這一系統(tǒng)中的兩大關(guān)鍵層面。
在本周的開放計算全球峰會（OCP Global Summit）上，這一設計趨勢正逐步在實際系統(tǒng)中落地。Arm 正在推進向 OCP 貢獻 Arm AGI CPU 服務器參考設計，而 Meta 的 Yosemite YV5 則將 Arm AGI CPU 引入 OCP 機架級設計之中。
衡量真正有意義的工作負載
CPU 性能的評估標準正在被重新定義。對于智能體計算，關(guān)鍵在于確保響應能力的同時, 系統(tǒng)能支持并發(fā)完成多少工作；對于 AI 頭節(jié)點，關(guān)鍵在于 CPU 能否高效地保持加速器處于高利用率狀態(tài)；對于云原生基礎(chǔ)設施，關(guān)鍵則在于能否快速且可預測地處理每項操作。
智能體工作負載凸顯了持續(xù)性能的重要性。如果吞吐量隨著系統(tǒng)資源利用率上升而下降，那么擁有更多的理論算力并不意味著能夠完成更多任務。真正重要的是，在功耗和物理條件的限制下，基礎(chǔ)設施能夠持續(xù)支撐多少實際有效的工作負載。
憑借長期服務全球超大規(guī)模數(shù)據(jù)中心的經(jīng)驗，Arm 對計算需求的演變有著深刻的洞察。基于此洞察，Arm 開發(fā)了一套針對智能體 AI 的全新 CPU 性能測評方法，并獲得富士通（Fujitsu）、Meta 和 OpenAI 的支持。該框架基于三個原則：
具有代表性的智能體應用場景；
可重復的 CPU 性能測試方法；
端到端的結(jié)果驗證。
組件級測試有助于排除模型推理和網(wǎng)絡等變量的干擾，從而得以單獨評估 CPU 性能；而端到端評估則可用于判斷這些改進能否轉(zhuǎn)化為更好的任務完成效果。
隨著智能體架構(gòu)和軟件持續(xù)演進，這套方法論也需要持續(xù)優(yōu)化。
閱讀完整 Arm 方法論白皮書。
Arm AGI CPU 實測表現(xiàn)
基于上述方法論，Signal65 對 Arm AGI CPU 與 AMD EPYC Turin 在工具調(diào)用、編排、推理與規(guī)劃等工作負載中的表現(xiàn)進行了獨立驗證。兩個平臺均采用相同的基準測試腳本，并基于實測的服務器級性能數(shù)據(jù), 構(gòu)建清晰的機架級性能模型。
初步測試結(jié)果顯示：
單機架可承載近兩倍工作負載：在七項工作負載測試中，得益于更高的計算密度和更優(yōu)的能效表現(xiàn)，相較 AMD EPYC（霄龍）9755，Arm AGI CPU平均實現(xiàn) 1.99 倍的機架級性能。
在智能體工作負載中展現(xiàn)卓越性能：Arm AGI CPU 在多個關(guān)鍵智能體應用場景中的機架級性能均優(yōu)于對比平臺。其中，工具調(diào)用場景平均達到對比平臺的 1.7 倍，智能體工作流和任務編排場景達到 2 倍，推理與規(guī)劃場景達到 2.2 倍，展現(xiàn)出其滿足智能體 AI 多樣化計算需求的能力。
更快速、更敏捷的智能體執(zhí)行：相較AMD EPYC（霄龍）9965，Arm AGI CPU 最多可將沙箱創(chuàng)建時延降低 45%，幫助智能體更快啟動隔離執(zhí)行環(huán)境，降低智能體執(zhí)行過程中的系統(tǒng)開銷。
機架級視角至關(guān)重要，因為數(shù)據(jù)中心始終受到功耗、散熱和物理空間的固定限制。尤其是在更多智能體和任務并發(fā)運行的情況下，基礎(chǔ)設施運營商最終需要了解系統(tǒng)在這些限制內(nèi)能夠持續(xù)完成多少有效工作。
閱讀 Signal65 的獨立分析報告。
Arm AGI CPU 正是圍繞這些工作負載特征而設計，憑借高核心密度、每核心內(nèi)存配置以及高帶寬 I/O 能力，支持智能體工作負載的持續(xù)運行。
隨著智能體從“響應提示詞”轉(zhuǎn)向“持續(xù)完成工作”，評估基礎(chǔ)設施能力的標準也應聚焦于其能否高效、穩(wěn)定地完成實際工作，從單個智能體到整個機架皆是如此。更完善的測評方法可為業(yè)界提供更清晰的依據(jù)，以識別系統(tǒng)瓶頸、比較系統(tǒng)性能，并推動智能體基礎(chǔ)設施在規(guī)模化發(fā)展的過程中持續(xù)優(yōu)化。
智能體 AI 性能評估的行業(yè)觀點
“隨著智能體 AI 持續(xù)發(fā)展，CPU 性能評估需要突破傳統(tǒng)指標，并能夠反映真實工作負載的基準測試。在開發(fā)下一代高性能、高能效 Arm 架構(gòu) CPU 產(chǎn)品 FUJITSU-MONAKA 的過程中，我們深知透明、可重復且具有代表性的測評體系的重要性。富士通歡迎 Arm 推動行業(yè)協(xié)作的這一舉措，并期待共同優(yōu)化下一代 AI 基礎(chǔ)設施。”
富士通高級副總裁、先進計算開發(fā)事業(yè)部負責人 Toshio Yoshida
“隨著智能體 AI 進入生產(chǎn)部署階段，業(yè)界需要更清晰地了解不同工作負載如何利用底層基礎(chǔ)設施資源。我們支持 Arm 推動建立更加一致的對比標準，并相信這將有助于為系統(tǒng)未來的演進提供參考。”
Meta 軟件工程師 Abhishek Dhanotia
“AI 系統(tǒng)正從生成內(nèi)容逐步發(fā)展為能夠通過推理、使用工具以及與軟件環(huán)境交互來完成復雜任務。隨著智能體能力提升并得到更廣泛部署，理解支撐這些工作流的基礎(chǔ)設施性能，包括任務編排與工具執(zhí)行等環(huán)節(jié)的重要性日益凸顯。圍繞具有代表性的基準測試開展行業(yè)協(xié)作，對于刻畫這些新興的工作負載并優(yōu)化整個 AI 系統(tǒng)的性能至關(guān)重要。”
OpenAI 全球前沿部署工程負責人 Colin Jarvis
結(jié)論
AI 智能體可以持續(xù)維護上下文、調(diào)用工具執(zhí)行任務，高并發(fā)場景對數(shù)據(jù)中心 CPU、內(nèi)存、IO 與安全隔離提出全新需求，傳統(tǒng)跑分指標難以衡量實際業(yè)務能力。Arm 提出的評測框架，結(jié)合組件測試與端到端驗證，從機架功耗、散熱、空間約束等真實條件評估系統(tǒng)持續(xù)負載能力。實測證明 Arm AGI CPU 依靠更高的計算密度與能效，更適配智能體編排、工具調(diào)用等工作流。富士通、Meta、OpenAI 均認可建立標準化智能體基準測試的價值，這套評估體系能夠幫助行業(yè)定位系統(tǒng)瓶頸，持續(xù)迭代面向 AI 智能體的數(shù)據(jù)中心基礎(chǔ)設施。
