【導讀】當生成式AI的第一波浪潮以模型規(guī)模和GPU供給為衡量標準時,智能體AI的到來正悄然改寫算力格局。微軟與亞馬遜近期財報電話會議不約而同地傳遞出同一信號:基于Arm架構(gòu)的定制芯片,已從技術(shù)探索躍升為超大規(guī)模云基礎(chǔ)設(shè)施的核心支柱。微軟CEO納德拉直言“CPU與GPU同樣重要”,并披露Cobalt 200即將部署于全球超25個數(shù)據(jù)中心;亞馬遜則亮出芯片業(yè)務(wù)年化250億美元、三位數(shù)增長的硬核成績單。

微軟 CEO 薩提亞?納德拉 (Satya Nadella) 用一句話概括了這場架構(gòu)變革:“在運行智能體負載時,CPU 與 GPU 同樣重要。”隨后他給出了有力的證據(jù):微軟預(yù)計,到 7 月底搭載 Azure Cobalt 200的機架將部署在全球超過 25 個數(shù)據(jù)中心。
時隔一日,亞馬遜公布,其芯片業(yè)務(wù)(包括 Graviton、Trainium 和 Nitro)年化營收規(guī)模已突破 250 億美元,同比增長達到三位數(shù)。客戶對 Graviton 的采購承諾規(guī)模環(huán)比接近增長三倍,而 Graviton5 的采用速度也接近 Graviton4 的兩倍。
雖然產(chǎn)品不同、云平臺不同,但方向趨同:全球領(lǐng)先的超大規(guī)模云服務(wù)商正在將基于 Arm 架構(gòu)的 CPU 打造成 AI 基礎(chǔ)設(shè)施的核心,并針對各自的工作負載需求和經(jīng)濟效益目標進行優(yōu)化。
智能體需要的不止是模型算力
生成式 AI 的第一波浪潮的衡量標準是模型規(guī)模、AI 加速器的供給能力以及詞元 (Token) 的生成能力。而智能體 AI 的運行方式則更加復雜,智能體需要檢索數(shù)據(jù)、調(diào)用工具、運行代碼、執(zhí)行策略,并對結(jié)果進行驗證,所涉及的是更廣范疇的任務(wù)。
GPU 仍承擔絕大部分模型訓練與推理 Token 生成工作,而 CPU 則承擔著圍繞模型運行的各項任務(wù),包括請求路由、數(shù)據(jù)預(yù)處理、工具編排、內(nèi)存和存儲管理,并確保數(shù)千個并發(fā)交互任務(wù)能夠持續(xù)穩(wěn)定地運行。
納德拉在財報電話會議上表示,基于 Azure Cobalt 的虛擬機 (VM) 產(chǎn)品組合目前已承載微軟自有服務(wù),以及 Adobe、Arm、Elastic、OpenAI、Sprinklr 和 TomTom 等客戶的工作負載,表明其已在真實生產(chǎn)環(huán)境中應(yīng)用。
亞馬遜云科技則從另一個角度印證同一趨勢。Graviton5 專為智能體 AI 工作負載設(shè)計,針對實時推理、代碼生成和多步驟編排等場景進行了優(yōu)化。基于 Graviton5 的 M9g 實例相比采用 Graviton4 的 M8g 實例,計算性能最高提升 25%,機器學習推理速度最高提升 35%。
兩家超大規(guī)模云廠商,不同路徑通向規(guī)模化
Cobalt 與 Graviton 的成功證明,Arm 架構(gòu)讓超大規(guī)模云廠商能夠針對自身大規(guī)模基礎(chǔ)設(shè)施要求定制芯片,同時共享同一架構(gòu)和軟件。這有助于加快商業(yè)化進程,實現(xiàn)商業(yè)回報。微軟于 2025 年 11 月發(fā)布 Cobalt 200,2026 年 6 月開放虛擬機產(chǎn)品的預(yù)覽訪問。不到兩個月,搭載該芯片的機架方案已部署至全球超過 25 個數(shù)據(jù)中心,進展十分迅速。
Cobalt 200 基于 Arm Neoverse CSS V3 構(gòu)建,是微軟第二代 Arm 架構(gòu)云 CPU——相較前代產(chǎn)品,性能最高提升 50%,擴展到 128 個 vCPU,專為云原生、數(shù)據(jù)密集型以及智能體工作負載設(shè)計。
亞馬遜云科技已推出第五代 Graviton 產(chǎn)品。搭載 Graviton5 的 M9g 和 M9gd 實例已于今年 6 月正式商用,計算性能較 Graviton4 最高提升 25%。亞馬遜云科技表示,就整個 Graviton 產(chǎn)品線而言,其性價比較同類實例高出 30% 至 40%。
真正值得關(guān)注的是 Graviton 產(chǎn)品的客戶采用率:亞馬遜云科技排名前 1000 的 EC2 客戶中,98% 都在使用 Graviton,超過 12 萬家客戶基于 Graviton 構(gòu)建服務(wù)。連續(xù)第三年,亞馬遜云科技新增 CPU 容量中超過一半采用了 Graviton。
效率釋放算力,算力創(chuàng)造營收
微軟將基礎(chǔ)設(shè)施效率與業(yè)績增長直接關(guān)聯(lián)起來。當季 Azure 營收同比增長 43%,而市場需求依然超過現(xiàn)有供給能力。微軟首席財務(wù)官艾米?胡德 (Amy Hood) 表示,CPU 和 GPU 基礎(chǔ)設(shè)施運營效率的持續(xù)提升,以及基礎(chǔ)設(shè)施擴容和啟用速度的加快,釋放了更多可用算力資源,而這些新增算力幾乎在上線后便被市場需求迅速消化并轉(zhuǎn)化為收入。
對于超大規(guī)模數(shù)據(jù)中心而言,CPU 效率提升的意義遠不止降低電費支出。當市場需求超過供給時,更高效的基礎(chǔ)設(shè)施能夠在相同機架規(guī)模和相同電力預(yù)算下釋放更多可用算力,而這些算力最終會轉(zhuǎn)化為營收。
微軟并未披露 Cobalt 200 對效率提升的具體貢獻比例,但背后的邏輯已經(jīng)非常明確:性能、資源利用率和能效既是釋放更多算力的杠桿,也是推動業(yè)務(wù)增長的杠桿。
亞馬遜云科技提供了另一項佐證數(shù)據(jù)。250 億美元的年化營收涵蓋整個芯片業(yè)務(wù),而不僅僅是 Graviton。然而采購承諾的快速增長以及 Graviton5 的加速采用表明,定制 CPU 產(chǎn)品線正成為這一規(guī)模龐大且高速增長的芯片業(yè)務(wù)的重要支柱。同時,其顯著的性價比優(yōu)勢,也為客戶將更多工作負載遷移至 Graviton 平臺提供了充分理由。
行業(yè)面臨的壓力持續(xù)加大。國際能源署 (IEA) 數(shù)據(jù)顯示,面向 AI 的數(shù)據(jù)中心用電量在 2025 年增長了 50%。研究機構(gòu) Dell'Oro Group 統(tǒng)計顯示,2026 年第一季度,亞馬遜、谷歌、Meta 和微軟的數(shù)據(jù)中心資本支出同比增長 78%。相比一年前,如今每一瓦電力、每一個機架都變得更加重要。CPU 能效已不再是技術(shù)參數(shù)中的次要指標,而是超大規(guī)模云廠商釋放受限算力、提升現(xiàn)有基礎(chǔ)設(shè)施利用率并獲得更高回報的關(guān)鍵手段。
與此同時,市場需求正突破 GPU 單一范疇。IDC 預(yù)計,2026 年全球 AI 基礎(chǔ)設(shè)施支出將達到 4,970 億美元,同比增長約 56%,且需求不再局限于 GPU 系統(tǒng),還包括編排平臺、數(shù)據(jù)流水線以及基于 CPU 的推理集群等領(lǐng)域。
超大規(guī)模云市場傳遞出更多利好 Arm 的信號
微軟和亞馬遜云科技是當下最受關(guān)注的案例,但它們只是這場更廣泛架構(gòu)遷移的一部分。
Google Cloud 推出的 Axion 是基于 Arm 架構(gòu)定制的 CPU 產(chǎn)品系列。Axion 不僅作為支撐其云基礎(chǔ)設(shè)施的通用 CPU,還在最新一代 TPU 系統(tǒng)中擔任 AI 頭節(jié)點 CPU,負責提供編排、網(wǎng)絡(luò)和基礎(chǔ)設(shè)施服務(wù),支撐超大規(guī)模 AI 系統(tǒng)穩(wěn)定運行。
NVIDIA 在 AI 工廠方案也做出了相同的架構(gòu)選擇。Vera 是 NVIDIA 最新推出的基于 Arm 架構(gòu)的 CPU,將作為 Rubin 等下一代 AI 系統(tǒng)的計算基礎(chǔ)。在這些機架級部署的系統(tǒng)中,CPU 負責協(xié)調(diào)內(nèi)存、網(wǎng)絡(luò)和加速器資源。
綜合來看,Microsoft Cobalt、Amazon Graviton、Google Axion 以及 NVIDIA Vera 都指向了同一個結(jié)論:隨著 AI 基礎(chǔ)設(shè)施從模型推理階段邁向自主智能體執(zhí)行階段,基于 Arm 架構(gòu)的 CPU 正逐漸成為現(xiàn)代 AI 數(shù)據(jù)中心的通用計算底座,承擔資源編排與系統(tǒng)協(xié)調(diào)等關(guān)鍵職能。
結(jié)論
微軟Cobalt與亞馬遜Graviton的規(guī)模化進程證明,Arm定制芯片的商業(yè)價值已遠超技術(shù)試驗階段。無論是Cobalt 200的50%性能躍升,還是Graviton系列高達40%的性價比優(yōu)勢,其核心邏輯高度一致:在電力與機架資源日益緊缺的當下,CPU能效直接轉(zhuǎn)化為可用算力與營收增量。而智能體AI對請求路由、工具編排、多任務(wù)協(xié)同的嚴苛需求,更讓CPU從配角走向舞臺中央。




