【導讀】AI和生成式AI用例從試點向生產環境的過渡，正在顯著推高對計算能力的需求。氛圍編碼（vibe coding）以及嵌入業務工作流中的AI智能體等各類AI用例，都需要使用大語言模型來執行多步驟推理、自主任務編排和迭代式驗證周期。這些工作負載顯著推動了詞元（token）消耗和基礎設施資源需求的增長。雖然中國的基礎設施和運營（I&O）負責人的首要任務仍然是持續優化AI成本，但證明其投資的價值也同樣重要。
Gartner指出，雖然許多企業機構在實現生成式AI的投資回報率（ROI）方面面臨挑戰，但所有技術投資都存在固有風險，生成式AI也不例外。I&O負責人必須實施結構化框架，以最大程度地減少初始投資，利用專業平臺來簡化運營，并鼓勵跨職能協同以實現完善的AI治理。通過清晰闡明AI的業務影響和價值，并持續提供戰略性資金支持，企業將實現長期的績效增長（見圖1）。
圖1：平衡成本控制與價值創造
控制并優化AI基礎設施成本
傳統上，基礎設施資源配置通常依據結構化的業務預測和架構規劃進行，但生成式AI的廣泛熱潮，導致基礎設施容量需求出現極大波動性。為了應對這種不確定性并將投資保持在合理的預算范圍內，I&O負責人必須制定具備韌性的戰略，在支持企業AI計劃的同時減少浪費，并盡可能地降低沉沒成本。
最大程度減少前期投資，選擇合適的托管地點
為了緩解初始財務支出，I&O負責人應利用托管服務生態系統（例如超大規模云服務提供商和GPU即服務）來實施AI計劃，從而在避開本地托管巨額資本支出的同時，實現更快的交付和彈性的可擴展性。通過實施全面的工作負載部署框架，企業能夠將不同的計算需求部署到最具成本效益的托管環境中。
鑒于代理型AI資源需求的固有波動性，許多企業機構一開始先在托管環境中進行實驗，在消耗模式穩定之后再遷移到本地基礎設施，以節省詞元成本。采用這種戰略性方法，可以防止在缺乏經過驗證的長期AI戰略路線圖的情況下過早進行大規模投資。
優化資源利用，選擇合適的工具
為了高效利用計算資源，團隊需要清楚地了解各類工具的使用情況。應使用專業的AI管理工具來持續監控和分析基礎設施性能，使IT團隊能夠根據需要調整容量，并在防止浪費的同時，確保技術投資與業務目標保持一致。
此外，基礎設施成本取決于企業所選擇的模型和平臺；因此，應使用自動化和智能路由。將AI任務引導至最具成本效益的環境和模型配置中，可減少運營工作量和資源浪費。
盡可能提高資源效率，實現跨團隊協作
通過AI FinOps實踐來降低企業機構在整個AI生命周期中的成本，所使用的方式不僅僅是最大化GPU利用率，還包括調整工作負載設計和模型選擇，以及利用AI工程化技術來管理成本。采用整體性方法，可確保AI技術棧的每個環節都對整體效率和價值做出貢獻。I&O負責人應與AI開發團隊和數據團隊合作，提高AI的利用效率。
釋放AI基礎設施的價值
由于硬件提供商的持續漲價、電力和冷卻需求增加、生成式AI模型的迭代以及代理型AI用例的意外支出，企業AI基礎設施成本將繼續上升。由于長期投資預計將出現增長，I&O負責人不能只著眼于成本控制，而應維持可持續的支出水平；還應構建完善的治理機制，并確保相關投入與價值驅動型業務成果協調一致。
及早明確AI業務用例，以評估AI價值
主動識別并定義AI業務用例對于基礎設施規劃至關重要，因為這能夠確保資源與實際的戰略目標（而非抽象的宏偉愿景）保持一致。如果對工作負載規模、延時和影響缺乏清晰的認識，企業機構將面臨過度配置基礎設施而造成資源閑置，或配置不足而無法滿足需求的風險，從而阻礙關鍵計劃的推進。通過明確定義用例，I&O負責人可以將寬泛的AI目標轉化為對規模、時間安排和財務合理性證明的精準要求，最終加速價值實現。
利用單位成本經濟學來展示業務價值
即使進行了持續的基礎設施優化，AI成本也會隨著使用量的增加而自然增長。隨著AI采用的不斷擴大，支持增加的工作負載量需要額外的基礎設施，導致總支出上升——即使每個任務、交易或成果的單位成本隨著時間的推移而下降。為了解釋這些上升的費用，可以使用單位成本經濟學（在本文中可理解為Tokenomics，即詞元經濟學），將AI成本從模糊的間接成本，轉化為透明的、價值驅動的投資。通過將成本與業務成果（例如每次成功任務輸出的成本和每個AI工作負載的成本）直接掛鉤，I&O負責人可以改善問責制，優化預算管理，并支持可持續的AI增長。
建立AI成本治理機制，以實現可擴展增長
隨著AI深度嵌入業務運營，為了減輕企業風險、維持利益相關者信任并確保合規性，建立穩健的AI治理框架已成為I&O負責人的一項戰略要務。除了風險管理外，有效的治理還能直接指導基礎設施投資戰略和財務管控，防止計算資源的錯配，并為復雜的供應商依賴關系提供必不可少的可見性。通過實施結構化監督，I&O負責人可以確保對AI基礎設施的每筆資本支出都能夠推動可擴展、可衡量的業務價值，同時將增長保持在可接受的風險閾值內。
Gartner——全球權威的AI評估與洞察提供者
Gartner是企業C級高管與技術提供商實施AI戰略，實現核心業務優先事項的過程中，不可或缺的合作伙伴。Gartner洞察的獨立性與客觀性，為客戶決策提供信心保障，助力其充分挖掘AI潛力。眾多C級高管客戶正通過Gartner專有的AskGartner AI工具，確定如何在其業務中運用AI。憑借逾2500名商業與技術專家、6000份書面洞察以及1000余個AI應用場景與案例研究，Gartner已成為全球AI領域的權威機構。
結論
生成式 AI 與 AI 智能體的規模化落地，持續推高企業算力需求，疊加硬件、能耗等成本上漲，單純壓縮開支不足以支撐長期 AI 業務發展。Gartner 建議企業基礎設施團隊采用彈性部署思路，按需選擇托管或本地部署方案，借助監控與智能路由優化資源消耗，通過 AI FinOps 實現全生命周期成本管理。與此同時，企業需要提前鎖定真實業務場景，利用詞元經濟學量化投入產出，配套建立 AI 治理機制，把算力投資和可衡量的業務價值綁定。在成本可控、風險可管的框架下，穩步推進 AI 規模化落地，實現業務績效增長。
