探索人工智慧前沿：2025 年 6 月模型供應商策略比較

企業 CTO 的選擇：基礎模型、專用平台和 API Gateway產業報告

執行摘要

人工智慧 (AI) 供應商市場已進入快速擴張和策略性片段化的階段。該領域曾一度由少數幾家先鋒實驗室主導，如今已發展成為一個由各具特色的提供者組成的複雜生態系統，每種提供者都擁有獨特的價值主張。本報告對這一市場進行了全面分析，旨在為首席技術長和其他技術領導者提供必要的策略框架，以駕馭這一新領域。預計到 2025 年，全球人工智慧市場規模將達到 7,575.8 億美元，到 2034 年，複合年增長率 (CAGR) 將達到 19.20%，凸顯了投資規模和潛在機會的規模。

市場可分為四個主要類別：基礎模型 (FM) 創建者，以研究為主導的創新者，如 OpenAI, Google DeepMind 和 Anthropic，他們為 AI 能力設定了步伐；雲端超大規模者，以企業為中心的巨頭，如亞馬遜網路服務 (AWS)、微軟 Azure 和雲端平台 (GCP)，他們提供整合、安全和可擴展平台的一群多元化網站，一群多元化、時尚和專業平台， Replicate，他們在開源最佳化或超低延遲推理等特定領域表現出色；API Aggregator，像 OpenRouter 這樣的統一器，提供對多種模型的單一存取點，簡化開發並減輕供應商鎖定。

這項分析的核心發現是，選擇單一AI提供者的時代已經結束。產業已正式進入“多模型時代”，37%的企業目前使用五種或更多模型。關鍵的策略決策不再是使用哪種模型，而是哪個平台或平台組合最符合組織的特定技術需求、風險承受能力、資料策略和業務目標。這種轉變要求從簡單的供應商評估轉向複雜的架構設計，在每一層上從一流的提供者中建立一個「AI堆疊」。

開源生態系統的控制力和靈活性與專有平台的穩定性和支援性之間的根本衝突，持續左右著許多策略選擇。儘管Google, OpenAI 和 Anthropic 這三大領跑者提供的專有模型佔據了整體市場份額，但開源替代方案正在迅速縮小效能差距，並在成本、客製化和資料隱私方面展現出顯著優勢。最成功的企業可能會採用混合策略，充分利用兩者各自的優勢。

新興趨勢，尤其是多模態人工智慧和代理平台的興起，將重新定義下一波人工智慧應用。能夠原生處理和生成文字、圖像、音訊和視訊的模型正在成為新的標準，而能夠採取行動並自動化複雜工作流程的人工智慧代理則代表下一個商業價值前沿。

本報告最後為技術領導者提出了一系列策略建議。其主要指導方針是採用深思熟慮的多提供商組合方法：將企業工作負載錨定在安全的超大規模平台中，利用專業提供商進行性能關鍵型或創新項目，並使用 API Aggregator實現靈活性和成本優化。建立抽象架構、優先考慮端到端開發者體驗，以及將平台選擇與強大的資料策略相結合，對於建立面向 2025 年及以後的彈性、可擴展且具有競爭力的 AI 能力至關重要。

第一部分：人工智慧提供者格局：市場分類

為了有效駕馭人工智慧提供者市場，首先必須建立清晰的分類體系。目前的生態系統並非一個單一的整體，而是由不同類型的參與者組成的集合，每種參與者都佔據著由其核心價值主張、商業模式和策略重點定義的特定市場。了解這個結構是做出明智的架構和投資決策的第一步。

1.1 基礎模式（FM）創造者：創新者與領導者

描述：此類別由以研究為中心的組織組成，這些組織負責開發推動生成式人工智慧革命的先進基礎模型。他們的主要產品是模型本身，通常透過直接應用程式介面 (API) 存取。這些公司是產業創新的引擎，不斷突破人工智慧在自然語言處理、程式碼產生和多模態理解等領域的極限。

主要參與者：該領域無可爭議的領導者是OpenAI，以其開創性的 GPT 系列而聞名；Google DeepMind，Gemini 系列模型背後的力量；以及Anthropic，其 Claude 模型強調人工智慧的安全性和可靠性。

市場地位：這些 FM 創造者是公認的領跑者，佔據主導性的整體市場份額，並設定了衡量所有其他模型的基準。 2 他們的策略重點是保持效能優勢，這從 GPT-4.1、Gemini 2.5 Pro 和 Claude 3.7 Sonnet 等日益強大的模型的快速發布中可見一斑，這些模型一經發布便迅速獲得了廣泛的使用。分析師報告始終將他們置於市場前沿，這得益於其模型的核心功能。他們的商業模式以出售這些原始智慧財產權的使用權為中心，使其成為業內最先進功能的主要來源。

1.2 超大規模雲端：一體化企業平台

描述：此類別涵蓋全球最大的雲端運算供應商，他們策略性地將自己定位為企業 AI 的全面端到端平台。他們的策略是將 AI 作為一套完全託管的服務提供，並深度整合到其現有的資料儲存、運算、網路和安全工俱生態系統中。他們不僅提供自己的專有模型，還提供來自領先的 FM Creator 和開源社群的精選模型。

主要參與者：三大主導參與者分別是擁有 Amazon Bedrock 和 SageMaker 平台的亞馬遜網路服務 (AWS) 、擁有旗艦 Azure AI 和 Azure OpenAI 服務的微軟 Azure以及擁有 Vertex AI 平台的Google雲端平台 (GCP) 。

市場地位：超大規模企業是企業 AI 的「一站式商店」。他們的主要競爭優勢源於與大型企業建立的良好關係、遍布全球的基礎設施佈局，以及提供受監管行業所需的安全性、合規性和治理能力。 14 Gartner 在其戰略雲端平台服務魔力像限中始終將他們評為“領導者”，這充分證明了他們的市場實力和全面的產品服務。他們的策略是讓 AI 消費變得簡單、可靠且安全，從而從龐大的現有客戶群中獲取 AI 工作負載。

1.3 專家：利基市場顛覆者與基礎建設創新者

描述：這個多元化且充滿活力的類別涵蓋專注於解決 AI 開發生命週期內特定問題的公司，這些公司擁有卓越的性能或新穎的方法。他們並非試圖提供全面的平台，而是致力於成為特定領域的最佳解決方案，例如推理速度、開源模型最佳化、大規模工作負載管理或以開發人員為中心的部署。

關鍵參與者：此組包括：

• Together AI：一個專注於加速開源模型的訓練、微調和推理的平台。 18

• Groq：一家硬體和雲端公司，透過其客製化設計的語言處理單元 (LPU) 晶片提供無與倫比的推理速度。

• Replicate：該平台從根本上簡化了運行和部署大量社群貢獻的開源模型庫的過程，主要針對開發人員和新創公司。

• Anyscale：開源 Ray 框架背後的商業實體，專門在大型運算叢集中擴展複雜的 Python 和 AI 工作負載。

市場地位：這些公司是市場顛覆者，憑藉其在各自領域的卓越性能或經濟效益，向現有企業發起挑戰。 Groq 的低延遲推理技術是即時應用的“遊戲規則改變者”，能夠實現傳統 GPU 無法實現的用例。 Together AI 則將自己定位為開源運動的捍衛者，提供所需的高性能基礎設施，使開放模型能夠與專有模型相媲美。 18 Replicate 為一代開發者提供了存取各種模型的民主化途徑，而 Anyscale 則為 Uber 和 Instacart 等公司提供了關鍵的基礎設施，使其能夠以極高的規模運行 AI。

1.4 統一者：API Aggregator與Gateway

描述：這個類別的出現是對市場碎片化的直接回應。這些提供者提供統一的 API，作為存取來自眾多 FM 創作者和專家的數百個模型的入口網站。它們簡化了管理多個 API 金鑰、計費帳戶和特定於提供者的 SDK 的複雜性，從而提供簡化的開發者體驗。

主要參與者：突出的例子包括OpenRouter和Eden AI。

市場地位： API Aggregator是 AI 生態系統的「通用轉換器」或「路由器」。它們的核心價值主張並非模型本身，而是其提供的便利性、彈性和風險規避。它們使開發人員能夠“在數百個模型之間切換，而無需更改程式碼或管理多個 API 金鑰”，這在快速發展的市場中是一項強大的功能。這允許基於成本、效能或可用性進行動態路由，並幫助企業避免在模型層面被供應商鎖定。它們的商業模式通常採用按需付費系統，從而簡化了跨多個底層提供者的成本管理。

這種結構化的市場視角揭示了一個複雜且相互關聯的生態系統。各個類別並非互相排斥，而是處於競爭與共生的狀態。例如，市場正在出現明顯的融合，雲端超大規模供應商現在正與 API Aggregator 直接競爭。 AWS Bedrock 提供單一 API 來存取 Anthropic、Meta、Cohere 等公司的模型市場。該產品的功能與 OpenRouter 的核心價值主張完全相同，代表了 AWS 的一項策略性舉措，即透過複製Aggregator模型將開發者保留在其生態系統中。

與此同時，共生關係正在形成。像 Groq 這樣的專家與 Meta 這樣的 FM 創造者合作，提供“Groq 加速的官方 Llama API”，這項組合服務利用 Meta 的模型構建專業知識和 Groq 獨特的硬件能力，打造出雙方都無法單獨提供的產品。像 OpenRouter 這樣的統一者完全依賴 FM 創造者的創新和專家的基礎設施，因為他們的模型庫直接反映了更廣泛市場的產出。這種關係網意味著技術長的選擇不僅僅是選擇單一供應商，而是要決定在這個錯綜複雜的生態系統中與哪個部分合作，以及在技術堆疊的哪個層級上合作。

第二部分：深入提供者分析

對每個市場類別中的領先供應商進行細緻的考察，可以揭示他們的具體優勢、策略定位和理想用例。這種分析超越了高層次的分類，提供了可靠評估所需的詳細證據。

2.1 雲端超大規模平台：企業默認

超大規模企業已成為許多大型企業啟動人工智慧計畫的預設起點。它們的價值主張建立在信任、安全、可擴展性以及與企業現有依賴的更廣泛的雲端服務的無縫整合之上。

2.1.1 Amazon Bedrock：人工智慧市場

核心產品： Amazon Bedrock 是一項完全託管的無伺服器服務，可作為通往各種高效能基礎模型的入口網站。透過單一統一的 API，它可以存取來自領先 AI 公司的模型，包括 Anthropic、Cohere、Meta、Stability AI 和 AI21 Labs，以及亞馬遜自己的 Titan 系列模型。

策略定位：亞馬遜的 Bedrock 策略是成為企業級 AI 的頂級安全「市場」。 AWS 並未專門推廣其自有模型（這些模型的採用速度相對較慢），而是利用其在雲端基礎設施領域的市場領導地位，為客戶提供選擇和靈活性。其核心價值主張包含三個面向：豐富的頂級模型選擇、具有嚴格資料隱私保障的企業級安全性，以及與龐大 AWS 生態系統的深度原生整合。對於企業而言，一個關鍵特性是保證用於客製化的客戶資料不會用於原始基礎模型的訓練，從而確保資料隱私和智慧財產權的保護。

主要特點：

• 廣泛的模型選擇： Bedrock 的主要優勢在於其廣泛的第三方 FM 庫，允許組織為其特定用例選擇最佳模型，而不會被鎖定在單一提供者的產品中。

• 高級客製化：該平台透過私有微調和檢索增強生成 (RAG) 支援強大的模型客製化。其「Amazon Bedrock 知識庫」功能是一項完全託管的 RAG 功能，可自動化從資料擷取到引用的整個工作流程，從而簡化將模型基於專有企業資料的流程。

• 無伺服器和託管基礎設施：作為無伺服器產品，Bedrock 完全抽象化了基礎設施管理，使開發團隊能夠專注於建立應用程序，而不是配置和管理伺服器。

定價： Bedrock 採用基於對服務的 API 呼叫次數的直接定價模型，每次呼叫都有固定價格，其中包括運行模型和相關資料處理的成本。 33

理想用戶： Bedrock 非常適合已經在 AWS 生態系統中投入大量資金的企業。這些組織優先考慮安全性、治理和資料隱私，並重視從精選的、經過審查的高效能模型中進行選擇的能力，而無需承擔管理多個不同供應商關係的營運開銷。

2.1.2 Google Vertex AI：整合資料與人工智慧的強大引擎

核心產品： Google Vertex AI 是一個全面、統一的 AI 開發平台，旨在支援整個機器學習生命週期。它將資料工程、資料科學和 MLOps 工作流程整合到一個統一的、高度整合的環境中。 Vertex AI 允許存取 Google 自身最先進的模型，尤其是 Gemini 系列，以及其 Model Garden 中提供的 200 多個其他專有和開源模型。

策略定位：Google的主要差異化優勢在於其世界一流的人工智慧研究成果（來自 Google DeepMind）與其強大的數據和分析平台（例如 BigQuery）的深度原生整合。 Vertex AI 被定位為建構複雜資料密集型人工智慧應用的終極平台，這些應用需要尖端功能。它是利用Google原生多模態和日益智慧化的模型來解決複雜業務問題的首選平台。 6 Forrester 將Google評為 AI Foundation Models Wave 的領導者，彰顯了其強大的市場地位。

主要特點：

• 旗艦模型存取： Vertex AI 可直接存取 Gemini 系列（Google 最強大的模型），這些模型從一開始就專為多模式而設計，使它們能夠理解和處理文字、圖像、程式碼和影片的組合。

• 統一 MLOps 平台：它為端到端 ML 工作流程提供了一整套工具，包括用於開發的 Vertex AI Workbench、用於編排的 Vertex AI Pipelines、用於管理 ML 功能的功能存儲以及用於版本控制和部署的模型註冊表。 36

• 企業級治理： Google 非常重視資料治理和安全，確保客戶資料、提示和模型權重受到保護，並且絕不會用於調整原始基礎模型。

定價： Vertex AI 採用精細的按使用量付費定價模式，不同工具與模型的定價模式有所不同。例如，文字產生模型通常按每 1,000 個字元的輸入和輸出計費。

理想使用者：對於希望使用 Google 一流模型建立應用程式（特別適用於高階多模態或推理任務）的組織而言，Vertex AI 是最佳選擇。對於已使用 GCP 作為資料基礎架構的企業而言，Vertex AI 特別強大，因為它在資料和 AI 工作負載之間建立了無縫橋樑。

2.1.3 Microsoft Azure AI：企業版和 OpenAI Gateway

核心產品： Microsoft Azure AI 平台是一個廣泛的服務組合，其中最核心的服務是Azure OpenAI 服務。該服務提供企業級、安全且合規的訪問，訪問 OpenAI 強大的基礎模型，包括 GPT-4 系列和較新的 o1 模型。 13 除了與 OpenAI 合作外，Azure 還開發自己的模型，例如經濟高效的 Phi 系列小型語言模型 (SLM)，並在 Azure AI Foundry 中提供超過 1,700 個模型的目錄。

策略定位：微軟的主導策略是成為企業通往 OpenAI 尖端技術的主要門戶。透過將 OpenAI 的模型與 Azure 強大的安全性、合規性和全球基礎架構相結合，微軟為希望利用最佳 AI 技術而無需直接與新創公司打交道的大型企業提供了值得信賴且可擴展的解決方案。 13 此平台與開發者生態系統深度集成，包括與 GitHub 和 Visual Studio 的原生連接，使其成為許多開發團隊的自然選擇。

主要特點：

• Azure OpenAI 服務：這是旗艦產品，提供對 OpenAI 模型的安全且可擴展的訪問，並具有業界領先的 99.9% 服務等級協定 (SLA)，這是企業生產工作負載的關鍵要求。

• 全面的開發人員工具鏈：該平台包括 Azure 機器學習作為自訂模型開發的工作台、用於設計和部署複雜 LLM 工作流程的 Prompt Flow 以及用於建立強大的 RAG 應用程式的 Azure AI Search。

• 致力於負責任的 AI： Azure 非常重視 AI 安全，提供先進的護欄和工具（如 Azure AI 內容安全）來偵測和緩解有害內容、越獄攻擊和模式幻覺。

定價： Azure AI 服務採用靈活的基於消費的定價模式。許多服務（包括多項 AI 功能）均提供免費套餐，降低了實驗和開發的門檻。

理想用戶：對於企業（尤其是那些已經融入微軟生態系統的企業）來說，Azure AI 是理想的選擇，它們希望使用 OpenAI 的先進模型來建立應用程式。它專為那些要求最高級別安全性、合規性和可靠性的組織量身定制，所有這些都在高度整合且開發人員友好的雲端環境中實現。

2.2 專業平台：技藝精湛

雖然超大規模企業提供了廣度，但專業平台在深度上競爭，為人工智慧市場的特定領域提供一流的解決方案。

2.2.1 Together AI：開源堆疊的捍衛者

核心產品： Together AI 是一個精心設計的雲端平台，旨在賦能開發者和企業訓練、微調和運行開源生成式 AI 模型。其整個堆疊針對性能、控制和成本效率進行了最佳化，使其成為專有模型生態系統的領先替代方案。

策略定位： Together AI 的策略定位是成為開源 AI 社群的頂級高效能雲端平台。其核心價值主張是提供最快速、最具成本效益的基礎設施，以支持 Meta 的 Llama、阿里巴巴的 Qwen 和 DeepSeek 等領先的開放模式。該公司近期收購了專注於 AI 數據標記和結構化的 Refuel.ai，彰顯了其成為完整、端到端開源 AI 開發平台的明確願景，旨在解決阻礙自訂模型創建的關鍵「數據瓶頸」。

主要特點：

• 卓越性能：該平台由 Together 推理引擎提供支持，該引擎利用定制內核、質量保持量化和推測解碼來實現顯著的加速，據稱比 vLLM 等流行推理庫快 4 倍。

• 廣泛的開源模型存取： Together AI 透過便捷且與 OpenAI 相容的 API 提供對 200 多個開源和自訂模型的訪問，從而簡化了開發人員的遷移。 18

• 全生命週期支援：該平台提供全面的服務套件，包括按使用量付費的無伺服器推理、保證效能的專用端點、易於使用的微調 API（用於 LoRA 和完全調整）以及由頂級 NVIDIA 硬體驅動的可租用 GPU 叢集。

定價： Together AI 提供極具競爭力且精細化的定價。推理和微調按令牌或分鐘計費，而專用 GPU 叢集則按小時計費。該公司大膽宣稱其成本節約能力，例如，其性能成本僅為 OpenAI GPT-4o 的 1/11。

理想用戶：該平台非常適合致力於開源 AI 策略的新創公司、研究機構和企業。它專為需要高效能、開發者友好且經濟高效的平台的使用者而設計，用於建立、自訂和部署自己的模型，並完全控制整個流程。

2.2.2 Groq：基於 LPU 的推理速度無與倫比

核心產品： Groq 是一家人工智慧技術公司，設計了一種全新的人工智慧運算方法。它透過其專有硬體語言處理單元 (LPU) 提供全球最快的人工智慧推理速度。開發人員可以透過 GroqCloud 平台存取這項技術，該平台託管各種流行的開源模型。

策略定位： Groq 的整個市場策略都建立在一個強大的差異化優勢之上：前所未有的速度。透過專門針對 AI 推理的運算模式從頭設計處理器，LPU 架構避免了 GPU 固有的記憶體頻寬和調度瓶頸。這使得 Groq 能夠以每秒數百甚至數千個代幣的速度提供大型語言模型的回應，此效能層級可支援全新類別的即時互動應用程式。 20

主要特點：

• 極低延遲效能： Groq 的顯著特徵是能夠以終端使用者感覺即時的速度從 LLM 產生文字。這並非漸進式的改進，而是推理性能的一次數量級飛躍。

• 新穎的 LPU 架構： LPU 是一種確定性、編譯器控制的處理器。這種軟體優先的設計將運算和記憶體共置在晶片上，並消除了快取等反應式元件，從而實現了可預測的超低延遲，並且與 GPU 相比，在推理任務中具有更高的能效。

• 靈活的部署選項： Groq 提供雙管齊下的市場策略。開發者可以立即在按需付費的GroqCloud™平台上開始使用，而大型企業可以購買GroqRack™叢集進行本地或私有雲部署，從而確保資料主權和控制力。

定價： GroqCloud 服務採用基於處理的令牌（每百萬個輸入和輸出令牌）的透明、按需定價模型，其費率極具競爭力，尤其是考慮到效能優勢。

理想用戶：對於建立即時回應至關重要的應用程式的開發者和企業來說，Groq 是最佳選擇。這包括高級對話式 AI 代理、即時語音翻譯服務、即時數據分析工具以及任何延遲會降低用戶體驗的互動式應用程式。

2.2.3 複製：讓開發人員能夠民主化地部署模型

核心產品： Replicate 是一個雲端平台，旨在讓開源 AI 模型的利用變得極為簡單。它提供了運行、微調和部署數千個模型（其中許多是實驗性或小眾模型）的工具，只需一行程式碼即可完成，幾乎消除了所有底層基礎設施的複雜性。

策略定位： Replicate 的目標客戶是個人開發者、新創企業生態系統和創意技術專家。其核心價值主張並非追求原始績效或企業級治理，而是提供無與倫比的易用性，以及存取龐大、多元且不斷成長的社群貢獻模型庫。 23 Replicate 的使命是讓 AI 的使用更加民主化，讓即使沒有深厚機器學習專業知識的開發者也能快速建立原型並部署 AI 功能。 23

主要特點：

• 簡單易用： Replicate 以其透過 API 運行模型的「一行程式碼」方法而聞名，這大大降低了使用 AI 建置的門檻。

• 龐大且多元的模型庫：該平台擁有數千個社群貢獻的模型，可用於各種任務，包括影像生成、影片創作、音樂合成、語音生成等。這使其成為創意應用和實驗的絕佳資源。

• 用於自訂模型的 Cog： Replicate 提供了 Cog，這是一個開源工具，允許開發人員輕鬆地以容器化格式打包自己的自訂模型，以便在平台上無縫部署。

• 按使用量付費的自動擴展：該平台的基礎設施會自動擴展以處理流量，並且在不使用時自動縮減至零。這確保用戶只需按實際使用的計算時間付費，這對於工作負載不斷變化的項目而言極具成本效益。

定價： Replicate 採用透明的按秒計費模式，根據運行特定模型所需的特定 GPU 硬體進行計費。從低成本的 T4 到高效能的 A100，不同 GPU 類型的價格一目了然。

理想用戶： Replicate 是個人開發者、新創公司、研究人員和內容創作者的理想平台，幫助他們快速建立原型、進行實驗並部署 AI 功能。對於那些重視開發速度和廣泛開源模型存取權限，而非深度基礎設施控製或企業級支援的用戶來說，Replicate 是理想之選。

2.3 API Aggregator：偉大的統一者

隨著市場日益多元化，一類新的供應商應運而生，旨在管理由此產生的複雜性。 API Aggregator提供了一個抽象層，簡化了對碎片化模型環境的存取。

2.3.1 OpenRouter：通用人工智慧Gateway

核心產品： OpenRouter 是一個統一的 API Gateway，可透過單一標準化 API 介面和單一 API 金鑰存取來自眾多領先供應商（包括 Anthropic, Google, Meta, Mistral 和 OpenAI）的數百種 AI 模型。

策略定位： OpenRouter 的整個目標是解決異質市場造成的開發者摩擦。它充當智慧“路由器”，使應用程式能夠根據效能、成本或特定功能等因素，以程式設計方式或手動方式為給定任務選擇最佳模型。 30 它的戰略價值在於提供最大的靈活性，避免供應商鎖定，並簡化多模型 AI 應用程式的開發和維護。它是生成式 AI 生態系統的典型抽象層。

主要特點：

• 通用模型存取：該平台的核心功能是透過一個整合點提供對幾乎所有主要提供者的全面且持續更新的模型清單的存取。

• 簡化成本管理： OpenRouter 提供按需付費的定價模式，並設有集中式儀表板，用於追蹤所有底層供應商的使用情況和成本。這消除了管理多個計費關係的需要，並提供了清晰、統一的 AI 支出視圖。

• 增強的靈活性和彈性：開發人員可以輕鬆在模型之間切換，例如，claude-3.7-sonnet通常gpt-4.1-mini只需更改一行程式碼即可從模型切換到模型。該平台還支援自動故障轉移等功能，當主要模型不可用時，可以將請求重新路由到備用模型。 30

• OpenAI SDK 相容性：為了進一步減少摩擦，OpenRouter 的 API 設計為與廣泛使用的 OpenAI SDK 相容。開發者通常只需在現有的 OpenAI 用戶端程式碼中變更baseURL和即可使用 OpenRouter。apiKey

定價： OpenRouter 採用基於信用的按需付費系統。它通常直接向底層模型提供者收取每個代幣的費用，有時還會加價，使用戶能夠享受提供者的基本定價，同時享受統一介面的優勢。

理想使用者： OpenRouter 專為需要靈活利用不同供應商多種模型的應用程式開發者和公司而設計。它非常適合那些希望主動避免供應商鎖定、透過動態選擇最經濟的模型來優化成本，並且最重視簡化、流暢的整合和計費體驗的用戶。

AI 供應商格局日趨成熟，逐漸分化為不同的角色，這反映了 Web 開發和雲端運算等前幾波技術浪潮的演變。一個可識別的「AI 棧」正在興起。 FM 創造者類似於程式語言和核心框架的創造者。雲端超大規模者是全端平台即服務 (PaaS) 供應商，提供從基礎架構到部署的整合環境。專家是一流的、單一用途的函式庫和 API，能夠出色地解決某一特定問題。最後，統一者充當套件管理器或元框架，協調所有其他元件。

這種思維模式改變了首席技術長的策略對話方式。問題不再是簡單的“我們應該選擇哪家供應商？”，而是一個更複雜的架構實踐：“我們應該如何構建我們的AI堆疊？”這涉及根據每個應用程式的具體需求和組織的總體戰略目標，為堆疊的正確層級選擇合適的供應商。例如，一家公司可能會選擇超大規模供應商作為其安全、企業級部署的基礎平台，同時使用像Groq這樣的專業供應商來開發對延遲敏感的聊天機器人，並使用像OpenRouter這樣的Aggregator來開發內部工具，因為成本和靈活性是主要考慮因素。這種分層的、經過深思熟慮的方法是成熟AI策略的標誌。

第三部分：策略決策架構：比較分析

在清楚了解供應商格局和主要參與者的具體產品後，下一步就是將這些資訊整合成一個切實可行的策略決策框架。這包括解決開放和封閉生態系統之間的根本性爭論，對供應商進行直接的正面比較，並根據具體的策略目標分析最佳選擇。

3.1 大辯論：開源與專有生態系統

組織必須做出的最關鍵策略決策之一是選擇開源還是專有的AI模型和平台。這項選擇對成本、控制、創新速度和長期靈活性有著深遠的影響。

核心衝突：核心的權衡在於控制與便利性之間的權衡。

• 專有模型和平台（來自 OpenAI、Anthropic 等供應商以及雲端超大規模企業）提供一流的效能、卓越的用戶體驗、符合 SLA 的企業級支援以及更快的價值實現時間。然而，它們也伴隨著更高的營運成本、有限的客製化以及供應商鎖定的固有風險，從提供者的生態系統遷移到其他平台在技術和財務上都將變得難以承受。

• 開源模型和平台（例如 Meta 的 Llama、Mistral 的模型以及 Together AI 等平台）提供了無與倫比的控制力和靈活性。它們允許深度客製化、本地部署或私有雲部署，從而最大限度地保護資料隱私，並顯著降低長期成本。但其缺點是，它們需要更多的內部技術專業知識來管理，並且缺乏專有軟體那樣有保障的、專門的支援。

市場趨勢與分析：

市場並非只朝著一個方向發展，而是同時擁抱兩種模式。

• 企業對開源技術的採用日益增長：開源人工智慧已不再是業餘愛好者的專屬領域。麥肯錫的一項調查發現，超過 50% 的組織在其人工智慧堆疊中使用開源解決方案，而在科技業，這一數字甚至高達 72%。將人工智慧視為競爭優勢關鍵的組織使用開源工具的可能性高出 40% 以上，這表明人工智慧被視為策略賦能者，而不僅僅是低成本的替代方案。

• 成本是主要驅動因素：降低成本是採用開源技術的重要推動因素。三分之二的組織認為開源人工智慧的部署成本更低，研究人員估計，如果沒有開源軟體，企業的成本將增加3.5倍。

• 效能差距不斷縮小：儘管專有模型歷來在效能上佔據明顯領先地位，但這一差距正在迅速縮小。開放模型如今在高級功能方面展開競爭，在某些特定情況下，其性能甚至超越專有模型。例如，哈佛醫學院的研究發現，在解決複雜醫療案例方面，開源模型的表現與領先的專有工具相當。

• 混合策略盛行：對企業而言，最務實的新興策略是混合策略。企業正在學習使用專有平台來開發關鍵任務型、面向客戶的應用程序，這些應用程式的可靠性、支援和上市速度至關重要。同時，他們利用開源模型來開發研發、內部工具以及需要深度定製或對資料主權有嚴格要求的用例。

策略意義：選擇並非二元的“非此即彼”，而是一個策略性的“何時何地”問題。成熟的人工智慧策略需要建立內部能力，以評估和部署這兩種解決方案，並在清晰評估成本、控制、效能和風險之間權衡利弊的基礎上，為合適的工作選擇合適的工具。

3.2 按策略目標分析

最佳提供者的選擇取決於人工智慧計畫的主要策略目標。

• 追求極致效能和低延遲：當原始速度成為首要考慮因素時，Groq獨樹一格。其基於 LPU 的架構專為低延遲推理而設計，使其成為高級語音代理、即時翻譯和互動式遊戲 AI 等即時應用的不二之選，因為任何延遲都是不可接受的。 20 對於使用更傳統的 GPU 硬體在開源模型上實現高吞吐量效能，

• Together AI是一個強有力的競爭者，其優化的推理引擎比標準實現具有顯著的速度提升。

• 兼具成本效益的原型設計和開發：對於希望快速廣泛地進行實驗且無需大量前期投資的團隊，Replicate提供了最低的入門門檻。其按秒付費模式和「規模縮減至零」功能使其對於間歇性使用的項目而言極具成本效益，同時其龐大的模型庫也鼓勵人們進行實驗。

• OpenRouter在這一領域也表現出色，它允許開發人員輕鬆比較數百種型號的成本，並為任何給定任務選擇最經濟的選項，從強大的前沿型號到更便宜、更小的替代品。

• 企業級安全、治理與合規：對於大型企業，尤其是金融和醫療保健等受監管行業的企業，安全和合規性至關重要。雲端超大規模供應商（AWS Bedrock、Azure AI、Google Vertex AI）是該領域無可爭議的領導者。他們提供全面的安全控制套件、廣泛的合規性認證（例如 SOC、HIPAA、GDPR）、私人網路部署選項以及有資金支援的 SLA。他們的平台從頭到尾都經過精心設計，以滿足企業 IT 的嚴格要求，使其成為處理敏感資料和部署關鍵任務應用程式的最安全選擇。

• 深度客製化與模型控制：當策略目標是透過深度客製化打造差異化的AI能力時，專注於開源模型的平台將更具優勢。 Together AI為微調和完整模型訓練提供了一個強大且開發者友善的環境，讓企業能夠完全掌控其客製化模型。對於營運規模最大的企業而言，

• Anyscale提供了在 Ray 框架上管理海量分散式訓練作業的工具，Instacart 等用戶就已證明這一點，他們使用該平台在 100 倍以上的資料上訓練模型。這些產品提供的控制和定製程度遠遠超出了超大規模平台提供的更受限制（儘管更簡單）的微調功能。

第四部分：未來展望與策略建議

生成式人工智慧市場的特點是其「驚人的創新速度」。保持競爭力不僅需要了解當前情勢，還需要預測其未來發展軌跡。最後一部分分析了將在2025年及以後塑造市場的關鍵趨勢，並為技術領導者提供了一系列可行的策略建議。

4.1 下一個前沿：2025 年及以後的關鍵趨勢

三個相互關聯的趨勢將定義人工智慧應用的下一個發展階段：多模態性的普遍性、代理人工智慧的操作化以及企業微調的策略重要性。

• 多模態是新標準：純文字人工智慧時代正迅速被能夠原生理解、推理和產生跨多種模態內容（包括圖像、音訊、視訊和程式碼）的模型所取代。到2025年1月，幾乎所有主要的前沿模型（包括Claude 3.5、Gemini 2.0和OpenAI的o1）都已具備多模態能力。這種轉變將帶來更複雜和自然的使用者體驗。例如，WPP正在利用Gemini的多模態功能，透過簡單的語音指令和影像產生廣告活動，而賓士則正在打造能夠同時處理視覺和語音輸入的車載助理。像Google這樣的供應商，其Gemini模型從一開始就以多模態為核心，因此在引領這一轉變方面佔據有利地位。

• 代理型人工智慧和大型行動模式 (LAM) 的興起：即將出現的最重要的範式轉變是從提供資訊的人工智慧轉向採取行動的人工智慧的轉變。這是代理型人工智慧的領域：能夠透過與軟體工具、API 和數位環境互動來推理、規劃和執行多步驟任務的自主系統。這些「大型行動模型」(LAM) 可以自動化複雜的工作流程，例如跨應用程式組織資料或根據自然語言請求執行旅行預訂。隨著Google Agentspace 等平台和 Anthropic 的「電腦使用」等概念的出現，這一趨勢已經初具規模。 Groq 等專家提供的極低延遲是這些代理的關鍵賦能技術，因為反應速度是有效互動的關鍵。雖然在高風險企業環境中全面應用代理型人工智慧仍處於萌芽階段，但它代表生產力和自動化的下一個重要前沿。

• 企業微調與專業化：隨著通用基礎模型的性能開始趨於穩定並商品化，競爭優勢的主要來源將轉向專業化。企業價值的未來在於基於公司專有數據對這些強大的基礎模型進行微調，從而創建高度專業化的人工智慧系統，這些系統擁有深厚的領域知識，並可根據獨特的業務工作流程進行客製化。這不僅需要存取模型API，還需要一個強大的平台來進行資料準備、模型自訂和評估。擅長提供安全、高效和強大微調功能的平台——例如面向開源世界的Together AI以及來自超大規模企業的全面MLOps套件——將成為企業人工智慧堆疊中日益重要的組成部分。

4.2 對首席技術官的策略建議

應對這一動態複雜的情況需要製定深思熟慮且具有前瞻性的策略。以下四項建議為建構具有韌性、高效且具競爭力的企業 AI 能力提供了框架。

• 4.2.1 對 AI 提供者採取「組合」策略：最重要的策略要務是避免單一供應商鎖定。市場發展速度過快，今天的性能領導者未必就是明天的領導者。企業不應局限於單一供應商，而應建立多元化的 AI 提供者組合，將其視為策略投資組合。穩健的組合可能包括：

• - 主要的雲端超大規模器（AWS、Azure 或 GCP）作為需要與現有雲端基礎設施深度整合的企業級工作負載和應用程式的核心安全平台。

• - 一名或多名專家（例如，即時代理的 Groq、開源研發專案的 Together AI）利用一流的功能來滿足特定的高價值用例。

• - API Aggregator（例如 OpenRouter）用於非關鍵任務、快速原型設計和成本優化，提供靈活的「逃生艙」並可存取盡可能廣泛的模型。

• 4.2.2 架構師應注重抽象和可互換性：投資組合方法的直接結果是需要為模型可互換性建立應用程式。開發團隊應避免編寫與特定提供者的 API 或特定模型的獨特特性緊密耦合的程式碼。相反，他們應該建立內部抽象層，以創建與 LLM 互動的標準化介面。或者，他們可以利用像OpenRouter這樣的 API Aggregator作為此抽象層。目標是使模型替換（例如，Claude 3.7 Sonnet用Llama-3.1-70B其他模型替換）成為一個簡單的配置更改，而不是一項重大的工程工作。這種架構規範是防止模型效能下降或單一供應商不利價格變動的最佳方法。

• 4.2.3 優先考慮「全端」開發者體驗： AI 專案的最終成功取決於開發團隊高效建置、迭代和部署的能力。因此，對提供者的評估必須超越模型基準，涵蓋整個開發者體驗。 10 一個模型性能略遜一籌，但擁有卓越 API、清晰的文檔、強大的 SDK、無縫的 MLOps 集成以及直觀的微調工作流程的提供商，可以通過加速開發生命週期，在長期內創造更大的商業價值。能夠賦能您的團隊以最快速度行動的供應商往往是最佳的策略夥伴。

• 4.2.4 將您的選擇與數據策略結合：在人工智慧時代，公司的數據是其最寶貴、最可靠的資產。因此，人工智慧平台的選擇與組織的數據策略密不可分。 47 如果該策略涉及透過在專有資料集上訓練模型來創造獨特的競爭優勢，那麼所選平台必須提供安全、私密且強大的微調功能。在這種情況下，超大規模的受管環境或像Together AI這樣的專家平台將是合適的選擇。相反，如果正在建置的應用程式主要依賴公共資訊和一般推理，那麼像OpenRouter這樣的Aggregator的成本效益和靈活性可能是最佳選擇。每個人工智慧平台的決策都必須始於這樣一個問題：“這個選擇如何幫助我們利用數據創造獨特的價值？”