AWS 曾被說錯過 AI,執行長卻押注 Agent:他給企業的建議是「別再做概念驗證」

2024 年 6 月,Matt Garman 接下 AWS 執行長時,市場對這家全球最大雲端公司的評價並不客氣:在生成式 AI 的競賽裡,AWS 被認為已經落後。
不到兩年半後,他在 BCG 執行長 Christoph Schweizer 主持的訪談節目中,說了另一個版本的故事。他估計,AWS 的 AI 業務已來到約 250 億美元的規模,成長速度超出他當初的預期。
這段對話值得台灣企業留意,重點不在 AWS 的營收,而在他最後給其他執行長的建議:不要再做概念驗證(PoC),直接從真實的正式上線場景開始。對正在規劃明年 AI 預算的決策者來說,這幾乎是在挑戰主流的導入方法。
「慢半步」不是落後,而是押注客戶真正在意的事
Garman 回顧,當年許多科技業者急著推出聊天機器人等早期方案,企業則四處跑概念驗證。AWS 選擇退後半步,先問客戶最後真正需要什麼。
他認為答案有兩個:客戶會想同時使用許多不同的模型,而且會非常在意自己的資料與智慧財產。基於這兩個判斷,AWS 並未急著把 Bedrock 平台推上市場,也因此被貼上「落後」的標籤。他形容,那是一段公司「選擇被誤解」的時期。
如今他觀察到,當工作負載開始走向正式上線,客戶選擇 Bedrock 最常給的理由,是相信資料留在 AWS 內部是安全的。而這件事,三年前並不是多數人會擔心的問題。
真正的生意在 Agent,不在內容生成
Garman 在 2024 年就把代理型 AI 定為 AWS 下一個數十億美元級的業務。他的邏輯很直接:如果 AI 只停留在產生內容,就還沒有真正改變企業運作;只有當 AI 開始替人把工作做完,這門生意才會真正變大。
他也承認,事後回頭看,這像是一個理所當然的決定;但在當時,多數人連代理型 AI 指的是什麼都還說不清楚。他的想法是,如果把它看成規模以兆美元計的機會,集中資源與注意力去追,就一點也不瘋狂。
押注之後,他做的第一件事是給人。他讓旗下重要主管 Swami 卸下其他職務,從帶領數萬人的組織,改為帶領數百人規模的小團隊,專心只做代理型 AI。他也提到,重建 Bedrock 底層推論引擎的初期,團隊只有大約六個人。
在自建與合作之間,他坦言 AWS 習慣自己做,以掌握維運品質與安全;但前沿模型是例外。AWS 早期與 Anthropic 合作,今年又與 OpenAI 建立類似關係,因為客戶希望在同一個平台上同時取得兩家的模型。
先把 Agent 用在自己身上,才有說服客戶的底氣
Garman 表示,AWS 內部的開發團隊如今與成群的代理型 AI 協作,產出比過去高出五到十倍。財務團隊開始自動化長年靠人工處理的流程;一位人資主管告訴他,過去要花一個月整合資料才做得出的人力規劃模型,現在自己寫一個代理型 AI 工具就完成了。
他並沒有迴避目前仍存在的瓶頸:許多部署系統還沒跟上,Agent 的資安則是 AWS 大舉投資的重點。
他也觀察到,許多客戶會直接詢問 AWS 內部的做法,希望從中得到啟發。而且不只科技業,連製藥研發、銀行、保險這些向來步調較慢的產業,也積極想了解如何用 Agent 改變客戶體驗與組織效率。
跳過 PoC 的建議,本質是逼企業提早面對資料與合規
對於「這會不會是泡沫」的疑問,Garman 的回答是:投入這波技術變革不會後悔。他給的起手式有兩步:先把資料從封閉的地端孤島搬進現代化的雲端環境,再從能立刻產生價值的正式場景下手。
他指出,概念驗證的問題在於用的不是真實資料,團隊因此不會去想資料該怎麼保護、合規要求該怎麼滿足;等到真的要上線,這些問題才一次浮現。主持人也附和,他要求 BCG 的合夥人不要向客戶提案概念驗證,因為那只會換來一個 PoC,而不是一場轉型。
本文的解讀是:這並不代表企業可以省略評估,而是評估的問題應該從「模型做不做得到」,改成「在真實資料與真實權限下,能不能安全地做到」。
台灣企業該在第一天就設計好多模型與資料治理
回到開頭的問題:AWS 為什麼能擺脫「落後」的標籤?從訪談內容看,關鍵不是搶先發表,而是早早押對兩件事:客戶要多模型的選擇權,也要守住自己的資料。
對台灣企業的決策者,這兩點可以直接轉成行動。下一個 AI 專案在立項時,就同時決定要接哪些模型、資料流向哪裡、誰能存取、費用如何歸屬到各部門,而不是等試點成功後再回頭補。
若企業希望用單一入口同時調用 GPT、Claude、Gemini 等多家模型,並統一管理用量與帳務,可以參考 AI Token King 的企業 AI 閘道服務,把「多模型」與「可治理」從一開始就放進架構裡。
資料來源與編輯註記
影片標題:Some Saw AWS as Behind on AI. Then Its CEO Bet on Agents
頻道:Boston Consulting Group
發布日期:2026 年 10 月 19 日
擷取時觀看數:548,363 次(2026 年 10 月 27 日擷取)
編輯註記:本文為編輯整理文章,依據上述影片內容整理與轉述,並非逐字翻譯;文中對台灣企業的分析與建議為本文觀點,並非受訪者發言。

留言