每天處理 155 兆個 Token、毛利估計八成:DeepSeek 公開推論引擎,便宜的 AI 原來不是靠補貼

過去一年,矽谷流傳著一個說法:DeepSeek 的 API 之所以便宜得不合理,是因為它在燒錢搶市占,價格撐不了多久。
10 月下旬,這個說法遭到正面挑戰。DeepSeek 在 GitHub 上開源了自家正式環境使用的推論引擎 DeepInfer,以及搭配的前端閘道程式,同時公布了資料中心的實際營運數字。YouTube 科技頻道 WhatsWithAI 在影片中整理指出,DeepSeek 單一叢集每天處理約 155 兆個 Token;即使在離峰折扣時段,跑這套系統的一張 GPU 每小時仍可帶進約 38 美元營收。
講者拿這個數字對照企業級 AI 晶片每小時約 5 到 10 美元的運作成本,估算 DeepSeek 的毛利率約在八成上下。換句話說,便宜不等於賠錢。這件事之所以重要,在於它改寫了企業看待 AI 價格的方式:Token 的價格,正在由工程效率決定,而不只是由誰買了最多顯示卡決定。
真正的祕密不在模型有多聰明,而在每一張 GPU 被用得多滿
講者指出,DeepSeek 一年半前曾表示,正式環境的服務程式和私有資料中心綁得太緊,無法開源;這次等於兌現承諾。程式庫上線第一天就獲得超過 9,000 顆星,影片錄製時已接近兩萬。
他先從模型架構談起。DeepSeek-V4.1-Flash 把約 40 層的網路切成上下兩半,下半部負責「讀」提示,上半部負責「寫」答案,使用者輸入的長文只需要經過下半部,讀取的運算量一開始就省掉一半。模型總參數約 7,480 億,但讀取時只動用約 80 億、生成時約 160 億參數。
四個工程動作,各自省下一筆算力帳
講者整理了 DeepInfer 的四項關鍵設計,每一項背後都是一筆成本:
寬幅專家平行:讀提示用一般八卡伺服器,生成答案則串起 64 到 128 張 GPU,把 384 個「專家」分散到 128 張卡上。他形容這像把一百本書分給一百多人各拿一兩本,記憶體搬運量因此大減近九成。
負載平衡器:當某類問題湧入、特定專家被塞爆時,系統會即時把熱門專家複製到閒置的 GPU 上,像超市一看到排隊就加開收銀台,避免整個叢集等最慢的那一張卡。
會「收手」的推測解碼:小模型先替大模型猜接下來幾個字,再由大模型一次驗證。DeepSeek 加上信心判斷,一旦發現後面的猜測可能出錯就提早截斷,不浪費驗證的算力。講者說這讓整體速度再提升約 4% 到 7%。
有限重播:對話記憶只在高速記憶體中保留約三分鐘;使用者離開幾小時後再回來,系統不必重讀整段對話,只需重讀最後約 140 個字,接續幾乎是即時的。
另外,用 Rust 寫成的前端程式會把長提示切塊、平行轉成 Token,並把使用者輸入強制當成純文字處理,用來防範提示注入攻擊。
開源的是引擎,不是整座工廠
這套系統也有清楚的界線。講者提醒,DeepSeek 文件中明列了沒有公開的部分:約 100 PB 的儲存叢集、專屬的網路路由系統,以及全球負載平衡器。要跑出影片所描述的效能,至少需要 128 張 GPU 搭配 DeepSeek-V4.1-Flash 這個旗艦模型。
他用的比喻是:DeepSeek 給了外界一台商用烤箱,但自動化的整條烘焙產線仍留在自己手上。
硬體選擇同樣值得注意。DeepInfer 正式支援的是輝達最新的 Blackwell 架構,以及華為的昇騰 950,跳過了上一代的 H100。講者認為,這顯示 DeepSeek 想證明自己的大規模服務可以在中國自製晶片上運作,不必完全依賴西方硬體。
對台灣企業的意義:AI 帳單會越來越像一場效率競賽
以下是本文的分析推論,並非影片內容。
第一,Token 價格還有下修空間,但下修的來源是工程能力。講者認為,這會給代管開源模型、收取高額加價的雲端業者帶來壓力,vLLM 等社群推論引擎也可能吸收這些技巧。對企業而言,今天看到的報價不是天花板,也不是地板,採購時更適合簽有彈性、能隨市場調整的方案,而不是長期鎖死單一價格。
第二,「便宜」與「可用」要分開評估。DeepSeek 的低價建立在整套私有基礎設施之上,企業若想拿開源引擎自架,最低門檻就是上百張 GPU 與維運團隊,帳未必划算。此外,模型來源、資料落地與供應鏈風險,在台灣企業的法遵與資安審查中,往往比單價更早成為決策關鍵。
第三,定價差異會持續擴大,管理能力因此更重要。當不同供應商的價格與效能落差越來越大,同一項工作交給哪個模型、在什麼時段執行,就會直接反映在月底帳單上。
結語:下一次看到低價,先問效率從哪裡來
回到一年前那個疑問:DeepSeek 憑什麼這麼便宜?至少就它公開的數字來看,答案不是補貼,而是把每一張 GPU 用到極致。
對企業主管來說,比起追問「哪家最便宜」,更值得問的是「這個價格背後的效率是否可持續、資料與合規風險能否接受」。在模型與價格快速變動的時期,企業需要的是能同時比較多家模型、集中掌握用量與帳單的方式,像 AI Token King 這類多模型管理服務,就是讓這筆新成本看得見、也調得動的一種做法。
資料來源與編輯註記
來源影片:DeepSeek Just Shook the Entire AI Industry Again
頻道:WhatsWithAI
網址:https://www.youtube.com/watch?v=YX6QdIYVSgY
發布日期:2026 年 10 月 23 日(YouTube 標示時間,UTC)
擷取時觀看數:約 76 萬次(760,665 次,2026 年 10 月 29 日擷取)
編輯註記:本文依影片內容整理轉述,講者觀點均為轉述,非逐字翻譯;毛利率為影片講者的估算,並非 DeepSeek 官方財報數字。「對台灣企業的意義」一節及結語為本站編輯的分析推論,不代表講者立場。




留言