本地 AI vs 雲端 AI 同一份工作實測：四台 Mac Studio 跑 Kimi K3 約 4 小時，雲端約 15 分鐘
你在終端機貼上一段很長的提示詞，要模型做出一個完整的前端網站：TypeScript、假資料、深色模式、無障礙、單元測試，還得自己跑指令檢查成果。按下 Enter，四台機器的 GPU 使用率同時衝到 100%，機身漸漸發熱，卻遲遲沒有第一個字出現在畫面上。
這不是故障，而是本地執行超大模型最真實的樣子：機器很忙，你只能等。
這個場景來自 YouTuber Alex Ziskind 的一支實測影片。他把同一份前端開發任務，同時交給自己組的四台 Mac Studio 叢集（跑開源的 Kimi K3），以及雲端平台 Abacus AI 的 Supercomputer。結果是：兩邊都做完了，差別在時間、錢，和你願意把什麼交給別人。
這是一場「本地 vs 雲端」的第二回合
先交代背景。作者之前做過一輪對決，當時本地只有一台 512 GB 的 Mac Studio，結果被留言挑戰：「這不算真正的本地配置。」於是這次他把規格拉到極限。
模型：Kimi K3，影片稱為 2.8 兆參數，原始檔約 1.56 TB，單台 Mac Studio 放不下。
硬體：四台 Mac Studio，各 512 GB 統一記憶體，合計 2 TB，用 Thunderbolt 5 兩兩相連（六條線），再以 RDMA 與 MLX distributed 把模型切到四台上。
實際跑的是縮小過的量化版，權重約 817 GB，但沒有剪枝，896 個專家全部啟用。
台數為什麼是四：張量平行要把模型維度平均切開，所以只能是 1、2、4 或 8 台，三台行不通。
一個容易忽略的細節：817 GB 看似兩台就裝得下，但作者指出，他給了很長的上下文，需要的空間遠不只權重本身，所以兩台不夠。影片畫面顯示執行中四台各用了約 208、近 200、177、215 GB。
雲端那一側：不是聊天視窗，是一台不關機的電腦
對手 Abacus Supercomputer 的賣點，是它其實是一台常駐的雲端虛擬機，而不只是對話框。依影片介紹，它整合了排程任務、資料庫、儲存、GitHub 與 SSH，並可在同一個入口切換超過 100 個模型，從 GPT、Claude、Grok 到 DeepSeek、GLM、Kimi K3 都有，由 RouteLLM 依情境挑模型。
這一側用的是 Opus 5（high）與 GPT-5.6 Sol。要特別注意：兩邊用的不是同一個模型，所以這場比的是「整套本地方案」對「整套雲端方案」，不是單純的模型 PK。
另外必須揭露：影片自述是 Abacus 的贊助內容。作者也在片中自己提醒「不能太興奮，這是贊助影片」。讀這類比較時，把它當作一個有立場、但示範過程可檢視的案例，會比較準確。
同一份提示詞，兩種等待
兩邊拿到的是同一份提示詞：做一個「矽運算交易所」的前端，用 TypeScript、假資料，要有深色模式、微互動、無障礙與單元測試，並要求模型自行驗證。作者並說，這是他第一次實際跑這份提示詞。
依作者的示範，雲端那邊進展很快：很快就產出 HTML，在虛擬機裡建起 Next.js 專案，之後在虛擬機上啟動就能看到成品。作者的反應是，成品相當漂亮，有儀表板、帶動畫的即時篩選、庫存瀏覽、比較面板與預約功能，而且是單一提示詞完成的（沒有接後端）。
本地那邊則是另一種節奏。作者量到的數字是：
提示詞處理（prefill）約 238 tokens／秒
生成約 14.7 tokens／秒
他解釋，Mac 的強項是記憶體頻寬高、處理完之後生成很順，但吃長提示詞的預填階段不如 Nvidia GPU。這兩個數字合起來，意味著提示詞越長，你越要有耐心。
轉折：不是做不到，是你得先離開座位
一開始作者以為本地端壞了，因為等很久都沒看到輸出。他改用簡短的「hi」測試，模型有回應；再要求做一個含文字框與按鈕的簡單網頁，約 3 分鐘、147 行就完成，他形容成品相當漂亮。
於是他停止錄影，把完整提示詞重新丟進去，然後去喝咖啡。大約 4 小時後回來，一個完整的應用出現了：篩選、比較、圖表、排程、亮暗色模式都在。
所以「本地能不能做」的答案是肯定的。但作者的總結是：同一個應用，雲端約 15 分鐘，本地約 4 小時。這個差距才是真正的價格標籤。
帳要怎麼算：一次買斷 vs 月費
影片裡的成本對照，值得拆開看：
硬體：每台 Mac Studio 約 16,000 美元，作者推測現在已停售（原話為「我想」），價格只會更高。買斷之後歸你，想怎麼用都行。
雲端：Abacus 起價每月 10 美元，首月 7 美元。作者的說法是，光用月費計算，要花很久很久才會追上硬體成本。
路由：雲端方案可以用自訂路由器，把簡單工作推給便宜模型，貴的模型留給困難任務。
這幾個數字都是影片口述，我們未獨立查證，實際價格請以官方公告為準。更重要的是它沒算進去的東西：4 小時的等待成本、電費、維運時間。省下的是每月訂閱費，換來的是時間與管理負擔，這筆帳沒有標準答案。
對經常用 API 的團隊來說，這和你平常算 Token 帳單時面對的選擇是同一類：貴的模型負責難題，便宜的模型負責雜活。
什麼情況下該留在本地？
作者自己的結論相當克制，甚至自稱不是贊助商想聽的話：想要高品質、速度快、而且一次到位託管，雲端方案勝出；但如果資料不能離開辦公室，或你就是喜歡自己跑，叢集仍然有存在的道理。他認為兩種市場都存在，不是二選一。
他自己的工作方式是用 agent 做各種一次性的小工具，這類需求要快、要能馬上跑，對他而言雲端剛好。這也提醒讀者：先弄清楚你的任務長什麼樣子，再決定資源放在哪。
FAQ
Q1：影片裡的本地 AI 和雲端 AI 是用同一個模型比的嗎？
不是。本地端跑的是 Kimi K3，雲端端選用 Opus 5（high）與 GPT-5.6 Sol。比較的是整套方案的完成速度與成品，不是單一模型的能力排名。
Q2：本地跑大模型一定比較慢嗎？
視硬體與任務而定。這支影片的條件是超大模型、超長提示詞，量到的預填速度約 238 tokens／秒，所以特別慢。作者也說明，Mac 在處理完提示詞之後的生成階段相對流暢。換成小模型或短提示詞，結論可能完全不同。
Q3：4 小時 vs 15 分鐘，可以當成通用的速度差嗎？
不建議。這是單次測試，作者自己也說這是第一次跑這份提示詞，4 小時是他離開座位後回來看到的概略時間。把它當成「這個情境下的觀察」，而不是基準測試。
Q4：為什麼是四台 Mac Studio，不是三台？
作者解釋，張量平行會把模型維度分散到各節點，維度必須能被平分，所以台數只能是 1、2、4 或 8。
資料來源聲明
本文為改寫與整理，並非逐句翻譯。內容依據以下 YouTube 影片的字幕重新組織，所有硬體規格、速度、耗時與價格皆為影片作者口述，我們未獨立複測；字幕為自動產生，部分模型名稱拼寫可能有誤。影片自述為 Abacus AI 贊助內容，雲端產品能力的描述屬贊助方與作者自述。
影片標題：I Gave Local AI and the Cloud the Exact Same Job
頻道：Alex Ziskind
連結：https://www.youtube.com/watch?v=ujs0_cpAnaw
發布日期：2026-08-31
延伸閱讀
下次按下 Enter 之前
回到開頭那個畫面。這次你知道，四台機器同時滿載、卻沒有任何輸出，不代表壞了，也不代表它比較笨，只代表你選擇了用時間換掌控權。
真正該在按下 Enter 之前問的是：這份工作要在幾分鐘內交件，還是可以放著跑一個下午？資料能不能離開你的場域？難的步驟和簡單的步驟，是否值得用同一個模型處理？
如果你還在猶豫這份工作該放本地還是雲端，不妨挑一個自己的真實任務，透過 AI Token King 的同一把 key 跑一次，把實際用掉的 Token 記下來，再回頭算那筆帳。
留言