top of page

自架 AI 工具組指南:能取代多筆 AI 訂閱嗎?Ollama、Nine Router、Headroom、Dify、OpenHands 的分工與代價

9月30日
讀畢需時 7 分鐘
以幾個相連的方塊象徵自架 AI 工具組,旁邊淡出的卡片象徵多筆訂閱

自架 AI 工具組是把模型執行、備援路由、內容壓縮、應用建構與程式開發 agent,都改由開源工具在自己的機器或伺服器上完成的做法。它有機會讓你重新安排訂閱費花在哪裡,但不會讓帳單歸零:費用會轉成硬體、維護時間與用量判斷。以下依 Fireship 頻道影片的內容,逐一說明五個工具各守哪一段。

翻開這個月的信用卡帳單,訂閱項目一條一條排下來:寫程式的編輯器、一個聊天模型的高階方案、另一個聊天模型的高階方案,再來是某個你兩年前註冊、之後就沒再想過的 API 金鑰。

單看每一筆都不算誇張。可是把它們加在一起,你會停下來問自己一句話:這些東西,是不是有一部分其實可以自己來?

Fireship 頻道在 2026 年 9 月 7 日發布的影片,就是從這個念頭出發。講者先算了自己的帳:Cursor 每月 20 美元,Claude Max、GPT Pro、Gemini Ultra 各 100 美元,合計 320 美元,這也是影片標題裡「$320/mo」的來源。這些都是講者自述的個人支出,不代表一般用戶的實際花費。他另外還提到逐字稿寫成「11 Labs」的服務(疑為 ElevenLabs,語音辨識拼寫待核對)、DeepSeek 與一批被遺忘的 API 金鑰,並未列出金額。接著他介紹五個他說可以自架的開源工具。

這篇文章不是把影片再講一遍,而是把五個工具放回一條線上,看它們各自守在哪一段,以及帳單真正縮小的條件是什麼。

Ollama 是什麼?自架工具組的第一段:模型自己跑

依講者的說法,任何 AI 工具組都得先有模型。他形容 Ollama 像是「大型語言模型的 Docker」:提供命令列介面與 API,讓你在自己的機器上下載並執行模型,特別適合嘗試各種開放權重模型。

講者強調的好處有兩個:提示內容不會離開你的機器,而且推論本身沒有按次計費。(本文補充:這只限純本機推論;一旦透過備援分層轉送雲端模型,內容就會送到該供應商。)他也自己點出限制:多數人手上的硬體跑不動接近最先進水準的模型,小模型幾乎哪裡都能跑,但要跑前沿規模的模型,得有近乎一座小型資料中心的設備。

換句話說,第一段解決的是私密性與單次成本,卻把問題轉成硬體門檻。

Nine Router 做什麼?第二段:一個入口接所有模型的備援分層

既然本機跑不動大模型,就得有辦法在本機與雲端模型之間切換。逐字稿中稱這個工具為 Nine Router(因為逐字稿是語音辨識產物,此名稱的正式拼寫尚待對照官方專案頁確認)。

依講者描述,它坐在你的 AI 工具與多家模型供應商之間,提供一個本機端點與 OpenAI 相容的代理,你只要把工具都指向 localhost,就不必分別管理多把金鑰。他最看重的是備援分層:他舉例說,第一層可放你本來就在付費的訂閱(例如 Claude Max),第二層可放按量計費、價格較低的 OpenAI 模型當後備,第三層放免費來源,例如中國的模型與 Vertex 試用額度。第一層用完,就自動往下一層走。講者還說它會記錄用量,並壓縮工具輸出以減少 token 消耗,但影片沒有給出任何具體節省比例。

Headroom 是什麼?第三段:先把要送出去的內容瘦身

如果你每天消耗的 token 已經很大(講者說的是「每天數十億」等級),講者推薦逐字稿中稱為 Headroom 的工具(名稱待核對),把它定位成 AI agent 的「上下文壓縮層」。它位於你的應用與模型供應商之間,在工具輸出、日誌與其他冗長內容送進模型之前先壓縮,因為送進去的部分會被算成計費的輸入 token。

講者特別提到一個設計:壓縮是可逆的。送給模型的壓縮版本,原始內容會快取在本機,模型需要時仍可取回。他用一個很誇張的玩笑來形容 agent 讀取過多無用內容的情況,那是笑點,不是數據,本文不引用。

Dify 與 OpenHands 分別負責什麼?從基礎設施走到應用

前三個是基礎設施。接下來,講者談的是拿它們來做什麼。

Dify(逐字稿多處寫成 Diffy,名稱待核對)是視覺化的建構工具,在畫布上拖曳節點,而不是把所有邏輯都寫進提示裡。講者說明它的流程:應用送出資料,視覺化工作流從資料庫取回符合條件的項目,再由大型語言模型解釋結果,整條工作流最後會以 API 形式對外提供,前端只需呼叫它。影片中的示範應用是虛構的玩笑專案,與實際產品無關。

逐字稿中稱為 OpenHands(名稱待核對)的工具,講者說它是開源的自主程式開發 agent。講者稱它在 SWE-bench verified(以真實 GitHub issue 為題的評測)上表現名列前茅,這是講者說法,未經獨立查證。用法是把工作寫成 GitHub issue,交給它在背景處理;因為跑在你自己的伺服器上,可以接 OpenAI 或 Anthropic 的模型,也可以接前面用 Ollama 裝好的本機模型。

自架之後訂閱費真的會消失嗎?只是換了地方付

到這裡,五個工具串起來看起來很漂亮:Ollama 提供本機模型、Nine Router 管入口與備援、Headroom 壓縮輸入、Dify 建應用、OpenHands 做開發。

但影片標題說的是「取代」,而帳單的邏輯是這樣的:那 320 美元不是被消滅,而是被拆開,分給了幾種不同的成本。

第一種是硬體或主機,講者自己也說多數人的硬體跑不動前沿模型,而他舉例的備援分層,也把既有訂閱與按量計費的雲端模型列為可用的層級。以下第二、三種是本文的推論,不是講者說法:第二種是維護時間,五個工具要自己安裝、串接、更新,出問題也得自己處理。第三種是判斷成本:什麼用途走哪一層、哪一層用了多少,仍要你自己決定和解讀(講者提到 Nine Router 會記錄用量,但影片沒有說明如何判讀)。

還有一件事要放在旁邊註記:影片中所有關於效果與節省的說法,包含講者「更便宜也更有生產力」的判斷,都是他個人的經驗,影片並未提供可核對的前後對照數據。所以正確的讀法不是「320 美元變成 0」,而是「有一組工具,讓你有機會重新安排錢花在哪裡」。

另外,這支影片含 Hostinger 贊助,講者在影片中提到可用其 VPS 部署上述專案。本文不推薦該服務,也不轉述任何優惠碼;自架的位置可以是你自己的機器、雲端主機或公司內部伺服器,選擇因人而異。

回到那張帳單

回頭看開場那張帳單,值得改變的不一定是訂閱的數量,而是你能不能回答三個問題:哪些用途一定要用前沿模型?哪些用本機的小模型就夠?每一層實際用了多少?

(此段為本文的建議,非講者說法。)如果三個問題你都答得出來,自架工具組是一個可以試的選項;如果答不出來,先把用量看清楚,比先裝五個工具更重要。下次帳單來的時候,你要看到的,最好是自己有意安排過的結果,而不是被動累積的數字。

常見問題(FAQ)

Q1:這五個工具真的能取代每月 AI 訂閱嗎?

影片講者表示他取消了自己的訂閱並改用這組自架工具,但這是他個人的說法,影片沒有提供可核對的前後成本比較。而且他舉例的備援分層也把既有訂閱(例如 Claude Max)與按量計費模型列為可用層級,所以較穩妥的讀法是重新分配,而不是全部歸零。

Q2:Ollama 在本機能跑多大的模型?

講者說小模型幾乎能在任何機器上執行,但接近前沿水準的模型需要相當於小型資料中心的硬體。具體需要多少記憶體或顯示卡,影片沒有說明,請依你想跑的模型官方需求評估。

Q3:Nine Router 是這個工具的正式名稱嗎?

不一定。本文來源是語音辨識產生的逐字稿,稱它為 Nine Router,可能有拼寫誤差。使用前請先用其功能描述(本機 OpenAI 相容代理、備援分層、用量追蹤)在官方來源搜尋確認。

Q4:Headroom 壓縮內容,會不會讓模型漏看重要資訊?

講者說明壓縮是可逆的,原始內容會快取在本機,模型需要時可再取回。實際效果與節省幅度,影片沒有提供數據,建議自行以真實工作量測試。

Q5:影片中的 Hostinger 需要一起用嗎?

不需要。Hostinger 是影片贊助商,講者是以它為例說明部署位置。本文不推薦、也不轉述其優惠。你可以選擇任何自己信任的主機環境。

資料來源聲明

本文核心事實整理自 Fireship 頻道(The Code Report)於 2026-09-07 發布的影片《5 open source tools that replaced my $320/mo AI stack...》。影片為英文,本文依語意重新組織為繁體中文,非逐字翻譯;逐字稿為語音辨識產物,工具名稱與部分用詞可能有誤,已在文中標註待核對。月費數字、工具功能、SWE-bench 表現均為講者說法,未經獨立查證。影片含 Hostinger 贊助。影片中的玩笑與誇飾(例如酒類銷售、游泳池用水量、虛構的配對應用)不作為事實引用。本文未加入影片沒有提到的價格、效能或節省比例。

延伸閱讀

想先看看有哪些模型可以選

如果你打算把幾家模型接在同一個工具組裡,可以先到 AI Token King 查看目前帳戶可用的模型清單與各自的定價資訊,再決定哪些工作交給雲端、哪些留在本機。前往 AI Token King

留言


bottom of page