top of page

dark GPUs 是什麼?晶片買了卻插不上電,一位評論者的質疑

4天前
讀畢需時 4 分鐘
整排尚未通電的 AI 晶片與一條拔掉的電源線示意圖

週四晚上十一點,阿喬還坐在客廳,筆電螢幕上是一場長達一個半小時的 AI 泡沫座談。她是一間中型軟體公司的雲端採購負責人,明早九點要跟老闆報告下一年度的算力預算。(阿喬為示意人物,非真實客戶或真實人物,情節為說明用的假設。)

她本來只想找一句別人怎麼估算需求的參考。結果座談接近尾聲時,主持人把話題轉到一個她沒聽過的詞:dark GPUs。

從一個老故事借來的名字

主持人先提起網路泡沫時代的 dark fiber:當年鋪了成千上萬英里的光纖,卻有十到十五年沒被點亮,被視為泡沫破裂的徵兆之一。他說,Ed Zitron 在九月二十二日發表的一篇文章,把同樣的疑問搬到 AI 晶片上,標題大意是 AI 晶片到底在哪裡。

阿喬把影片暫停,倒回去聽了兩次。晶片買了,卻沒在跑?聽起來像採購單出了錯。

講者說,晶片在倉庫和沒通電的機房

Zitron 的說法是這樣的:他說,自己數月前與《衛報》合作的報導指出微軟約有二百二十萬顆已安裝並運作中的 GPU;他手上有精確清單,折算下來約一點九九三個 GW。他接著提到,微軟在財報電話會議上曾連續三季表示每季新增一個 GW 的容量、自稱總容量約十二個 GW,但依他的說法,其中屬於 AI GPU 的只有約二個 GW(他並提到彭博社約一個月前也有微軟 AI 容量約二個 GW 的報導)。

接著是金額。依他的消息來源,微軟真正已啟用的 GPU 約五百億美元,而自二〇二二年以來的資本支出約為二千六百五十億美元;他因此推論,微軟至少有八百億美元的晶片還沒安裝。放大到全產業,他估計未安裝的 GPU 約在二千億到三千五百億美元之間,放在沒有供電的資料中心或倉庫裡。他還轉述,納德拉去年底曾說過自己有晶片放在倉庫、插不上電。

這些全是講者本人的估計,依其自稱的消息來源,本站沒有獨立查證,也不代表微軟的官方數字。納德拉那句話同樣只是講者的轉述。

阿喬在便條紙上寫下兩個問號:這些數字有人核對過嗎?插不上電是缺電,還是只是施工進度?

這不是光纖,他說,貴的是之後

Zitron 特別強調,這跟當年的光纖不一樣。光纖最貴的是鋪設那一次,之後只要接上就能用。GPU 則要蓋機房、裝晶片、冷卻、再持續運轉,每一步都花錢。所以他認為,十五年後也不會出現現在接上就好的便宜時刻,機房沒蓋就不會便宜,蓋了也不會便宜到哪去。

他又用航空公司打比方:預估要服務一定數量的客戶,就先買一定數量的 GPU。買多了,客戶不夠;買少了,客戶流失。阿喬把這個比方套進自己的工作,寫了一個假設情境的算式(示意,非真實數據):預估需要一萬張卡,實際客戶只撐起六千張,那四千張的折舊、電費和場地,每個月都在帳上。

這時她才發現,自己手上那份預算表,從頭到尾都沒有「如果需求沒來」這一欄。

轉折:座談裡有人補充了不同的角度

阿喬原本已經被說服,直到她聽到其他與談人的補充。Gary Marcus 被主持人點名收尾時說,很難判斷何時會出事,就像荷蘭鬱金香,你知道不合理,卻不知道何時結束;他也認為關鍵在於大眾還願意相信這些故事多久,並說數字看起來不合理。另一位與談人(逐字稿未標示姓名)則補充,企業客戶買 AI 也帶有 FOMO,因為多項研究顯示許多客戶尚未看到投資報酬,只是怕被同業甩開。這些都是各自的說法,本站同樣沒有查證。

另一位與談人則坦白說,大家都不否認 AI 有用,也都在日常使用,真正的問題是營運這些服務的公司能不能獲利。

也就是說,這是一位評論者的主張,座談裡其他人的重點各有不同,而微軟是否真的有大量晶片閒置,本站未查證,不替任何一方背書。

阿喬關掉影片,意識到自己差點犯了和故事裡一樣的錯:把一個被反覆講述的故事,當成已經證實的數字。

她最後帶進會議室的東西

隔天早上,她沒有在簡報裡引用任何一個美元數字。她改問了三件事:我們的需求有多少是已簽約、多少是預測?電力與機房是否真的在交付時間內到位?如果用量低於預期,帳單會停在哪裡?

這三題的共同點,是她得先看見自己實際用了多少。她回頭翻出自己的模型帳戶,發現如果有一把 key 可以串多家模型,還能直接查看餘額與用量明細(AI Token King 的 MCP 服務就有這類唯讀查詢),那「我們到底用多少」就不必靠猜。她沒有因此得到答案,只是第一次知道該從哪裡開始看。

走進會議室前,她把便條紙上的兩個問號摺好,放進口袋。

延伸閱讀

資料來源與編輯註記

  • 影片標題:Ed Zitron: Microsoft Has $80 Billion Of AI Chips It Can't Plug In

  • 頻道:Market Talk with George Noble

  • 連結:https://www.youtube.com/watch?v=es4FfRU8saQ

  • 內容取自該節目尾段。

  • 講者原意與編輯延伸的區分:晶片顆數、GW、美元金額、創投與資料中心債務等數字,以及納德拉說法與 FOMO 補充,皆為講者本人估計或轉述,依其自稱消息來源,本站沒有獨立查證;FOMO 補充來自逐字稿未標示姓名的另一位與談人。對微軟之敘述僅為轉述,非本站論斷。阿喬的故事、其便條與算式,以及三個提問,均為編輯延伸的示意情節,非講者所述,亦非真實案例。

  • 本文不代表本站對任何公司的評價,也不是投資建議。

留言


bottom of page