跳至主要內容
Agchub Agchub

28天2.8萬美元:微軟開始替員工的Token用量記帳

微軟內部AI用量管理轉趨嚴格,單一員工28天產生2.8萬美元Token成本,本文從部門成本階梯、極端值與中位數的93倍落差,以及預設模型切換的採購集中化,拆解企業AI支出從鼓勵使用轉向逐人計量的受惠與承壓方。

/ 編輯部 #人工智慧#成本結構#企業支出
28天2.8萬美元:微軟開始替員工的Token用量記帳

8月31日,據外電Android Headlines報導,一份外流的微軟內部表格顯示,一名員工在28天內產生約2.8萬美元的Token使用成本,換算日均約1,000美元,整個週期約合新臺幣90萬元。作為對照,全公司月度使用成本中位數約為300美元,約合新臺幣9,600元。極端值除以中位數,倍數接近93倍。

這份表格的覆蓋範圍其實有限。微軟全球員工超過22.3萬人,這次僅約350名美國員工自願提交月度AI使用資料,自願提報的樣本天然偏向重度使用者,300美元的中位數大概率高於全公司真實水準。另一組粗算可以感受量級:若把300美元直接外推到22.3萬名員工,內部年帳單約8億美元,樣本偏差會讓真實值低於這個數字,但已足夠讓Token從工具議題變成預算議題。管理層的動作隨之而來:設置Token用量監控,識別支出異常高的員工,並收緊預算限制。

統計圖卡呈現微軟內部Token使用成本的分布落差,單一員工28天約2.8萬美元的極端值,相當於約350人自願樣本月度中位數300美元的93倍

部門階梯:975美元與241美元之間

把部門資料排成階梯,落差一目了然。CoreAI部門月度中位數最高,約975美元,部門內個人最高達1.6萬美元;Microsoft AI平均約490美元;Experiences and Devices約250美元;Azure約241美元。至於2.8萬美元的全公司紀錄保持者,來自Customer and Partner Solutions,一個以客戶與合作夥伴為對象的業務體系。

清單圖卡列出微軟各部門月度AI使用成本階梯,CoreAI部門中位數975美元居首,Microsoft AI平均490美元,全樣本中位數300美元,Experiences and Devices與Azure分別約250與241美元

階梯的形狀符合直覺:越接近模型與平臺開發的部門,工作流程喫掉的Token越多。真正的資訊在階梯之外。業務體系跑出全公司最高帳單,量級明顯超出日常寫程式輔助所需,而報導同時提到,近幾個月部分員工大量使用AI的動機,是提高自己的數據排名。當用量本身是排名依據,衝高用量就是理性策略;同一份資料換上成本視角檢視後,排名壓力隨即變成預算壓力。治理的鐘擺從鼓勵擺向管制,中間只隔一張試算表。

再算一筆帳。2.8萬美元若按28天週期年化,約36.5萬美元,已超過多數資深工程師的年度薪酬總成本。當一位員工的工具帳單逼近其薪資,這個科目就再也藏不進雜項支出。把大額支出拆到人均口徑檢視,這個動作在科技製造業有前例,臺積電將季度獎金攤成人均數字對照人均產值的做法,與這次微軟的Token表格屬於同一套邏輯,可參考前文對臺積電360億元獎金的人才成本帳的拆解。差別在於,獎金是每年結算兩次的既定科目,Token帳單是隨用量連續累積的變動成本,後者對管理節奏的要求更快。

計量資源的第三波:從電話帳單、雲端到Token

企業對新型態資源的管理,幾乎都走過同樣兩段路:先放手讓員工使用,等帳單成長速度超過授權速度,再回頭建立計量。1990年代的長途電話與行動電話資費是第一波,企業用逐支門號的明細取代統包報帳。公共雲是第二波,2010年代後期的雲端帳單催生了FinOps職能與專門基金會,部門chargeback成為標準配備。Token是第三波,特性更極端:雲端至少按小時與執行個體計費,生成式AI按每次呼叫的輸入輸出長度計費,單一使用者就能在28天內把成本推到中位數的近百倍。

微軟這次的工具箱有四件:用量監控與異常識別、更嚴格的預算限制、內部預設工作負載逐步切換至OpenAI的GPT-5.6 Sol,以及在程式開發任務中不再鼓勵Anthropic Claude等第三方工具。前兩件是治理,後兩件是採購。把預設模型的選擇權收到公司層級,等於一個23萬人規模的組織把AI採購從個人偏好改為集中議價。

清單圖卡整理微軟控制內部AI成本的四項措施,包含Token用量監控與異常識別、更嚴格的預算限制、預設工作負載切換至GPT-5.6 Sol,以及不再鼓勵程式開發任務使用Anthropic Claude等第三方AI工具

這個從擴張轉向紀律的節奏,與算力市場的相位變化一致。中國智算中心在總規模突破245萬PFLOPS後,管理重心已從建設期轉入調度期,前文智算從建設轉向調度的兩道比例題拆解過同樣的轉折:供給到位之後,問題從「有多少」變成「誰在用、用出了什麼」。微軟的內部表格,是同一個問題在企業防火牆內的版本。

受惠方與承壓方

受惠最明確的是OpenAI。內部預設工作負載轉向GPT-5.6 Sol,代表一家23萬人的組織把多數日常AI呼叫集中到單一模型家族。微軟既是OpenAI的投資人,也是其算力供應方,內部Token支出有相當比例最終在同盟內部結算,成本外溢被壓到最低。巴克萊先前的研究估計,AI模型公司每賺進100美元,約有35至40美元流向三大雲端業者,算力是這個產業最大的中間成本;同時把預設模型與算力供應收攏到同盟內部,是對這條成本結構最直接的回應。

承壓的一方,首先是Anthropic等第三方工具。Claude在程式開發場景有穩固口碑,被官方點名移出鼓勵清單,帳面營收損失有限,微軟內部用量本來就不會出現在Anthropic的財報上,真正的損失在示範效應。全球最大軟體僱主之一的內部預設,本身就是一份對外採購示範,當「不鼓勵」成為官方口徑,第三方工具滲透大型企業的阻力同步上升。

其次是內部的重度使用者。預算限制與異常監控會直接改變行為,過去免計成本的呼叫,現在每一筆都留下紀錄。生產力與部門預算的緊張關係,會在AI用量最高的團隊最先浮現。

微軟自身則是雙重身分。對外,Microsoft 365 Copilot以每席每月30美元銷售;對內,自願樣本的中位數月成本約300美元,是外部席位定價的十倍。兩個數字並存,預告企業AI計價難以長期維持純席位制,重度使用者情境遲早走向席位加用量的混合結構。這份內部表格,恰好是混合計價上市前最完整的一份壓力測試資料。

情境推演:預算線與單價的賽跑

接下來的發展可分三條路徑。預算線守死的情境下,用量上限直接約束採用深度,重度使用者的產出回落,AI紅利向預算充裕的部門集中,內部摩擦上升。內部計價上線的情境下,Token帳單變成部門之間的分潤工具,300美元的中位數成為內部基準價,企業端的FinOps職能隨之成型。第三條路徑靠單價下行化解:切換GPT-5.6 Sol本身就是這個方向,同一筆預算能買到的Token數量隨模型世代遞增,若推理單價的跌速快於用量增幅,帳單問題會自行收縮。

比較可能的是後兩條並行。微軟的動作已經說明,企業AI支出的治理週期從「要不要用」進入「用多少、誰付帳」,而這個轉折不會只發生在微軟一家。後續值得追蹤兩個數字:內部表格的中位數是否回落,以及企業級AI產品的定價是否從純席位轉向混合結構。前者反映內部治理的力度,後者決定這本帳影響整個企業軟體市場的出口。相對於微軟以百億美元計的AI資本支出,內部Token帳單的金額很小;但資本支出買的是產能,這本帳記的是行為,需求曲線的形狀會先在這裡現形。