
- 登入
- 註冊

產品加入 AI 功能後,使用者反應很好,用量也持續增加。這本來是好消息,但到了月底,團隊卻發現:營收增加了,模型 API 的帳單也跟著上升,原本預期的利潤未必留下來。
直接串接大語言模型的 API,是許多團隊快速推出 AI 功能、驗證市場反應的方式。但它也把一種新的成本帶進產品:使用者每多問一次、生成一份內容,背後都可能多一筆推論費用。
這也讓 AI 功能的提供方式,成為產品方案的一部分。以 Notion 為例,2025 年 5 月推出的新方案,就將 Notion AI 納入 Business 與 Enterprise,官方當時公告這兩個方案包含無限制使用 AI。Notion 當時的版本公告
不過,Notion 並未將這次調整歸因於模型用量成本,因此不能把它當成「API 太貴」的直接證據。這個案例更適合提醒我們:AI 怎麼提供給用戶,會與方案包裝、定價及產品定位一起改變。Notion 產品公告
用戶成長,為什麼不一定帶來更多利潤?
關鍵在於,收入和成本可能用不同的方式增加。
如果產品按人頭收取固定月費,但 AI 的費用取決於實際使用量,同樣付一份訂閱費的兩位客戶,背後的服務成本就可能差很多。
一位客戶偶爾生成摘要,另一位每天大量處理文件。收入相同,推論用量卻不相同。當重度使用者增加,而方案收入沒有同步反映使用強度,AI 成本就可能侵蝕毛利。
麥肯錫在 2025 年的分析指出,當 AI 讓軟體從「輔助工作」走向「主動執行工作」,商業模式也需要更貼近完成的任務與創造的價值。按人頭訂閱不會因此全面消失,但可能需要搭配用量額度、加購或其他計價方式。麥肯錫分析
因此,自建模型或調用 API,不只是工程選項,也會影響產品的定價、服務範圍與毛利結構。
真正需要比較的,不是「哪個模型比較便宜」,而是「在相同品質與服務要求下,哪種方式的總成本更合理」。
API 通常能降低前期投入,讓團隊保留彈性;自建則需要承擔較多部署與維運工作,換取對模型、資料與服務環境的掌控。
但這不是「自建只有固定成本,API 只有變動成本」的二選一。兩者都有持續支出,只是成本結構與負擔方式不同。
本文所說的「自建」,指自行部署與維運既有模型,而不是從零訓練一個大型語言模型。
自行部署模型,就像買房。前期需要準備資源,後續也要負責管理、維修與擴充。
即使模型權重可以免費取得,讓它成為穩定的產品服務,仍需要 GPU 或雲端算力,以及部署、監控、資安、故障處理與效能優化等工作。若還需要微調模型,也要計入資料整理與訓練成本。
自建的優勢,是團隊可以更直接地控制服務環境,並依照自己的任務調整推論方式。當需求穩定、使用量足夠,而且算力能被有效利用時,每次服務的平均成本有機會降低。
但自建不代表用量增加後就不再花錢。需求超出原有容量,仍可能需要增加算力;流量不足時,閒置的設備或預留資源,也可能持續產生成本。
因此,使用量大只是條件之一,需求是否穩定、算力是否用得滿,同樣重要。
直接調用 API,就像租屋。不必先投入完整的模型基礎設施,也不必自行承擔所有模型服務的維運工作。
對仍在驗證需求的團隊來說,這種方式通常更有彈性:可以先上線、觀察用量,再調整產品與模型選擇。
但「容易開始」不等於「長期成本可以忽略」。
模型費用可能隨輸入、輸出與呼叫次數增加。一次看似簡單的使用者操作,背後也可能包含多輪模型呼叫、工具操作或失敗重試。
如果只估算單次 API 的價格,卻沒有算清楚完成一次任務需要多少用量,就容易低估真正的服務成本。
不過,API 也不一定比自建昂貴。當需求仍小、流量波動大,或團隊缺乏維運能力時,API 可能反而是總成本較合理的選擇。
不要只看模型單價,也要計入完成任務所需的全部呼叫、輸入輸出、重試與其他服務費用。
例如,「生成一份報告」可能不是一次模型回答,而是先讀取文件、整理資訊,再生成內容與檢查結果。產品應該追蹤的是整個任務的成本,而不只是其中一次呼叫。
觀察平均使用者之外,也要看重度使用者與尖峰情境。
如果少數客戶的用量遠高於其他人,固定月費是否仍能支撐服務?是否需要設定額度、分級方案或超額加購?這些都是產品設計問題,不應等帳單出現後才處理。
比較時,要把人力、算力、維運、備援、閒置容量與未來擴充一起算進去,也要確認兩種方案能否達到相同的品質、延遲與可靠性要求。
自建若無法滿足任務,即使推論單價較低,也不是等價的替代方案。
團隊不必一開始就押定單一路線。可以先用 API 驗證需求,再根據實際用量與服務要求,評估是否把部分穩定、高頻的任務轉向自行部署。
「API 買的是彈性,自建換的是掌控;真正該算清楚的,是每完成一次任務,產品能留下多少價值。」
[1] AI 如何改變 SaaS 的定價與商業模式|Upgrading Software Business Models to Thrive in the AI Era(McKinsey,2025)
[2] 自建模型與 API 的成本比較|OpenAI or DIY? Unveiling the True Cost of Self-hosting LLMs(VentureBeat,2024)
成本試算應使用當下的報價與實際工作負載,不宜直接沿用舊文章中的價格或流量門檻。
以上文章整理自【數創電子報 Vol.27】「用戶越多,公司反而虧?」從用量成本解析自建與買 API 的抉擇