第 77 個主題,共 91 個· 人工智慧加速
推理單位經濟學
推理單位經濟學以邊際算力為AI功能定價:每令牌成本,逐級彙總為每筆交易成本、每使用者成本、每次臨床事件成本。其決定性的動態特徵在於:在能力保持不變的情況下,大語言模型的價格大約每1–2年下降一個數量級——這是一種在醫療技術成本核算歷史上前所未有的通縮速度。
為何重要
價格的崩塌帶來兩個後果。在商業層面,一項今天看來只是邊際盈利的AI功能,18個月後可能變得輕鬆盈利——而按今天成本定價的競爭對手,則會被後來者壓價擊敗。在經濟學評估層面,任何針對AI賦能臨床服務的成本效果模型,若固定使用2024年的推理價格,都會實質性地高估其持續營運成本——這類分析需要像藥物模型處理專利到期與仿製藥進入那樣,納入價格下降情景。(研究中的參照資料:截至2026年年中,前沿模型的輸出令牌價格約為每百萬令牌15–75美元,中端模型便宜一個數量級;達到GPT-4水平能力的成本,已從2022年的約每百萬令牌20美元降至約0.40美元;Epoch AI測算,根據能力里程碑的不同,年降幅在9倍至900倍之間。)
計算方法
每次呼叫成本 = 輸入令牌數 × 輸入費率 + 輸出令牌數 × 輸出費率
每單位成本 = Σ 每單位業務產出所需的呼叫次數(每次分診事件、
每份起草信函、每份問診摘要)
綜合實際情況 = 基礎呼叫 + 重試 + RAG上下文(偏重輸入)
+ 評估/護欄呼叫(通常帶來20–50%的額外開銷)
多年期模型的價格下降情景:
成本_t = 成本_0 × d^t,在敏感性分析中測試 d ∈ {0.3, 0.5, 0.7}/年
實例演算
某AI出院摘要服務:平均每份摘要使用12,000個輸入令牌(病歷上下文)+ 1,200個輸出令牌,外加一次校驗環節(6,000輸入/300輸出)。按輸入每百萬令牌3美元、輸出每百萬令牌15美元計算:
起草: 12,000 × 3/100萬 + 1,200 × 15/100萬 = $0.036 + $0.018 = $0.054
校驗: 6,000 × 3/100萬 + 300 × 15/100萬 = $0.018 + $0.0045 ≈ $0.023
每份摘要成本 ≈ $0.077 → 每年10萬份摘要 ≈ $7,700
相較於每份摘要節省約20分鐘臨床醫師時間(約合£25),推理成本僅佔
所創造價值的0.25%——這項經濟學的主導因素幾乎完全不在令牌本身,
而在於其他一切:整合、評估、治理、推廣採用。
這一結論——在當前價格水平下,對於高價值臨床任務而言,推理成本很少是真正起決定作用的約束——這一發現本身,正值得帶入定價會議之中。
與軟體工程的聯絡
這本質上是雲單位經濟學在AI場景下的專門化版本,帶有三點實踐要點:按業務單位計量,而非按API呼叫次數計量,這樣得出的數位才能直接輸入ICER/預算影響模型;關注輸入/輸出之間的不對稱性(輸出價格通常約為輸入價格的4倍;RAG架構偏重輸入——架構選擇本身就是定價選擇);以及按任務層級路由——將模型能力與任務難度相匹配(分類任務用廉價模型,綜合生成任務用前沿模型),通常能在保持同等品質的前提下,將綜合成本削減5–10倍,這正是"使用最便宜的有效介入措施"這一原則的軟體版本(參見成本最小化,前提是已證明等效性)。
陷阱
- 固定價格的多年期模型——會高估成本;但同樣要警惕假設通縮會自動發生的收入模型——價格戰並非合同承諾;兩種情形都應做情景分析。
- 忽視評估環節的開銷:護欄機制、評判模型與重試都是真實消耗的令牌,在受監管場景下往往佔據大部分成本。
- 只盯著單價的短視:延遲、速率限制與上下文視窗約束都帶有令牌價格本身無法體現的成本。
來源
- Epoch AI,大語言模型推理價格趨勢。https://epoch.ai/data-insights/llm-inference-price-trends
- 大語言模型定價比較。https://www.silicondata.com/blog/llm-cost-per-token