第 77 个主题,共 91 个· 人工智能加速
推理单位经济学 (Inference Unit Economics)
推理单位经济学按边际算力为AI功能定价:每token成本,逐层汇总为每笔交易、每位用户、每次临床事件的成本。其中的决定性动态是:在能力水平不变的前提下,LLM价格大约每1–2年就会下降一个数量级——这种通缩速度,在卫生科技成本核算史上前所未见。
为什么重要
价格崩塌带来两个后果。就商业而言,一项今天勉强盈亏平衡的AI功能,18个月后可能就轻松盈利——而按今日成本定价的竞争对手将被压价击败。就经济学评估而言,任何冻结在2024年推理价格上、用于评估AI赋能临床服务的成本效果模型,都会明显高估其持续成本——这类分析需要像药品模型处理专利到期与仿制药进入那样,纳入价格下降情景。(研究中的参考数据点:截至2026年中,前沿模型输出token约为$15–75/M,中端模型便宜一个数量级,GPT-4级别的能力已从2022年约$20/M降至约$0.40/M;Epoch AI测得的降幅在不同能力里程碑下为每年9倍至900倍不等。)
计算方法
单次调用成本 = 输入token数 × 输入单价 + 输出token数 × 输出单价
单位成本 = Σ 每个业务产出单位所需的调用次数(每次分诊事件、
每封起草的信函、每份问诊小结)
综合真实成本 = 基础调用 + 重试 + RAG上下文(输入密集型)
+ 评测/护栏调用(往往占开销的20–50%)
多年期模型的价格下降情景:
成本_t = 成本_0 × d^t,在敏感性分析中测试 d ∈ {0.3, 0.5, 0.7}/年
算例
一项AI出院小结服务:平均每份小结使用12,000个输入token(病历上下文)+ 1,200个输出token,另加一次校验(6,000输入/300输出)。按$3/M输入、$15/M输出计:
起草: 12,000 × 3/1M + 1,200 × 15/1M = $0.036 + $0.018 = $0.054
校验: 6,000 × 3/1M + 300 × 15/1M = $0.018 + $0.0045 ≈ $0.023
每份小结约 $0.077 → 每年10万份小结约 $7,700
相比每份小结节省约20分钟临床医生工时(约£25),推理成本仅占
所创造价值的0.25%——对于高价值临床任务而言,经济账的重点
在于代币开销*之外*的一切:集成、评测、治理、采用推广。
在当前价格水平下,对高价值临床任务而言,推理成本很少是约束条件——这一结论本身,就是值得带进定价会议的发现。
与软件工程的关联
这是云单位经济学在AI场景下的特例,附带三条实践要点:按业务单位计量,而非按API调用计量,这样得出的数字才能直接接入ICER/预算影响模型;关注输入/输出的不对称性(输出单价通常约为输入单价的4倍;RAG架构属于输入密集型——架构选择本质上就是定价选择);以及按任务层级路由——把模型能力与任务难度相匹配(分类任务用便宜模型,综合生成任务用前沿模型),通常能在质量不变的前提下把综合成本降低5–10倍,这正是软件版的"使用最便宜的有效干预措施"(成本最小化,前提是已证明等效)。
常见陷阱
- 冻结价格的多年期模型——高估成本;但反过来,假设通缩会持续的收入模型也同样危险——价格战不是合约保证;两种情形都应做情景分析。
- 忽视评测开销:护栏、评判模型和重试都是真实消耗的token,在受监管场景下往往占大头。
- 只盯着单token成本:延迟、速率限制与上下文窗口约束都带来成本,而这些都不体现在token单价里。
参考来源
- Epoch AI, LLM inference price trends。https://epoch.ai/data-insights/llm-inference-price-trends
- LLM定价比较。https://www.silicondata.com/blog/llm-cost-per-token