第 77 个主题,共 91 个· 人工智能加速

推理单位经济学

推理单位经济学以边际算力为AI功能定价:每令牌成本,逐级汇总为每笔交易成本、每用户成本、每次临床事件成本。其决定性的动态特征在于:在能力保持不变的情况下,大语言模型的价格大约每1–2年下降一个数量级——这是一种在医疗技术成本核算历史上前所未有的通缩速度。

为何重要

价格的崩塌带来两个后果。在商业层面,一项今天看来只是边际盈利的AI功能,18个月后可能变得轻松盈利——而按今天成本定价的竞争对手,则会被后来者压价击败。在经济学评估层面,任何针对AI赋能临床服务的成本效果模型,若固定使用2024年的推理价格,都会实质性地高估其持续运营成本——这类分析需要像药物模型处理专利到期与仿制药进入那样,纳入价格下降情景。(研究中的参照数据:截至2026年年中,前沿模型的输出令牌价格约为每百万令牌15–75美元,中端模型便宜一个数量级;达到GPT-4水平能力的成本,已从2022年的约每百万令牌20美元降至约0.40美元;Epoch AI测算,根据能力里程碑的不同,年降幅在9倍至900倍之间。)

计算方法

每次调用成本  = 输入令牌数 × 输入费率 + 输出令牌数 × 输出费率
每单位成本    = Σ 每单位业务产出所需的调用次数(每次分诊事件、
               每份起草信函、每份问诊摘要)

综合实际情况  = 基础调用 + 重试 + RAG上下文(偏重输入)
             + 评估/护栏调用(通常带来20–50%的额外开销)

多年期模型的价格下降情景:
  成本_t = 成本_0 × d^t,在敏感性分析中测试 d ∈ {0.3, 0.5, 0.7}/年

实例演算

某AI出院摘要服务:平均每份摘要使用12,000个输入令牌(病历上下文)+ 1,200个输出令牌,外加一次校验环节(6,000输入/300输出)。按输入每百万令牌3美元、输出每百万令牌15美元计算:

起草:  12,000 × 3/100万 + 1,200 × 15/100万  = $0.036 + $0.018 = $0.054
校验:  6,000 × 3/100万 +   300 × 15/100万  = $0.018 + $0.0045 ≈ $0.023
每份摘要成本 ≈ $0.077 → 每年10万份摘要 ≈ $7,700

相较于每份摘要节省约20分钟临床医生时间(约合£25),推理成本仅占
所创造价值的0.25%——这项经济学的主导因素几乎完全不在令牌本身,
而在于其他一切:集成、评估、治理、推广采用。

这一结论——在当前价格水平下,对于高价值临床任务而言,推理成本很少是真正起决定作用的约束——这一发现本身,正值得带入定价会议之中。

与软件工程的联系

这本质上是云单位经济学在AI场景下的专门化版本,带有三点实践要点:按业务单位计量,而非按API调用次数计量,这样得出的数字才能直接输入ICER/预算影响模型;关注输入/输出之间的不对称性(输出价格通常约为输入价格的4倍;RAG架构偏重输入——架构选择本身就是定价选择);以及按任务层级路由——将模型能力与任务难度相匹配(分类任务用廉价模型,综合生成任务用前沿模型),通常能在保持同等质量的前提下,将综合成本削减5–10倍,这正是"使用最便宜的有效干预措施"这一原则的软件版本(参见成本最小化,前提是已证明等效性)。

陷阱

  • 固定价格的多年期模型——会高估成本;但同样要警惕假设通缩会自动发生的收入模型——价格战并非合同承诺;两种情形都应做情景分析。
  • 忽视评估环节的开销:护栏机制、评判模型与重试都是真实消耗的令牌,在受监管场景下往往占据大部分成本。
  • 只盯着单价的短视:延迟、速率限制与上下文窗口约束都带有令牌价格本身无法体现的成本。

来源