トピック 77 / 91· AI加速

推論単位経済学

推論単位経済学は、AI機能をその限界的な計算資源で値付けします:トークンあたりの費用を、取引あたり、利用者あたり、臨床エピソードあたりの費用に積み上げます。決定的な力学:LLMの価格は、一定の能力のもとで、1〜2年ごとにおよそ一桁下落してきました — これは医療技術の費用計算に前例のないデフレ率です。

なぜ重要か

この価格の崩壊から2つの帰結が生じます。商業的には、今日限界的なAI機能は、18か月後には取るに足らないほど利益を生むかもしれません — そして今日の費用で価格設定された競合他社は値下げを迫られます。経済評価にとって、2024年の推論価格を固定するAI対応臨床サービスの費用効果モデルは現在進行中の費用を大幅に過大評価します — この分析には、医薬品モデルが特許切れとジェネリック参入を扱うのと同じように、価格下落のシナリオが必要です。(研究からの基準点:2026年半ばのフロンティアの出力トークンは約$15〜75/M、中間層のモデルは一桁安く、GPT-4レベルの能力は2022年の約$20/Mから$0.40/Mまで下落;Epoch AIは、能力のマイルストーンに応じて年9倍〜900倍の下落を測定しました。)

数式

1コールあたりの費用 = 入力トークン数 × 入力料率 + 出力トークン数 × 出力料率
1単位あたりの費用   = Σ ビジネスアウトプット単位あたりのコール数(トリアージ
                    エピソードあたり、下書きされたレターあたり、診察要約あたり)

混合された現実     = 基本コール + リトライ + RAGコンテキスト(入力重視)
                    + 評価/ガードレールコール(しばしば20〜50%のオーバーヘッド)

複数年モデルのための価格下落シナリオ:
  費用_t = 費用_0 × d^t、感度分析でd ∈ {0.3、0.5、0.7}/年をテストする

計算例

あるAI退院サマリーサービス:平均的な要約は12,000入力トークン(記録のコンテキスト)+1,200出力を使用し、加えて検証パス(6,000入力/300出力)。入力$3/M、出力$15/Mで:

下書き:  12,000 × 3/1M + 1,200 × 15/1M  = $0.036 + $0.018 = $0.054
検証:     6,000 × 3/1M +   300 × 15/1M  = $0.018 + $0.0045 ≈ $0.023
要約あたり ≈ $0.077 → 年間10万要約あたり ≈ $7,700

要約1件あたり約20臨床医分(≈£25)の節約に対して、推論は生み出された
価値の0.25%です — この経済性は、トークン「以外の」すべて:統合、評価、
ガバナンス、採用によって支配されています。

その結論 — 現在の価格では、高価値な臨床タスクにとって、推論費用が拘束制約であることはめったにない — それ自体が、価格設定の会議に持ち込む価値のある発見です。

ソフトウェア工学との関連

これはAI向けに特化したクラウド単位経済学であり、3つの実践上の注意点があります:APIコールあたりではなくビジネス単位あたりで計測すること、そうすればその数値はICER/予算影響モデルに直接組み込めます;入力/出力の非対称性に注意すること(出力は典型的には入力価格の約4倍です;RAGアーキテクチャは入力重視です — アーキテクチャの選択は価格設定の選択です);そしてタスクの階層によってルーティングすること — モデルの能力をタスクの難易度に合わせること(分類には安価なモデル、統合にはフロンティア)は、同等の品質で混合費用を日常的に5〜10倍削減します。これは、最も安価な有効な介入を使うことのソフトウェア版です(費用最小化、証拠づけられた同等性)。

落とし穴

  • 固定価格の複数年モデル — 費用を過大評価します;しかしデフレを前提とした収益モデルも同様です — 価格戦争は契約ではありません;両方をシナリオ化してください。
  • 評価のオーバーヘッドを無視すること:ガードレール、判定、リトライは実際のトークンであり、規制された環境ではしばしば大部分を占めます。
  • トークンあたりの近視眼:レイテンシ、レート制限、コンテキストウィンドウの制約は、どんなトークン価格も捉えない費用を伴います。

出典