第 78 个主题，共 91 个· 人工智能加速
AI质量指标 (AI Quality Metrics)
用于衡量AI生成内容正确性的一组指标：相对于真实标准（ground truth）的准确度、忠实度/有据性（faithfulness/groundedness，即每一项论断是否都有所提供上下文的支撑？）以及幻觉率（hallucination rate，即输出内容中有多大比例包含无依据或虚假内容？）。在医疗场景中，这些不是可有可无的质量细节——而是危害发生率。
为何重要
医疗领域的基准测试已测得，未接入知识来源（ungrounded）的LLM在医疗任务上的幻觉率超过60%（部分开源模型甚至超过80%），而接入知识来源、检索增强及推理模式能大幅降低这一比率（例如，GPT-5的"思考模式"在某基准测试中将HealthBench幻觉率从3.6%降至1.6%）。在临床工作流中出现一个虚构的剂量或捏造的引用文献，属于带有危害路径的虚假信息事件——理应纳入任何经济模型的危害一侧，其定价方式应类似于筛查经济学中的假阳性：每一起都会触发下游成本（依据错误信息采取行动、核实工作的人力成本、医疗法律风险敞口、信任受损）。
计算方法
幻觉率 = 含有无依据/虚假内容的输出数 / 总输出数
内在型幻觉：与所提供的上下文相矛盾
外在型幻觉：超出上下文范围、无法核实的捏造内容
忠实度（RAGAS式指标）= 答案中有依据支持的论断数 / 答案中的论断总数
上下文精确率/召回率 = 供给生成模型的检索质量
经济加权——并非所有幻觉代价相同：
预期危害成本 = Σ（按错误类型）（发生率 × P(未被发现) ×
P(被据以行动) × 每起被据以行动的错误的成本）
人工审核环节决定了P(未被发现)的大小——其成本
同样应纳入模型（审核员耗时分钟数 × 处理量）
实例演算
某AI临床编码助手每年处理200,000个诊疗事件；审计显示2%的输出含有实质性编码错误；人工编码员能发现其中85%：
提交前未被发现的错误数 = 200,000 × 0.02 × 0.15 = 每年600起
每起未被发现错误的成本（错误计费均值 + 审计风险敞口）≈ £250
预期错误成本 = 600 × 250 = 每年£150,000
审核成本（每起2分钟 × 20万起 × £0.50/分钟） = 每年£200,000
改进方案：接入检索增强将错误率降至0.8%
→ 未被发现错误数降至240起，错误成本降至£60,000（每年减少£9万）；
审核时长也可随之下降（改为抽样审核而非全量审核）——质量方面
的投入尚未产生任何速度收益之前，本身就已经值回成本。
与软件工程的关联
应以健康行业级别的严谨态度，把模型质量当作测试覆盖率经济学来对待：评测集就是你的临床试验——须预先登记、能代表你自己的病例组合，并针对数据漂移持续更新；对于事实性任务，接入知识来源比单纯扩大模型规模更有效（检索增强加上强制引用的提示词设计，通常是成本最低的幻觉削减手段——其token开销参见推理单位经济学）；以及公开运行点：正如灵敏度/特异度一样，"97%忠实度"这类说法脱离了任务分布和检测阈值就毫无意义。上文的审核环节计算，其数学原理与任何筛查关口所用的NNT/NNH算法完全相同。
常见陷阱
- 基准测试到生产环境的生搬硬套：幻觉率高度依赖具体任务；唯一算数的基准就是你自己的病例组合。
- 未计入成本的人工审核："由临床医生逐一核查"会使收益减半，且必须计入成本项——而警惕性会随时间衰减（自动化麻痹效应），因此随着信任度上升，P(未被发现)也会随之上升。
- 优化平均质量却忽视由尾部风险承载的危害：一条捏造的过敏记录所造成的危害，可能超过一千处笨拙措辞的总和；应按后果权重对错误加权，遵循预期危害公式。