第 78 個主題，共 91 個· 人工智慧加速
AI品質指標
衡量AI生成輸出正確性的指標：與真實標準相比對的準確率、忠實度/有據性（每一條陳述是否都有所提供上下文的支撐？），以及幻覺率（輸出中包含無依據或虛假內容的比例）。在醫療場景中，這些並非錦上添花的品質細節——而是傷害發生率。
為何重要
醫學領域的基準測試顯示，未經知識支撐（ungrounded）的大語言模型在醫學任務上的幻覺率超過60%（部分開源模型超過80%），而引入知識支撐、檢索增強與推理模式可大幅降低該比例（例如，GPT-5的思考模式在某基準測試中將HealthBench幻覺率從3.6%降至1.6%）。在臨床工作流程中，一次虛構的劑量或捏造的引用，都是帶有傷害路徑的虛假資訊事件——它應當被納入任何經濟模型的"傷害"一側，其定價方式應與篩查經濟學中的假陽性相同：每一次都會觸發下游成本（依據錯誤資訊行動、核查人力投入、醫療法律風險敞口、信任受損）。
計算方法
幻覺率 = 包含無依據/虛假內容的輸出數 / 輸出總數
內在型：與所提供的上下文相矛盾
外在型：超出上下文範圍、無法核實的捏造內容
忠實度（RAGAS式）= 答案中有依據支撐的陳述數 / 答案中陳述總數
上下文精確率/召回率 = 供給生成模型的檢索品質
經濟加權——並非所有幻覺代價相同：
預期傷害成本 = Σ 按錯誤型別求和 （發生率 × P(未被發現) ×
P(被據此行動) × 每次被據此行動之錯誤的成本）
P(未被發現)由人工複核環節決定——而該環節本身的成本
也應納入模型中（複核人力分鐘數 × 處理量）。
實例演算
某AI臨床編碼助手每年處理200,000個診療事件；審計顯示2%的輸出存在實質性編碼錯誤；人工編碼員能發現其中85%：
提交時仍未被發現的錯誤 = 200,000 × 0.02 × 0.15 = 每年600例
每例未被發現錯誤的成本（平均誤計費+審計風險敞口）≈ £250
預期錯誤成本 = 600 × 250 = 每年£150,000
複核成本（每例2分鐘 × 200,000 × £0.50/分鐘） = 每年£200,000
改進方案：引入檢索式知識支撐，將錯誤率降至0.8%
→ 未被發現錯誤降至240例，錯誤成本降至£60,000（每年減少£90,000）；
複核時間也可隨之下降（改為抽樣複核而非全量複核）——
這項品質投資在任何速度提升主張兌現之前，本身就已經值回成本。
與軟體工程的聯絡
應以醫療級別的嚴謹態度，把模型品質當作測試覆蓋率經濟學來看待：評測集就是你的臨床試驗——應預先登記、能代表你自己的病例組合、並隨資料漂移持續更新；在事實性任務上，知識支撐勝過單純擴大模型規模（檢索增強+要求引用的提示詞，通常是最便宜的幻覺削減手段——其令牌開銷參見推理單位經濟學）；並且公開你的運作點：正如靈敏度/特異度一樣，脫離任務分佈和判定閾值談"97%忠實度"毫無意義。上面複核環節的計算方式，與任何篩查關口所用的NNT/NNH算術是同一套邏輯。
陷阱
- 將基準測試結果直接移植到生產環境：幻覺率高度依賴具體任務；唯一算數的基準就是你自己的病例組合。
- 未計入成本的人工複核："由臨床醫師檢查一切"會使收益減半，且必須體現在成本項中——而警覺性會隨時間衰退（自動化依賴），因此隨著信任增加，P(未被發現)也會上升。
- 在尾部風險才是傷害來源的情況下最佳化平均品質：一條虛構的過敏史記錄，其危害超過一千處笨拙措辭；應按照預期傷害公式，依據後果對錯誤加權。