Tópico 79 de 91· Aceleração com IA

Avaliação de IA Clínica

As estatísticas centrais para avaliar um modelo de IA clínica ou diagnóstico: sensibilidade, especificidade, AUROC, valores preditivos, e número necessário para rastrear. A lição económica central: uma excelente AUROC não torna uma implementação custo-efetiva — o valor depende do ponto de operação, da prevalência, e do que acontece a jusante de cada resultado positivo.

Porque é importante

Os reguladores (FDA, MHRA) autorizam a IA clínica num ponto de operação bloqueado — um par específico de sensibilidade/especificidade (ex.: o primeiro sistema autónomo de retinopatia diabética autorizado pela FDA: sensibilidade 87,2%, especificidade 90,7% no seu ensaio pivotal). Os economistas da saúde perguntam então a pergunta a que as métricas de precisão não conseguem responder: na prevalência da sua população de implementação, quanto custa cada deteção, e vale a pena agir sobre ela? Uma avaliação económica de IA de rastreio de retinopatia (npj Digital Medicine 2024) mostrou que maior precisão sozinha não garantia custo-efetividade uma vez contados os custos de referenciação.

O cálculo

Sensibilidade = VP / (VP + FN)        — dos verdadeiramente positivos, proporção detetada
Especificidade = VN / (VN + FP)        — dos verdadeiramente negativos, proporção desimpedida
AUROC       = P(o modelo classifica um positivo aleatório acima de um negativo aleatório)
              0,5 acaso … 1,0 perfeito; independente do limiar — e, portanto,
              insuficiente para decisão de implementação

VPP = VP / (VP + FP)   ← dependente da prevalência (Bayes); colapsa quando raro
VPN = VN / (VN + FN)

NNR  ≈ 1 / (prevalência × sensibilidade)       — rastreados por cada caso verdadeiro encontrado
Custo por caso verdadeiro = custo do programa / VP      — o resultado económico final

Exemplo resolvido

O mesmo modelo, dois contextos — sensibilidade 90%, especificidade 93%:

Clínica especializada (prevalência 20%):
  VPP = (0,9×0,2)/(0,9×0,2 + 0,07×0,8) = 0,18/0,236 ≈ 76%  → 3 em 4 alertas reais

Cuidados primários (prevalência 1%):
  VPP = (0,9×0,01)/(0,9×0,01 + 0,07×0,99) = 0,009/0,0783 ≈ 11,5%
  → 8 em 9 alertas falsos; investigação a £350 cada:
  custo por caso verdadeiro = (0,009 + 0,0693) × 350 / 0,009 ≈ £3.045 por caso encontrado

Modelo idêntico, economia radicalmente diferente — razão pela qual a avaliação específica do local é um tema regulamentar e porque "o nosso modelo tem 0,95 de AUROC" é o início de um caso económico, não o fim. Ver economia do rastreio para o cálculo completo do programa.

Ligação à engenharia de software

Para engenheiros que constroem ou compram IA clínica: envie a matriz de confusão na prevalência de implementação, não apenas a curva ROC; deixe que o limiar seja uma decisão económica — a troca sensibilidade/especificidade deve minimizar o custo esperado (casos perdidos × custo de perda vs falsos alarmes × custo de investigação), não maximizar uma estatística de referência; e reconheça a mesma matemática nas suas próprias ferramentas — sistemas de alerta, detetores de anomalias e scanners de segurança são testes diagnósticos sobre fluxos de eventos de baixa prevalência, com fadiga de alertas como o NNH. As atualizações de modelo que deslocam o ponto de operação reabrem a economia (e a autorização regulamentar — ver avaliação regulamentar de IA).

Armadilhas

  • Compras por AUROC: comparar modelos por AUROC quando vão operar a um limiar — compare no ponto de operação.
  • VPP de prevalência de ensaio citado para implementação no mundo real — o clássico; recalcule sempre na prevalência local.
  • Viés de espectro: modelos validados em casos óbvios vs controlos saudáveis têm desempenho superior no meio ambíguo que domina a prática.
  • Sem custeio da via a jusante: cada positivo desencadeia uma investigação; um modelo é uma intervenção na economia da via inteira.

Fontes