Tecnologia, cibersegurança e dados

Validação de modelo de inteligência artificial

Validação independente de modelo: finalidade, dado, desempenho, viés, explicabilidade, monitoramento e documentação que sustenta a decisão tomada.

Validação de modelo é exame independente conduzido por quem não construiu o modelo. Cobre finalidade declarada, qualidade e representatividade do dado de treino, premissas, desempenho fora da amostra, estabilidade no tempo, diferença de resultado entre grupos, explicabilidade compatível com o uso e plano de monitoramento. Aplica-se a modelo de crédito, de precificação, de detecção de fraude, de classificação de cliente e ao uso de modelos de linguagem em processo interno. O problema que resolve é o modelo em produção com desempenho medido apenas na implantação, sem limite de alerta, sem dono nomeado e sem documentação que explique por que a decisão saiu daquele jeito.

A exigência vem de várias frentes ao mesmo tempo. A LGPD, Lei 13.709/2018, assegura no artigo 20 o direito de solicitar revisão de decisão automatizada que afete interesses do titular, o que obriga a manter registro e critério explicável. A Resolução CMN 4.557/2017 coloca o risco de modelo dentro do gerenciamento de riscos das instituições autorizadas. Há ainda discussão regulatória em curso sobre inteligência artificial no Brasil, com alcance não consolidado. A ISO/IEC 42001 estrutura sistema de gestão de inteligência artificial e o NIST AI Risk Management Framework organiza governar, mapear, medir e tratar o risco. Validação sem independência não é validação.

A MERC valida com equipe separada de quem desenvolveu, começando pela finalidade e pelo uso real do resultado, que muitas vezes difere do uso documentado. Refaz testes de desempenho em base independente, avalia representatividade do dado, mede diferença de resultado entre grupos e verifica se o limite de alerta do monitoramento é acionável por alguém. Revisa documentação, versionamento, aprovação e trilha de decisão. Entrega relatório de validação com achados classificados, restrições de uso recomendadas e plano de monitoramento. Quando o modelo não sustenta o uso pretendido, a firma recomenda restringir o uso e registra a limitação, em vez de sugerir ajuste de narrativa.

O que examinamos

• Finalidade declarada confrontada com o uso real
• Representatividade e qualidade da base de treino
• Desempenho fora da amostra e estabilidade no tempo
• Teste de diferença de resultado entre grupos
• Explicabilidade compatível com a decisão tomada
• Monitoramento com limite de alerta e dono definido

Norma aplicável

A LGPD, Lei 13.709/2018, no artigo 20, assegura ao titular pedido de revisão de decisão automatizada e exige critério explicável, e a Resolução CMN 4.557/2017 insere o risco de modelo no gerenciamento de riscos. ISO/IEC 42001 e NIST AI Risk Management Framework estruturam a governança de inteligência artificial.

Entregável

Relatório de validação independente com achados classificados, restrições de uso recomendadas e plano de monitoramento do modelo.