Não aparecem no relatório de disponibilidade. Aparecem no resultado de negócio — tarde demais.
Risco operacional de IA não é o sistema fora do ar. É o sistema funcionando e tomando decisões erradas. Drift silencioso, Shadow AI, modelo sem dono, dados contaminados — todos operam em silêncio. O alerta chega quando o dano já está feito: inadimplência acima do esperado, auditoria com achados, reclamação formal do regulador. O custo de descoberta retroativa é sempre maior que o custo de controle preventivo.
Há um modelo rodando na sua empresa agora. Pergunte quem é o responsável. Se demorar mais de 10 segundos, você tem IA orphan.
O modelo foi validado. Foi para produção. Está errado há seis meses. Ninguém sabe. Drift não gera alerta de disponibilidade.
Seu analista usou ChatGPT com dados reais de clientes. Sem aprovação. Isso já aconteceu hoje na sua empresa.
Você implantou IA no processo de crédito. Não registrou como era antes. Agora não sabe se melhorou ou piorou.
O auditor vai perguntar quem aprovou esse modelo. Você vai ligar para a TI. A TI vai dizer que não sabe.
O modelo aprende com os dados que você deu a ele. Se os dados eram ruins, o modelo é ruim — e vai continuar sendo.
O modelo não discrimina intencionalmente. Discrimina sistematicamente. Para o regulador, a diferença legal é zero.
Você assinou o contrato do SaaS. O contrato não diz o que o fornecedor faz com os dados que você envia para o LLM.