Você compra a funcionalidade. A responsabilidade fica com você.
Fornecedores de SaaS adicionam IA às plataformas por atualização. Sem reunião, sem aprovação, sem novo contrato. O CRM que você usa para gerenciar clientes agora analisa conversas com ML. O ERP que processa seus lançamentos financeiros tem modelos embarcados. O contrato foi assinado há três anos. Não contempla nada disso. Quando o regulador aparecer, ele vai perguntar para você — não para o fornecedor.
O contrato do SaaS foi assinado. A IA foi adicionada depois. O contrato não cobre IA. A responsabilidade ficou com você.
O auditor pediu evidência do modelo. Você ligou para o fornecedor. O fornecedor mandou o link do FAQ. Não foi aceito.
O contrato diz que o sistema decide. O regulador diz que você decide. Um deles está errado — e não é o regulador.