← Voltar ao blog

Liderança

Due diligence de fornecedor de IA para quem responde pelo risco

Dados, segurança, contrato, qualidade e saída: as cinco frentes e as perguntas que o financeiro deve fazer a um fornecedor de IA antes de assinar.

André Apollaro3 min de leitura

Quando o financeiro contrata uma ferramenta de IA, o processo costuma começar pela demonstração e terminar no preço. A segurança da informação entra tarde, o jurídico recebe um contrato pronto e ninguém pergunta o que acontece com os dados depois da assinatura. Quem responde pelo risco, o CFO ou o controller, assina embaixo de perguntas que não foram feitas.

A due diligence de um fornecedor de IA cabe em cinco frentes. Para cada uma, as perguntas que valem a pena e os sinais de alerta.

Frente 1: dados

  • Os dados enviados são usados para treinar modelos, do fornecedor ou de terceiros? Isso vale para todos os planos ou só para alguns?
  • Quanto tempo ficam retidos, e como se solicita a exclusão?
  • Onde são armazenados e processados? Há transferência internacional?
  • Quem são os subprocessadores, e como a empresa é avisada de mudanças?
  • Os dados de clientes diferentes são segregados?

Sinal de alerta: respostas vagas ou dependentes do plano, sem texto contratual correspondente.

Frente 2: segurança

  • Existem certificações ou relatórios de auditoria independentes, como ISO 27001 ou relatório SOC 2? Peça o documento, não só o selo.
  • Como são tratados criptografia, controle de acesso e trilha de acessos?
  • Qual o procedimento e o prazo de notificação em caso de incidente?
  • Há testes de invasão periódicos?

Sinal de alerta: segurança descrita só em material de marketing.

Frente 3: contrato

  • Quem é controlador e quem é operador dos dados, nos termos da LGPD? O contrato tem acordo de tratamento de dados?
  • Há direito de auditoria, direta ou por relatório?
  • Os níveis de serviço têm penalidade real?
  • Quais os limites de responsabilidade, e o que está de fora?
  • Quem é o dono dos resultados gerados?
  • Mudanças de modelo, de subfornecedor ou de política exigem aviso prévio?

Sinal de alerta: contrato-padrão sem negociação possível para dados sensíveis, quando a sua classificação pelo semáforo de dados exige mais.

Depois de assinado, o contrato do fornecedor entra na carteira que o financeiro monitora: veja como extrair as cláusulas de risco.

Frente 4: qualidade

  • Como o fornecedor mede a acurácia, e em quais dados?
  • Você pode testar com os seus dados, anonimizados, antes de assinar?
  • Como são tratadas as atualizações de modelo? Uma atualização pode piorar um resultado que funcionava?
  • O que acontece quando o sistema não sabe? Ele sinaliza ou inventa?

Sinal de alerta: acurácia apresentada como número único, sem metodologia, ou recusa a um teste com dados reais.

Frente 5: saída e dependência

  • Como exportar seus dados, prompts, configurações e logs se decidir sair?
  • Existe dependência de formato proprietário?
  • Qual a saúde financeira e a continuidade do fornecedor?
  • Qual o custo total em três anos, incluindo volume, usuários e integrações?

Sinal de alerta: exportação possível “sob consulta” ou custo que cresce de forma imprevisível com o uso.

Como conduzir na prática

Envolva segurança e jurídico desde o início. Contratar primeiro e pedir parecer depois é um dos padrões descritos em os cinco erros que matam projeto de IA, o de tratar a IA como projeto de TI.

Use uma pontuação. De 1 a 5 em cada frente, com peso maior para dados e contrato. Dois fornecedores comparados pela mesma régua tornam a decisão defendível.

Faça uma prova de conceito com dados anonimizados. O passo a passo de anonimização existe para isso. Meça o resultado contra o que o time faz hoje.

Registre as respostas por escrito. O que o vendedor disse na reunião vale menos do que o que está no contrato ou na resposta formal ao questionário.

O que isso muda na política

O resultado da due diligence alimenta a lista de ferramentas autorizadas da política de uso de IA em uma página: para cada ferramenta aprovada, o nível de dado que ela pode receber. A camada jurídica de base legal e transferência de dados está em LGPD e IA no financeiro.

Conteúdo informativo, não é parecer jurídico. Peça análise do jurídico e da segurança da informação para o seu caso.

Leia também

Comece pela plataforma

Governança e compliance de IA são o objeto da formação Governança e Compliance de IA para o Time Financeiro, uma das formações do CFOs.AI.

Acessar a plataforma gratuitamente →

O CFOs.AI é uma plataforma de AI Finance Transformation: toda formação percorre os estágios do framework F.I.A.M. — Fundamentação, Instrumentação, Aplicação e Mensuração.

Prefere medir antes? Faça o diagnóstico gratuito (25 perguntas, cerca de 10 minutos) · Ver planos →

Continue lendo.

Fale com a gente no WhatsApp

Ao continuar, você concorda com a Política de privacidade e em receber contato da CFOs.AI.