Faça a due diligence antes de entregar dados reais, credenciais ou acesso a produção. Primeiro classifique o caso de uso e a gravidade de uma falha; depois exija evidência sobre fluxo de dados, cadeia de modelos e subcontratados, identidade, desenvolvimento, avaliações, incidentes e saída. Um questionário ou certificado abre a análise, mas não substitui revisão da arquitetura nem um teste controlado do caso de uso.
A profundidade deve acompanhar o risco. Um protótipo com dados sintéticos pode passar por triagem leve. Um agente que lê dados pessoais, executa transações ou influencia decisões relevantes exige evidência detalhada, sessão técnica com responsáveis nomeados e validação em sandbox. Jurídico e privacidade devem confirmar obrigações da LGPD, transferências e papéis aplicáveis.
AI Provider Due Diligence Proof-8: scorecard de 32 pontos
Pontue cada prova de zero a quatro: zero é desconhecida; um, afirmação comercial; dois, política ou evidência parcial; três, evidência específica e responsável nomeado; quatro, controle testado no escopo proposto. Exija pelo menos 24 de 32, nenhum zero e aprovação dos seis filtros. A nota compara evidência, não substitui a decisão de risco.
- Limite do caso de uso — usuários, decisões, dados, ambientes, ações permitidas, supervisão e impacto de falhas.
- Dados e uso por modelos — finalidade, retenção, treinamento, localização, exclusão, backups e derivações.
- Identidade e segredos — menor privilégio, contas nomeadas, segregação, rotação, aprovação, logs e emergência.
- Cadeia de modelos e componentes — modelos, APIs, open source, conectores, versões, regiões, subprocessadores e substituição.
- Desenvolvimento e mudanças — repositórios, revisão, testes, dependências, ambientes, releases e mudanças de modelo ou prompt.
- Avaliação e uso indevido — test sets, falhas, prompt injection, vazamento, abuso, revisão humana e regressão.
- Operação e incidentes — telemetria, alertas, severidade, comunicação, contenção, recuperação e continuidade.
- Evidência e saída — relatórios, escopo de certificações, exceções, exportação, transferência e revogação.
Seis filtros eliminatórios
- O fornecedor não apresenta fluxo de dados e inventário de modelos, componentes e subprocessadores relevantes.
- Dados, prompts, feedback ou outputs podem treinar produtos compartilhados sem autorização explícita separada.
- Acesso a produção depende de contas compartilhadas, privilégios amplos ou atividade sem registro atribuível.
- Não existe processo para comunicar incidentes materiais ou mudanças de modelo, região ou subcontratado.
- O fornecedor não demonstra avaliação reproduzível para o caso de uso e seus modos de falha críticos.
- Controles essenciais aparecem apenas em afirmações genéricas, sem evidência delimitada ao serviço proposto.
Monte uma sala de evidências compacta
Peça sete pacotes: arquitetura e fluxo de dados; inventário de modelos e subprocessadores; práticas de desenvolvimento e mudança; matriz de acessos com exemplo de logs; relatório de avaliação e falhas; plano de incidentes e continuidade; e pacote de exportação e saída. Cada item deve declarar escopo, data, responsável, exceções e validade. Evidência confidencial pode ser revisada sob controles de acesso; ausência não deve virar promessa comercial.
NIST SP 800-161r1 trata risco de cadeia de fornecimento como atividade de ciclo de vida. Para IA, rastreie não apenas a consultoria, mas também modelos, APIs, bibliotecas, dados licenciados e provedores de nuvem. O NIST SP 800-218A complementa essa visão com práticas de desenvolvimento seguro específicas para modelos.
Use questionários como roteamento, não como auditoria
O AI Controls Matrix e o AI-CAIQ da Cloud Security Alliance ajudam a estruturar perguntas e responsabilidades. Use-os para identificar lacunas e decidir onde aprofundar. Confirme se certificações cobrem a entidade, o produto, a região e o período relevantes. Um relatório sobre o ambiente corporativo pode não cobrir o pipeline de IA ou um subprocessador crítico.
Conduza uma sessão de evidências com a equipe que entregará
- Percorra uma requisição normal do usuário até modelos, ferramentas, dados e logs.
- Injete uma mudança de permissão, uma tentativa de prompt injection e indisponibilidade do modelo principal.
- Peça que a equipe mostre detecção, bloqueio, fallback, comunicação e recuperação.
- Registre responsáveis, evidências e lacunas que vão para o SOW ou para um piloto pago.
A sessão não precisa expor segredos nem atacar produção. O objetivo é verificar se controles declarados existem no caminho real e se a equipe explica seus limites. Para casos de alto impacto, encomende avaliação independente e testes técnicos proporcionais ao risco.
Converta lacunas em condições de contratação
- Antes de discovery: dados sintéticos ou minimizados e acessos segregados.
- Antes de dados reais: termos de uso, retenção, região, subprocessadores e exclusão aprovados.
- Antes da integração: identidades nomeadas, menor privilégio, logs e processo de mudança testados.
- Antes de produção: avaliação, incidentes, SLOs, rollback e risco residual aprovados.
- Antes do aceite: documentação, transferência, exportação e revogação verificadas.
O AI RMF e o perfil de IA generativa do NIST organizam governança, mapeamento, medição e gestão, mas a contratação precisa apontar controles para o serviço específico. Não aceite uma política corporativa como prova automática de implementação.
Conecte due diligence, governança, testes e contrato
Use https://makinai.co/insights/pt/como-escolher-consultoria-governanca-ia para responsabilidades, https://makinai.co/insights/pt/como-escolher-empresa-avaliacao-testes-ia para validação independente e https://makinai.co/insights/pt/o-que-incluir-contrato-sow-servicos-ia para converter evidências em obrigações. Conheça https://makinai.co/services/pt/consultoria-estrategia-ia-transformacao.
Quando envolver a MAKINAI
A MAKINAI pode classificar o risco, estruturar o scorecard, conduzir a sessão de evidências e transformar lacunas em requisitos de RFP, SOW ou piloto pago. Especialistas qualificados devem validar conclusões jurídicas, de privacidade e segurança que exijam auditoria formal.