Governance Signals: sinais de IA que exigem uma decisão

Resposta direta

Governance Signal é um registro de mudança, ausência ou conflito que exige decisão sobre um uso de IA. Diferente de um alerta técnico isolado, o sinal reúne contexto, severidade, responsável, política aplicável, evidência disponível, gate humano e ação recomendada.

Alerta não é decisão

Ferramentas produzem alertas sobre erros, acessos e disponibilidade. Um Governance Signal começa quando esse evento recebe contexto empresarial. Permissão de escrita pode ser normal em um ambiente isolado e crítica quando alcança CRM, folha, contrato ou pagamento.

Anatomia do sinal

Um sinal deve conter identificador, descrição, ativo afetado, contexto, severidade, responsável, política relacionada, evidência, gate humano, ação recomendada, prazo e estado. Também deve registrar se o fato foi declarado, inferido, verificado ou monitorado.

Categorias iniciais

• Shadow AI: uso não registrado ou expansão inesperada.
• Agentic Risk: autonomia, permissão ou integração além do aprovado.
• Data Exposure: dado sensível em fluxo não autorizado.
• Ownership Gap: ativo ou decisão sem responsável.
• Evidence Gap: controle declarado sem prova suficiente.
• Vendor Change: mudança de fornecedor, modelo, licença ou subprocessador.
• Workslop Exposure: crescimento de produção sem resultado proporcional.
• Review Debt: volume automatizado maior que capacidade de revisão.

Severidade proporcional

Severidade não depende apenas da tecnologia. Ela combina impacto, dado, autonomia, alcance, detectabilidade e reversibilidade. Um sinal alto deve exigir responsável, prazo e decisão explícita. Um sinal baixo pode ser acompanhado até a próxima revisão.

Ciclo de decisão

O ciclo recomendado é detectar, contextualizar, verificar, atribuir, decidir, registrar e revisar. Fechar um sinal sem evidência ou responsável apenas remove o alerta da tela. Não reduz o risco.

O que precisa de telemetria

Sinais contínuos sobre uso, permissão e mudança exigem integrações autorizadas. A versão pública da metodologia ajuda a classificar sinais declarados e evidências fornecidas. Ela não afirma monitorar sistemas sem conexão técnica.

Exemplo conceitual

Um agente recebe acesso de escrita ao CRM depois da última revisão. O sinal relaciona o agente, a permissão, o processo comercial, o responsável, a política aplicável e a ausência de gate humano. A decisão pode ser restringir acesso, testar em ambiente isolado ou aprovar com condição e nova revisão.

Perguntas frequentes

• Todo alerta vira sinal? Não. Apenas quando existe consequência ou decisão de governança.
• Um sinal alto bloqueia automaticamente? Isso depende da política aplicável e da capacidade técnica de execução.
• Quem encerra? O responsável autorizado, com evidência e justificativa registradas.

Fontes e referências

• NIST AI Risk Management Framework
• OWASP Top 10 for LLM Applications
• NIST AI RMF Core
• NIST Generative AI Profile

Próxima ação

Mapear meu cenário de IA · Explorar Agents & Skills