Índice
Um revisor pode corrigir a saída porque conhece uma exceção daquele cliente. Se o sistema transforma toda edição em regra geral, resolve um caso e passa a errar situações que antes estavam corretas.
O desenho que precisa ser contratado
Separe correção do resultado, ajuste de cadastro e alteração de política. Cada mudança precisa de um alcance explícito: documento, cliente, categoria ou processo inteiro. O mecanismo de feedback deve registrar o motivo sem presumir que o revisor está autorizando treinamento ou atualização de toda a base. Compare manutenção de regras determinísticas com ajustes de instrução e exemplos avaliados. Nem toda correção exige mudar o modelo. Inclua uma revisão das consequências em casos que devem permanecer iguais; o teste não pode considerar apenas a amostra que motivou a alteração. Defina quem aprova promoção de exceção para regra e como desfazer um ajuste inadequado. O fornecedor deve mostrar versão anterior, nova proposta e resultados da comparação. Isso evita que o assistente acumule comandos contraditórios ou preferência pessoal sem controle, preservando autonomia do responsável pelo processo.
Critérios para o fornecedor
- Motivo e alcance da correção registrados separadamente.
- Regra global alterada apenas por aprovação competente.
- Casos não afetados preservados no teste de regressão.
Prova de aceite com uma exceção
No aceite hipotético, um cliente utiliza nome de produto excepcional. A correção deve valer para aquele vínculo sem renomear o item em respostas destinadas aos demais clientes ou alterar o cadastro mestre automaticamente.
Referência para avaliar o escopo
Riscos de aplicações de IA segundo a OWASP
Prepare a contratação com a Quantum9
Leve à Quantum9 exemplos de revisões humanas e suas justificativas. O diagnóstico organiza feedback, alcance de exceções e avaliação antes de mudar o comportamento geral do assistente.
Desenvolvimento com IA agêntica · Mapear a prioridade da empresa