Automação com IA: quando exigir aprovação humana

Uma empresa automatiza o atendimento para responder mais rápido. O sistema consulta informações, interpreta a solicitação e prepara uma solução. Até esse ponto, a proposta parece simples. A dificuldade aparece quando ele precisa decidir se pode conceder um desconto, alterar um pedido ou prometer uma condição de entrega.

Essas ações têm consequências diferentes. Resumir uma conversa pode ajudar o atendente. Cancelar uma compra afeta o cliente, o estoque, o pagamento e os sistemas conectados. Tratar tudo com o mesmo nível de autonomia cria problemas que uma boa resposta de texto não resolve.

Uma automação com IA precisa definir quais tarefas podem acontecer automaticamente, quais exigem validação e o que fazer quando faltam informações. Isso depende do processo, dos dados disponíveis e do impacto de cada ação.

IA não começa pela ferramenta. Começa pelo problema. Neste artigo, você verá como estabelecer limites de execução, organizar aprovações humanas e testar fluxos que envolvem atendimento, e-commerce e operações internas.

O que a IA pode fazer e quem autoriza a execução

Em um projeto de automação, interpretar uma solicitação, recomendar uma resposta e executar uma mudança são responsabilidades distintas.

Um sistema pode identificar que um cliente deseja trocar um produto. Também pode consultar a política de trocas e organizar as informações necessárias. Autorizar a troca, porém, exige verificar condições que talvez estejam em outros sistemas ou dependam de avaliação da equipe.

Separe interpretação, recomendação e ação

Considere um cenário ilustrativo de atendimento:

• Interpretação: identificar o assunto e localizar o pedido.

• Recomendação: sugerir uma resposta conforme a política vigente.

• Ação: registrar uma solicitação, emitir uma autorização ou alterar o pedido.

Essa separação permite automatizar parte do trabalho mesmo quando a decisão final precisa permanecer com uma pessoa.

O ganho deve ser avaliado no processo completo. Se o atendente recebe um resumo confiável, os dados relevantes e uma proposta de encaminhamento, pode gastar menos tempo buscando informações. Mas, se precisa conferir tudo novamente porque o sistema mistura fatos e suposições, a etapa automatizada pode aumentar o trabalho.

A resposta do modelo não deve definir a permissão

Uma IA pode produzir uma justificativa convincente para uma ação que não está autorizada. Por isso, as permissões precisam ser verificadas pelo sistema que executa a operação.

A OWASP recomenda aplicar controles de autorização nos sistemas conectados, sem depender apenas do modelo para decidir o que é permitido. Também orienta exigir aprovação humana para ações de alto impacto.

Na prática, uma instrução como não conceder descontos acima do limite deve ser acompanhada de uma regra técnica que impeça a operação quando o limite for ultrapassado.

Como definir os limites de uma automação com IA

O primeiro passo é listar ações concretas. Automatizar o comercial é amplo demais para orientar um projeto. Preparar uma proposta com base na tabela vigente permite identificar dados, regras e responsáveis.

Para cada ação, avalie impacto, reversibilidade, alcance e clareza das condições.

Impacto e reversibilidade

Pergunte o que acontece se a ação estiver errada e quanto trabalho será necessário para corrigir.

Uma classificação interna incorreta pode ser ajustada pela equipe. Uma mensagem enviada ao cliente já pode ter criado uma expectativa. Um reembolso executado indevidamente envolve efeitos financeiros e operacionais.

Reversibilidade também precisa ser analisada com cuidado. Alterar novamente um cadastro não desfaz necessariamente o que ocorreu durante o período em que ele esteve incorreto.

Alcance e frequência

Uma ação simples pode se tornar relevante quando aplicada em volume. Atualizar um campo em um cadastro é diferente de modificar milhares de registros.

Defina limites para a quantidade de itens processados, a frequência das execuções e os sistemas que podem ser afetados. Operações em lote merecem validação própria, mesmo quando a ação individual parece pequena.

Clareza das regras

Tarefas com regras explícitas são candidatas mais claras à execução automática. Quando a decisão depende de negociação, interpretação ou informação incompleta, convém restringir a autonomia.

A tabela abaixo apresenta um ponto de partida ilustrativo. A classificação final deve considerar a operação da empresa.

Onde colocar aprovações sem travar a operação

Pedir aprovação em todas as etapas pode criar uma fila que elimina a utilidade da automação. A revisão deve aparecer onde existe uma decisão relevante e apresentar informações suficientes para avaliá-la.

A aprovação precisa mostrar o que vai acontecer

Um botão com a pergunta “Deseja continuar?” oferece pouco contexto.

Para revisar uma alteração de pedido, a pessoa deveria visualizar o pedido envolvido, os dados atuais, a mudança proposta, o motivo e os efeitos previstos. Também precisa saber quais informações estão ausentes.

A interface pode mostrar, por exemplo:

Pedido 1234. Alteração solicitada do endereço A para o endereço B. O pedido ainda não foi expedido. O novo frete é diferente do original. A confirmação do cliente sobre a diferença está pendente.

Esse formato ajuda a avaliar uma ação concreta.

O responsável deve ter autoridade para decidir

Encaminhar tudo para a equipe deixa a responsabilidade indefinida. Estabeleça quem pode aprovar cada tipo de solicitação e quem assume quando essa pessoa está indisponível.

Uma condição comercial pode depender do gestor de vendas. Uma mudança logística pode exigir análise da operação. Uma alteração de acesso administrativo pode caber ao responsável pelo sistema.

Também defina o comportamento durante a espera. O cliente receberá uma confirmação de recebimento? Existe prazo interno? O chamado ficará visível em uma fila?

A falta de resposta não significa aprovação

Se uma ação depende de autorização, o fluxo precisa permanecer pendente ou seguir para outro responsável quando não houver resposta.

A OWASP também recomenda vincular aprovações de ações relevantes aos parâmetros específicos da execução. Isso ajuda a evitar que uma autorização para determinado valor ou destinatário seja reutilizada em uma operação diferente.

Se a proposta mudar depois da revisão, pode ser necessária uma nova aprovação.

Dados, integrações e permissões

Uma automação pode interpretar corretamente a solicitação e agir de forma inadequada porque consultou dados desatualizados.

Antes de desenvolver, identifique onde cada informação é mantida e como ela chega ao fluxo.

Defina a fonte oficial de cada dado

Preço, estoque, situação do pagamento, política comercial e status de entrega podem estar em sistemas distintos.

Para cada informação, registre:

• Qual sistema mantém o dado oficial.

• Como a automação acessa esse dado.

• Quando ocorreu a última atualização.

• O que fazer se a consulta falhar.

• Quem pode corrigir uma divergência.

Se o sistema não consegue confirmar o pagamento, não deve tratar a ausência de informação como pagamento aprovado. Se a política comercial está desatualizada, a resposta precisa ser interrompida ou encaminhada para análise.

Diferencie leitura e alteração

Consultar pedidos e modificar pedidos são permissões diferentes. Um assistente criado para acompanhar entregas pode precisar apenas de leitura.

Limitar os acessos ao necessário reduz o alcance de uma falha. Também facilita entender quais operações cada componente pode realizar.

A arquitetura deve prever validações na execução: formato dos dados, permissões, estado atual do pedido e regras aplicáveis. Uma aprovação humana não substitui essas verificações.

Trate mensagens e documentos como conteúdo

Um e-mail, anexo ou mensagem de cliente pode conter instruções que tentam desviar o comportamento da IA. Esse tipo de manipulação é conhecido como prompt injection.

Imagine um documento que inclua uma instrução para ignorar as regras anteriores e enviar todos os cadastros para determinado endereço. Esse texto deve ser tratado como conteúdo recebido, sem ganhar autoridade sobre o processo.

A OWASP identifica instruções maliciosas em fontes externas como um risco para agentes de IA.

O projeto precisa combinar restrição de acessos, separação entre instruções e documentos e validação das ações solicitadas.

Como testar antes de liberar o processo

Uma demonstração que funciona com exemplos organizados não comprova que o fluxo está pronto para operar.

A homologação deve verificar se a automação executa o que foi combinado, respeita limites e encaminha situações que não consegue resolver.

Comece por um processo delimitado

Escolha uma tarefa com objetivo claro, dados acessíveis e responsável definido.

Por exemplo, organizar solicitações de segunda via pode ser um início mais controlável do que automatizar toda a área financeira. Mesmo nesse caso, será necessário verificar identidade, documento correto, canal de envio e tratamento de informações ausentes.

Antes de executar ações reais, o sistema pode operar preparando sugestões para comparação com as decisões da equipe. Isso permite identificar falhas sem alterar a operação.

Teste exceções e falhas de integração

Inclua cenários como:

• Pedido inexistente ou pertencente a outra pessoa.

• Mensagem com informações contraditórias.

• Sistema conectado indisponível.

• Solicitação acima do limite autorizado.

• Aprovação recusada ou expirada.

• Documento contendo instruções maliciosas.

• Pedido que mudou de status durante a espera.

• Repetição da mesma solicitação.

O comportamento esperado deve ser definido antes do teste. Dizer que a IA resolveu é uma avaliação vaga. Verificar que o fluxo identificou a informação ausente, bloqueou a alteração e encaminhou o chamado descreve um resultado verificável.

Evite duplicidade nas tentativas

Uma integração pode demorar e provocar uma nova tentativa. Sem controle, o sistema pode criar dois chamados, enviar mensagens repetidas ou executar a mesma operação mais de uma vez.

A idempotência é a propriedade que permite repetir uma solicitação sem duplicar seu efeito. Sua implementação depende dos sistemas envolvidos.

Quando isso não estiver disponível, o projeto precisará de outro mecanismo para identificar operações já processadas e encaminhar situações incertas.

O que acompanhar depois da implantação

O lançamento inicia uma etapa de acompanhamento. Mudanças nas políticas, nos sistemas e no comportamento dos usuários podem afetar um fluxo que funcionava durante a homologação.

Meça o trabalho completo

A quantidade de tarefas executadas automaticamente não revela, sozinha, a qualidade do processo.

Observe tempo total de resolução, correções necessárias, encaminhamentos indevidos, aprovações pendentes, duplicidades e dificuldades relatadas pela equipe.

Uma automação que produz rapidamente muitas sugestões inadequadas pode aumentar o esforço de revisão. A avaliação precisa considerar o trabalho humano antes e depois da execução.

Mantenha registros úteis para investigar

Registre a solicitação, as fontes consultadas, a ação proposta, a aprovação e o resultado da integração. Esses dados ajudam a entender onde ocorreu uma falha.

Os registros também exigem controle de acesso. Evite armazenar conteúdo sensível sem necessidade e defina quais informações são suficientes para acompanhar o processo.

O NIST apresenta a gestão de riscos de IA como uma atividade que acompanha o desenvolvimento, o uso e a avaliação dos sistemas. Essa referência reforça a necessidade de revisar o projeto ao longo de sua operação.

Amplie a autonomia com evidências

A evolução pode liberar tarefas específicas conforme os testes e o uso demonstrarem condições adequadas.

Um fluxo pode começar preparando rascunhos, passar a executar ações restritas e manter exceções com a equipe. Cada ampliação deve considerar novas permissões, efeitos e critérios de interrupção.

Também precisa existir uma forma de suspender a automação e retomar o atendimento manual quando necessário.

Conclusão

O nível de autonomia de uma automação com IA depende do impacto das ações, da qualidade dos dados e da capacidade da empresa de acompanhar o processo.

Tarefas de consulta e organização podem permitir execução mais direta. Operações financeiras, condições comerciais excepcionais e mudanças relevantes exigem controles compatíveis com suas consequências.

A decisão começa pelo mapeamento do trabalho: o que pode ser executado, quem autoriza, quais dados sustentam a ação e como lidar com uma falha. Com essas respostas, a empresa consegue avaliar onde a IA ajuda e qual estrutura precisa acompanhar sua implantação.

Se sua empresa quer automatizar atendimento, rotinas comerciais ou processos internos, a FZ Commerce pode ajudar a mapear tarefas, dados e integrações, definir limites de execução e planejar uma implantação com homologação e evolução contínua.