Um funcionário que erra percebe, ou alguém percebe por ele. Um robô que erra pode repetir o mesmo erro mil vezes seguidas, às três da manhã, sem ninguém olhando. E se ele usa um modelo de IA pago por uso, cada uma dessas mil vezes entra na fatura.
Por isso, todo robô que construímos tem freios. Não por desconfiança da tecnologia, mas porque é assim que se opera qualquer máquina com potência: o freio é o que permite acelerar.
1. Aprovação humana no que tem consequência
Separe as ações do robô em dois grupos:
- Sem consequência externa: ler, classificar, resumir, preparar rascunho, atualizar um campo interno. O robô faz sozinho.
- Com consequência: mandar mensagem para cliente, publicar, cobrar, alterar cadastro, apagar. O robô prepara e uma pessoa aprova.
O ganho da automação continua quase todo: o trabalho pesado sai da mesa da equipe, e a aprovação é um clique. Com o tempo, ações que se mostram confiáveis podem passar a rodar direto, por decisão explícita de alguém, com prazo e revisão.
2. Validação da saída antes de agir
A resposta do modelo de IA não vai direto para o mundo. Antes, ela passa por verificações determinísticas, que não dependem de IA:
- O formato está correto (os campos obrigatórios estão lá)?
- O valor está dentro do esperado?
- O texto contém algo proibido (preço que não existe, promessa, dado pessoal, termo vetado)?
- Isso já foi feito antes (evitar duplicidade)?
Se falhar, o robô retém e avisa, em vez de seguir. Melhor um rascunho parado do que um erro publicado.
3. Teto de custo
Todo fornecedor de IA cobra por uso, e quase todos permitem configurar limite de gasto e alertas. Configure antes de ligar o robô:
- Um projeto ou workspace separado para cada robô ou empresa, para saber quanto cada um custa.
- Teto mensal no fornecedor.
- Limite por execução no próprio robô (quantas chamadas ao modelo, tamanho máximo do texto).
- O resumo de cada execução mostrando quanto custou.
Se acabar o crédito, o robô deve parar e avisar. Nunca degradar em silêncio para uma versão pior.
4. Botão de desligar
Precisa existir uma forma simples, conhecida por mais de uma pessoa, de desligar o robô na hora. Um interruptor na configuração, um botão no painel, desativar a tarefa agendada. Quando algo estranho acontece, ninguém quer descobrir onde fica o freio de mão.
5. Registro de tudo
Cada execução deixa registro: o que entrou, o que o robô decidiu, o que foi feito e quem aprovou. Isso serve para três coisas: investigar quando dá errado, melhorar o robô com base nos casos reais e responder a qualquer pergunta sobre “por que isso aconteceu”.
E quem responde pelo robô?
Uma pessoa. Sempre. “Foi a IA” não é resposta para cliente, para sócio nem para fiscalização. Cada robô tem um dono humano que conhece o que ele faz, acompanha os resultados e decide quando mudar.
Esses cinco freios não são burocracia: são o que permite colocar um robô para trabalhar de verdade, em volume, sem medo do que ele vai fazer quando ninguém estiver olhando.
Escrito pela equipe da Grimpo com apoio de inteligência artificial e revisado por uma pessoa. Viu um erro ou quer sugerir um tema? Fale com a gente.
Perguntas frequentes
Aprovação humana não acaba com o ganho da automação?
Não, se for colocada no lugar certo. O robô faz o trabalho pesado (ler, classificar, redigir) e a pessoa só aprova ou corrige o resultado, o que leva segundos. A aprovação fica só nas ações com consequência.
Como sei quanto um robô com IA vai custar?
Medindo. Rode o robô num volume pequeno, veja o custo por execução no painel do fornecedor e multiplique pelo volume esperado. E configure um teto de gasto antes de ligar para valer.
Fontes
Continue lendo
O que dá para automatizar com IA hoje (e o que ainda não dá)
Robôs com IA já fazem bem triagem, resumo, rascunho e conferência. Ainda erram em decisão sem regra, cálculo sem ferramenta e tudo…
Antes do robô, o mapa: como mapear um processo para automatizar
Automatizar um processo bagunçado só faz a bagunça andar mais rápido. Um roteiro de cinco passos para mapear antes de construir.