Um processo automatizado que ninguém acompanha costuma funcionar bem até o dia em que erra em silêncio. Segundo Rolando Bonaccorsi, líder em IA e ciência de dados aplicadas a negócios e operações, a pergunta útil não é se a automação precisa de supervisão, mas em que pontos ela precisa e com que profundidade. Tratar essa dúvida como detalhe de implantação é o caminho mais curto para falhas que só aparecem quando o consumidor reclama ou quando o prejuízo já está no balanço.
Por que automatizar não é o mesmo que deixar de olhar?
Automatizar um processo significa transferir a execução de uma tarefa para um sistema, e não transferir a responsabilidade pelo resultado. A responsabilidade continua com a organização, e alguém precisa responder pelo que o sistema decide em nome dela. Quando essa pessoa não existe de forma explícita, o erro de uma regra mal escrita ou de um dado fora do padrão se repete milhares de vezes antes de ser notado, porque a máquina executa com a mesma disciplina o acerto e o equívoco.
Em operações de tecnologia, por exemplo, uma rotina que reinicia servidores diante de certo alerta pode resolver centenas de incidentes simples e, numa noite atípica, derrubar um serviço inteiro por reagir a um sintoma que era só reflexo de outro problema. A supervisão humana existe para esse tipo de situação: reconhecer o contexto que a regra não previu. Quanto mais crítico o processo, menor deve ser a distância entre o que o sistema faz e o olhar de quem entende do negócio.
Quais decisões podem seguir sozinhas e quais pedem uma pessoa?
Conforme detalha Rolando Bonaccorsi, o critério mais útil para dividir o trabalho entre sistema e pessoa combina duas perguntas: quanto custa um erro e quão reversível ele é. Decisões de baixo impacto e fáceis de desfazer, como classificar um chamado ou reordenar uma fila, podem rodar sem aprovação prévia, com amostragem posterior. Decisões que mexem em dinheiro, em acesso a dados pessoais ou em obrigações com terceiros pedem validação antes da execução.
Há uma faixa intermediária, e é nela que a maior parte das operações vive. Ali o sistema propõe e a pessoa confirma, ou o sistema executa e a pessoa revisa um recorte do que foi feito. Desenhar essa faixa exige conversar com quem conhece o processo no detalhe, e não apenas com quem programa a automação. Um analista de atendimento sabe quais exceções aparecem toda semana, e esse conhecimento raramente está escrito em algum manual.

Supervisão na prática
Supervisionar não é refazer o trabalho da máquina. Se uma pessoa confere cada item que o sistema produz, a automação perde o sentido, e o revisor, cansado, passa a aprovar no automático. A supervisão eficiente usa pontos de controle: limites de valor, níveis de confiança do modelo abaixo dos quais o caso vai para uma pessoa, alertas quando o volume foge do padrão e relatórios periódicos de exceções. Em equipes maduras, cada ponto de controle tem um responsável nomeado e um prazo para resposta.
Pense numa linha de produção com inspeção por amostragem: o inspetor não olha todas as peças, mas sabe quando aumentar a amostra, porque a variação do processo lhe mostra que algo mudou. Na automação de processos administrativos, o raciocínio é o mesmo. A amostra cresce quando o sistema muda de versão, quando entra um tipo novo de documento ou quando os indicadores de qualidade oscilam. Sem essa regra de ajuste, a conferência vira ritual, e ritual não pega erro.
Quem responde quando o sistema erra?
A pergunta incomoda e, por isso costuma ficar sem resposta até o primeiro incidente. Na leitura de Rolando Bonaccorsi, definir de antemão o dono do processo, o dono do modelo ou da regra e o dono dos dados evita a disputa de responsabilidades justamente quando o tempo é mais curto. O dono do processo responde pelo resultado para o negócio, quem mantém a regra responde pelo comportamento técnico, e quem cuida dos dados responde pela qualidade do que alimenta o sistema.
Também é preciso prever o caminho de volta. Todo processo automatizado deveria poder ser pausado e executado manualmente por um tempo, com equipe treinada para isso. Empresas que automatizaram tudo e dispensaram o conhecimento manual descobrem, na primeira parada, que ninguém mais sabe fazer a tarefa sem o sistema. A capacidade de operar na mão é parte do desenho da automação, e não um resquício dela.
Medir a supervisão para que ela não vire formalidade
Um mecanismo de supervisão que não é medido tende a se esvaziar. Vale acompanhar quantos casos foram encaminhados a pessoas, quantas dessas revisões corrigiram algo e quanto tempo levou cada resposta. Se quase nenhuma revisão altera o resultado, os limites podem estar conservadores demais, e o trabalho humano está sendo gasto onde não faz diferença. Se quase toda revisão corrige algo, o problema está na automação, e o ajuste pertence à regra ou ao modelo, não ao revisor.
Rolando Bonaccorsi explica que o aprendizado volta para o desenho do processo quando as correções feitas pelas pessoas são registradas e analisadas, em vez de simplesmente resolvidas e esquecidas. Cada exceção tratada é informação sobre algo que a automação ainda não entende. Reunir essas exceções por tipo mostra onde vale melhorar a regra, onde vale treinar de novo o modelo e onde a tarefa simplesmente deve continuar nas mãos de uma pessoa, porque o julgamento ali é o próprio valor do trabalho.