Em 2025 fui o responsável técnico de um assistente de WhatsApp para marceneiros. O marceneiro mandava um áudio com o nome do cliente, o custo do material e o prazo. O assistente devolvia o orçamento em PDF.
A parte de entender o áudio funcionou. O que travou o produto foi a conta.
O erro
O mesmo modelo que interpretava a fala também somava material, aplicava margem e calculava o total. Na maioria das vezes acertava. Em orçamento, a maioria das vezes não basta: um total errado vai para o cliente final com o nome do marceneiro em cima.
Modelo de linguagem escreve o número que parece certo. Ele não calcula.
O que eu faço hoje
Separo o trabalho em duas partes.
- O modelo extrai. Ele lê a mensagem e devolve dados em formato fixo: itens, quantidades, valores e prazo. Se faltar um campo, ele pergunta.
- O código calcula. Uma função comum, com teste, faz soma, margem, desconto e parcela. O modelo não toca no resultado.
A resposta final junta os dois: o texto é do modelo e os números são do código.
Como saber se o seu agente tem esse problema
Procure qualquer lugar em que o agente informa um valor que ele mesmo calculou: parcela, frete, desconto, prazo em dias. Se o número não vem de uma função ou de uma tabela, uma hora ele vai sair errado.