Abertura

Um agente de navegador baixa faturas do portal de um fornecedor. Toda noite ele entra, percorre as páginas e salva cada fatura.

Uma noite, o portal mudou o botão de próxima página. Ele continuava na tela, mas não carregava nada.

Aqui está o trace da manhã seguinte. Passo quatrocentos e doze, clicar em próxima página. Ok. Ler a página. Faturas um a vinte, de trezentas e quarenta. Clicar de novo. Ok. Ler de novo. Faturas um a vinte.

Até o passo dois mil trezentos e dezoito.

Ninguém escreveu um bug naquele loop. Ele só não tinha fim, além de quando o modelo acha que terminou. E o modelo nunca achou. Nesta aula, você vai aprender a achar esse smell antes da fatura, e como é um fim de verdade.

O diagnóstico

Repare em dois detalhes daquele trace.

O clique responde ok, mesmo quando nada muda.

E a leitura da página sempre mostra as mesmas vinte primeiras faturas. A prova de que o agente estava preso estava ali. Mas nenhum código olhava para ela.

O formato do smell é este. O modelo pede uma ação que parece sensata.

A ferramenta responde sem erro, mesmo sem progresso nenhum.

Cada turno reenvia o histórico inteiro, que cresce a cada passo.

A única saída do loop é o modelo decidir parar.

E quando ele não decide, quem para a execução é a fatura do provedor.

Como identificar? O código do agente diz while true, ou while not done, sem contador de passos.

Não há limite de tempo, de tokens nem de dinheiro por execução.

Ninguém sabe dizer o que acontece se o modelo nunca der a resposta final. E a execução mais cara do mês custou dezenas de vezes a mediana.

O trace mostra a mesma ferramenta, com os mesmos argumentos, várias vezes seguidas.

E o único alarme que toca é o do cartão de crédito.

Por que acontece

O protótipo nasceu assim. Os exemplos mais simples de agente usam while true, e o loop foi para produção do jeito que estava.

Funciona no teste. Nas tarefas de demo, o modelo termina em cinco passos. Ninguém testou o portal com o botão quebrado.

Ferramentas que mentem por omissão. Ok, como resultado de um clique, não diz se algo mudou. O modelo não tem como perceber que está preso.

E o provedor parece um limite. As pessoas acham que a janela de contexto uma hora vai parar o agente. Mas muitos frameworks cortam o histórico antigo para caber. E aí o loop roda para sempre.

Quanto custa

Agora, o custo, com números ilustrativos. Digamos que o prompt de sistema e as descrições das ferramentas somam três mil tokens, e cada turno acrescenta uns quatrocentos. Uma execução normal de dez turnos manda uns cinquenta e dois mil tokens no total. Uma presa, de duzentos turnos, manda uns oito milhões e seiscentos mil.

Vinte vezes mais turnos, e mais de cento e sessenta vezes mais tokens. O custo cresce com o quadrado do número de passos, porque cada turno paga de novo tudo o que veio antes. Uma única execução presa pode custar mais que um dia inteiro de uso normal.

E o dinheiro é a parte menor. O loop come a cota de requisições da conta e derruba outras execuções que dividem a mesma chave.

Se a ferramenta presa tem efeito colateral, como enviar, criar ou pagar, cada turno repete o efeito.

E um trace com milhares de passos é quase impossível de ler.

Um desafio

Uma pergunta para você. Um agente roda em while true. Mas a ferramenta dele tem limite de dez chamadas por minuto, então ele nunca gasta muito por minuto. Isso é um unbounded loop?

Sim. Limite de taxa controla velocidade, não o total. Um loop preso a dez chamadas por minuto ainda faz mais de catorze mil chamadas por dia. Ele só espalha o custo no tempo. E a janela de contexto também não é um freio confiável. Muitos frameworks descartam mensagens antigas para caber, e o loop continua pagando uma janela cheia, em todo turno.

O tratamento

O tratamento é uma refatoração chamada add loop budget. E o orçamento tem quatro partes. A última é a que todo mundo esquece.

Um limite de passos. Escolha pelos seus traces. Se 99% das execuções terminam em até quinze passos, um limite de quarenta dá folga, sem permitir uma noite inteira.

Limites de tempo e de custo. Passos podem ser baratos ou caros. Um limite de dinheiro por execução pega o caso em que poucos passos mandam contextos enormes.

Um detector de repetição. A mesma ferramenta, com os mesmos argumentos, três vezes seguidas, quer dizer que o agente está preso. Pare antes do limite.

E o comportamento no limite. Devolva o que foi feito, explique onde parou e registre o caso. Um agente que para com uma exceção silenciosa, e faz a tarefa sumir, ainda deixa o usuário sem resposta. O limite existe, mas o tratamento não terminou.

A maioria dos frameworks de agente já te dá a primeira peça, como um número máximo de turnos, ou um limite de recursão. O resto você escreve. E junto com o orçamento, revise as suas ferramentas. Um resultado que diz o que mudou, como página dois de dezessete carregada, ajuda o modelo a perceber quando está preso. O padrão de destino se chama stop conditions, e está a duas aulas daqui.

E uma semana depois de colocar o limite, digamos que 2% das execuções terminam nele. Não suba o limite para quatrocentos. Sem ler os traces, você só deixa as execuções presas gastarem dez vezes mais antes de parar. E não ignore também. Leia esses traces, ache a causa, como um resultado vago de ferramenta ou uma página que mudou, e transforme cada um num caso de eval. Eles são a melhor fonte de casos difíceis que você tem.

Parentes próximos

Dois casos para afiar o olho. Um job percorre trezentas notas, chamando o modelo uma vez por nota, sem contador de passos. Isso é esse smell? Não. A lista é finita, e quem decide o próximo turno é o código, não o modelo. O loop termina na nota trezentos, de qualquer jeito.

E um agente com limite de trinta passos, em que cada passo pode criar subagentes, que também têm trinta passos e também criam subagentes. Cada nível tem limite. O total, não. Esse é um smell parente, subagent recursion. O orçamento precisa cobrir a árvore inteira, não cada nó.

Quando ignorar

Quando dá para relaxar? Um assistente de código no seu terminal, com você olhando e podendo interromper a qualquer hora, tolera um limite alto. Coloque um mesmo assim. E nenhum agente de produção, rodando sem uma pessoa olhando, deveria rodar sem limite.

Fechamento

Então, a ideia para levar. O modelo pode dizer que terminou, mas não pode ser o único freio. Passos, tempo e dinheiro pertencem ao seu código, junto com uma checagem de repetição e uma resposta clara quando o limite chega. Aí a execução mais cara do mês é um número que você escolheu.

Na próxima aula, a gente monta esse orçamento passo a passo: add loop budget. Até lá.