Custo Sem Teto

Como reconhecer

Um produto de pesquisa profunda tem plano gratuito e plano pago. O relatório de custo do mês (anonimizado):

custo por usuário, plano gratuito, setembro
p50       US$ 0,40
p95       US$ 3,10
máximo    US$ 80,15   (usuário 77812, 1 pesquisa, 3h12min, 4.900 chamadas)

Um usuário do plano gratuito fez uma pergunta muito ampla. O agente pesquisou por três horas. Nada impediu: não havia limite por pesquisa, por usuário ou por dia. A pesquisa custou mais que o valor anual de uma assinatura paga.

O mesmo padrão aparece em bots de WhatsApp de banco. Imagine um assistente que explica Pix, boleto e extrato. No plano interno “ilimitado”, um script noturno dispara mil perguntas de pesquisa. Cada uma parece barata. O total chega no financeiro no mês seguinte.

Sinais de Custo Sem Teto:

• Não existe limite de gasto por tarefa, por usuário ou por período.
• O custo só é conhecido pela fatura do provedor, depois que aconteceu.
• O máximo por tarefa é dezenas ou centenas de vezes a mediana.
• Usuários gratuitos podem gastar tanto quanto pagantes.
• Não há alerta quando o gasto do dia sai do normal.
• O teto, se existe, cobre só tokens do modelo e ignora busca, browser e outras APIs pagas.

flowchart LR
  U(["1. Usuário, qualquer plano"]):::io --> A(["2. Agente sem orçamento"]):::llm
  A --> T["3. Quantas chamadas precisar"]:::tool
  T --> A
  A --> F[("4. Fatura do mês")]:::store

1. Qualquer usuário dispara tarefas.
2. O agente não sabe quanto pode gastar.
3. Ele usa tantas chamadas quanto achar necessário.
4. O custo aparece só no fim do mês.

Checagem +20 XP de primeiraO relatório do mês mostra p50 de US$ 0,40 e um máximo de US$ 80 na mesma tarefa de pesquisa. Qual diagnóstico você testa primeiro?

O modelo é caro demais e precisa ser trocado

Falta um teto de gasto por tarefa e por usuário

O alerta da fatura do provedor chegou atrasado

Por que acontece

• Custo por chamada é pequeno. Centavos parecem irrelevantes até se multiplicarem.
• Orçamento é “problema de financeiro”. O time técnico não conecta a arquitetura ao custo.
• Sem medida por usuário. O custo existe só no total, não por tarefa.
• Planos sem tradução técnica. O plano gratuito tem limites no marketing, não no código.
• Teto só no loop. Um max_turns corta uma execução longa e deixa o mesmo usuário disparar trezentas execuções curtas.

Erro comum: achar que a fatura é o orçamento

Você abre o painel do provedor, vê o gasto do mês e conclui que “está controlado”. Esse número não diz qual tarefa, qual usuário, qual plano. Quando o máximo explode, você não tem como recusar a próxima chamada. Só lamentar a que já rodou.

Quanto custa ignorar

• Margem negativa. Usuários pesados ou abusivos consomem mais do que pagam.
• Surpresa na fatura. Um único caso pode distorcer o mês.
• Abuso. Contas gratuitas viram uma forma barata de usar o modelo.
• Cortes bruscos. Quando o problema aparece, a reação costuma ser desligar o recurso para todos.

Uma conta para ver a escala

Os números abaixo são ilustrativos. Suponha 2.000 tokens de entrada e 400 de saída por chamada, a US$ 3 por milhão de tokens de entrada e US$ 15 por milhão de saída. Cada chamada sai cerca de US$ 0,012.

Quem	Chamadas no mês	Custo ilustrativo
Usuário mediano	40	cerca de US$ 0,50
Script no plano gratuito	4.900 numa só pesquisa	cerca de US$ 59, mais o crescimento do histórico
Mesmo script, 200 usuários	980 mil	dezenas de milhares de dólares

A linha do meio já passa o preço de muita assinatura anual. Sem teto por usuário, a linha de baixo é um fim de semana.

O guia “Building effective agents”, da Anthropic (dez. 2024), trata limite de iterações como condição de parada. Isso corta uma tarefa. Não corta o produto: você ainda precisa de teto por usuário, por dia e por plano.

Tratamento

Refatoração	Escolha quando
Adicionar Orçamento ao Loop	O gasto vem de agentes ou pipelines longos. Cada tarefa ganha teto de passos e de custo, com fechamento definido. Destino: Condições de Parada.
Introduzir Cascata de Modelos	O gasto vem de volume alto com o modelo mais caro em tudo. Comece pelo barato e suba só quando necessário. Destino: Cascata de Modelos.

O orçamento do produto tem três níveis, e pular um deixa o furo aberto:

1. Por tarefa. Passos, tempo e dinheiro. Quando estoura, a tarefa devolve o que já fez e registra o caso.
2. Por usuário e por dia. Soma o que o plano permite. O gratuito corta cedo; o pago tem folga medida.
3. Por período da conta. Um teto global evita que mil usuários no limite ainda quebrem o mês.

Defina o que o código faz no limite: recusar, enfileirar, ou cair para um modelo menor. Alerta sem corte só avisa o estrago. Conte busca na web, browser e outras APIs no mesmo saldo. Veja também Loop Sem Fim: um loop preso é a forma mais rápida de estourar uma tarefa sem teto.

Checagem +20 XP de primeiraVocê colocou teto de 30 passos por pesquisa. Um usuário do plano gratuito dispara 400 pesquisas por dia via script. Qual é o próximo limite que falta?

Um teto de gasto por usuário e por dia, ligado ao plano

Subir o teto de passos para 200

Trocar o modelo em todas as pesquisas pelo mais barato

O que você ganha

• Custo máximo por tarefa, por usuário e por dia, conhecido de antemão.
• Planos com limites técnicos de verdade.
• Alertas antes da fatura, e um corte que não depende de alguém olhar o Slack às 3h.
• Margem previsível, inclusive quando alguém cola um script no plano gratuito.

Quando ignorar

• Ferramenta interna de uso baixo. Se o total do mês é irrelevante, um alerta simples de gasto diário pode bastar.
• Fase de descoberta controlada. Um piloto fechado com poucos usuários conhecidos. Mesmo assim, ponha um teto por tarefa.

Nenhum produto com plano gratuito aberto, ou com API pública, deve rodar sem saldo por usuário.

É esse smell?

Checagem +20 XP de primeiraCada tarefa tem teto de 30 passos, mas não há limite por usuário. Um usuário dispara 500 tarefas por dia via API. É Custo Sem Teto?

Não, cada tarefa tem limite

Só se o usuário estiver no plano gratuito

Sim

Checagem +20 XP de primeiraO time tem um alerta quando o gasto diário passa de duas vezes a média, mas nenhum limite que pare as execuções. O que falta?

Nada, o alerta basta

Um limite que corta ou degrada automaticamente

Um dashboard mais detalhado por modelo

Checagem +20 XP de primeiraUm agente roda em loop infinito por causa de uma ferramenta presa. O custo da tarefa explode. Qual smell é mais específico?

Custo Sem Teto

Pagando Duas Vezes

Loop Sem Fim

Checagem +20 XP de primeiraO time limita só os tokens do modelo. Cada pesquisa também chama uma API de busca na web cobrada por consulta, sem teto. É Custo Sem Teto?

Sim, o orçamento precisa cobrir todas as chamadas pagas da tarefa

Não, o modelo já tem limite de tokens

Só se a busca for mais cara que o modelo