Eval no Olhômetro

Como reconhecer

Uma empresa de recrutamento usa um modelo para pré-triar currículos. Antes de cada mudança, a coordenadora roda cinco currículos que ela conhece bem e confere se a nota “faz sentido”. A mudança da semana passada foi aprovada assim:

Teste do prompt v8 (5 currículos):
- Ana, dev sênior: 9  (ok)
- Bruno, júnior: 5    (ok)
- Carla, analista: 7  (ok)
- Diego, estágio: 4   (ok)
- Elisa, sênior: 8    (ok)
Aprovado. Pode subir.

Três meses depois, uma auditoria interna mostrou que candidatos de um estado inteiro recebiam notas sistematicamente mais baixas. O prompt v8 tinha acrescentado “valorize experiência em empresas de referência”, e o modelo associava “referência” a empresas de duas capitais. Nenhum dos cinco currículos de teste era daquele estado.

Isso não é exclusivo de LLM. Em 2018, a Amazon descontinuou uma ferramenta interna de triagem que penalizava currículos com sinais associados a mulheres, como a palavra “women’s”. O viés só ficou visível quando alguém mediu por grupo, não quando alguém “olhou se fazia sentido”.

Sinais de Eval no Olhômetro:

• A qualidade é avaliada por uma pessoa olhando poucos exemplos.
• Os exemplos são sempre os mesmos, escolhidos por conveniência.
• Não há resposta esperada escrita, só a sensação de que “faz sentido”.
• Não há número antes e depois para comparar.
• Ninguém olha resultados por grupo ou categoria.

flowchart LR
  C["1. Mudança no prompt"]:::tool --> V((("2. Uma pessoa olha 5 casos"))):::human
  V --> D["3. Deploy"]:::tool
  D --> P[("4. Milhares de casos reais")]:::store
  P --> B(["5. Viés descoberto meses depois"]):::io

1. Uma mudança é feita.
2. Uma pessoa confere poucos casos que conhece.
3. Parece bom, e a mudança sobe.
4. Em produção, os casos são muito mais variados.
5. O problema aparece tarde, e sem dado para dizer desde quando.

Checagem +20 XP de primeiraCinco currículos conhecidos saíram 'ok' depois da mudança do prompt. Por que isso não basta para subir?

Cinco é pouco; com 20 no olho já dá

Os casos são os mesmos, sem resposta esperada escrita e sem recorte por grupo

Falta um modelo maior para julgar os cinco casos

Por que acontece

• É rápido e parece suficiente. Cinco casos levam cinco minutos.
• A pessoa conhece bem o domínio. O julgamento dela é bom, mas cinco casos não mostram padrões.
• Montar eval parece trabalho de pesquisa. O time não sabe por onde começar. Comece por O que é um eval.
• Problemas de distribuição são invisíveis em poucos casos. Viés, categorias raras e regressões pequenas só aparecem com volume.

Erro comum: dataset de ouro que é a lista de favoritos

Duzentos casos escolhidos “porque são representativos” pela mesma pessoa ainda são olhômetro com mais linhas. Falta amostragem de produção, categorias raras de propósito, e atributos de grupo (estado, senioridade, tipo de vaga) para o recorte. Se ninguém anotou o estado, ninguém mede o viés do estado.

Em Mata v. Avianca (2023), advogados entregaram petição com jurisprudência inventada pelo ChatGPT. O texto “parecia” uma peça jurídica. Ninguém tinha um conjunto de casos em que a citação precisava existir de verdade. Olhômetro aprova forma; eval cobra fato.

Quanto custa ignorar

• Regressões silenciosas. Quedas de alguns pontos passam sem ninguém ver.
• Viés e discriminação. Em decisões sobre pessoas, um viés não medido pode ser ilegal, e a LGPD dá ao titular o direito de pedir revisão de decisões automatizadas.
• Decisões por opinião. “Ficou melhor” contra “ficou pior” sem número.

Um eval pequeno já muda a conversa. Trinta currículos reais, com nota esperada e estado anotado, mostram o que cinco favoritos escondem. Não é o dataset final. É o fim do “pode subir” no feeling.

Tratamento

Refatoração	Escolha quando
Criar Eval Antes de Mexer no Prompt	Sempre. Um conjunto de casos reais com resposta esperada, corrigidos automaticamente, com resultado por categoria e por grupo relevante. Destinos: Bancada de Evals e Dataset de Ouro.

O caminho curto, se você tem meia hora nesta semana:

1. Amostragem de produção, não os casos que o time gosta.
2. Resposta esperada escrita (nota, classe, trechos que precisam aparecer).
3. Rodar a versão antiga e a nova no mesmo conjunto.
4. Olhar o número total e o número por grupo. Se um estado caiu e o resto subiu, a média mente.

A leitura manual continua: ela descobre falhas que a métrica ainda não cobre. Os achados viram casos novos. Sem o eval, a leitura decide o deploy. Com o eval, ela alimenta o dataset.

Checagem +20 XP de primeiraA coordenadora tem 30 minutos nesta semana para começar um eval de verdade. Qual é o melhor uso desse tempo?

Amostrar casos reais, escrever a resposta esperada e rodar nas duas versões do prompt

Escrever um prompt de juiz e avaliar produção ao vivo

Pedir ao modelo para gerar 200 currículos sintéticos e usá-los como dataset

O que você ganha

• Um número antes e depois de cada mudança.
• Resultados por categoria e por grupo, que mostram vieses e regressões localizadas.
• A experiência da pessoa do domínio vira rótulos e rubricas, não uma checagem de cinco minutos.

Quando ignorar

• Exploração inicial. Olhar exemplos é ótimo para entender o problema. Só não substitui um eval na hora de decidir.
• Complemento ao eval. Ler saídas de vez em quando continua útil para achar problemas que nenhuma métrica captura. Junto com o eval, não no lugar dele.

É esse smell?

Checagem +20 XP de primeiraO time tem um eval de 300 casos e, além disso, alguém lê 20 saídas por semana para achar problemas novos. É Eval no Olhômetro?

Sim, há leitura manual

Sim, se as 20 saídas não tiverem rubrica

Não

Checagem +20 XP de primeiraO eval tem 200 casos, mas todos foram escolhidos pela mesma pessoa entre os que ela achava representativos, e nenhum tem o estado de origem do candidato anotado. O que falta?

Nada, 200 casos é bastante

Amostragem real e atributos de grupo

Trocar o modelo e medir de novo no olho

Checagem +20 XP de primeiraO prompt muda em produção sem nenhum teste, nem manual. Qual smell é mais preciso?

Eval no Olhômetro

Prompt Sem Versão

Prompt Sem Eval

Checagem +20 XP de primeiraO eval tem 50 casos, todos de devs sênior de São Paulo, e a mudança acertou 50 de 50. Em produção há estagiários de 12 estados. Pode subir?

Não, o dataset não cobre a produção

Sim, 100% de acerto é evidência forte

Sim, se a coordenadora olhar mais 5 currículos de júnior