0Fundamentos
13 fundamentos de LLM para engenheiros
O mínimo que você precisa saber sobre tokens, contexto, ferramentas, embeddings e evals antes de desenhar qualquer sistema com LLM.
- itens
- 13
- Fundamento
Como ler este catálogo
Os cinco pilares, como as páginas se ligam e por onde começar conforme o seu perfil.
- Fundamento
LLM para engenheiros
O modelo como uma função probabilística: o que entra, o que sai e o que ele não garante.
- Fundamento
Tokens e janela de contexto
Por que tudo custa token, por que o meio do contexto some e como medir isso.
- Fundamento
Amostragem e temperatura
De onde vem a variação nas respostas e quando você quer mais ou menos dela.
- Fundamento
Prompt como interface
Tratar o prompt como contrato de API: entrada, saída, versão e teste.
- Fundamento
Ferramentas e function calling
Como o modelo pede para o seu código agir e quem decide o que acontece depois.
- Fundamento
Embeddings
Texto virando vetor: o que a similaridade captura e onde ela engana.
- Fundamento
Chains, agentes e workflows
A diferença entre o código decidir o caminho e o modelo decidir o caminho.
- Fundamento
Escolhendo a stack
As camadas de um sistema com LLM e quando LangChain, LangGraph, o SDK do provedor ou outra biblioteca pagam a conta.
- Fundamento
O que é um eval
Testes para sistemas que não respondem sempre igual, do caso unitário ao benchmark.
- Fundamento
Custo e latência
Fazer a conta de cada chamada antes de ir para produção.
- Fundamento
Prompt injection na prática
Por que todo texto que o modelo lê pode virar uma ordem, e o que fazer a respeito.
- Fundamento
Observabilidade para IA
Traces, spans e logs que deixam você responder: por que o agente fez isso?