RAG, agente, fine-tuning: o glossário de IA que todo dono de empresa precisa antes de assinar um contrato
Rafael Oliveira · · 7 min de leitura
A cena se repete: você senta com um fornecedor para falar de IA na sua operação e, em vinte minutos, já ouviu RAG, fine-tuning, embeddings, agente autônomo e LLM. Você acena com a cabeça, anota tudo, e sai da reunião sem saber se a proposta de R$ 40 mil resolve o seu problema ou se metade daquilo era desnecessário. Quem já passou por um projeto travado sabe do que estou falando: o jargão não é só irritante, ele esconde decisões que mexem direto no orçamento.
Este artigo traduz os termos que aparecem em qualquer proposta de IA para linguagem de negócio. A ideia é simples: você não precisa saber programar, mas precisa entender o suficiente para comparar propostas e fazer as perguntas certas. No fim, deixo o checklist que uso quando alguém me pede para revisar um orçamento de terceiros.
Por que o jargão de IA encarece o seu projeto
O barato que sai caro aqui é o seguinte: cada termo técnico numa proposta corresponde a uma escolha de arquitetura, e cada escolha tem custo de construção e custo de manutenção. Quando você não entende os termos, não consegue questionar as escolhas. E fornecedor que não é questionado tende a vender a solução mais complexa, não a mais adequada.
Um exemplo real de faixa de preço: um chatbot que responde perguntas sobre os seus produtos usando RAG costuma ficar entre R$ 15 mil e R$ 40 mil. Um projeto com fine-tuning de modelo pode passar de R$ 80 mil e exigir retreinamento periódico. Se o vendedor propôs fine-tuning para um caso que RAG resolve, você está prestes a pagar o dobro por manutenção que não precisava existir. Entender a diferença entre esses dois termos, sozinho, já paga a leitura deste texto.
LLM, prompt e token: a base de tudo
LLM (Large Language Model) é o motor. GPT, Claude, Gemini e Llama são LLMs: modelos que recebem texto e devolvem texto. Praticamente nenhuma empresa brasileira treina um LLM do zero, e desconfie de quem disser que vai fazer isso. O normal é alugar o motor pronto, pagando por uso.
Prompt é a instrução que o sistema dá ao modelo. Grande parte da qualidade de um chatbot vem de prompts bem escritos, não de tecnologia exótica. É trabalho de engenharia, mas é barato de ajustar.
Token é a unidade de cobrança. Os provedores de LLM cobram por milhão de tokens processados, algo como pedaços de palavras. Na prática: uma conversa de atendimento típica custa centavos. Quando um fornecedor fala em "custo de API", é disso que ele está falando. Peça sempre a estimativa mensal desse custo, porque ele é seu, recorrente, e cresce com o volume.
RAG: ensinar a IA sobre a sua empresa sem treinar nada
RAG (Retrieval-Augmented Generation) é a técnica mais comum em projetos de IA empresarial, e a tradução honesta é: antes de responder, o sistema consulta os seus documentos e usa o que encontrou como base da resposta.
Funciona assim: os seus manuais, contratos, catálogos e políticas internas são indexados numa base de busca. Quando o cliente pergunta "qual o prazo de troca?", o sistema localiza o trecho relevante da sua política e o LLM redige a resposta a partir dele. O modelo não foi treinado com os seus dados; ele apenas os lê na hora.
Por que isso importa para você:
- Atualização barata. Mudou a política de troca? Atualiza o documento e pronto. Não existe retreinamento.
- Menos invenção. Como a resposta se apoia em documentos reais, o risco de a IA inventar informação cai bastante (falo de alucinação mais abaixo).
- Custo previsível. RAG é a arquitetura padrão para atendimento, FAQ interno e consulta a base de conhecimento. É o ponto de partida certo para a maioria das empresas.
Embeddings, termo que costuma aparecer junto, são a representação matemática dos seus textos que permite essa busca por significado. Você não precisa entender mais do que isso: é peça interna do RAG, não uma decisão que você toma.
Fine-tuning: quando treinar o modelo vale a pena (quase nunca no início)
Fine-tuning é ajustar o modelo com exemplos seus para mudar o comportamento dele: tom de voz muito específico, formato de saída rígido, tarefas repetitivas com padrão claro. É mais caro, exige centenas ou milhares de exemplos de qualidade e cria custo de manutenção, porque a cada mudança relevante o ajuste precisa ser refeito.
Não existe resposta única, mas existe conta certa. A regra prática que uso:
- Se o problema é a IA não saber algo sobre a sua empresa, a resposta é RAG.
- Se o problema é a IA não se comportar do jeito que você precisa mesmo com boas instruções, aí fine-tuning entra na conversa.
Na prática, prompts bem escritos mais RAG resolvem a maioria dos casos de atendimento e automação. Fine-tuning como primeira proposta, sem que ninguém tenha testado o caminho simples antes, é sinal de alerta.
Chatbot vs agente de IA: a diferença que muda o escopo
Esses dois termos são usados como sinônimos em proposta comercial, e não são.
Chatbot conversa. Ele responde perguntas, tira dúvidas, orienta. O risco de erro é baixo porque ele não executa nada: no pior caso, dá uma resposta ruim.
Agente de IA age. Ele consulta sistemas, preenche cadastros, agenda horários, dispara e-mails, atualiza o CRM. É uma IA com permissão para mexer na sua operação. O potencial de ganho é maior, e o de estrago também, o que exige mais engenharia: validações, limites de ação, registro de tudo que o agente fez.
Aqui vale trazer experiência de produção. Na OCA operamos dois agentes próprios: o VoxField, um agente de voz que conduz pesquisas por telefone, e o REX, um agente de vendas que vai da busca de leads até a mensagem de prospecção sem intervenção humana. O que aprendemos rodando isso todo dia: agente bom começa com escopo estreito e supervisão humana, e só ganha autonomia depois de provar taxa de acerto. Fornecedor que promete agente totalmente autônomo na primeira entrega está vendendo o final do filme como se fosse o começo.
Alucinação e guardrails: as palavras que protegem o seu negócio
Alucinação é quando o modelo inventa uma informação com total confiança: um prazo que não existe, um desconto que ninguém autorizou. Todo LLM alucina em alguma medida. Projeto sério não promete zero alucinação; ele reduz o risco com RAG, restringe o que a IA pode afirmar e define o comportamento para quando ela não sabe a resposta.
Guardrails são essas barreiras: temas proibidos, valores que a IA não pode negociar, situações em que a conversa é transferida para um humano. Se a proposta que você recebeu não menciona nada disso, o fornecedor não pensou no dia em que a IA vai errar. E esse dia vem.
As 6 perguntas para fazer antes de assinar qualquer proposta de IA
Antes de assinar qualquer contrato, pergunta isso:
- "A solução usa RAG ou fine-tuning? Por quê?" Você agora sabe a diferença. Se a resposta for fine-tuning, exija a justificativa de por que RAG não basta.
- "É um chatbot ou um agente? O que exatamente ele tem permissão de executar?" Escopo de ação define risco e preço.
- "Qual o custo mensal estimado de API e infraestrutura no meu volume?" O projeto tem preço de construção e preço de operação. Os dois precisam estar no papel.
- "O que acontece quando a IA não sabe a resposta?" A resposta certa envolve transferência para humano, nunca "ela sempre responde".
- "Como eu atualizo o conteúdo que a IA usa?" Se atualizar exigir chamar o fornecedor toda vez, você criou dependência cara.
- "Quais métricas vamos acompanhar no primeiro mês?" Taxa de resolução, taxa de transferência para humano, custo por conversa. Sem métrica, ninguém sabe se o projeto valeu.
O próximo passo prático
Uma ação gratuita antes de falar com qualquer fornecedor: pegue as seis perguntas acima e responda o que você gostaria que fosse verdade no seu caso. Qual conteúdo a IA precisa conhecer? O que ela pode ou não pode fazer sozinha? Esse rascunho de uma página vira o seu briefing e filtra na primeira reunião quem sabe do que está falando.
Esse é o tipo de projeto que a gente constrói na OCA: IA aplicada com escopo honesto, começando pelo caminho simples e escalando quando os números justificam. Não é teoria de slide; são os mesmos padrões que usamos nos nossos próprios produtos em produção. Se você quer avaliar onde IA se paga na sua operação, ou revisar uma proposta que recebeu, a conversa começa aqui:
