RAG, agente de IA ou fine-tuning: o que cada termo significa na prática e qual deles sua empresa realmente precisa

Você pediu três propostas para colocar IA no atendimento ou em algum processo interno. A primeira fala em RAG e base vetorial. A segunda promete um agente autônomo. A terceira diz que só fine-tuning resolve porque a sua empresa é muito específica. Os preços variam cinco vezes entre elas. E você, que entende do seu negócio e não de modelos de linguagem, precisa decidir qual delas está certa sem ter como comparar. Quem já passou por um projeto travado sabe do que estou falando: o problema raramente é a tecnologia, é assinar sem entender o que está comprando.

Este artigo é o glossário que eu gostaria que meus clientes tivessem lido antes da primeira reunião. Cada termo vem com três coisas: o que ele é em linguagem de operação, que problema ele resolve de fato e quanto costuma custar. No final, cinco perguntas para você aplicar nas propostas que já estão na sua mesa.

Por que o jargão de IA confunde tanto quem compra

Os termos não são invenção de vendedor. Eles descrevem técnicas diferentes para problemas diferentes. O que acontece é que muitos fornecedores usam o termo como argumento de venda, não como descrição do que vão entregar. Aí o cliente compara "RAG" com "agente" como se fossem duas marcas do mesmo produto, quando na verdade um resolve consulta a informação e o outro resolve execução de tarefa.

Tem um segundo motivo, mais estrutural. Em IA aplicada, a técnica mais sofisticada quase nunca é a mais adequada. Um fornecedor que precisa justificar um preço alto tende a propor a solução mais complexa. Um fornecedor que já operou isso em produção tende a propor a mais simples que resolve. Saber o que cada termo significa é o que permite distinguir um do outro.

O glossário traduzido: o que é, o que resolve, quanto custa

Modelo de linguagem (LLM)

É o motor. GPT, Claude, Gemini e similares. Você quase nunca vai construir um; vai alugar por uso, via API. Pense nele como o funcionário genérico muito bem formado que sabe de tudo um pouco e nada sobre a sua empresa. Todo o resto deste glossário são formas de ensinar esse funcionário sobre o seu negócio ou de dar tarefas a ele.

Custo: cobrado por token (aproximadamente um pedaço de palavra). Uma operação de atendimento com algumas centenas de conversas por dia costuma ficar entre R$ 300 e R$ 3.000 por mês em API, dependendo do modelo e do tamanho das conversas. Esse é um custo recorrente que precisa entrar no orçamento desde o primeiro dia.

Prompt e engenharia de prompt

São as instruções fixas que o modelo recebe antes de cada conversa: quem ele é, como fala, o que pode e não pode fazer. Parece simples, e para muitos casos é suficiente. Um assistente que responde dúvidas sobre horário de funcionamento, política de troca e formas de pagamento pode viver só de um prompt bem escrito com essas informações dentro.

Quando basta: se a informação que o modelo precisa cabe em umas dez páginas de texto e muda pouco, você não precisa de mais nada. O barato que sai caro aqui é o seguinte: pagar por RAG quando um prompt de duas páginas resolveria.

RAG (Retrieval-Augmented Generation)

Traduzindo: antes de responder, o sistema busca nos seus documentos os trechos relevantes para a pergunta e entrega ao modelo junto com a instrução "responda com base nisso". É a técnica para quando a informação não cabe no prompt: manual de 400 páginas, base de 2.000 produtos, histórico de contratos, procedimentos internos que mudam toda semana.

O que RAG resolve é consulta. O modelo continua sem fazer nada além de responder, mas responde com base nos seus dados e não na memória genérica dele. Isso reduz muito o problema de resposta inventada, embora não elimine.

O que envolve na prática: organizar os documentos, quebrar em pedaços, gerar os embeddings (a representação numérica que permite a busca por significado), guardar numa base vetorial e montar o fluxo de busca. A qualidade do resultado depende mais da organização dos seus documentos do que do modelo escolhido. Documento desatualizado vira resposta errada com confiança.

Custo: um projeto de RAG bem delimitado costuma ficar entre R$ 25 mil e R$ 80 mil, com 4 a 8 semanas de desenvolvimento. O que move o número é a bagunça da base documental e a quantidade de fontes diferentes que precisam ser conectadas. Mais R$ 200 a R$ 1.500 mensais de infraestrutura e API.

Agente de IA

Aqui o modelo deixa de só responder e passa a executar. Um agente recebe um objetivo, decide os passos, chama sistemas (consulta o CRM, abre um chamado, envia um e-mail, agenda uma visita) e verifica o resultado. A diferença para o RAG é a mesma entre um atendente que consulta o manual e um que resolve o problema do cliente sozinho.

Isso é poderoso e é também onde mora a maior parte do risco. Um agente que pode emitir reembolso pode emitir o reembolso errado. Por isso todo agente sério em produção tem limites claros: o que ele pode fazer sozinho, o que precisa de aprovação humana e o que está proibido.

Custo: mais alto porque envolve integração com os seus sistemas, tratamento de erro e desenho de permissões. Um agente para um processo específico costuma ficar entre R$ 60 mil e R$ 200 mil, com 8 a 16 semanas. O número cresce com a quantidade de sistemas que ele precisa acessar e com a criticidade das ações. Se o seu ERP não tem API, some semanas.

Fine-tuning

É retreinar o modelo com exemplos seus para mudar o comportamento dele de forma permanente: tom de voz muito específico, formato de saída rígido, vocabulário técnico de um nicho. Não serve para ensinar informação nova sobre a sua empresa. Isso é papel do RAG. Fine-tuning ensina jeito, não conteúdo.

Na minha experiência, é o termo mais mal empregado nas propostas que chegam aos clientes. A maior parte das empresas não precisa disso. Precisa de um prompt bom, talvez de RAG. Fine-tuning exige centenas ou milhares de exemplos de qualidade, precisa ser refeito quando o modelo base muda e cria dependência do fornecedor que fez o treinamento.

Quando faz sentido: volume muito alto onde um modelo menor e treinado sai mais barato que um modelo grande com prompt longo, ou um formato de saída que o prompt não consegue garantir. Se a proposta sugere fine-tuning para uma operação de atendimento comum, pergunte por que RAG não resolve. A resposta vai dizer muito sobre o fornecedor.

Guardrails e human-in-the-loop

Guardrails são as travas: o que o sistema se recusa a responder, quais dados nunca saem, quais ações sempre param para revisão. Human-in-the-loop é a regra de quando uma pessoa entra na conversa ou aprova uma ação. Nenhuma proposta séria de IA para empresa vem sem esses dois itens descritos. Se a proposta que você recebeu não fala neles, não é que o fornecedor esqueceu. É que ele ainda não colocou um sistema desses em produção.

Qual técnica serve para qual problema

Seu problema	Técnica que costuma resolver	Faixa de projeto
Responder dúvidas frequentes com informação estável	Prompt bem escrito	R$ 8 mil a R$ 25 mil
Responder com base em documentos extensos ou que mudam	RAG	R$ 25 mil a R$ 80 mil
Executar tarefas em outros sistemas	Agente com guardrails	R$ 60 mil a R$ 200 mil
Forçar um formato ou tom que o prompt não segura	Fine-tuning (raro)	R$ 30 mil ou mais, além dos dados

Não existe resposta única, mas existe conta certa. E a conta quase sempre começa na linha de cima da tabela e só desce quando a de cima comprovadamente não resolve.

As 5 perguntas para fazer antes de assinar

Antes de assinar qualquer contrato, pergunta isso:

1. "Esse problema precisa de execução ou só de consulta?" Se a resposta é consulta, você não precisa de agente. Se o fornecedor insistir em agente para um caso de consulta, ele está vendendo a técnica, não a solução.
2. "Por que não resolve com um prompt?" A resposta precisa ser específica: volume de informação, frequência de mudança, necessidade de ação. "Porque é mais robusto" não é resposta.
3. "O que acontece quando o modelo erra?" Quem operou IA em produção responde na hora: qual a taxa esperada de erro, como detectam, quando o humano entra. Quem nunca operou fica vago.
4. "Qual o custo mensal de API e infraestrutura depois de entregue?" Precisa vir em reais, com a premissa de volume explícita. Projeto sem custo recorrente no orçamento é projeto com surpresa no terceiro mês.
5. "De quem são os dados, os prompts e a base vetorial no fim do contrato?" Tudo isso é seu e precisa estar no contrato. Fine-tuning em especial: se o modelo treinado fica na conta do fornecedor, você comprou dependência.

Onde a OCA entra nessa conversa

Esse glossário não veio de leitura. Veio de operar. A OCA mantém dois agentes de IA em produção que ilustram bem a diferença entre as técnicas. O VoxField é um agente de voz para pesquisas por telefone: ele conduz a ligação, adapta as perguntas às respostas e registra os dados, com regras claras do que fazer quando a pessoa foge do roteiro. O REX é um agente de vendas que vai da busca de leads até a mensagem de abordagem, com aprovação humana nos pontos que importam. Em nenhum dos dois usamos fine-tuning. Nos dois, o trabalho pesado foi desenhar os limites e as integrações, não escolher o modelo.

Esse é o tipo de projeto que a gente constrói: começando pela técnica mais simples que resolve, com os custos recorrentes na mesa antes de assinar e com o cliente entendendo cada termo da proposta. Você pode ver os detalhes desses e de outros produtos na página de projetos da OCA.

O próximo passo

Antes de falar com qualquer fornecedor, inclusive com a gente, faça um exercício de meia hora. Pegue o processo que você quer automatizar e escreva em uma folha: qual informação o sistema precisa consultar, qual ação ele precisa executar e o que acontece hoje quando um humano erra nesse processo. Com essas três respostas você já sabe em qual linha da tabela acima o seu caso cai, e consegue ler as propostas que recebeu com outros olhos.

Se quiser que a gente olhe essa folha junto com você e diga com franqueza qual técnica cabe no seu caso, e se IA cabe mesmo, o caminho é esse:

Converse com a OCA sobre IA no seu negócio