Cache da AWS promete cortar 90% da entrada, mas a fatura depende do modelo
O Bedrock passa a mirar contextos repetitivos para reduzir tokens enviados à API. A economia anunciada não equivale automaticamente a 90% menos na conta.
Se você usa um modelo em produção e repete o mesmo contexto em muitas chamadas, a promessa da AWS pode mexer bastante com a fatura: o cache de prompts do Amazon Bedrock anuncia redução de até 90% nos tokens de entrada. Mas esse percentual descreve o que deixa de ser reenviado, não garante uma queda equivalente no custo total da API.
A diferença importa. A conta final também inclui tokens novos, respostas geradas, preço específico do modelo e as regras comerciais do provedor. Segundo a AWS, o recurso foi apresentado para otimizar custo e latência em aplicações que reutilizam partes dos prompts.
O que muda para quem envia o mesmo contexto
O caso mais claro é uma aplicação que repete instruções extensas, documentos, políticas internas ou histórico de sessão antes de cada pergunta. Em vez de tratar todo esse conteúdo como entrada nova a cada chamada, o cache pode reaproveitar a parte que não mudou.
Na prática, o ganho depende de quanto do prompt é repetitivo. Se quase todo o contexto muda a cada requisição, há pouco para armazenar e reutilizar. Se a aplicação envia uma base fixa e acrescenta apenas uma pergunta curta, o recurso ataca justamente o componente mais caro e recorrente do tráfego de entrada.
A promessa de 90% também não deve ser lida como desconto universal. Ela se refere à redução anunciada no volume de tokens de entrada. O preço do cache e a forma como o Bedrock contabiliza cada chamada continuam sendo determinantes para o resultado financeiro.
Os preços mostram por que o modelo é decisivo
Os preços listados no OpenRouter ajudam a dimensionar a diferença entre modelos, embora não sejam uma tabela do Bedrock. O DeepSeek V4.1 Flash custa US$ 0,15 por milhão de tokens de entrada e US$ 0,003 por milhão de tokens em cache. A saída custa US$ 0,60 por milhão de tokens.
No Claude Opus 4.1, a entrada custa US$ 15 por milhão de tokens, enquanto o cache aparece a US$ 1,50 por milhão. A saída chega a US$ 75 por milhão de tokens. Ou seja: o mesmo mecanismo de reaproveitamento opera sobre bases de preço muito diferentes.
O Gemini 3.8 Flash aparece com entrada a US$ 0,75 por milhão de tokens, cache a US$ 0,075 e saída a US$ 3,75. Já o GPT-4.1 tem entrada a US$ 2, cache a US$ 0,50 e saída a US$ 8 por milhão de tokens. Esses valores do OpenRouter não permitem projetar a fatura do Bedrock, mas deixam claro que “90% menos entrada” não significa o mesmo valor economizado em qualquer modelo.
Para quem vale a pena — e para quem não muda nada
O recurso é relevante para quem roda agentes, atendimento corporativo, análise de documentos ou copilotos com um prompt-base longo e relativamente estável. Também pode ajudar aplicações que reapresentam regras, ferramentas disponíveis e informações de uma conta em muitas chamadas consecutivas.
Para quem usa prompts curtos, alterna todo o contexto a cada requisição ou concentra o gasto em tokens de saída, a mudança tende a ter impacto limitado. O cache não barateia automaticamente a geração da resposta. No DeepSeek V4.1 Flash, por exemplo, o valor de saída continua sendo US$ 0,60 por milhão de tokens; no Claude Opus 4.1, US$ 75.
Há ainda um limite técnico que pesa no planejamento. O DeepSeek V4.1 Flash e o Gemini 3.8 Flash têm janela de contexto de 1.048.576 tokens, enquanto o Claude Opus 4.1 trabalha com 200.000 tokens. O cache pode reduzir o custo de uma entrada reutilizada, mas não amplia a janela do modelo nem elimina a necessidade de controlar o tamanho do contexto.
A decisão correta é medir o prompt, não o anúncio
Antes de ativar a funcionalidade, separe na telemetria os tokens fixos dos tokens variáveis e acompanhe também a saída. Uma aplicação pode economizar muito na entrada e continuar cara porque gera respostas longas ou usa um modelo premium.
A comparação precisa ser feita com o preço efetivamente contratado no Bedrock, não com o OpenRouter. Os valores deste último servem como referência de mercado e mostram a estrutura do problema: cache tem preço próprio, diferente da entrada convencional, e a diferença varia por modelo.
O ponto central é simples: se você envia o mesmo contexto repetidamente, o cache pode reduzir uma parcela importante do consumo. Mas a decisão só fecha quando a parcela reutilizada, o preço do modelo e o volume de saída aparecem juntos na mesma conta.
Ative o cache quando o prompt fixo dominar o tráfego, mas projete a economia com os preços do Bedrock e os tokens de saída do modelo escolhido.
Perguntas frequentes
O cache de prompts da AWS reduz a conta em 90%?
Não necessariamente. A AWS anuncia redução de até 90% nos tokens de entrada, mas a fatura também depende do preço do cache, dos tokens novos e da quantidade de tokens de saída.
Quem mais se beneficia do prompt caching no Bedrock?
Aplicações que repetem instruções longas, documentos, histórico ou definições de ferramentas em muitas chamadas. Prompts curtos ou que mudam completamente a cada requisição tendem a aproveitar menos o recurso.
O preço do cache do OpenRouter vale para o Amazon Bedrock?
Não. Os preços do OpenRouter são uma referência para comparar modelos e estruturas de cobrança. A projeção da fatura precisa usar os preços e as regras comerciais aplicáveis ao modelo no Bedrock.
Fontes
- Optimizing cost and latency with Amazon Bedrock prompt caching AWS — Machine Learning · anúncio oficial