Cloud vs on-prem para IA: quando cada um faz sentido

93% das empresas já repatriaram workloads de IA da nuvem pública, estão no processo, ou avaliando ativamente a mudança. Esse número não veio de uma startup vendendo servidor: é o resultado de uma pesquisa independente com 203 tomadores de decisão de TI, conduzida em fevereiro de 2026 pela Cloudian (Enterprise AI Infrastructure Survey, 2026). Se 93% estão pensando em tirar IA da nuvem, alguma coisa mudou.

Mudou. E a resposta não é "nuvem é ruim" ou "on-prem é o futuro". A resposta é: depende do workload, do volume e do seu contexto regulatório. Vamos desmontar isso com dados.

O viés do cloud-first acabou

Por anos, a narrativa foi clara: comece na nuvem, escale na nuvem, fique na nuvem. Para workloads tradicionais (web apps, bancos de dados, microserviços), isso faz sentido. Para IA, o cálculo é outro.

O IDC publicou em março de 2026 um Survey Spotlight sobre a migração de workloads de IA para on-premises, identificando segurança de dados e custos como os dois drivers principais (IDC, 2026). A Futurum Research, em dezembro de 2025, revelou que o split de deploy de IA generativa entre nuvem pública (22,4%) e ambientes híbridos/locais é quase equilibrado: não existe mais maioria clara (Futurum Research, 2025).

Em outras palavras: o cloud-first para IA morreu. No lugar, entrou o workload-first.

O lado cloud: onde faz sentido

Cloud vence em três cenários bem definidos.

1. Volume baixo ou imprevisível

Se seu uso de IA é esporádico ou está em fase de experimentação, pagar por token é econômico. APIs como OpenAI GPT-5 mini ou Claude Sonnet custam de US$ 10 a US$ 15 por milhão de tokens de saída (Presenc AI, 2026). Para menos de 5 milhões de tokens/mês, a nuvem é mais barato que comprar hardware.

2. Acesso a modelos frontier

Modelos como GPT-5, Claude Opus 4.7 e Gemini 2.5 não estão disponíveis como open-weight. Se você precisa da capacidade máxima de raciocínio, a nuvem é a única opção. Não existe on-prem para frontier closed-source em 2026.

3. Time-to-production

Uma API de LLM pode estar em produção em dias. Um deployment on-prem, semanas a meses. Para provas de conceeto e MVPs, a velocidade da nuvem é difícil de bater.

O lado on-prem: onde ele vence

On-prem (ou infraestrutura local, incluindo colocation e nuvem privada) vence quando três condições convergem: volume alto, dados sensíveis e controle operacional.

1. Custo em escala: a matemática do breakeven

A análise de custo mais rigorosa publicada em 2026 vem da Presenc AI. Os números são claros:

Cenário	Hardware	TCO anualizado	Breakeven vs. frontier cloud
7B modelo, 30% utilização	Mac Studio M5 Max	US$ 1.476/ano	< 2 meses
70B modelo, 30% utilização	DGX Spark	US$ 2.050/ano	~1 mês
70B modelo, 30% utilização	DGX Spark	US$ 2.050/ano	5,5 meses vs. mid-tier

Contra APIs frontier (Claude Opus, GPT-5 Pro), o breakeven acontece em semanas. Contra APIs de mid-tier, em meses. Contra modelos open-weight baratos em cloud, a conta só fecha com volume muito alto, porque o custo marginal de inferência local é próximo de zero.

A Silverthread Labs (2026) corrobora: para workloads acima de 60 milhões de tokens/mês, o on-prem é sistematicamente mais barato. As contas de cloud em cinco dígitos mensais para um único caso de uso não são exceção: são a regra em escala.

2. Soberania de dados: não é ideologia, é LGPD

No Brasil, a LGPD (Lei 13.709/2018) exige que a transferência internacional de dados pessoais só ocorra para países ou organismos com nível adequado de proteção, ou mediante cláusulas contratuais específicas. Na prática, enviar dados para processamento em servidores americanos significa sujeitar-se à CLOUD Act americana, que permite ao governo dos EUA exigir dados de provedores com nexo jurisdicional americano, independentemente de onde os dados esteam hospedados, sem notificar a empresa brasileira.

O Serpro, em 2025-2026, construiu o que chama de nuvem soberana: uma infraestrutura completamente isolada dentro do próprio data center, onde até as atualizações de software são feitas presencialmente, não online. O presidente do Serpro, Wilton Mota, declarou à Convergência Digital: "Somos o único provedor de tecnologia Huawei no mundo que faz o próprio gerenciamento, as próprias atualizações" (Convergência Digital, 2026). A AWS está sendo pressionada a criar modelo similar.

Um artigo jurídico publicado na ConJur em março de 2026 é contundente: "localizar o servidor no Brasil não é suficiente para soberania digital" (ConJur, 2026). O que importa não é onde o servidor fica, mas quem pode acessar os dados e sob qual jurisdição. Um data center em São Paulo operado por uma empresa americana está sujeito à CLOUD Act. On-prem verdadeiro significa: infraestrutura sob controle jurídico e operacional brasileiro.

3. Latência e conectividade: o interior do Brasil

O Brasil tem 5.570 municípios. A maioria não tem conectividade estável para depender de uma API em São Paulo ou Virgínia. Para IA em produção em gestões municipais, postos de saúde, fábricas no interior ou sistemas militares, a latência e a disponibilidade da conexão são variáveis críticas.

A pesquisa da Cloudian (2026) mostra que 75% dos entrevistados identificaram workloads que exigem ou se beneficiariam de infraestrutura on-prem para latência aceitável: análise de vídeo em tempo real, controle de qualidade industrial e processamento transacional de baixa latência.

4. Controle e auditabilidade

Em setores regulados (finanças, saúde, defesa), você precisa saber exatamente o que o modelo fez, quando, com quais dados e quem acessou. Em on-prem, os logs de auditoria ficam sob seu controle. Em cloud, você depende da tooling do provedor e dos termos de serviço.

A Silverthread Labs (2026) lista a dependência de vendor como risco direto: mudanças de preço unilaterais, rate limits e termos de serviço podem alterar sua operação de uma hora para outra. Em on-prem, você decide quando atualizar, quanto pagar e qual modelo rodar.

O modelo híbrido: a maioria na prática

A maioria das empresas maduras em IA não escolhe entre cloud e on-prem. Escolhem ambos, por workload:

• Workloads com dados sensíveis ou regulados: on-prem ou nuvem privada soberana
• Workloads de alto volume e baixa complexidade: SLMs locais (como BXat em RTX 3060)
• Workloads que precisam de frontier: APIs em nuvem para experimentação e casos pontuais
• Protótipos e POCs: cloud para validar hipóteses, migração para on-prem quando escala

O IDC projeta que 75% das empresas adotarão arquiteturas híbridas de IA até 2027 para otimizar custo, compliance e performance (Silverthread Labs, 2026, citando IDC).

O caso brasileiro é diferente

O contexto brasileiro torna a decisão cloud vs on-prem mais urgente e mais complexa por três razões:

1. CLOUD Act e LGPD em tensão: dados processados por provedores americanos estão acessíveis ao governo dos EUA, mesmo com dados hospedados no Brasil. Isso é um risco jurídico e estratégico para empresas públicas e privadas que lidam com dados sensíveis.

2. Conectividade desigual: o IX.br em São Paulo é um dos maiores hubs de tráfego do mundo, mas a conectividade fora do eixo Rio-SP é instável. IA em nuvem para municípios do interior é um risco operacional.

3. Custo cambial: serviços de cloud são cotados em dólar. Com o real oscilando, o TCO em cloud é imprevisível. Hardware local, mesmo importado, tem custo fixo após a aquisição. A pesquisa da Cloudian (2026) mostra que 40% das empresas relatam gastos reais com IA em nuvem acima do previsto, e quase metade cita a imprevisibilidade de custos como barreira para expansão.

4. Marco regulatório em construção: o PL 2.688/2025 (Marco da IA) e o Redata (MP 1.318/2025) estão moldando o cenário. O primeiro impõe requisitos de transparência e segurança; o segundo reduziu a carga tributária sobre data centers de 52% para 18%. Ambos favorecem on-prem e nuvem soberana, mas ainda não exigem controle nacional efetivo sobre infraestrutura.

Framework de decisão: 5 perguntas

Antes de escolher, responda:

1. Onde seus dados podem residir juridicamente? Se a LGPD ou normativas setoriais exigem residência de dados no Brasil, cloud público com processamento nos EUA está descartado.
2. Qual o volume mensal de tokens? Acima de 60M tokens/mês, on-prem tende a ser mais barato. Abaixo de 5M, cloud vence.
3. Qual a latência aceitável? Sub-200ms para atendimento em tempo real exige inferência local. 2-5 segundos para análise assíncrona tolera cloud.
4. Qual o custo do downtime? Se a conexão cai e a IA para, on-prem é obrigatório. Se tolera falhas de conectividade, cloud é viável.
5. Qual o modelo de custo preferido? CapEx (compra de hardware) com custo marginal baixo, ou OpEx (pay-per-token) com escalabilidade elástica? Híbrido é a resposta para a maioria.

Na BaXiJen

Nós escolhemos on-prem como arquitetura principal para o BXat porque o nosso cliente é o gestor público brasileiro. Dados de gestão pública não podem sair do território nacional, a conectividade nos municílicos é instável e o custo em dólar de APIs de LLM não escala bem para uso contínuo em produção. Mas usamos cloud para prototipagem, experimentação com modelos frontier e workloads que não envolvem dados sensíveis. É híbrido por convicção, não por moda.

Referências

• Cloudian Inc. (2026). Enterprise AI Infrastructure Survey 2026. Centiment Research Platform, fevereiro de 2026. Disponível em: storagenewsletter.com
• Convergência Digital (2026). "Serpro: AWS cede para seguir rivais e fará nuvem soberana em modelo que só existe no Brasil". Entrevista com Wilton Mota, presidente do Serpro.
• ConJur (2026). "Localizar o servidor no Brasil não é suficiente para soberania digital". Consultor Jurídico, março de 2026.
• Futurum Research (2025). Enterprises Reject One-Size-Fits-All GenAI Infrastructure. Dezembro de 2025.
• IDC (2026). Survey Spotlight: Data Security and AI Workloads Fueling a Move to On-Premises Infrastructures. Março de 2026.
• McKinsey & Company (2025). The State of AI: How Organizations Are Rewiring to Capture Value. Março de 2025.
• Presenc AI (2026). Local LLM vs Cloud API Cost Comparison 2026. Disponível em: presenc.ai/research
• Silverthread Labs (2026). Self-Hosted AI vs Cloud AI: Full Comparison. Março de 2026.
• Anatel (2025). White Paper Data Centers. Comitê de Infraestrutura, outubro de 2025.
• Brasil. Lei nº 13.709, de 14 de agosto de 2018 (LGPD). Disponível em: gov.br/anpd
• Brasil. Medida Provisória nº 1.318, de 2025 (Redata).