Como Rodar IA Localmente com Ollama: Guia

Rodar IA localmente tem vantagens que modelos na nuvem não conseguem dar: privacidade total, sem limite de uso, sem custo por token, funciona offline. Pra quem trabalha com código de cliente ou em ambientes corporativos com restrição de dados, isso muda tudo.

O Ollama é a ferramenta que popularizou esse processo. Em vez de você gerenciar arquivos de modelo, dependências e configurações de hardware, o Ollama faz tudo isso por baixo dos panos. Você instala como qualquer outro app e chama os modelos como se fossem comandos de terminal.

Por Que Rodar Localmente

A primeira razão é privacidade. Quando você manda código pra GPT-4o ou Claude, esse código passa por servidores da OpenAI e Anthropic. Pra código proprietário, tokens de API que às vezes aparecem em prompts, ou arquivos de configuração sensíveis, isso é um risco real. Rodando localmente, nada sai da sua máquina.

A segunda é custo. A API do Claude Sonnet custa em torno de U$ 3 por milhão de tokens de entrada. Se você usa IA pra código 8 horas por dia, isso acumula. Rodar localmente tem custo zero de API — você paga só pela eletricidade e pelo hardware que já tem.

Ollama: O Que E

O Ollama é uma ferramenta open source que gerencia modelos de linguagem localmente. Ele padroniza o processo de baixar, armazenar e executar modelos — seja qual for a arquitetura por baixo. Você não precisa saber se o modelo usa llama.cpp ou mlx ou PyTorch; o Ollama abstrai tudo isso.

Ele expõe uma API REST local em localhost:11434 que segue o mesmo formato da API da OpenAI. Isso significa que qualquer ferramenta que suporta OpenAI — como Continue, Cursor, ou qualquer cliente de chat — funciona com o Ollama trocando só a URL base. Sem reescrever nada.

Instalando no Mac, Linux e Windows

Primeiros Prompts

O fluxo mais simples é via terminal: 'ollama run nome-do-modelo'. Você entra numa sessão interativa onde digita prompts e recebe respostas. Funciona bem pra testar modelos rápido, mas pra uso real no dia a dia você vai querer uma interface melhor.

Pra ter uma interface web tipo ChatGPT apontando pro Ollama local, instale o Open WebUI: é um projeto open source que roda num container Docker e conecta automaticamente no Ollama. Você tem histórico de conversas, upload de arquivos, seleção de modelo — tudo que o ChatGPT tem, mas rodando 100% local.

# Instalar Open WebUI via Docker
docker run -d -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  --name open-webui \
  --restart always \
  ghcr.io/open-webui/open-webui:main

# Acesse em http://localhost:3000

Melhores Modelos pra Codigo

Integrando com VS Code e Cursor

A extensão Continue (continue.dev) é a ponte entre o VS Code ou Cursor e o Ollama. Depois de instalar a extensão, você edita o arquivo de configuração pra apontar pro servidor local. Em menos de 5 minutos você tem autocomplete e chat de IA dentro do editor, completamente offline.

// .continue/config.json
{
  "models": [
    {
      "title": "Qwen Coder Local",
      "provider": "ollama",
      "model": "qwen2.5-coder:7b",
      "apiBase": "http://localhost:11434"
    },
    {
      "title": "Llama 3.3 Local",
      "provider": "ollama",
      "model": "llama3.3:70b",
      "apiBase": "http://localhost:11434"
    }
  ],
  "tabAutocompleteModel": {
    "title": "Qwen Autocomplete",
    "provider": "ollama",
    "model": "qwen2.5-coder:7b"
  }
}

Ollama vs API de Nuvem: Quando Usar Cada Um?

Ollama local vence quando você precisa de privacidade, trabalha offline, tem uso alto de tokens ou quer sem custo recorrente. API de nuvem vence quando você quer os modelos mais potentes (Claude Opus, GPT-4o), precisa de contexto muito longo (100K+), ou sua máquina não tem hardware suficiente pra rodar modelos grandes.

A combinação que funciona melhor na prática: Ollama com Qwen Coder 7B pra autocomplete e tarefas rápidas durante o dia (zero latência de rede, zero custo), e a API do Claude ou DeepSeek via OpenRouter pra problemas maiores que precisam de mais capacidade.

Meu Setup Local

No meu Mac M3 Pro com 36GB de RAM, rodo o Qwen 2.5 Coder 7B pra autocomplete via Continue no Cursor, e deixo o Llama 3.3 70B pra quando preciso de uma segunda opinião em arquiteturas maiores. O Qwen 7B responde em menos de 1 segundo e o Llama 70B leva uns 3-4 segundos pra primeiros tokens.

Pra contexto muito longo (revisar um PR inteiro ou analisar uma codebase nova), ainda uso o Gemini Flash 2.0 pelo chat web — nenhum modelo local que eu conseguia rodar iguala o contexto de 1M tokens do Gemini. Mas pra 90% do trabalho cotidiano, o setup local resolve.

Funciona em PC Fraco?

Depende do que você chama de fraco. Com 8GB de RAM dá pra rodar o Qwen Coder 7B, que já é útil. Com 16GB você consegue o 14B, que é visivelmente melhor. Abaixo de 8GB de RAM, os modelos ficam lentos demais pra uso real — seria melhor usar as interfaces web gratuitas dos modelos em nuvem.

CPU-only funciona, mas a velocidade de geração é bem mais lenta que com GPU. Em Intel i7 de 8ª geração, o Qwen 7B gera uns 8-12 tokens por segundo na CPU — dá pra usar, mas é perceptivelmente mais lento que com aceleração de GPU ou chip Apple.

Se você quer ter acesso tanto a modelos locais quanto a modelos em nuvem numa interface só, o guia do OpenRouter explica como centralizar tudo numa API unificada.

Pra entender quais modelos gratuitos valem mais a pena no Ollama, veja o ranking completo dos melhores modelos de IA gratuitos pra programar em 2026.