Esta semana, executei um modelo de IA totalmente local no meu MacBook. Não por curiosidade. Não como uma demonstração do tipo "vamos ver o que é isso". Eu estava genuinamente tentando usá-lo no meu fluxo de trabalho real, com meu sistema de agentes real, em tarefas reais que precisava fazer.
O modelo era o Qwen 3.6 com 9 bilhões de parâmetros. Minha máquina é um M1 Pro com 16 GB de RAM. Não é um Mac Studio. Não é uma estação de trabalho. Um laptop comum. O Qwen 3.6 é um lançamento recente, e as variantes menores são o que tornou este experimento válido agora, e não seis meses atrás.
Funcionou.
Não "funcionou" no sentido de que iniciou sem erros. Funcionou no sentido de que eu fiquei lá fazendo coisas com ele e não senti que estava lutando contra o hardware. Era mais lento que o Claude. Obviamente. Mas a lentidão estava dentro de uma faixa aceitável. O tipo de lentidão em que você sabe que ela existe, mas não se sente punido por ela.
Isso me surpreendeu mais do que eu esperava.
Duas Histórias Diferentes de "IA Local"
Antes de entrar no experimento, há uma distinção que vale a pena fazer, porque é constantemente resumida em uma coisa só.
A primeira versão de "IA local" é um agente local com um modelo na nuvem. Todo o código fica no seu dispositivo. Seu sistema de memória, seus scripts de automação, suas integrações de ferramentas. Mas o modelo em si é remoto. Você está chamando o Claude ou a OpenAI do seu laptop, mas a arquitetura que comanda o show é sua, no seu hardware.
E é também por isso que as pessoas começaram a comprar Mac Minis este ano para hospedar frameworks de agentes locais. Escrevi sobre isso quando o OpenClaw viralizou: o dispositivo é a parte barata. Um Mac Mini básico custa cerca de US$ 599. O modelo na nuvem é quem faz o pensamento pesado. Você mantém a orquestração local, privada e sempre ativa, sem precisar de um plano de assinatura sempre ativo ou depender da infraestrutura de outra pessoa para sua automação.
A segunda versão é um LLM totalmente local. O modelo em si vive no seu dispositivo. Sem chamadas de API. Sem dependência de nuvem. Nenhum dado saindo da sua máquina. Por muito tempo, esse segundo caminho significava hardware potente, porque os modelos que valiam a pena executar eram grandes, e grande significava caro. Você precisaria de um Mac Studio muito poderoso ou mais para conseguir algo genuinamente capaz.
Essa lógica está começando a mudar.
O Experimento no MacBook
O Qwen 3.6 com 9 bilhões de parâmetros roda de forma aceitável em 16 GB de RAM. Essa é a descoberta principal, e é mais importante do que parece.
Usei o Ollama, que é efetivamente uma instalação de um comando só que cuida de todo o gerenciamento do modelo e fornece uma API local compatível com OpenAI em localhost:11434. Qualquer ferramenta que suporte o formato OpenAI pode apontar para ela. Incluindo o Claude Code, que é o que uso como interface para o Wiz.
Se quiser replicar isso, são três comandos:
<code-segment id="0" lang="text">
ollama pull qwen3:9b
ollama run qwen3:9b
</code-segment>
É só isso. O Ollama inicia um servidor local em localhost:11434 com uma API compatível com OpenAI. Se você usa o Claude Code, pode apontá-lo para o Ollama definindo a URL base. Qualquer ferramenta construída para o formato da API da OpenAI funciona imediatamente. Você agora está offline, sem chave de API, sem custo por token.
Aqui está o que realmente aconteceu:
A recuperação de memória funcionou surpreendentemente bem. Pedi para ele buscar contexto dos meus arquivos de memória. Ele os leu e trouxe informações relevantes com precisão razoável. A síntese não era no nível do Claude, mas a informação foi recuperada e usada corretamente. Para uma tarefa que é fundamentalmente "ler um arquivo, encontrar a parte relevante, reportá-la", um modelo de 9B lida com isso muito bem.
A chamada de ferramentas foi interessante. O Qwen conseguiu invocar as ferramentas no meu sistema de agentes com precisão razoável em solicitações diretas. Isso importa mais do que a qualidade bruta do texto para trabalho com agentes. Quando você está pensando em otimização de custos de IA, o modelo que consegue chamar a ferramenta certa no momento certo é muitas vezes mais valioso do que o modelo que escreve a prosa mais bonita.
Tarefas criativas e raciocínio complexo? Não é a mesma coisa. Quando pedi ajuda para escrever, análise, ou qualquer coisa que exigisse síntese real, a diferença de qualidade foi perceptível. Isso não é uma crítica. É apenas uma observação honesta sobre o que um modelo de 9B é e o que não é. Também tentei a variante de 4B, e como você esperaria, a queda de capacidade foi significativa. O 9B é onde eu traçaria a linha de usabilidade para o meu tipo de trabalho.
O enquadramento importante aqui: não se trata de comparar o Qwen com o Claude Opus. Eles não estão na mesma categoria. Trata-se de saber se um modelo local pode lidar com um subconjunto real do trabalho que faço, e a resposta é sim. Um subconjunto real e não trivial.
Há também um caminho que ainda não explorei, mas que me interessa: fine-tuning. Você pode fazer fine-tuning de um modelo de 4B ou 9B no seu próprio hardware. Alimentá-lo com sua escrita, suas preferências, sua terminologia, seu estilo. Obter algo mais personalizado do que qualquer modelo de prateleira. Isso é possível em um MacBook. Leva tempo, mas não é um exercício teórico. Para tarefas específicas e pessoais onde você sabe exatamente o que quer que o modelo faça, um modelo pequeno com fine-tuning pode superar um modelo maior de uso geral.
O Experimento no iPhone
O experimento no iPhone foi mais por curiosidade do que por utilidade imediata. Mas acabou sendo a parte que mais me surpreendeu.
O aplicativo que usei se chama PocketPal AI (gratuito na App Store). É um aplicativo de código aberto que permite baixar e executar modelos de linguagem diretamente no seu iPhone, completamente local. Você navega pelos modelos do Hugging Face, baixa via Wi-Fi uma vez e depois os executa sem precisar de internet. A maneira mais simples de verificar se está funcionando: ative o modo avião e pergunte algo ao modelo. Ele responde. Nada saiu do seu telefone.
Executei o Qwen com 0,8 bilhão e 2 bilhões de parâmetros no meu iPhone 17 Pro. A configuração é simples:
- Instale o PocketPal AI na App Store
- Abra o aplicativo, vá ao navegador de modelos
- Pesquise por Qwen e baixe uma variante pequena (0,5B ou 1,5B para iPhones mais antigos, 2B para os mais novos como o 17 Pro)
- Comece a conversar e depois ative o modo avião para confirmar que é totalmente local
A pergunta óbvia não era "isso é tão bom quanto o Claude", mas simplesmente "é possível colocar algo localmente útil em um telefone?" A resposta é sim, mas com limites claros. Esses são modelos minúsculos. Eles lidam com tarefas básicas de texto e respostas a perguntas curtas com qualidade razoável. Eles não vão te ajudar a construir um aplicativo da noite para o dia. Mas funcionam. Totalmente no dispositivo. Completamente local.
A implicação mais interessante aqui não é a capacidade do modelo. É o sinal do hardware. Um iPhone rodando um LLM local em 2026 significa que os smartphones agora são poderosos o suficiente para fazer isso. Isso é significativo. Não porque o modelo de 0,8B seja impressionante, mas porque o hardware que já está no seu bolso cruzou um limite.
O ângulo da privacidade também é real. Quando nada sai do seu dispositivo, você não precisa pensar sobre o que está enviando para onde. Sem termos de serviço regendo suas consultas. Sem logs de API. Apenas você e os pesos rodando no seu silício. Venho pensando nisso desde que perdi o acesso a seis meses de dados de voz quando um serviço de IA na nuvem foi banido na UE. Local é um tipo diferente de resiliência.
O Ângulo do Custo
Aqui está a razão prática pela qual isso importa além do interesse técnico: as assinaturas de IA aumentam rapidamente quando você está executando muitas tarefas de agente. Isso não é hipotético. Eu acompanho meu uso de perto.
Nem toda tarefa requer o Opus. Muito do trabalho de agente é genuinamente simples: ler um arquivo, formatar algo, resumir uma nota curta, responder a uma pergunta factual com base no contexto. Roteirizar essas tarefas para um modelo local em vez de um modelo de fronteira muda a matemática consideravelmente.
A próxima versão do Haiku é algo que estou observando de perto. Ele continua melhorando e o custo continua caindo. Os modelos locais estão seguindo a mesma trajetória, apenas em uma camada diferente.
Para Onde Isso Vai
Acho que o futuro da IA envolve muito mais computação local do que a conversa atual sugere.
O formato que vejo: modelos na nuvem para as coisas difíceis. Raciocínio complexo, trabalho criativo, decisões arquiteturais, coisas que exigem direção e visão reais. Mas para as centenas de pequenas tarefas cognitivas que acontecem em um sistema de agente todos os dias, os modelos locais serão bons o suficiente para que o roteamento faça sentido.
O argumento do hardware também é importante aqui. Olhe para os últimos quatro anos de silício para consumidores. M1, M2, M3, M4, M5. Cada geração significativamente mais rápida e com mais eficiência de memória que a anterior. A trajetória em ambos os lados, modelos melhores e hardware melhor, está apontando para o mesmo lugar. Daqui a alguns anos, os laptops que as pessoas já possuem rodarão modelos que parecerão notavelmente mais capazes do que o que executei esta semana.
Minha previsão aproximada: em três anos, haverá modelos locais com fine-tuning para casos de uso específicos que realmente competirão com os modelos de fronteira de hoje nessas tarefas específicas. Não em raciocínio geral. Não em síntese criativa. Mas em "faça essa coisa específica que me importa, rapidamente, de forma privada, sem conexão com a internet." Essa é uma categoria muito real e útil.
Há também um ângulo ambiental que não é discutido o suficiente. O custo de energia e infraestrutura de uma consulta atingindo um data center é ordens de magnitude maior do que a mesma inferência rodando em silício local. Se a maioria das tarefas rotineiras de IA migrar para o local, a equação de recursos muda. Não resolvida, mas significativamente diferente.
Neste momento, os trade-offs são claros: os modelos locais são limitados, o fine-tuning exige esforço, e a lacuna de capacidade com os modelos de fronteira é real. Mas a direção da viagem não é ambígua. A lacuna está se fechando. Testei esta semana em hardware que tenho há anos, e funcionou bem o suficiente para me fazer pensar sobre onde roteio tarefas.
Se você está curioso: instale o Ollama, baixe o Qwen 3.6 em 9B e tente algo simples no seu fluxo de trabalho. A experiência é diferente de executar um benchmark. É surpreendentemente real.
Se isso foi útil - siga meu canal no Telegram:
