Esta semana, rodei um modelo de IA totalmente local no meu MacBook. Não por curiosidade. Não como uma demonstração do tipo "vamos ver o que é isso". Eu estava genuinamente tentando usá-lo no meu fluxo de trabalho real, com meu sistema de agente real, em tarefas reais que eu precisava fazer.
O modelo era o Qwen 3.6 com 9 bilhões de parâmetros. Minha máquina é um M1 Pro com 16 GB de RAM. Não é um Mac Studio. Não é uma estação de trabalho. Um laptop comum. O Qwen 3.6 é um lançamento recente, e as variantes menores são o que tornou este experimento válido agora, não há seis meses.
Funcionou.
Não "funcionou" no sentido de ter iniciado sem erros. Funcionou no sentido de que eu fiquei lá fazendo coisas com ele e não senti que estava lutando contra o hardware. Era mais lento que o Claude. Obviamente. Mas a lentidão estava dentro de uma faixa aceitável. O tipo de lentidão em que você sabe que ela existe, mas não se sente punido por ela.
Isso me surpreendeu mais do que eu esperava.
Duas Histórias Diferentes de "IA Local"
Antes de entrar no experimento, há uma distinção que vale a pena fazer, porque ela é constantemente agrupada em uma coisa só.
A primeira versão de "IA local" é um agente local com um modelo na nuvem. Todo o código vive no seu dispositivo. Seu sistema de memória, seus scripts de automação, suas integrações de ferramentas. Mas o modelo em si é remoto. Você está chamando o Claude ou a OpenAI do seu laptop, mas a arquitetura que comanda o show é sua, no seu hardware.
E é também por isso que as pessoas começaram a comprar Mac Minis este ano para hospedar frameworks de agentes locais. Escrevi sobre isso quando o OpenClaw viralizou: o dispositivo é a parte barata. Um Mac Mini básico custa cerca de US$ 599. O modelo na nuvem é quem faz o trabalho pesado. Você mantém a orquestração local, privada e sempre ativa, sem precisar de um nível de assinatura sempre ativo ou depender da infraestrutura de outra pessoa para sua automação.
A segunda versão é um LLM totalmente local. O modelo em si vive no seu dispositivo. Sem chamadas de API. Sem dependência de nuvem. Sem dados saindo da sua máquina. Por muito tempo, esse segundo caminho significava hardware potente, porque os modelos que valiam a pena rodar eram grandes, e grandes significava caro. Você estaria olhando para um Mac Studio muito potente ou mais para conseguir algo genuinamente capaz.
Esse cálculo está começando a mudar.
O Experimento no MacBook
O Qwen 3.6 com 9 bilhões de parâmetros roda de forma aceitável em 16 GB de RAM. Essa é a descoberta principal, e é mais importante do que parece.
Usei o Ollama, que é essencialmente uma instalação de um comando que lida com todo o gerenciamento do modelo e fornece uma API local compatível com OpenAI em localhost:11434. Qualquer ferramenta que suporte o formato OpenAI pode apontar para ele. Incluindo o Claude Code, que é o que eu uso como interface para o Wiz.
Se você quiser replicar isso, são três comandos:
É isso. O Ollama inicia um servidor local em localhost:11434 com uma API compatível com OpenAI. Se você usa o Claude Code, pode apontá-lo para o Ollama definindo a URL base. Qualquer ferramenta construída para o formato da API OpenAI funciona. Você agora está offline, sem chave de API, sem custo por token.
Aqui está o que realmente aconteceu:
A recuperação de memória funcionou surpreendentemente bem. Pedi para ele puxar contexto dos meus arquivos de memória. Ele os leu e trouxe informações relevantes com precisão razoável. A síntese não era no nível do Claude, mas a informação foi recuperada e usada corretamente. Para uma tarefa que é fundamentalmente "ler um arquivo, encontrar a parte relevante, reportá-la", um modelo de 9B lida com isso muito bem.
A chamada de ferramentas foi interessante. O Qwen conseguiu invocar as ferramentas no meu sistema de agente com precisão razoável em solicitações diretas. Isso é mais importante do que a qualidade bruta do texto para trabalho agentivo. Quando você está pensando em otimização de custos de IA, o modelo que consegue chamar a ferramenta certa no momento certo é muitas vezes mais valioso do que o modelo que escreve a prosa mais bonita.
Tarefas criativas e raciocínio complexo? Não é a mesma coisa. Quando pedi ajuda para escrever, análise, ou qualquer coisa que exigisse síntese real, a diferença de qualidade foi perceptível. Isso não é uma crítica. É apenas uma observação honesta sobre o que um modelo de 9B é e o que não é. Também testei a variante de 4B e, como esperado, a queda de capacidade foi significativa. O de 9B é onde eu traçaria a linha de usabilidade para o meu tipo de trabalho.
O enquadramento importante aqui: não se trata de comparar o Qwen com o Claude Opus. Eles não estão na mesma categoria. Trata-se de saber se um modelo local pode lidar com um subconjunto real do trabalho que faço, e a resposta é sim. Um subconjunto real e não trivial.
Há também um caminho que ainda não explorei, mas que me interessa: fine-tuning. Você pode fazer fine-tuning de um modelo de 4B ou 9B no seu próprio hardware. Alimentá-lo com sua escrita, suas preferências, sua terminologia, seu estilo. Obter algo mais personalizado do que qualquer modelo genérico. Isso é possível em um MacBook. Leva tempo, mas não é um exercício teórico. Para tarefas específicas e pessoais onde você sabe exatamente o que quer que o modelo faça, um modelo pequeno com fine-tuning pode superar um modelo maior de uso geral.
O Experimento no iPhone
O experimento no iPhone foi mais por curiosidade do que por utilidade imediata. Mas acabou sendo a parte que mais me surpreendeu.
O aplicativo que usei se chama PocketPal AI (gratuito na App Store). É um aplicativo de código aberto que permite baixar e rodar modelos de linguagem diretamente no seu iPhone, completamente local. Você navega pelos modelos do Hugging Face, baixa via Wi-Fi uma vez e depois os executa sem necessidade de internet. A maneira mais simples de verificar se está funcionando: ative o modo avião, depois pergunte algo ao modelo. Ele responde. Nada saiu do seu telefone.
Executei o Qwen com 0,8 bilhão e 2 bilhões de parâmetros no meu iPhone 17 Pro. A configuração é simples:
- Instale o PocketPal AI na App Store
- Abra o aplicativo, vá ao navegador de modelos
- Pesquise por Qwen e baixe uma variante pequena (0,5B ou 1,5B para telefones mais antigos, 2B para os mais novos como o 17 Pro)
- Comece a conversar, depois ative o modo avião para confirmar que é totalmente local
A pergunta óbvia não era "isso é tão bom quanto o Claude?" mas simplesmente "é possível colocar algo localmente útil em um telefone?" A resposta é sim, mas com limites claros. Esses são modelos minúsculos. Eles lidam com tarefas básicas de texto e respostas a perguntas curtas com qualidade razoável. Eles não vão ajudá-lo a construir um aplicativo da noite para o dia. Mas eles rodam. Totalmente no dispositivo. Completamente local.
A implicação mais interessante aqui não é a capacidade do modelo. É o sinal do hardware. Um iPhone rodando um LLM local em 2026 significa que os smartphones agora são potentes o suficiente para fazer isso. Isso é significativo. Não porque o modelo de 0,8B seja impressionante, mas porque o hardware que já está no seu bolso cruzou um limiar.
O ângulo da privacidade também é real. Quando nada sai do seu dispositivo, você não precisa pensar sobre o que está enviando para onde. Sem termos de serviço governando suas consultas. Sem logs de API. Apenas você e os pesos rodando no seu silício. Venho pensando nisso desde que perdi o acesso a seis meses de dados de voz quando um serviço de IA na nuvem foi banido na UE. Local é um tipo diferente de resiliência.
O Ângulo do Custo
Aqui está a razão prática pela qual isso importa além do interesse técnico: as assinaturas de IA se acumulam rapidamente quando você está executando muitas tarefas de agente. Isso não é hipotético. Eu acompanho meu uso de perto.
Nem toda tarefa requer o Opus. Muito do trabalho de agente é genuinamente simples: ler um arquivo, formatar algo, resumir uma nota curta, responder a uma pergunta factual a partir do contexto. Roteir essas tarefas para um modelo local em vez de um modelo de fronteira muda a matemática consideravelmente.
A próxima versão do Haiku é algo que estou observando de perto. Ela continua melhorando e o custo continua caindo. Os modelos locais estão seguindo a mesma trajetória, apenas em uma camada diferente.
Para Onde Isso Vai
Acho que o futuro da IA envolve muito mais computação local do que a conversa atual sugere.
A forma que vejo: modelos na nuvem para as coisas difíceis. Raciocínio complexo, trabalho criativo, decisões arquiteturais, coisas que exigem direção e visão reais. Mas para as centenas de pequenas tarefas cognitivas que ocorrem em um sistema de agente todos os dias, os modelos locais se tornarão bons o suficiente para que o roteamento faça sentido.
O argumento do hardware também é importante aqui. Olhe para os últimos quatro anos de silício de consumo. M1, M2, M3, M4, M5. Cada geração significativamente mais rápida e mais eficiente em termos de memória que a anterior. A trajetória em ambos os lados, modelos melhores e hardware melhor, está apontando para o mesmo lugar. Daqui a alguns anos, os laptops que as pessoas já possuem rodarão modelos que parecerão visivelmente mais capazes do que os que executei esta semana.
Minha previsão aproximada: em três anos, haverá modelos locais ajustados para casos de uso específicos que realmente competirão com os modelos de fronteira de hoje nessas tarefas específicas. Não em raciocínio geral. Não em síntese criativa. Mas em "fazer essa coisa específica que me importa, rapidamente, de forma privada, sem conexão com a internet". Essa é uma categoria muito real e útil.
Há também um ângulo ambiental que não é discutido o suficiente. O custo de energia e infraestrutura de uma consulta atingindo um data center é ordens de magnitude maior do que a mesma inferência rodando em silício local. Se a maioria das tarefas rotineiras de IA migrar para o local, a equação de recursos muda. Não resolvida, mas significativamente diferente.
Neste momento, as compensações são claras: os modelos locais são limitados, o fine-tuning exige esforço, e a lacuna de capacidade com os modelos de fronteira é real. Mas a direção da jornada não é ambígua. A lacuna está se fechando. Testei esta semana em hardware que tenho há anos, e funcionou bem o suficiente para me fazer pensar sobre onde roteio tarefas.
Se você está curioso: instale o Ollama, baixe o Qwen 3.6 em 9B e tente algo simples no seu fluxo de trabalho. A experiência é diferente de executar um benchmark. É surpreendentemente real.
Se isso foi útil - siga meu canal no telegram:
