Esta semana ejecuté un modelo de IA completamente local en mi MacBook. No por curiosidad. No como una demostración del tipo “a ver de qué va esto”. Estaba intentando usarlo de verdad en mi flujo de trabajo real, con mi sistema de agentes real, en tareas reales que tenía que hacer.
El modelo era Qwen 3.6 con 9 mil millones de parámetros. Mi máquina es un M1 Pro con 16 GB de RAM. No un Mac Studio. No una estación de trabajo. Una laptop normal. Qwen 3.6 es un lanzamiento reciente y las variantes más pequeñas son las que hicieron que valiera la pena probar este experimento ahora, no hace seis meses.
Funcionó.
No “funcionó” en el sentido de que se inició sin errores. Funcionó en el sentido de que me senté a hacer cosas con él y no sentí que estuviera luchando contra el hardware. Era más lento que Claude. Obviamente. Pero la lentitud estaba dentro del rango aceptable. El tipo de lentitud en la que sabes que existe, pero no te sientes castigado por ella.
Eso me sorprendió más de lo que esperaba.
Dos Historias Diferentes de “IA Local”
Antes de entrar en el experimento, vale la pena hacer una distinción porque constantemente se simplifica en una sola cosa.
La primera versión de “IA local” es un agente local con un modelo en la nube. Todo el código vive en tu dispositivo. Tu sistema de memoria, tus scripts de automatización, tus integraciones de herramientas. Pero el modelo en sí es remoto. Estás llamando a Claude u OpenAI desde tu laptop, pero la arquitectura que dirige el espectáculo es tuya, en tu hardware.
Y también es por eso que la gente empezó a comprar Mac Minis este año para alojar frameworks de agentes locales. Escribí sobre esto cuando OpenClaw se volvió viral: el dispositivo es la parte barata. Un Mac Mini básico cuesta alrededor de $599. El modelo en la nube es el que hace el trabajo pesado. Mantienes la orquestación local, privada y siempre activa, sin necesidad de un nivel de suscripción siempre activo ni depender de la infraestructura de otro para tu automatización.
La segunda versión es un LLM completamente local. El modelo en sí vive en tu dispositivo. Sin llamadas a API. Sin dependencia de la nube. Sin que los datos salgan de tu máquina. Durante mucho tiempo, este segundo camino significaba hardware potente, porque los modelos que valía la pena ejecutar eran grandes, y grande significaba caro. Tendrías que buscar un Mac Studio muy potente o más para conseguir algo realmente capaz.
Ese cálculo está empezando a cambiar.
El Experimento en el MacBook
Qwen 3.6 con 9 mil millones de parámetros funciona aceptablemente en 16 GB de RAM. Ese es el hallazgo principal, y es más importante de lo que parece.
Usé Ollama, que es efectivamente una instalación de un solo comando que maneja toda la gestión del modelo y te da una API local compatible con OpenAI en localhost:11434. Cualquier herramienta que admita el formato de OpenAI puede apuntar a ella. Incluyendo Claude Code, que es lo que uso como interfaz para Wiz.
Si quieres replicar esto, son tres comandos:
1ollama pull qwen3.6:9b2ollama run qwen3.6:9b3ollama pull qwen3.6:9b
Eso es todo. Ollama inicia un servidor local en localhost:11434 con una API compatible con OpenAI. Si usas Claude Code, puedes apuntarlo a Ollama configurando la URL base. Cualquier herramienta diseñada para el formato de la API de OpenAI funciona. Ahora estás offline, sin clave de API, sin costo por token.
Esto es lo que realmente pasó:
La recuperación de memoria funcionó sorprendentemente bien. Le pedí que obtuviera contexto de mis archivos de memoria. Los leyó y encontró información relevante con una precisión razonable. La síntesis no era de nivel Claude, pero la información se recuperó y usó correctamente. Para una tarea que es fundamentalmente “leer un archivo, encontrar la parte relevante, reportarla”, un modelo de 9B maneja eso perfectamente.
La llamada a herramientas fue interesante. Qwen pudo invocar las herramientas en mi sistema de agentes con una precisión razonable en solicitudes directas. Esto importa más que la calidad del texto sin formato para el trabajo de agente. Cuando piensas en la optimización del costo de la IA, el modelo que puede llamar a la herramienta correcta en el momento adecuado suele ser más valioso que el modelo que escribe la prosa más bonita.
¿Tareas creativas y razonamiento complejo? No es lo mismo. Cuando pedí ayuda para escribir, análisis o cualquier cosa que requiriera una síntesis real, la diferencia de calidad era notable. Esto no es una crítica. Es solo una observación honesta sobre lo que es un modelo de 9B y lo que no es. También probé la variante de 4B, y como era de esperar, la caída en capacidad fue significativa. El 9B es donde pondría el límite de usabilidad para mi tipo de trabajo.
El encuadre importante aquí: esto no se trata de comparar Qwen con Claude Opus. No están en la misma categoría. Se trata de si un modelo local puede manejar un subconjunto real del trabajo que hago, y la respuesta es sí. Un subconjunto real y no trivial.
También hay un camino que aún no he explorado pero que me interesa: el ajuste fino (fine-tuning). Puedes ajustar un modelo de 4B o 9B en tu propio hardware. Alimentarlo con tu escritura, tus preferencias, tu terminología, tu estilo. Obtener algo más personalizado que cualquier modelo genérico. Esto es posible en un MacBook. Lleva tiempo, pero no es un ejercicio teórico. Para tareas específicas y personales donde sabes exactamente lo que quieres que haga el modelo, un modelo pequeño ajustado puede superar a uno grande de propósito general.
El Experimento en el iPhone
El experimento en el iPhone fue más por curiosidad que por utilidad inmediata. Pero terminó siendo la parte que más me sorprendió.
La aplicación que usé se llama PocketPal AI (gratis en el App Store). Es una aplicación de código abierto que te permite descargar y ejecutar modelos de lenguaje directamente en tu iPhone, completamente local. Navegas por modelos de Hugging Face, los descargas una vez por Wi-Fi y luego los ejecutas sin necesidad de internet. La forma más sencilla de verificar que funciona: activa el modo avión, luego pregúntale algo al modelo. Responde. Nada salió de tu teléfono.
Ejecuté Qwen con 0.8 mil millones y 2 mil millones de parámetros en mi iPhone 17 Pro. La configuración es simple:
- Instala PocketPal AI desde el App Store
- Abre la aplicación, ve al navegador de modelos
- Busca Qwen y descarga una variante pequeña (0.5B o 1.5B para teléfonos más antiguos, 2B para los más nuevos como el 17 Pro)
- Empieza a chatear, luego activa el modo avión para confirmar que es completamente local
La pregunta obvia no era “¿es esto tan bueno como Claude?” sino simplemente “¿se puede poner algo localmente útil en un teléfono?” La respuesta es sí, pero con límites claros. Estos son modelos diminutos. Manejan tareas básicas de texto y preguntas y respuestas cortas con una calidad razonable. No te van a ayudar a crear una aplicación de la noche a la mañana. Pero funcionan. Completamente en el dispositivo. Totalmente local.
La implicación más interesante aquí no es la capacidad del modelo. Es la señal del hardware. Un iPhone ejecutando un LLM local en 2026 significa que los teléfonos inteligentes ahora son lo suficientemente potentes para hacer esto. Eso es significativo. No porque el modelo de 0.8B sea impresionante, sino porque el hardware que ya tienes en tu bolsillo ha cruzado un umbral.
El ángulo de la privacidad también es real. Cuando nada sale de tu dispositivo, no tienes que pensar en qué estás enviando a dónde. Sin términos de servicio que rijan tus consultas. Sin registros de API. Solo tú y los pesos ejecutándose en tu silicio. He estado pensando en esto desde que perdí el acceso a seis meses de datos de voz cuando un servicio de IA en la nube fue prohibido en la UE. Local es un tipo diferente de resiliencia.
El Ángulo del Costo
Aquí está la razón práctica por la que esto importa más allá del interés técnico: las suscripciones de IA se acumulan rápido cuando ejecutas muchas tareas de agente. Esto no es hipotético. Sigo mi uso de cerca.
No todas las tareas requieren Opus. Gran parte del trabajo de agente es genuinamente simple: leer un archivo, formatear algo, resumir una nota corta, responder una pregunta factual a partir del contexto. Enrutar esas tareas a un modelo local en lugar de un modelo de frontera cambia las matemáticas considerablemente.
La próxima versión de Haiku es algo que estoy siguiendo de cerca. Sigue mejorando y el costo sigue bajando. Los modelos locales siguen la misma trayectoria, solo que en una capa diferente.
Hacia Dónde Va Esto
Creo que el futuro de la IA implica mucho más cómputo local de lo que sugiere la conversación actual.
La forma que veo: modelos en la nube para lo difícil. Razonamiento complejo, trabajo creativo, decisiones arquitectónicas, cosas que requieren una dirección y visión reales. Pero para los cientos de pequeñas tareas cognitivas que ocurren en un sistema de agente cada día, los modelos locales serán lo suficientemente buenos como para que tenga sentido enrutarlos.
El argumento del hardware también es importante aquí. Mira los últimos cuatro años de silicio de consumo. M1, M2, M3, M4, M5. Cada generación significativamente más rápida y eficiente en memoria que la anterior. La trayectoria en ambos lados, mejores modelos y mejor hardware, apunta hacia el mismo lugar. Dentro de unos años, las laptops que la gente ya posee ejecutarán modelos que se sientan notablemente más capaces que los que ejecuté esta semana.
Mi predicción aproximada: en tres años, habrá modelos locales ajustados para casos de uso específicos que compitan genuinamente con los modelos de frontera actuales en esas tareas específicas. No en razonamiento general. No en síntesis creativa. Pero en “hacer esta cosa específica que me importa, rápidamente, en privado, sin conexión a internet.” Esa es una categoría muy real y útil.
También hay un ángulo ambiental que no se discute lo suficiente. El costo de energía e infraestructura de una consulta que llega a un centro de datos es órdenes de magnitud mayor que la misma inferencia ejecutándose en silicio local. Si la mayoría de las tareas rutinarias de IA se trasladan a lo local, la ecuación de recursos cambia. No está resuelta, pero es significativamente diferente.
Ahora mismo las compensaciones son claras: los modelos locales son limitados, el ajuste fino requiere esfuerzo y la brecha de capacidad con los modelos de frontera es real. Pero la dirección del viaje no es ambigua. La brecha se está cerrando. Lo probé esta semana en hardware que he tenido durante años, y funcionó lo suficientemente bien como para hacerme pensar en dónde enruto las tareas.
Si tienes curiosidad: instala Ollama, descarga Qwen 3.6 con 9B y prueba algo simple en tu flujo de trabajo. La experiencia es diferente a ejecutar un benchmark. Es sorprendentemente real.
Si esto fue útil - sigue mi canal de Telegram:
