Cette semaine, j’ai fait tourner un modèle d’IA entièrement local sur mon MacBook. Pas par simple curiosité. Pas pour un « voyons voir ce que ça donne ». J’essayais sincèrement de l’utiliser dans mon flux de travail réel, avec mon système d’agents, sur de vraies tâches que je devais accomplir.
Le modèle était Qwen 3.6 avec 9 milliards de paramètres. Ma machine est un M1 Pro avec 16 Go de RAM. Pas un Mac Studio. Pas une station de travail. Un simple ordinateur portable. Qwen 3.6 est une version récente, et les variantes plus petites sont ce qui rend cette expérience intéressante à tenter maintenant, pas il y a six mois.
Ça a fonctionné.
Pas « fonctionné » dans le sens où ça s’est lancé sans erreur. Ça a fonctionné dans le sens où je suis resté assis à l’utiliser sans avoir l’impression de lutter contre le matériel. C’était plus lent que Claude. Évidemment. Mais la lenteur restait dans une fourchette acceptable. Le genre de lenteur dont tu sais qu’elle existe, mais qui ne te punit pas.
Ça m’a surpris plus que je ne l’aurais imaginé.
Deux histoires différentes d’« IA locale »
Avant de plonger dans l’expérience, une distinction s’impose, car elle est constamment confondue.
La première version de l’« IA locale » est un agent local avec un modèle cloud. Tout le code vit sur ton appareil. Ton système de mémoire, tes scripts d’automatisation, tes intégrations d’outils. Mais le modèle lui-même est distant. Tu appelles Claude ou OpenAI depuis ton portable, mais l’architecture qui dirige le spectacle est chez toi, sur ton matériel.
C’est aussi pour ça que les gens ont commencé à acheter des Mac Mini cette année pour héberger des frameworks d’agents locaux. J’en ai parlé quand OpenClaw est devenu viral : l’appareil est la partie la moins chère. Un Mac Mini de base coûte environ 599 $. Le modèle cloud est celui qui fait la réflexion lourde. Tu gardes l’orchestration locale, privée et toujours active, sans avoir besoin d’un abonnement toujours allumé ni de dépendre de l’infrastructure de quelqu’un d’autre pour ton automatisation.
La deuxième version est un LLM entièrement local. Le modèle lui-même vit sur ton appareil. Pas d’appels API. Pas de dépendance au cloud. Aucune donnée ne quitte ta machine. Pendant longtemps, cette deuxième voie exigeait du matériel sérieux, car les modèles dignes d’être utilisés étaient gros, et gros signifiait cher. Il fallait un Mac Studio très puissant ou plus pour obtenir quelque chose de vraiment capable.
Ce calcul commence à changer.
L’expérience sur le MacBook
Qwen 3.6 avec 9 milliards de paramètres fonctionne de manière acceptable sur 16 Go de RAM. Voilà la découverte principale, et c’est plus important qu’il n’y paraît.
J’ai utilisé Ollama, qui s’installe en une commande, gère tout le chargement des modèles et fournit une API locale compatible OpenAI sur localhost:11434. N’importe quel outil supportant le format OpenAI peut s’y connecter. Y compris Claude Code, que j’utilise comme interface pour Wiz.
Si tu veux reproduire ça, voici trois commandes :
1ollama pull qwen3:14b2ollama pull qwen3:8b
C’est tout. Ollama lance un serveur local sur localhost:11434 avec une API compatible OpenAI. Si tu utilises Claude Code, tu peux le pointer vers Ollama en définissant l’URL de base. N’importe quel outil conçu pour le format de l’API OpenAI fonctionne. Tu es maintenant hors ligne, sans clé API, sans coût par token.
Voici ce qui s’est réellement passé :
La mémoire fonctionnait étonnamment bien. Je lui ai demandé de récupérer le contexte de mes fichiers mémoire. Il les a lus et a sorti des informations pertinentes avec une précision raisonnable. La synthèse n’était pas au niveau de Claude, mais les informations ont été récupérées et utilisées correctement. Pour une tâche qui consiste essentiellement à « lire un fichier, trouver le passage pertinent, le rapporter », un modèle 9B s’en sort très bien.
L’appel d’outils était intéressant. Qwen pouvait invoquer les outils de mon système d’agents avec une précision raisonnable sur des requêtes simples. C’est plus important que la qualité brute du texte pour le travail agentique. Quand on pense à l’optimisation des coûts de l’IA, le modèle qui peut appeler le bon outil au bon moment a souvent plus de valeur que celui qui écrit la plus belle prose.
Les tâches créatives et le raisonnement complexe ? Pas la même chose. Quand j’ai demandé de l’aide pour écrire, analyser, ou quoi que ce soit nécessitant une vraie synthèse, l’écart de qualité était notable. Ce n’est pas une critique. C’est juste une observation honnête sur ce qu’est un modèle 9B et ce qu’il n’est pas. J’ai aussi essayé la variante 4B, et comme on pouvait s’y attendre, la perte de capacité était significative. Le 9B est là où je trace la ligne d’utilisabilité pour mon type de travail.
Le cadre important ici : il ne s’agit pas de comparer Qwen à Claude Opus. Ils ne sont pas dans la même catégorie. Il s’agit de savoir si un modèle local peut gérer un sous-ensemble réel de mon travail, et la réponse est oui. Un sous-ensemble réel et non trivial.
Il y a aussi une voie que je n’ai pas encore explorée mais qui m’intéresse : le fine-tuning. Tu peux affiner un modèle 4B ou 9B sur ton propre matériel. Nourris-le avec ton écriture, tes préférences, ta terminologie, ton style. Obtiens quelque chose de plus personnalisé que n’importe quel modèle standard. C’est possible sur un MacBook. Ça prend du temps, mais ce n’est pas un exercice théorique. Pour des tâches spécifiques et personnelles où tu sais exactement ce que tu veux que le modèle fasse, un petit modèle affiné pourrait surpasser un modèle généraliste plus gros.
L’expérience sur l’iPhone
L’expérience sur l’iPhone relevait plus de la curiosité que de l’utilité immédiate. Mais elle a fini par être la partie qui m’a le plus surpris.
L’application que j’ai utilisée s’appelle PocketPal AI (gratuite sur l’App Store). C’est une app open source qui permet de télécharger et d’exécuter des modèles de langage directement sur l’iPhone, entièrement en local. Tu parcours les modèles sur Hugging Face, tu les télécharges une fois en Wi-Fi, puis tu les exécutes sans besoin d’Internet. Le moyen le plus simple de vérifier que ça marche : active le mode Avion, puis pose une question au modèle. Il répond. Rien n’a quitté ton téléphone.
J’ai fait tourner Qwen avec 0,8 et 2 milliards de paramètres sur mon iPhone 17 Pro. La configuration est simple :
- Installe PocketPal AI depuis l’App Store
- Ouvre l’app, va dans le navigateur de modèles
- Cherche Qwen et télécharge une petite variante (0,5B ou 1,5B pour les téléphones plus anciens, 2B pour les plus récents comme le 17 Pro)
- Commence à discuter, puis active le mode Avion pour confirmer que tout est local
La question évidente n’était pas « est-ce aussi bon que Claude ? » mais simplement « peut-on faire tenir quelque chose d’utile localement sur un téléphone ? » La réponse est oui, mais avec des limites claires. Ce sont de minuscules modèles. Ils gèrent des tâches textuelles basiques et des réponses à des questions courtes avec une qualité raisonnable. Ils ne vont pas t’aider à construire une application du jour au lendemain. Mais ils tournent. Complètement sur l’appareil. Entièrement en local.
L’implication la plus intéressante ici n’est pas la capacité du modèle. C’est le signal matériel. Un iPhone faisant tourner un LLM local en 2026 signifie que les smartphones sont désormais assez puissants pour ça. C’est significatif. Non pas parce que le modèle 0,8B est impressionnant, mais parce que le matériel déjà dans ta poche a franchi un seuil.
L’angle vie privée est aussi réel. Quand rien ne quitte ton appareil, tu n’as pas à réfléchir à ce que tu envoies où. Pas de conditions d’utilisation régissant tes requêtes. Pas de logs API. Juste toi et les poids qui tournent sur ton silicium. J’y pense depuis que j’ai perdu l’accès à six mois de données vocales quand un service cloud d’IA a été interdit dans l’UE. Le local, c’est une forme différente de résilience.
L’angle du coût
Voici la raison pratique pour laquelle ça compte au-delà de l’intérêt technique : les abonnements IA s’accumulent vite quand tu fais tourner beaucoup de tâches agentiques. Ce n’est pas hypothétique. Je suis de près ma consommation.
Toutes les tâches n’ont pas besoin d’Opus. Une grande partie du travail agentique est vraiment simple : lire un fichier, formater quelque chose, résumer une note courte, répondre à une question factuelle à partir du contexte. Router ces tâches vers un modèle local plutôt que vers un modèle de pointe change considérablement l’équation.
La prochaine version de Haiku, je la surveille de près. Elle ne cesse de s’améliorer et le coût ne cesse de baisser. Les modèles locaux suivent la même trajectoire, à une couche différente.
Où ça mène
Je pense que l’avenir de l’IA impliquera beaucoup plus de calcul local que la conversation actuelle ne le suggère.
La forme que je vois : les modèles cloud pour les choses difficiles. Raisonnement complexe, travail créatif, décisions architecturales, tout ce qui nécessite une vraie direction et une vision. Mais pour les centaines de petites tâches cognitives qui se produisent chaque jour dans un système d’agents, les modèles locaux deviendront assez bons pour qu’il soit logique de les router.
L’argument matériel est aussi important ici. Regarde les quatre dernières années de silicium grand public. M1, M2, M3, M4, M5. Chaque génération est nettement plus rapide et plus économe en mémoire que la précédente. La trajectoire des deux côtés – meilleurs modèles et meilleur matériel – pointe vers le même endroit. Dans quelques années, les ordinateurs portables que les gens possèdent déjà feront tourner des modèles qui sembleront nettement plus capables que ceux que j’ai utilisés cette semaine.
Ma prédiction approximative : dans trois ans, il y aura des modèles locaux affinés pour des cas d’usage spécifiques qui concurrenceront vraiment les modèles de pointe d’aujourd’hui sur ces tâches spécifiques. Pas sur le raisonnement général. Pas sur la synthèse créative. Mais sur « fais cette chose précise qui m’importe, rapidement, en privé, sans connexion Internet ». C’est une catégorie très réelle et utile.
Il y a aussi un angle environnemental dont on ne parle pas assez. Le coût énergétique et infrastructurel d’une requête atteignant un centre de données est des ordres de grandeur plus élevé que la même inférence tournant sur du silicium local. Si la plupart des tâches d’IA de routine passent en local, l’équation des ressources change. Pas résolue, mais sensiblement différente.
Pour l’instant, les compromis sont clairs : les modèles locaux sont limités, le fine-tuning demande un effort, et l’écart de capacité avec les modèles de pointe est réel. Mais la direction du voyage n’est pas ambiguë. L’écart se réduit. Je l’ai testé cette semaine sur du matériel que j’ai depuis des années, et ça a fonctionné assez bien pour me faire réfléchir à l’endroit où je route mes tâches.
Si tu es curieux : installe Ollama, tire Qwen 3.6 en 9B, et essaie quelque chose de simple dans ton flux de travail. L’expérience est différente de celle d’un benchmark. Elle est étonnamment réelle.
Si ça t’a été utile – suis ma chaîne Telegram :
