미래는 로컬에 있습니다.
지금 제 책상 위에는 3대의 Mac Studio가 OpenClaw를 구동하고 있습니다. 모두 Qwen 3.5를 실행 중인데, Sonnet 4.5와 거의 동등한 수준의 매우 뛰어난 로컬 모델입니다. 토큰 제한 없고, 속도 제한도 없으며, 컴퓨터에 공급되는 전력 비용만 들 뿐입니다.
100% 프라이빗. AI 회사가 읽거나 새 모델을 훈련하는 데 사용할 수 있는 클라우드 서버로 전송되는 것이 전혀 없습니다. 모든 것이 기기에 남아 있습니다. Wi-Fi를 꺼도 계속 작동합니다.
이것이 미래입니다. 책상 위에 놓인 개인적이고 프라이빗하며 무제한의 초지능이 24/7 여러분을 위해 작업하는 것입니다.
하지만 중요한 점은, 이것이 반드시 미래일 필요는 없다는 것입니다. 지금이 될 수도 있습니다. 그리고 이를 위해 10,000달러짜리 Mac Studio가 필요하지 않습니다. 지금 Mac Mini로도 가능합니다. 오늘, 바로 지금.
Qwen 3.5는 며칠 전에 출시되었으며 혁신적입니다. Sonnet 4.5 수준의 초지능이지만 32GB 메모리에 들어맞습니다.
즉, 기본 모델보다 한 단계 위의 Mac Mini가 있다면 이 로컬 모델을 설치하고, 6개월 전에는 혁신적이었던 무제한의 Sonnet 4.5 수준 지능을 책상 위에서 OpenClaw를 24/7 구동할 수 있습니다.
제한 없음. Anthropic이 내쫓지 않음. API 수수료 없음. 모두 프라이빗.
6개월 전의 프론티어 수준 지능. 책상 위에서. 항상 작동.
이것은 혁신적입니다.
현재 OpenClaw에 대한 가장 큰 불만은 제한과 가격입니다. Anthropic API를 연결하면 매달 수천 달러의 수수료를 지출하고 계속 제한에 부딪힐 수 있습니다. 이것이 그 문제를 해결합니다.
비용을 절약할 뿐만 아니라 훨씬 더 많은 사용 사례를 열어줍니다. 이제 제한이 없으므로 에이전트를 24/7/365 실행할 수 있습니다. 이것은 AI와의 관계를 완전히 바꿉니다.
이제 챗봇처럼 주고받는 대화가 아니라, 에이전트가 끊임없이 가치를 창출하고, 스스로 개선하며, 새로운 작업을 찾는 수동적이고 주변적인 관계가 됩니다. API를 사용할 때는 결코 불가능했던 일들입니다.
예를 들어, 지금 저는 에이전트들이 작업하는 SaaS 공장을 운영하고 있습니다:
4개의 OpenClaw 에이전트가 동일한 제품에서 동기화되어 개별 작업을 수행합니다. 에이전트가 작업을 완료하면 새로운 작업을 찾습니다. 필요하면 스스로 작업을 만들 수도 있습니다.
또 다른 에이전트(Ralph)는 에이전트들이 수행하는 모든 작업을 QA합니다. 에이전트 중 하나가 실수하면 Ralph가 그들의 기억을 편집하고 개선합니다.
완전한 폐쇄 루프, 자가 개선 시스템입니다. API를 사용했다면 매달 수천 달러가 들었을 것입니다. 로컬 모델(Qwen 및 MiniMax)을 사용하면 완전히 무료입니다(전력 비용만 들며, Mac 컴퓨터에서는 매우 효율적입니다).
이전에는 결코 불가능했던 완전히 새로운 사용 사례가 열렸습니다. 1인 비즈니스로서는 상상도 못했던 힘을 제공합니다.
여러분도 이렇게 할 수 있습니다. Mac Mini를 사용하더라도 에이전트 팀이 지속적으로 작업하고 개선하도록 할 수 있습니다.
로컬 모델 설정 및 실행
Qwen 3.5(앞서 논의한 모델)를 실행하려면 최소 32GB 메모리의 Mac Mini가 필요합니다. 모델은 20GB 메모리만 필요하지만, 다른 작업을 수행할 수 있도록 약간의 여유 공간이 필요합니다.
기본 16GB Mac Mini만 있다면 괜찮습니다. 이 모델은 실행할 수 없지만, 여전히 실행할 수 있는 더 작은 모델이 있습니다. 프론티어 수준 지능은 아니지만, 일부 소규모 작업을 로컬 모델에 오프로드할 수 있습니다.
32GB 이상의 메모리를 가진 컴퓨터에서 Qwen 3.5-35B-A3B를 설정하는 방법은 다음과 같습니다:
- LM Studio 다운로드 — lmstudio.ai (http://lmstudio.ai/http://lmstudio.ai/)), 무료, Applications 폴더로 드래그
- Qwen3.5-35B-A3B-4bit 검색 — Discover 탭에서 "Qwen3.5-35B-A3B"를 검색하고 4-bit MLX 버전을 선택
- 다운로드 — 약 20GB, 적절한 인터넷 연결에서 몇 분 소요
- 모델 로드 — 사이드바에서 클릭하고 Load를 누릅니다. 완료. 이제 로컬 AI가 실행 중입니다.
- 사용 — OpenClaw에 연결하도록 요청합니다. LM Studio에 다운로드했으며 모델을 도구로 사용하고 싶다고 말합니다.
32GB 미만 메모리(예: 기본 모델 Mac Mini)를 사용하는 경우, OpenClaw에 "내 하드웨어에서 실행할 수 있는 최고의 로컬 모델은 무엇이며, 우리가 수행하는 일부 작업을 오프로드하거나 메모리 시스템을 개선하는 데 도움이 될까요?"라고 물어보는 것을 추천합니다.
사용 시기
이 모델은 6~12개월 전의 프론티어지만, 오늘날의 프론티어는 아닙니다. 그래서 제 추천은: Anthropic 또는 ChatGPT를 OpenClaw의 두뇌로 사용하고, 로컬 모델을 근육으로 사용하도록 하는 것입니다.
프론티어 모델이 모든 것을 계획한 다음, 로컬 모델을 사용하여 실행합니다.
실행이 토큰 사용량의 90%를 차지하므로, 이 방법으로 엄청난 비용을 절약할 수 있습니다.
두 세계의 장점을 결합한 하이브리드 모델을 제공합니다.
또한 로컬 지능을 실험하고 AI에 대해 더 많이 배울 수 있는 이점을 제공합니다. 원할 때 데이터를 프라이빗하게 유지할 수도 있습니다.
또한 올해 다가올 것이라고 믿는 로컬 미래를 준비할 수 있습니다.
연말까지 단일 Mac Studio 또는 Mac Mini에서 실행할 수 있는 Opus 4.6 수준의 모델이 나올 것이라고 믿습니다. 그리고 그렇게 되면 세상은 가능성을 깨닫게 될 것입니다.
좋은 소식은: 여기서 행동을 취하면 다른 모든 사람들보다 앞서게 될 것이며, 그것이 항상 거대한 기회가 있는 곳입니다.
