Kimi 2.6가 Claude와 GPT를 느리게 보이게 만드는 이유

@defileo
영어2개월 전 · 2026년 5월 20일
1.2M
65
9
1
200

TL;DR

Kimi 2.6은 단일 에이전트 모델의 컨텍스트 붕괴 문제를 해결하기 위해 300개의 서브 에이전트로 구성된 '에이전트 스웜(Agent Swarm)' 아키텍처를 도입하여, 압도적인 속도 향상과 10배 낮은 비용을 실현했습니다.

3주 전 저는 Kimi K2.5에 대한 소개글을 쓰면서, 대부분의 사람들이 간과하고 있는 모델이라고 언급했습니다.

그 글이 공개된 후 사람들이 사용해 보았고, 그중 절반이 같은 질문을 가지고 돌아왔습니다.

"좋아, 그런데 이걸 실제 업무에 어떻게 써먹어?"

이번 글은 그 답변입니다. 소개글보다 더 깊이 들어가고, 피상적인 내용은 줄이며, 더 실질적인 전략을 담았습니다.

새로운 기능, 대부분의 운영자가 모르는 네 가지 모드, 오늘 당장 복사해서 테스트해볼 프롬프트, 그리고 아직 아무도 쓰지 않은 활용 사례까지.

첫 번째 글을 읽으셨다면, 바로 이 후속편을 원하셨을 겁니다. 읽지 않으셨다면, 빠르게 따라오실 수 있습니다.

빠른 요약...

Kimi K2.5는 Moonshot AI의 오픈소스 모델로, 2026년 4월 20일에 출시되었습니다. 무료로 사용할 수 있으며, API를 통한 입력 토큰 100만 개당 약 0.55~0.80달러로, 같은 작업에 대해 Claude보다 출력량에 따라 약 7~10배 저렴합니다.

기술적인 핵심은 100개의 하위 에이전트가 1,500개의 조정된 단계를 병렬로 실행한다는 것입니다.

이것이 바로 에이전트 스웜(Agent Swarm)입니다. 하나의 프롬프트 → 수백 개의 에이전트가 동시에 작업하고, 하나의 오케스트레이터가 결과를 통합합니다.

이 핵심 수치에 대해 대부분의 글은 거기서 멈추지만, 진짜 이야기는 왜 이런 아키텍처가 존재하는지에 있습니다.

단일 에이전트 AI가 구조적 한계에 부딪힌 이유

이것은 Moonshot의 관점이지 제 의견이 아닙니다. 그리고 어떤 튜토리얼보다 강력하게 와닿습니다.

3년 동안 AI 업계는 망치를 다듬어 왔습니다. 더 빠른 추론, 더 긴 컨텍스트, 더 저렴한 토큰. 모든 릴리스는 도구를 조금 더 좋게 만드는 데 초점이 맞춰져 있었습니다.

문제는 목수에게 여전히 두 손과 하루 24시간밖에 없다는 것입니다. 병목 현상이 망치 자체에 있지 않았다면, 더 좋은 망치는 도움이 되지 않습니다.

대부분의 사람들이 놓치는 부분이 바로 여기 있습니다. 단일 에이전트 딥 리서치 도구에 100개 기업을 조사하거나 수십 편의 논문을 종합하도록 요청해보세요.

작업이 길어질수록 컨텍스트 윈도우가 가득 차고, 시스템은 새로운 토큰을 위한 공간을 확보하기 위해 히스토리 폴딩이나 요약에 의존하게 됩니다.

이런 압축은 손실이 발생하며, 이후의 모든 추론 단계는 점점 더 나빠집니다.

Defileo🔮 - inline image

이것은 버그나 일시적인 제한이 아닙니다. 이는 단일 에이전트 순차 실행 모델 자체에 내재된 구조적 한계입니다. 더 똑똑한 모델로는 고칠 수 없습니다. 아키텍처 자체를 포기해야만 해결할 수 있습니다.

바로 그것이 에이전트 스웜의 의미입니다. 더 나은 단일 에이전트가 아니라, 작업장 전체를 재구성하는 것입니다.

K2.5에는 100개의 하위 에이전트와 1,500개의 조정된 단계가 있었습니다. K2.5에는 300개의 하위 에이전트와 4,000개의 단계가 있습니다.

장기적인 작업에 대한 실제 결과는 동일한 작업에서 순차적 에이전트보다 최대 4.5배 빠른 실행 속도를 보여주며, 스웜이 단일 에이전트를 무너뜨리는 컨텍스트 붕괴를 구조적으로 방지하기 때문에 최종 품질도 더 높습니다.

핵심 수치는 실제이며, 이것이 중요한 이유는 병목 현상이 이동했기 때문입니다.

에이전트 스웜은 스스로 설계하는 조직입니다

Moonshot의 연구 게시글에서 거의 누구도 인용하지 않는 문장입니다:

"이것은 많은 AI 에이전트가 함께 협력하는 이야기가 아닙니다. 우리가 구축하는 것은 상사, 직원, 업무 분담이 있는 조직 구조입니다. 단, 이 조직은 인간이 설계하지 않습니다. 스스로 설계합니다."

에이전트 스웜에게 목표를 제시할 때, 당신은 어시스턴트에게 명령하는 것이 아닙니다. 당신은 CEO를 고용하는 것입니다. 그 CEO는 연구자, 분석가, 팩트체커를 스스로 찾습니다.

당신은 세세하게 관리하지 않습니다. 팀을 선택하지도 않습니다. 당신은 결과물을 정의하고, 스웜은 그것을 전달하는 데 필요한 조직을 구축합니다.

🚨 자, 이것이 "네가 할 수 있는 걸 보여줘"라는 간단한 질문에 에이전트 스웜이 나에게 준 답변입니다

그 자기 조직화가 실제 비결입니다. 시중에 나와 있는 다른 모든 "멀티 에이전트" 시스템은 당신이 설계해야 했던 고정된 루프에서 LLM A가 LLM B를 호출하는 방식입니다.

Kimi의 스웜은 매번 조직도를 처음부터 새로 만들며, 그 규모는 당면한 작업에 맞춰집니다.

스웜의 실제 작동 방식

스웜 작업을 제출할 때 내부에서 다섯 가지 일이 발생합니다.

분해(Decomposition). 코디네이터가 당신의 목표를 도메인별 하위 작업으로 분해합니다. 연구는 연구 에이전트에게, 종합은 종합 에이전트에게, 글쓰기는 글쓰기 에이전트에게 전달됩니다.

에이전트 매칭(Agent matching). 각 하위 작업은 기술과 도구에 따라 가장 적합한 하위 에이전트에게 전달됩니다. 이 라우팅 덕분에 K2.5는 스웜 모드에서 BrowseComp에서 86.3%를 기록했고, K2.5는 78.4%였습니다. 동일한 작업자, 더 스마트한 파견.

병렬 실행(Parallel execution). 모든 하위 에이전트는 각자의 범위가 지정된 컨텍스트 윈도우를 가지고 동시에 작업합니다. 이것이 단일 에이전트 실행을 무너뜨리는 컨텍스트 붕괴 문제를 해결합니다.

장애 복구(Failure recovery). 하위 에이전트가 중단되면 코디네이터가 방향을 전환하고 재할당합니다. 스웜은 실행 중에 자가 치유됩니다.

통합(Synthesis). 출력물이 모순이 해결된 하나의 일관된 결과물로 병합됩니다.

아무도 이야기하지 않는 여섯 번째 것이 있습니다: 구조적 불일치(Structural disagreement). 독립적인 에이전트는 자연스럽게 중복되는 질문에 대해 다른 결론에 도달하며, 코디네이터가 조정을 강제하고, 이는 구조적으로 집단사고를 방지합니다. 이것이 스웜 출력이 종종 단일 모델이 생성하는 것보다 더 날카롭게 느껴지는 이유입니다.

이를 증명하는 Moonshot의 실제 예시: 스웜은 개인 사이트와 아카이브에 흩어져 있는 200개 이상의 Paul Graham 에세이를 6개의 주제별 폴더와 전체 요약 보고서로 정리했습니다. 단 하나의 프롬프트로 말이죠.

또 다른 실행에서는 100개의 틈새 YouTube 도메인에서 상위 3명의 크리에이터를 찾았으며, 각 틈새를 스스로 정의한 후 100개의 병렬 하위 에이전트를 파견했습니다.

두 경우 모두 패턴은 동일합니다: 각 항목이 독립적인, 찾거나 처리해야 할 엄청난 양의 데이터. 그것이 바로 최적의 활용 지점입니다. N단계가 N-1단계에 의존하는 순차적 작업의 경우 단일 에이전트 모드를 사용하세요.

스웜의 실제 작동 방식은 네 가지입니다. 빠른 조회에는 Instant, 분석 및 복잡한 코드에는 Thinking, 10페이지 분량의 보고서와 같은 중간 규모 자율 작업에는 Agent, 작업이 진정으로 병렬화될 때만 Agent Swarm을 사용하세요. 대부분의 운영자는 기본적으로 Swarm을 사용하며 실제로 사용하지도 않는 병렬 처리에 비용을 지불합니다. 작업 규모에 맞게 모드를 선택하세요.

거의 사용되지 않는 세 가지 기능과 이를 활용한 구축 방안

Swarm 전에 /plan 실행하기, 이 방법을 가르치는 곳은 거의 없습니다.

/plan은 실제 작업이 시작되기 전에 Kimi가 당신의 작업을 어떻게 하위 에이전트와 단계로 분해할지 정확히 보여줍니다.

계획을 보고 에이전트가 잘못된 경우 조정한 후 실행할 수 있습니다.

비용이 들지 않습니다. 200개의 에이전트 스웜이 잘못 분해되면 실제 비용이 발생합니다.

Document to Skills: 당신의 최고 작업물, 정리된 보고서, 랜딩 페이지, 계약을 성사시킨 덱 등을 업로드하세요. Kimi는 구조적이고 스타일적인 특징을 재사용 가능한 기술로 캡처하며, 모든 미래 스웜이 자동으로 적용합니다. 메뉴에 있지만 거의 아무도 사용하지 않습니다.

코딩 중심 디자인: 동일한 프롬프트, 두 가지 다른 결과. Claude는 깔끔한 템플릿 레이아웃을 기본값으로 합니다. Kimi는 UI를 먼저 코딩 문제로 취급하고, MoonVIT 인코더와 함께 사용하여 의도적으로 구성된 편집 레이아웃을 생성합니다.

두 모델에 "The J Hotel 랜딩 페이지를 디자인해줘"라고 프롬프트를 입력하세요. Claude는 네이비 배경에 골드 악센트의 중앙 정렬된 예약 양식을 반환합니다. 모든 AI 호텔 페이지처럼 보입니다.

Kimi는 왼쪽 정렬된 편집 레이아웃과 따뜻한 히어로 사진, 이미지 위에 떠 있는 "객실 예약", 디자인된 느낌의 타이포그래피를 반환합니다.

프런트엔드를 대규모로 출시한다면, 해당 워크플로 부분은 Kimi로 전환하세요.

오늘 당장 구축할 여섯 가지:

한 번의 실행으로 PDF, Excel, PowerPoint를 생성하는 다단계 시장 진입 전략.

24개월 분량의 관련 논문을 40페이지 분석 보고서로 만드는 비교 학술 심층 분석.

매크로 데이터 통합이 포함된 원시 CSV 파일 기반 재무 대시보드.

일관된 특징을 유지하며 50개의 오래된 게시물을 다시 작성하는 콘텐츠 라이브러리 감사.

30명이 아닌 300명 규모의 잠재 고객 아웃리치.

50,000줄의 레거시 코드베이스를 모듈별로 분할하여 24~36시간 동안 자율적으로 실행하는 장기 코드 리팩터링.

오늘 당장 테스트할 세 가지 실제 프롬프트:

이는 운영자 수준의 프롬프트로, 범위 고정, 소스 규칙, 오류 처리, 임계값 조건을 포함하며, 타임라인에 넘쳐나는 일반적인 프롬프트와는 다릅니다.

테스트 1: Agent Swarm 병렬 연구

Kimi를 Agent Swarm 모드로 전환한 후 다음을 붙여넣으세요.

예상 결과: 스웜이 여러 에이전트에 걸쳐 연구를 분할하고, 각 에이전트가 다른 소스에서 병렬로 데이터를 가져온 후, 단일하고 깔끔한 결과물로 통합하는 것을 볼 수 있습니다. 이 작업을 수동으로 수행하는 것과 시간을 비교해보세요.

테스트 2: Document to Skills

당신의 최고의 전문 작업물을 찾으세요. 보고서, 제안서, 덱, 자랑스러워하는 무엇이든 좋습니다. 업로드하고 다음을 붙여넣으세요.

예상 결과: 완전히 다른 주제에 대한 새 문서이지만 같은 작성자가 쓴 것처럼 느껴집니다. 이것이 대규모로 프리미엄 결과물을 생산하기 위한 비결입니다.

테스트 3: Swarm 검증을 위한 Plan 모드

비용이 많이 드는 Swarm 실행 전에 분해를 테스트하세요.

예상 결과: Kimi가 실행을 시작하기 전에 작업을 어떻게 공략할지 정확히 설명하는 것을 볼 수 있습니다. 200개 에이전트 스웜을 가동하기 전에 살 수 있는 가장 저렴한 보험입니다.

그리고 가장 중요한 부분 중 하나 | 비용, 솔직하게.

몇 가지 대략적인 수치를 알려드리니 참고하세요:

Kimi의 무료 티어에서는 즉시 Instant 및 Thinking 모드를 사용할 수 있습니다. Agent 및 Agent Swarm은 Allegretto 요금제가 필요하지만, 솔직히 말씀드리자면 그만한 가치가 있습니다.

API 가격은 입력 토큰 100만 개당 약 $0.55~$0.80, 출력 토큰 100만 개당 약 $2.65~$3.60이며, 엔드포인트와 라우팅에 따라 다릅니다.

동일한 워크로드에서 Claude Opus보다 약 7~10배 저렴합니다.

인용 및 구조화된 데이터셋이 포함된 40페이지 분량의 보고서를 생성하는 100개 에이전트 연구 실행은 일반적으로 토큰 비용이 $2~6 정도입니다.

동일한 작업을 Claude Code로 수동 오케스트레이션하면 $30~80가 소요되며 시간은 3배 더 걸립니다.

하드웨어만 있다면 자체 호스팅은 무료입니다. 가중치는 수정된 MIT 라이선스 하에 Hugging Face에 있습니다.

  • Leo
원클릭 저장

YouMind로 바이럴 글을 AI 심층 읽기

Save the source, ask focused questions, summarize the argument, and turn a viral article into reusable notes in one AI workspace.

Explore YouMind
크리에이터를 위해

당신의 Markdown을 깔끔한 𝕏 글로

직접 쓴 장문을 올릴 때 이미지, 표, 코드 블록을 𝕏에 맞게 정리하는 일은 번거롭습니다. YouMind는 전체 Markdown 초안을 깔끔하고 바로 게시할 수 있는 𝕏 글로 바꿔 줍니다.

Markdown → 𝕏 사용해 보기

분석할 패턴 더 보기

최근 바이럴 아티클

더 많은 바이럴 아티클 보기