YouMind
로그인

Grok Bot 메모리 엔지니어링: 한 에이전트가 팀과 함께 학습하는 방법

@0xwhrrari
영어2026년 10월 05일
307K
253
32
40
494

TL;DR

이 가이드는 Grok Team Bots의 메모리 엔지니어링 전략을 상세히 설명하며, 정확성과 보안을 유지하기 위해 팀 공유 메모리, 개인 노트, 실시간 소스를 구분하는 방법을 다룹니다.

공유 메모리, 프라이빗 컨텍스트, 실시간 소스, 그리고 팀 봇이 첫 주 이후에도 유용하게 쓰이도록 만드는 규칙들

개인 AI 어시스턴트는 당신이 어떤 형식의 리포트를 좋아하는지 기억할 수 있습니다.

팀 에이전트의 일은 훨씬 더 까다롭습니다.

한 사람의 대화를 다른 모든 사람의 기억으로 뒤섞어 버리지 않으면서 모든 사람의 업무 방식을 학습해야 합니다.

어떤 결정은 공유되고, 어떤 선호도는 개인적이며, 어떤 사실은 원본 시스템에서 다시 확인해야 하는지를 정확히 알아야 합니다.

바로 이 부분이 Grok Bot 의 새로운 Team Bots 출시 에서 가장 흥미로운 지점입니다.

이제 하나의 봇에 파일, 스킬, 플러그인, 메모리를 공유 설정하고 앱이나 Slack 에서 팀 전체가 사용할 수 있도록 배포할 수 있습니다.

Team Bots 는 Teams 및 Enterprise 요금제 대상으로 퍼블릭 베타를 시작했습니다.

하지만 "모두를 위한 하나의 봇"이 "모두를 위한 거대한 단일 채팅 기록"과 같은 의미는 아닙니다.

1:1 채팅에서는 각자가 봇과 비공개로 대화합니다. 팀 메모리는 공유되지만, 개인 메모는 해당 사용자에게만 남습니다. 개인 계정으로 로그인된 플러그인은 생성자가 아닌 요청자의 접근 권한을 사용합니다. 공유된 Slack 스레드와 봇 레벨 키는 서로 다른 경계를 가지며, 이는 나중에 중요한 의미를 갖습니다.

이는 단순한 메모리 토글이 아니라 실제 아키텍처입니다.

https://x.com/bot/status/2104661562715967548

그리고 설정을 잘못하면 봇은 단순히 무언가를 잊어버리는 데 그치지 않습니다.

잘못된 것을 학습하고, 엉뚱한 곳에 저장하며, 과거의 결정을 새로운 상황에 그대로 적용해 버립니다.

제가 메모리 레이어를 설계한다면 이렇게 엔지니어링하겠습니다.

설계에 앞서 한 가지 짚고 넘어갈 점이 있습니다. 아래에서 설명하는 프로모션 게이트(promotion gate), 외부 원장(external ledger), 검토일, 평가(evals) 등은 제가 제안하는 프로세스이며, 제품에서 직접 확인한 Grok Bot 의 기능이 아닙니다.

저는 Substack 에서 AI 에이전트, 워크플로우, 프로덕션 시스템에 대한 실용적인 분석 글을 발행하고 있습니다.

여기서 뉴스레터를 구독하세요

메모리 엔지니어링, 쉽게 풀어보기

메모리 엔지니어링이란 에이전트가 다음 작업에 무엇을 가져가야 할지 결정하는 과정입니다.

"모든 것을 저장하라"가 아닙니다.

"최근 메시지 100 개를 요약하라"도 아닙니다.

"회사 위키 전체를 시스템 프롬프트에 넣으라"는 것은 더더욱 아닙니다.

유용한 관찰 결과를 재사용 가능한 작업 컨텍스트로 전환하는 통제된 경로입니다.

text
1무언가가 발생했다
2 ↓
3기억할 가치가 있는가?
4 ↓
5누가 이를 재사용할 수 있는가?
6 ↓
7언제 다시 확인해야 하는가?

좋은 메모리는 다음 사람이 같은 결정을 반복하지 않도록 돕습니다.

나쁜 메모리는 소리 없이 실제 정보 출처(Single Source of Truth)를 대체해 버립니다.

차이는 토큰을 얼마나 많이 저장하느냐에 있지 않습니다.

무엇이 메모리에 들어갈지, 누가 읽을 수 있는지, 언제 신뢰를 멈춰야 할지를 결정하는 '규칙'에 있습니다.

Team Bots 는 수정의 수혜자를 바꿉니다

Team Bots 이전에는 개인 봇을 가르치는 것이 주로 \당신\의 향후 대화 품질만 높였습니다.

이제는 하나의 공유된 수정 사항이 다음 팀원의 대화까지 개선할 수 있습니다.

당연해 보이지만, 엣지 케이스를 살펴보면 이야기가 달라집니다.

"나에게는 상태 업데이트를 더 짧게 해줘"는 개인적인 요청입니다.

"인시던트 담당자는 PM 이 아니라 온콜 엔지니어야"는 팀 규칙일 수 있습니다.

"전환 지표가 지난주 화요일에 변경됐어"는 영원한 선호도도 아니고 영구적인 규칙도 아닙니다. 이는 권위 있는 시스템에 존재해야 하는 변동성 사실입니다.

Grok Bot 의 Team Bots 문서 는 제품의 경계를 유난히 명확하게 보여줍니다. 팀 메모리는 모든 사람의 대화에서 읽히지만, 각자의 개인 메모는 비공개로 유지됩니다. 봇은 누군가 팀 전체가 알아야 한다고 말할 때만 사실을 팀 메모리에 저장하고, 이를 사용자에게 알립니다.

이러한 제품 동작이 출발점입니다.

엔지니어링의 과제는 사람들이 무엇을 공유하도록 \요청해야 하는지\ 결정하는 것입니다.

SpaceXAI 자체의 Data Bot 은 좋은 예시입니다. 읽기 전용 웨어하우스 자격 증명과 45,000 개 이상의 테이블을 기반으로 구축된 스킬 라이브러리를 사용합니다. 이 테이블들을 모두 암기할 필요는 없습니다. 올바른 테이블을 찾는 스킬, 쿼리할 수 있는 실시간 접근 권한, 그리고 다음 팀원의 답변을 개선할 수정 사항에 대한 메모리가 필요할 뿐입니다.

이것이 바로 이 글이 다루는 핵심 구분입니다. 메모리에는 재사용 가능한 판단을 두고, 변동 데이터는 원본 소스에 두는 것입니다.

이러한 제품 동작이 출발점입니다.

엔지니어링의 과제는 사람들이 무엇을 공유하도록 요청해야 하는지 결정하는 것입니다.

SpaceXAI 자체의 Data Bot 은 좋은 예시입니다. 읽기 전용 웨어하우스 자격 증명과 45,000 개 이상의 테이블을 기반으로 구축된 스킬 라이브러리를 사용합니다. 이 테이블들을 모두 암기할 필요는 없습니다. 올바른 테이블을 찾는 스킬, 쿼리할 수 있는 실시간 접근 권한, 그리고 다음 팀원의 답변을 개선할 수정 사항에 대한 메모리가 필요할 뿐입니다.

이것이 바로 이 글이 다루는 핵심 구분입니다. 메모리에는 재사용 가능한 판단을 두고, 변동 데이터는 원본 소스에 두는 것입니다.

https://x.com/elonmusk/status/2104709783999729911

발표 내용은 한 줄로 요약됩니다. 하지만 공유된 학습과 프라이빗 컨텍스트 사이의 경계는 그렇지 않습니다.

rari - inline image

모든 종류의 컨텍스트를 메모리로 취급하지 마세요

저라면 봇의 컨텍스트를 다섯 가지 범주로 나누겠습니다.

text
1LIVE SOURCE Linear, Datadog, CRM, 문서 또는 코드에 있는 현재 사실
2TEAM SKILL 봇 소유자가 승인한 반복 가능한 프로세스
3TEAM MEMORY 공유된 결정과 안정적인 정의
4PRIVATE NOTE 한 사람의 선호도와 작업 컨텍스트
5TASK STATE 현재 실행 중인 특정 작업의 상태

이들은 서로 교환해서 쓸 수 없습니다.

팀의 인시던트 처리 프로세스는 스킬에 속합니다.

현재 인시던트 심각도는 인시던트 관리 도구에 속합니다.

"고객 영향(customer-impacting)"이라는 합의된 정의는 팀 메모리에 속할 수 있습니다.

당신이 선호하는 브리핑 형식은 개인 메모에 속합니다.

오늘 조사에서 남은 미해결 질문은 태스크 상태에 속합니다.

변동하는 지표를 팀 메모리에 넣으면 금방 낡은 정보가 됩니다.

팀 전체 규칙을 개인 메모에 넣으면 아무도 그 내용을 알 수 없습니다.

개인적 선호도를 팀 메모리에 넣으면 봇이 이를 모두에게 강요하기 시작합니다.

메모리 엔지니어링의 첫 번째 임무는 컨텍스트를 올바른 범주로 라우팅하는 것입니다.

대화가 아닌 사실을 승격시키세요

팀원이 봇에게 이렇게 말한다고 가정해 봅시다.

"새로운 출시 체크리스트는 외부 API 변경 사항을 게시하기 전에 보안 검토를 요구해."

여기에는 최소 네 가지 가능성이 있습니다.

  • 아직 승인되지 않은 제안된 변경 사항이다
  • 승인된 팀 프로세스다
  • 특정 제품에만 적용된다
  • 지난달에는 맞았지만 체크리스트가 다시 변경되었다

봇이 문장만 저장하면 이런 중요한 맥락적 차이를 잃어버립니다.

저라면 공유 메모리로 승격시킬 만한 모든 항목에 작은 외부 검토 카드를 사용할 것입니다. 이는 워크플로우 예시이며 Grok Bot 설정 구문이 아닙니다.

text
1claim: "외부 API 출시는 보안 검토가 필요합니다"
2scope: team
3source: "승인된 출시 체크리스트 링크"
4owner: "security-eng"
5status: approved
6review_after: "2026-11-01"

중요한 것은 YAML 구문이 아닙니다.

그 뒤에 숨겨진 질문들이 중요합니다.

누가 말했는가? 어디서 확인할 수 있는가? 누가 이 규칙을 책임지는가? 승인되었는가? 언제 만료되거나 다시 확인해야 하는가?

팀이 이러한 카드를 자체 리포지토리에 보관한다면, 간단한 게이트를 통해 사람이 검토하기 전에 불완전하거나 만료된 후보를 걸러낼 수 있습니다. 이 코드는 Grok Bot 의 메모리 API 가 아닌 외부 원장을 확인하며, 주장이 참임을 증명할 수는 없습니다.

python
1from datetime import date, timedelta
2
3# 검토 대상 자격 요건을 확인한다
4def eligible_for_review(card: dict) -> tuple[bool, str]:
5 for field in ("claim", "source", "owner", "review_after"):
6 if not card.get(field):
7 return False, f"missing {field}"
8 if card.get("scope") != "team":
9 return False, "wrong scope"
10 if card.get("status") != "approved":
11 return False, "not approved"
12 try:
13 review_date = date.fromisoformat(card["review_after"])
14 except (TypeError, ValueError):
15 return False, "invalid review date"
16 if review_date <= date.today():
17 return False, "review date passed"
18 return True, "inspect source before saving"
19
20if __name__ == "__main__":
21 card = {
22 "claim": "외부 API 출시는 보안 검토가 필요합니다",
23 "scope": "team",
24 "source": "https://intranet.example/launch-checklist",
25 "owner": "security-eng",
26 "status": "approved",
27 "review_after": (date.today() + timedelta(days=30)).isoformat(),
28 }
29 print(eligible_for_review(card))

출력 결과는 팀 메모리에 쓰기 권한을 부여하는 것이 아니라 검토 대기열입니다. 누군가는 여전히 원본을 열어 주장, 범위, 소유자가 정확한지 확인해야 합니다.

그런 다음 봇에게 그 논의를 만들어낸 대화가 아닌 승인된 규칙을 저장하도록 요청하세요.

text
1팀 전체를 위해 이것을 저장해 줘:
2외부 API 출시 시, 현재 출시 체크리스트를 확인하고
3게시 전에 필요한 보안 검토를 받아야 합니다.
4프로세스가 변경되더라도 체크리스트가 유일한 기준입니다.

마지막 줄이 특히 중요합니다.

메모리는 포인터이자 작동 규칙입니다.

회사의 정보를 영원히 복사해 둔 사본이 아닙니다.

공유 메모리에는 쓰기 경로가 필요합니다

모두가 같은 봇을 가르칠 수 있게 되면, "이거 기억해"라는 말은 파급력을 가진 쓰기 연산이 됩니다.

따라서 저는 이 연산에 간단한 계약을 부여하겠습니다.

text
1관찰(OBSERVE) → 분류(CLASSIFY) → 검증(VERIFY) → 승격(PROMOTE) → 재확인(RECHECK)
  • 관찰 팀원이 봇을 수정하거나, 프로세스를 변경하거나, 결정을 확인합니다.
  • 분류 이것이 개인적인 내용인가, 팀 전체 내용인가, 특정 작업용인가, 아니면 실시간 사실인가?
  • 검증 봇이 결정, 문서, PR, 티켓 또는 책임 있는 소유자를 가리킬 수 있는가?
  • 승격 주장이 팀 정책에 영향을 미치는 경우 승인을 거친 후, 올바른 범위에 유용한 결론만 저장합니다.
  • 재확인 중대한 조치를 취하기 전이나 검토일이 지난 후 원본을 다시 확인합니다.

이는 제가 제안하는 운영 패턴이지, Grok Bot 이 자동으로 실행해 준다고 주장하는 파이프라인이 아닙니다.

제품은 팀 메모리와 개인 메모리를 제공합니다.

무엇이 어디에 적합한지 결정하는 것은 여전히 당신의 몫입니다.

rari - inline image

정보 출처(Source of Truth)는 메모리 밖에 있어야 합니다

많은 에이전트 메모리 데모가 여기서 무너집니다.

봇이 특정 고객이 Enterprise 요금제를 사용한다는 사실을 기억합니다.

고객이 다운그레이드합니다.

2 주 후, 봇은 자신의 메모리를 사용해 해당 계정이 더 이상 허용하지 않는 요청을 승인합니다.

메모리는 제 역할을 완벽하게 수행했습니다.

아키텍처가 실패한 것입니다.

Grok Bot 의 공식 가이드 역시 메모리가 권위 있는 정보 출처를 대체할 수 없다고 명시합니다. 변동하는 사실은 원본 시스템에 남아 있어야 하며, 중대한 결정은 현재 데이터를 다시 열거나 인용해야 합니다.

이 구분은 봇 문서에 명확히 명시되어 있습니다

저라면 메모리를 두 개의 시계로 나누겠습니다.

text
1SLOW CLOCK 어조, 정의, 소유권, 안정적인 프로세스
2FAST CLOCK 상태, 잔액, 가격, 담당자, 권한, 지표

느린 시계는 기억해도 됩니다.

빠른 시계는 조회해야 합니다.

규칙은 간단합니다. 틀렸을 때 행동이 바뀔 수 있다면, 실행하기 전에 실시간 소스를 확인하세요.

예를 들어, Team Bot 은 팀이 버그를 어떻게 분류(triage)하는지 방법을 기억할 수 있습니다.

하지만 버그가 수정되었다고 단언하기 전에 현재 Linear 이슈, 최신 Datadog 트레이스, 연결된 PR 을 다시 확인해야 합니다.

팀 스킬은 팀 메모리가 아닙니다

명확히 해야 할 두 번째 구분입니다.

메모리는 봇이 아는 것입니다.

스킬은 봇이 수행할 줄 아는 것입니다.

"우리 팀에서 P0 는 고객 전체 장애를 의미해"는 정의입니다.

"P0 알림이 오면 이 대시보드를 확인하고, 인시던트를 열고, 이 역할에 페이지를 보내고, 이 업데이트를 게시해"는 프로세스입니다.

전자는 팀 메모리가 될 수 있습니다.

후자는 팀 스킬이 되어야 합니다.

Grok Bot 에서는 일반 팀원이 비공개 대화에서 프로세스를 가르칠 수 있지만, 그것이 곧바로 팀 전체 스킬이 되지는 않습니다. 소유자가 공유 설정을 관리하며, 9 월 30 일 제품 업데이트 를 통해 생성자가 스킬, 플러그인, 시크릿, Slack 앱을 변경할 수 있는 관리자를 지정할 수 있게 되었습니다.

이 관리자 게이트는 매우 가치 있습니다.

이것이 없으면 일회성 임시방편이 소리 없이 모두를 위한 봇의 기본 워크플로우로 굳어질 수 있습니다.

Grok Bot 을 개발하는 Lauren Tan 은 반복되는 에이전트 수정에 대해 유용한 규칙을 제시합니다. 또 다른 지시사항에 안주하기 전에 근본적인 실패 원인을 제거하라는 것입니다.

https://x.com/poteto/status/2089067865098113024

그녀의 우선순위 또한 여기서 유용합니다. 가능하다면 아키텍처를 수정하고, 다음으로 반복되는 실패를 테스트에 반영한 뒤, 마지막으로 스킬이나 규칙을 추가하세요. 제 해석으로는, 계속 같은 실수를 반복하는 시스템에 메모리를 첫 번째 패치 수단으로 삼아서는 안 됩니다.

저라면 모든 새로운 스킬에 대해 다음 규칙을 적용하겠습니다.

  • 단일 티켓이 아닌 반복 가능한 작업을 해결하는가
  • 입력과 출력이 투명한가
  • 권한 경계가 명확한가
  • 팀 내 누군가 업데이트를 책임지는가
  • 실패한 실행이 조용한 재시도 루프가 아닌 증거를 남기는가

지식을 공유한다고 정체성을 공유하는 것은 아닙니다

이번 릴리스에서 가장 중요한 보안 관련 세부 사항입니다.

Team Bots 는 공유 컨텍스트를 사용하면서도 요청한 사람을 대신해 행동할 수 있습니다.

사용자 계정으로 로그인하는 플러그인의 경우, 봇은 해당 사용자의 연결을 사용합니다. 모두를 위해 소유자의 계정을 빌려오지 않습니다.

하지만 공유 키로 구성된 플러그인이나 시크릿은 팀원들의 대화 전반에서 사용될 수 있으므로, 해당 자격 증명은 사실상 팀 수준의 접근 권한이 됩니다.

이 둘은 완전히 다른 신뢰 모델입니다.

text
1PERSONAL OAUTH 요청자의 계정을 사용하여 조치 수행
2BOT SERVICE KEY 공유된 봇 수준의 접근 권한을 사용하여 조치 수행
3PRIVATE CHAT 비공개 대화 및 메모
4SLACK CHANNEL 공유된 스레드 및 공유된 봇 컴퓨팅 환경

이 구분은 플러그인의 이름이 아니라 자격 증명에 있습니다. OAuth 로 구성된 공유 플러그인은 여전히 요청자의 계정에서 실행됩니다. 반면 봇 레벨 키로 구성된 플러그인은 모두에게 동일한 자격 증명을 사용하므로, 키는 팀에 필요한 최소한의 접근 권한으로 제한되어야 합니다.

Grok Bot 은 공유 Slack 스레드나 그룹 대화에서 팀원의 개인 커넥터를 사용하기 전에 먼저 동의를 구합니다. 이 커넥터 승인 과정에서 어떤 계정이 사용될지 식별됩니다. 봇에 이미 구성된 공유 플러그인은 해당 프롬프트를 트리거하지 않습니다. 또한 9 월 29 일 업데이트를 통해 관련 당사자만 응답할 수 있는 Slack 조치 검토 카드가 추가되었습니다.

이는 "봇이 그것을 아는 것"과 "봇이 그것을 해도 되는 것"이 별개의 문제임을 상기시켜 줍니다.

봇은 환불 처리 절차를 알고 있을 수 있습니다.

하지만 모든 팀원이 환불을 승인할 수 있다고 추론해서는 안 됩니다.

기밀 문서가 어디에 있는지 알고 있을 수 있습니다.

누군가 공개 채널에서 언급했다고 해서 그 문서를 붙여넣어서는 안 됩니다.

메모리는 어떤 컨텍스트를 사용할 수 있는지 결정합니다.

권한은 어떤 조치가 허용되는지 결정합니다.

에이전트에게는 이 두 가지 검사가 모두 필요합니다.

Slack 은 두 번째 메모리 경계를 만듭니다

Slack 의 Team Bot 은 마치 한 명의 동료처럼 느껴집니다.

하지만 내부적으로 컨텍스트는 대화가 어디서 이루어지는지에 따라 달라집니다.

1:1 채팅에서는 각자 고유한 대화와 개인 메모를 갖습니다.

Slack 채널에서는 스레드가 공유되며, Grok Bot 은 해당 봇을 위해 별도의 공유 컴퓨팅 환경을 사용합니다. 제품 문서는 해당 채널의 모든 사람에게 노출되면 안 되는 자료를 채널 스레드에 올리지 말라고 경고합니다.

여기서 미묘한 실패 모드가 발생합니다.

누군가 채널에서 무해한 질문을 하고 봇이 자신의 개인 커넥터를 사용하도록 허용합니다.

커넥터는 요청자의 것이므로 계정 경계는 온전히 유지됩니다.

하지만 답변에는 채널의 나머지 멤버가 보아서는 안 되는 세부 정보가 포함될 수 있습니다. 소스에 대한 접근을 승인하는 것과 그 소스에서 나올 수 있는 모든 정보 공개를 승인하는 것은 다릅니다.

해결책은 "모델에게 조심하라고 말하는 것"이 아닙니다.

해결책은 목적지를 검색 및 출력 정책의 일부로 취급하는 것입니다.

text
1공유 채널에서 답변하기 전에:
21. 이 스레드의 청중을 식별한다
32. 소스와 그 접근 범위를 식별한다
43. 이 청중이 봐도 되는 내용만 요약한다
54. 민감한 세부 정보는 1:1 대화로 옮긴다

이 네 줄짜리 규칙은 Grok Bot 동작의 내장된 보증이 아니라 운영상의 권장 사항입니다.

더 안전한 기본값은 민감한 조사를 비공개 채팅에서 진행하고, 승인된 결론만 팀에 공개하는 것입니다.

rari - inline image

단순 회상이 아닌 모순에 대비해 설계하세요

두 사람의 의견이 충돌할 때 팀 메모리 관리는 훨씬 어려워집니다.

영업 책임자는 갱신일이 14 일이라고 말합니다.

재무 책임자는 30 일이라고 말합니다.

CRM 에는 28 일로 적혀 있습니다.

순진한 에이전트는 가장 최근 문장을 선택합니다.

유용한 에이전트는 이것이 어떤 종류의 사실인지, 어디에 존재하는지 묻습니다.

갱신일은 실시간 계약 사실입니다.

CRM 역시 틀릴 수 있으므로, 봇은 조치를 취하기 전에 서명된 계약서를 확인하거나 책임 있는 소유자에게 물어봐야 합니다.

유지할 가치가 있는 모든 공유 메모리에 대해, 저는 팀이 검사할 수 있는 곳에 결정과 그 출처를 기록하겠습니다.

이는 봇 외부의 문서, 이슈, 또는 가벼운 원장이 될 수 있습니다.

그러면 봇의 메모리가 이를 가리키는 포인터 역할을 할 수 있습니다.

모순이 발생하면 다음 순서를 따르세요:

  1. 중대한 조치를 중단한다
  2. 권위 있는 정보 출처를 식별한다
  3. 소유자에게 충돌 해결을 요청한다
  4. 먼저 소스를 업데이트한다
  5. 그다음 봇의 메모리를 수정하거나 삭제한다

이는 프롬프트 튜닝이 아니라 메모리 유지보수입니다.

실용적인 Team Bot 사례: 릴리스 조율

제품, 엔지니어링, 지원 팀이 함께 사용하는 Team Bot 을 상상해 보세요.

이 봇은 릴리스 채널의 멘션에 답하고 출시 브리핑 준비를 돕습니다. 기본적으로 Team Bot 은 채널의 모든 최상위 게시물에 응답하지 않습니다. 채널 전체를 모니터링하려면 별도의 리스너 루틴이 필요하며, 이 루틴은 단일 공유 계정이 아닌 설정한 사람에게 귀속됩니다.

월요일, 제품 팀이 이번 출시가 유료 팀으로 제한된다는 사실을 확인합니다.

봇은 출시 계획을 가리키는 포인터와 함께 해당 결정을 기억할 수 있습니다.

화요일, 엔지니어링 팀이 롤아웃 날짜를 변경합니다.

봇은 월요일의 날짜를 맹신하지 말고 현재 릴리스 티켓을 읽어야 합니다.

수요일, 지원 팀이 내부 브리핑에 더 짧은 형식을 사용해야 한다고 말합니다.

이는 유지보수되는 스킬 내의 지원 팀 전용 지침이 될 수 있습니다. 봇과 대화하는 모든 사람에게 소리 없이 적용되는 형식 규칙이 되어서는 안 됩니다.

목요일, 보안 책임자가 새로운 검토 단계를 승인합니다.

봇의 소유자나 위임된 관리자가 공유 출시 스킬을 업데이트합니다.

금요일, 누군가 Slack 에서 봇에게 "우리 발표할 준비 됐어?"라고 묻습니다.

봇은 답변하기 전에 실시간 증거를 수집해야 합니다.

text
1release ticket 현재 날짜 및 롤아웃 상태
2launch checklist 필요한 승인 사항
3PR and CI 빌드 및 검증 상태
4team memory 승인된 대상 및 결정 이력
5private notes 공유 채널 답변에는 사용하지 않음

공유 스레드에서 제가 받고 싶은 답변은 다음과 같습니다.

text
1상태: 차단됨, 아직 발표하지 마세요
2확인 완료: 현재 릴리스 티켓, 출시 체크리스트, CI 실행
3준비 완료: 출시 계획에 유료 팀 대상 승인됨
4누락 사항: 새로운 외부 API 변경에 대한 보안 승인
5다음 단계: 보안 책임자에게 검토를 요청한 후 체크리스트 재확인

요청자가 개인 메모를 기반으로 맞춤형 브리핑을 원한다면, 봇은 1:1 대화에서 이를 준비할 수 있습니다. 채널에는 팀에 공개해도 안전한 결론과 그 근거만 전달됩니다.

이는 월요일의 상황을 맹신하며 자신감 있게 대답하는 봇보다 훨씬 나은 결과입니다.

봇을 배포하기 전에 메모리 레이어를 테스트하세요

첫 번째 평가는 봇이 사실을 회상할 수 있는지 묻는 것이어서는 안 됩니다.

봇이 올바른 범위에서 올바른 사실을 사용하는지 물어야 합니다.

저라면 팀을 초대하기 전에 다음 다섯 가지 케이스를 테스트하겠습니다.

  • 개인 정보의 팀 유출 A 가 개인적 선호도를 입력합니다. B 는 이를 상속받지 않아야 합니다.
  • 명시적 승격 팀원이 봇에게 승인된 결정을 팀용으로 저장하도록 요청합니다. 다른 팀원은 원래의 비공개 대화가 아닌 결정 내용만 볼 수 있어야 합니다.
  • 낡은 사실 팀 메모리에 오래된 상태가 포함되어 있고, 원본 시스템에는 더 최신 정보가 있습니다. 봇은 원본을 사용해야 합니다.
  • 충돌하는 수정 두 사용자가 서로 다른 주장을 제시합니다. 봇은 최신 주장을 소리 없이 정책으로 바꿔서는 안 됩니다.
  • 공유 채널 경계 Slack 스레드에서 개인 커넥터의 데이터를 요청합니다. 봇은 커넥터 승인 및 청중 경계를 따라야 합니다.

소유자의 채팅에서 두 번 테스트하지 말고, 실제 팀 계정 두 개로 케이스를 실행하세요. 그렇지 않으면 가장 중요한 경계를 테스트하지 않은 셈입니다.

각 케이스마다 프롬프트, 예상 동작, 봇의 답변, 사용된 소스를 기록하세요. 간결한 테스트 기록이면 충분합니다.

text
1M01 개인 선호도 -> B 는 절대 이를 상속받지 않음
2M02 공유 결정 -> B 는 A 의 대화가 아닌 결정만 봄
3M03 변경된 상태 -> 현재 소스가 저장된 메모리를 이김
4M04 충돌하는 주장 -> 소리 없는 정책 변경 없음
5M05 개인 커넥터 -> 승인 + 채널 안전 응답

단순 회상 정확도 이상을 추적하세요.

text
1잘못된 범위의 저장 횟수
2낡은 사실에 기반한 조치 횟수
3근거 없는 팀 주장 횟수
4승인 우회 횟수
5잘못된 메모리를 수정하는 데 걸린 시간

마지막 지표는 과소평가되기 쉽습니다.

모든 공유 메모리 시스템은 결국 잘못된 무언가를 저장하게 됩니다.

중요한 것은 팀이 이를 찾아내고 수정하며, 어떤 출력에 영향을 미쳤는지 파악할 수 있느냐입니다.

제 롤아웃 기준에서 개인 정보의 팀 유출이나 무단 조치는 명백한 실패(hard fail)입니다. 낡거나 근거 없는 답변은 봇이 더 많은 사람에게 도달하기 전에 수정하고 관련 케이스를 다시 실행해야 합니다. 이는 제가 제안하는 출시 기준이지, Grok Bot 의 내장 평가 기능에 대한 주장이 아닙니다.

봇이 잘못된 것을 학습했을 때

중요한 운영상의 질문은 나쁜 메모리가 발생할 수 있는지가 아닙니다.

발생할 수 있습니다.

문제는 그 실수가 얼마나 오래 살아남고, 수정하기 전에 누가 그것을 보게 되느냐입니다.

봇이 한 번의 예외 상황 이후 "모든 엔터프라이즈 갱신은 VP 승인이 필요하다"고 저장했다고 가정해 봅시다. 일주일 후, 일반적인 갱신을 지연시키기 시작합니다.

저라면 이를 작은 데이터 인시던트로 처리하겠습니다.

  1. 봇에게 팀 메모리를 보여달라고 요청하여 정확한 주장을 찾습니다. Grok Bot 은 저장된 내용을 물어보고, 항목을 수정하거나 삭제하도록 지시할 수 있게 해줍니다.
  2. 원본 대화나 결정, 소유자, 그리고 해당 주장을 재사용한 작업을 식별합니다. 출처를 추적할 수 없다면 그럴듯하게 들린다는 이유만으로 규칙을 유지하지 마세요.
  3. 먼저 권위 있는 갱신 정책을 수정합니다. 그런 다음 봇의 잘못된 메모리를 제거하거나 교체합니다. 실수가 스킬, 파일, 봇 설명에서 비롯된 것이라면 그것도 함께 수정하세요.
  4. 다른 팀원의 계정에서 갱신 케이스를 다시 실행합니다. 답변 내용과 조치가 시도되었는지 모두 확인하세요.
  5. 잘못된 메모리가 활성화되어 있던 동안 생성된 하위 초안이나 티켓을 검토합니다.

마지막 단계는 놓치기 쉽습니다. 메모리를 삭제하면 향후 동작은 바뀌지만, 이미 작성된 이메일이나 내려진 결정은 바뀌지 않습니다.

재사용할 수 있는 교훈은 중요한 공유 메모리의 가벼운 기록을 봇 외부에 유지하는 것입니다. 주장, 출처, 소유자, 범위, 검토일을 기록하세요. Grok Bot 의 메모리는 작업 컨텍스트이고, 당신의 원장은 감사 추적(audit trail)입니다.

rari - inline image

가장 먼저 발생할 것으로 예상되는 실수들

메모리를 검토하지 않고 개인 봇을 Team Bot 으로 복사하는 것.\\ Grok Bot 은 새로 시작하거나 개인 항목을 제외하는 옵션을 포함한 팀 복사 기능을 제공합니다. 이 검토 과정을 설정 과정의 번거로움이 아닌 보안 단계로 취급하세요.

  • 팀 메모리를 회사 데이터베이스로 사용하는 것 Bot 은 안정적인 맥락은 기억하고, 자주 바뀌는 데이터는 그때그때 다시 불러와야 합니다
  • 대화만으로 누구나 프로세스를 수정하게 두는 것 공유 스킬에 담당자가 따로 있는 데에는 이유가 있습니다
  • Slack 작업이 어디서 실행되는지 잊는 것 채널 스레드는 공유 환경이지, 더 많은 사람이 보는 개인 DM 이 아닙니다
  • OAuth 가 느리다는 이유로 Bot 에 광범위한 서비스 키를 넘기는 것 공유 키를 쓰면 팀원 모두에게 Bot 의 실질적 권한이 그대로 확장됩니다
  • "정확한 범위로 처리했는가" 대신 "답변했는가"만 측정하는 것 Bot 은 빠르게 답하면서도 비공개 정보를 유출하거나 오래된 사실에 기반해 행동할 수 있습니다
  • 메모리를 학습 이벤트로 착각하는 것 진짜 중요한 건 기본 모델의 가중치가 바뀌었는지가 아니라, Bot 이 다음 작업에서 어떤 맥락을 재사용할 수 있느냐입니다

제가 실제로 배포할 세팅

  1. 범용 회사 어시스턴트가 아니라, 하나의 공유 업무만을 위한 Team Bot 1 개를 만듭니다
  2. Bot 설명란에 책임 범위와 승인 한계를 명확히 적어둡니다
  3. 필요한 최소한의 파일과 플러그인만 추가합니다. 사용자별 작업에는 개인 OAuth 를, 공유 데이터에는 읽기 전용 공유 자격 증명을 우선 사용하세요
  4. 반복 가능한 프로세스는 담당자나 위임된 관리자가 유지보수하는 스킬에 담아둡니다
  5. 출처나 담당자가 명확한 팀 메모리만 소수 추가합니다
  6. 여러 계정으로 비공개 메모, 오래된 정보, 모순되는 내용, Slack 노출 범위를 각각 테스트합니다
  7. 소규모 팀에 먼저 배포하고 오류를 점검한 뒤, 잘못된 팀 메모리를 어떻게 수정할지 합의하고 나서 접근 범위를 넓힙니다

데모로는 절대 보여줄 수 없는 "AI 동료"의 진짜 영역이 바로 여기입니다

에이전트는 팀이 직접 가르칠 수 있을 때 비로소 쓸모있어집니다

그리고 무엇을 배웠는지, 어디서 배웠는지, 언제 잊어야 하는지를 팀이 통제할 수 있을 때 신뢰할 수 있게 됩니다

진짜 변화

Grok Bot 의 첫 번째 이야기는 '지속성'이었습니다

Bot 에게 일과 도구, 컴퓨터, 그리고 마무리할 시간을 주는 것이죠

Team Bots 는 전혀 다른 질문을 던집니다

Bot 이 한 사람이 아닌 팀 전체의 소유가 되면 무슨 일이 벌어질까요?

정답은 더 큰 컨텍스트 윈도우가 아닙니다

바로 메모리 아키텍처입니다

개인 맥락을 위한 프라이빗 노트

명시적인 팀 지식을 위한 공유 메모리

프로세스를 위한 관리형 팀 스킬

변동하는 사실을 위한 라이브 시스템

Bot 이 실제로 할 수 있는 일을 정하는 권한

이 경계만 제대로 잡아두면, 단 한 번의 수정으로 다음 사람의 업무 품질까지 끌어올릴 수 있습니다

반대로 잘못 설정하면, Bot 이 실수를 팀 전체로 확산시켜 버립니다

그래서 메모리 엔지니어링이 중요합니다

여기까지 읽으셨다면

-> 제 Substack을 구독해 주세요

-> 제 Telegram에 참여해 주세요

-> 이 글을 북마크해 두세요

-> @0xwhrrari를 팔로우해 주세요

원클릭 저장

YouMind로 바이럴 글을 AI 심층 읽기

소스를 저장하고, 핵심 질문을 던지고, 주장을 요약해 바이럴 글을 다시 활용할 수 있는 노트로 바꾸세요. 하나의 AI 워크스페이스에서 모두 할 수 있습니다.

YouMind 둘러보기
크리에이터를 위해

당신의 Markdown을 깔끔한 𝕏 글로

직접 쓴 장문을 올릴 때 이미지, 표, 코드 블록을 𝕏에 맞게 정리하는 일은 번거롭습니다. YouMind는 전체 Markdown 초안을 깔끔하고 바로 게시할 수 있는 𝕏 글로 바꿔 줍니다.

Markdown → 𝕏 사용해 보기

분석할 패턴 더 보기

최근 바이럴 아티클

더 많은 바이럴 아티클 보기