YouMind
Đăng nhập

Kỹ thuật bộ nhớ cho Grok Bot: Cách một Agent học hỏi cùng đội ngũ

@0xwhrrari
TIẾNG ANH05 thg 10, 2026
307K
253
32
40
494

TL;DR

Hướng dẫn này chi tiết hóa các chiến lược kỹ thuật bộ nhớ cho Grok Team Bots, phân biệt giữa bộ nhớ chung của đội, ghi chú riêng tư và nguồn dữ liệu trực tiếp nhằm duy trì độ chính xác và bảo mật.

Bộ nhớ dùng chung, ngữ cảnh riêng tư, nguồn dữ liệu trực tiếp và những quy tắc giúp Team Bot thực sự hữu ích sau tuần đầu tiên

Một trợ lý AI cá nhân có thể ghi nhớ cách bạn thích các báo cáo của mình

Team agent lại có một nhiệm vụ khó nhằn hơn

Nó phải học cách tất cả mọi người làm việc mà không biến cuộc trò chuyện của một người thành ký ức của toàn bộ nhóm

Nó phải biết quyết định nào được chia sẻ, tùy chọn nào là riêng tư, và thông tin nào cần được kiểm tra lại trong hệ thống nguồn

Đó chính là điểm thú vị trong bản phát hành Team Bots mới của Grok Bot

Giờ đây, một Bot có thể được thiết lập với các tệp, kỹ năng, plugin và bộ nhớ dùng chung, sau đó xuất bản để cả nhóm sử dụng trong ứng dụng hoặc Slack

Team Bots đã ra mắt bản beta công khai cho các gói Teams và Enterprise

Nhưng "một Bot cho tất cả" không đồng nghĩa với "một lịch sử chat khổng lồ cho tất cả"

Trong cuộc trò chuyện 1:1, mỗi người có một cuộc hội thoại riêng tư với Bot. Bộ nhớ nhóm thì được chia sẻ. Ghi chú cá nhân vẫn thuộc về người đó. Một plugin đăng nhập qua tài khoản cá nhân sẽ sử dụng quyền truy cập của người yêu cầu, chứ không phải của người tạo Bot. Các luồng Slack dùng chung và khóa ở cấp độ Bot có những ranh giới khác nhau, và điều này sẽ rất quan trọng ở phần sau

Đó là một kiến trúc thực thụ, không chỉ đơn thuần là một nút bật/tắt bộ nhớ

https://x.com/bot/status/2104661562715967548

Và nếu bạn thiết lập sai, Bot không chỉ đơn giản là quên mọi thứ

Nó sẽ học sai thứ, ghi nhớ sai chỗ, hoặc áp dụng một quyết định cũ vào tình huống mới

Đây là cách tôi sẽ xây dựng lớp bộ nhớ (memory layer)

Một điểm cần phân biệt trước khi đi vào thiết kế: cổng phê duyệt (promotion gate), sổ cái bên ngoài (external ledger), ngày đánh giá lại và các bài eval dưới đây là quy trình do tôi đề xuất. Chúng không phải là các tính năng của Grok Bot mà tôi đã xác minh trong sản phẩm

Tôi thường xuyên chia sẻ những bài phân tích thực tế về AI agent, workflow và hệ thống production trên Substack

Đăng ký nhận bản tin tại đây

Kỹ thuật bộ nhớ, giải thích theo ngôn ngữ đời thường

Kỹ thuật bộ nhớ (memory engineering) là việc quyết định xem agent nên mang theo những gì sang tác vụ tiếp theo

Không phải "lưu tất cả mọi thứ"

Không phải "tóm tắt 100 tin nhắn gần nhất"

Không phải "nhét toàn bộ wiki công ty vào system prompt"

Đó là một lộ trình có kiểm soát, đi từ một quan sát hữu ích đến một mảnh ngữ cảnh làm việc có thể tái sử dụng

text
1có một sự việc vừa xảy ra
2 ↓
3nó có đáng để ghi nhớ không?
4 ↓
5ai được phép sử dụng lại nó?
6 ↓
7khi nào thì cần kiểm tra lại?

Một bộ nhớ tốt giúp người tiếp theo không phải lặp lại một quyết định đã có

Một bộ nhớ tồi sẽ âm thầm thay thế nguồn dữ liệu chuẩn (source of truth) thực sự

Sự khác biệt không nằm ở số lượng token bạn lưu trữ

Mà nằm ở quy tắc quyết định thứ gì được đưa vào bộ nhớ, ai được đọc nó, và khi nào nó không còn đáng tin cậy nữa

Team Bots thay đổi việc ai sẽ hưởng lợi từ một lần sửa lỗi

Trước khi có Team Bots, việc dạy một Bot cá nhân chủ yếu chỉ cải thiện các cuộc trò chuyện trong tương lai của \chính bạn\

Giờ đây, một lần sửa lỗi được chia sẻ có thể cải thiện luôn cuộc trò chuyện của người đồng đội tiếp theo

Nghe thì hiển nhiên, cho đến khi bạn nhìn vào các trường hợp ngoại lệ

"Hãy dùng bản cập nhật trạng thái ngắn gọn hơn cho tôi" là sở thích cá nhân

"Người phụ trách sự cố là kỹ sư trực ca, không phải PM" có thể là một quy tắc của cả nhóm

"Chỉ số chuyển đổi đã thay đổi từ thứ Ba tuần trước" không phải là một sở thích bất biến hay một quy tắc vĩnh viễn. Đó là một dữ kiện đang thay đổi và cần được lưu trong hệ thống có thẩm quyền

Tài liệu Team Bots của Grok Bot vạch ra ranh giới sản phẩm cực kỳ rõ ràng: bộ nhớ nhóm được đọc bởi cuộc trò chuyện của mọi người, trong khi mỗi người có ghi chú riêng tư. Bot sẽ lưu một dữ kiện vào bộ nhớ nhóm khi ai đó nói rằng cả nhóm nên biết điều này, và nó sẽ thông báo lại khi thực hiện

Hành vi sản phẩm đó chính là điểm khởi đầu

Bài toán kỹ thuật là quyết định xem mọi người
ên\ yêu cầu nó chia sẻ những gì

Data Bot của chính SpaceXAI là một ví dụ hữu ích. Nó sử dụng thông tin đăng nhập kho dữ liệu ở chế độ chỉ đọc và một thư viện kỹ năng được xây dựng quanh hơn 45.000 bảng. Nó không cần phải ghi nhớ hết các bảng đó. Nó cần kỹ năng để tìm đúng bảng, quyền truy cập trực tiếp để truy vấn, và bộ nhớ về một lần sửa lỗi giúp cải thiện câu trả lời cho người đồng đội tiếp theo

Đó chính là sự khác biệt mà bài viết này muốn bàn tới: khả năng phán đoán có thể tái sử dụng nằm trong bộ nhớ, còn dữ liệu thay đổi thì nằm ở nguồn

Hành vi sản phẩm đó chính là điểm khởi đầu

Bài toán kỹ thuật là quyết định xem mọi người nên yêu cầu nó chia sẻ những gì

Data Bot của chính SpaceXAI là một ví dụ hữu ích. Nó sử dụng thông tin đăng nhập kho dữ liệu ở chế độ chỉ đọc và một thư viện kỹ năng được xây dựng quanh hơn 45.000 bảng. Nó không cần phải ghi nhớ hết các bảng đó. Nó cần kỹ năng để tìm đúng bảng, quyền truy cập trực tiếp để truy vấn, và bộ nhớ về một lần sửa lỗi giúp cải thiện câu trả lời cho người đồng đội tiếp theo

Đó chính là sự khác biệt mà bài viết này muốn bàn tới: khả năng phán đoán có thể tái sử dụng nằm trong bộ nhớ, còn dữ liệu thay đổi thì nằm ở nguồn

https://x.com/elonmusk/status/2104709783999729911

Thông báo chỉ gói gọn trong một dòng. Nhưng ranh giới giữa việc học hỏi chung và ngữ cảnh riêng tư thì không

rari - inline image

Đừng đánh đồng mọi loại ngữ cảnh đều là bộ nhớ

Tôi sẽ chia ngữ cảnh của Bot thành năm nhóm

text
1NGUỒN TRỰC TIẾP dữ kiện hiện tại trong Linear, Datadog, CRM, tài liệu hoặc code
2KỸ NĂNG NHÓM quy trình có thể lặp lại, được chủ sở hữu Bot phê duyệt
3BỘ NHỚ NHÓM các quyết định dùng chung và định nghĩa ổn định
4GHI CHÚ RIÊNG TƯ tùy chọn và ngữ cảnh làm việc của một cá nhân
5TRẠNG THÁI TÁC VỤ những gì lượt chạy cụ thể này đang thực hiện ngay lúc này

Chúng không thể thay thế cho nhau

Quy trình xử lý sự cố của nhóm nên nằm trong một kỹ năng

Mức độ nghiêm trọng của sự cố hiện tại nên nằm trong công cụ quản lý sự cố

Ý nghĩa đã thống nhất của cụm từ "ảnh hưởng đến khách hàng" có thể nằm trong bộ nhớ nhóm

Định dạng báo cáo bạn ưa thích nên nằm trong ghi chú riêng tư của bạn

Các câu hỏi còn bỏ ngỏ cho cuộc điều tra hôm nay nên nằm trong trạng thái tác vụ

Nhét một chỉ số liên tục thay đổi vào bộ nhớ nhóm và nó sẽ nhanh chóng trở nên lỗi thời

Nhét một quy tắc chung của nhóm vào ghi chú riêng tư và chẳng ai khác biết đến nó

Nhét một sở thích cá nhân vào bộ nhớ nhóm và Bot sẽ bắt đầu áp đặt nó lên tất cả mọi người

Nhiệm vụ đầu tiên của kỹ thuật bộ nhớ là định tuyến ngữ cảnh vào đúng nhóm

Hãy thăng cấp một dữ kiện, không phải một cuộc trò chuyện

Thử tưởng tượng một người đồng đội nói với Bot:

"Danh sách kiểm tra bản phát hành mới yêu cầu phải rà soát bảo mật trước khi chúng ta công bố thay đổi API ra bên ngoài"

Có ít nhất bốn khả năng xảy ra

  • Đây là một đề xuất thay đổi, chưa được phê duyệt
  • Đây là một quy trình đã được nhóm phê duyệt
  • Nó chỉ áp dụng cho một sản phẩm duy nhất
  • Nó đúng vào tháng trước nhưng danh sách kiểm tra đã thay đổi lần nữa

Nếu Bot chỉ lưu lại đúng câu nói đó, nó sẽ đánh mất những sắc thái quan trọng

Tôi sẽ dùng một thẻ đánh giá bên ngoài (external review card) nhỏ gọn cho bất cứ thứ gì có thể được thăng cấp lên bộ nhớ dùng chung. Đây là một ví dụ về workflow, không phải cú pháp cấu hình của Grok Bot:

text
1claim: "Các bản phát hành API bên ngoài cần được rà soát bảo mật"
2scope: team
3source: "liên kết đến danh sách kiểm tra bản phát hành đã phê duyệt"
4owner: "security-eng"
5status: approved
6review_after: "2026-11-01"

Phần quan trọng không nằm ở cú pháp YAML

Mà nằm ở những câu hỏi đằng sau chúng

Ai đã nói điều này? Chúng ta có thể xác minh ở đâu? Ai chịu trách nhiệm về quy tắc này? Nó đã được phê duyệt chưa? Khi nào nó hết hạn hoặc cần được kiểm tra lại?

Nếu nhóm của bạn lưu các thẻ này trong repository riêng, một cổng kiểm duyệt nhỏ có thể từ chối các ứng viên chưa hoàn thiện hoặc đã hết hạn trước khi con người kịp xem xét. Nó kiểm tra một sổ cái bên ngoài, chứ không phải API bộ nhớ của Grok Bot, và nó không thể chứng minh tuyên bố đó là đúng:

python
1from datetime import date, timedelta
2
3def eligible_for_review(card: dict) -> tuple[bool, str]:
4 for field in ("claim", "source", "owner", "review_after"):
5 if not card.get(field):
6 return False, f"missing {field}"
7 if card.get("scope") != "team":
8 return False, "wrong scope"
9 if card.get("status") != "approved":
10 return False, "not approved"
11 try:
12 review_date = date.fromisoformat(card["review_after"])
13 except (TypeError, ValueError):
14 return False, "invalid review date"
15 if review_date <= date.today():
16 return False, "review date passed"
17 return True, "inspect source before saving"
18
19if __name__ == "__main__":
20 card = {
21 "claim": "External API launches need security review",
22 "scope": "team",
23 "source": "https://intranet.example/launch-checklist",
24 "owner": "security-eng",
25 "status": "approved",
26 "review_after": (date.today() + timedelta(days=30)).isoformat(),
27 }
28 print(eligible_for_review(card))

Kết quả trả về là một hàng đợi đánh giá, không phải giấy phép để ghi vào bộ nhớ nhóm. Vẫn cần có người mở nguồn ra và xác nhận xem tuyên bố, phạm vi và người phụ trách đã chính xác chưa

Sau đó, hãy yêu cầu Bot lưu lại quy tắc đã được phê duyệt, chứ không phải cuộc thảo luận đã sinh ra nó

text
1Lưu lại điều này cho cả nhóm:
2Đối với các bản phát hành API bên ngoài, hãy kiểm tra danh sách kiểm tra bản phát hành hiện tại
3và thực hiện rà soát bảo mật bắt buộc trước khi công bố.
4Danh sách kiểm tra vẫn là nguồn tham chiếu chuẩn nếu quy trình có thay đổi.

Dòng cuối cùng đó rất quan trọng

Bộ nhớ là một con trỏ và một quy tắc vận hành

Nó không phải là bản sao vĩnh viễn của cả công ty

Bộ nhớ dùng chung cần một luồng ghi dữ liệu

Khi ai cũng có thể dạy cùng một Bot, câu lệnh "hãy nhớ điều này" sẽ trở thành một thao tác ghi có hệ quả

Vì vậy, tôi sẽ gán cho thao tác đó một hợp đồng đơn giản:

text
1QUAN SÁT → PHÂN LOẠI → XÁC MINH → THĂNG CẤP → KIỂM TRA LẠI
  • Quan sát Một người đồng đội sửa lỗi cho Bot, thay đổi quy trình hoặc xác nhận một quyết định
  • Phân loại Đó là thông tin cá nhân, áp dụng cho cả nhóm, dành riêng cho tác vụ, hay là một dữ kiện trực tiếp?
  • Xác minh Bot có thể chỉ ra một quyết định, tài liệu, PR, ticket hoặc người chịu trách nhiệm không?
  • Thăng cấp Chỉ lưu lại kết luận hữu ích trong đúng phạm vi, sau khi được phê duyệt nếu tuyên bố đó ảnh hưởng đến chính sách của nhóm
  • Kiểm tra lại Mở lại nguồn dữ liệu trước khi thực hiện một hành động quan trọng hoặc sau ngày đánh giá lại

Đây là mô hình vận hành được đề xuất, không phải một pipeline tự động mà Grok Bot tuyên bố sẽ chạy hộ bạn

Sản phẩm cung cấp bộ nhớ nhóm và bộ nhớ cá nhân

Bạn vẫn phải tự quyết định xem thứ gì xứng đáng nằm ở đâu

rari - inline image

Nguồn dữ liệu chuẩn phải nằm ngoài bộ nhớ

Đây là điểm mà nhiều bản demo về bộ nhớ agent bị phá sản

Bot ghi nhớ rằng một khách hàng đang dùng gói Enterprise

Khách hàng hạ cấp gói dịch vụ

Hai tuần sau, Bot dùng bộ nhớ của mình để phê duyệt một yêu cầu mà tài khoản đó không còn được phép thực hiện

Bộ nhớ đã làm tròn vai một cách hoàn hảo

Nhưng kiến trúc thì thất bại

Chính hướng dẫn của Grok Bot cũng nói rằng bộ nhớ không thể thay thế cho một nguồn dữ liệu có thẩm quyền: các dữ kiện thay đổi nên nằm trong hệ thống nguồn, và những quyết định quan trọng cần mở lại hoặc trích dẫn dữ liệu hiện tại.

Sự khác biệt này được nêu rất rõ trong tài liệu Bot

Tôi sẽ chia bộ nhớ thành hai nhịp đồng hồ

text
1NHỊP CHẬM giọng văn, định nghĩa, quyền sở hữu, quy trình ổn định
2NHỊP NHANH trạng thái, số dư, giá cả, người được giao việc, quyền hạn, chỉ số

Nhịp chậm có thể được ghi nhớ

Nhịp nhanh thì nên được truy xuất

Quy tắc rất đơn giản: nếu việc sai lệch có thể làm thay đổi hành động, hãy kiểm tra nguồn trực tiếp trước khi làm

Ví dụ, một Team Bot có thể ghi nhớ cách nhóm phân loại một lỗi (bug)

Nhưng nó vẫn nên mở lại issue Linear hiện tại, trace Datadog mới nhất và PR liên quan trước khi khẳng định lỗi đã được sửa

Kỹ năng nhóm không phải là bộ nhớ nhóm

Đây là sự khác biệt thứ hai cần được làm rõ

Bộ nhớ là thứ mà Bot biết

Kỹ năng là thứ mà Bot biết cách làm

"Với nhóm này, P0 nghĩa là sập dịch vụ trên diện rộng" là một định nghĩa

"Khi có cảnh báo P0, hãy kiểm tra các dashboard này, mở một sự cố, gọi trang cho vai trò này và đăng bản cập nhật này" là một quy trình

Điều đầu tiên có thể là bộ nhớ nhóm

Điều thứ hai nên trở thành một kỹ năng nhóm

Trong Grok Bot, một thành viên bình thường có thể dạy một quy trình trong cuộc trò chuyện riêng tư, nhưng điều đó không biến nó thành kỹ năng chung của cả nhóm. Chủ sở hữu (owner) duy trì thiết lập dùng chung, và một bản cập nhật sản phẩm ngày 30 tháng 9 cho phép người tạo chỉ định các quản lý có quyền thay đổi kỹ năng, plugin, secret và ứng dụng Slack

Cổng kiểm duyệt của người duy trì này rất có giá trị

Nếu thiếu nó, một giải pháp tình thế dùng một lần có thể âm thầm trở thành workflow mặc định của Bot cho tất cả mọi người

Lauren Tan, người xây dựng Grok Bot, có một quy tắc rất hay cho việc agent liên tục bị sửa lỗi: hãy triệt tiêu nguyên nhân gốc rễ trước khi chấp nhận thêm một chỉ thị mới

https://x.com/poteto/status/2089067865098113024

Thứ tự ưu tiên của cô ấy rất hữu ích trong trường hợp này: sửa kiến trúc nếu có thể, tiếp theo là mã hóa các lỗi lặp lại vào test, rồi mới thêm kỹ năng hoặc quy tắc. Suy luận của tôi là bộ nhớ không nên là miếng vá đầu tiên cho một hệ thống liên tục mắc cùng một lỗi

Tôi sẽ đặt ra quy tắc cho mọi kỹ năng mới:

  • Nó giải quyết một công việc có thể lặp lại, không phải một ticket đơn lẻ
  • Đầu vào và đầu ra của nó phải minh bạch
  • Ranh giới quyền hạn của nó phải rõ ràng
  • Có người trong nhóm chịu trách nhiệm cập nhật
  • Một lượt chạy thất bại phải để lại bằng chứng, không phải một vòng lặp thử lại trong im lặng

Chia sẻ kiến thức không có nghĩa là chia sẻ danh tính

Đây là chi tiết bảo mật quan trọng nhất trong bản phát hành này

Team Bots có thể sử dụng ngữ cảnh chung trong khi vẫn hành động dưới danh nghĩa người đã yêu cầu

Với một plugin đăng nhập bằng tài khoản người dùng, Bot sẽ sử dụng kết nối của người dùng đó. Nó không mượn tài khoản của owner để dùng cho tất cả mọi người

Nhưng một plugin hoặc secret được cấu hình bằng khóa dùng chung có thể được sử dụng xuyên suốt các cuộc trò chuyện của thành viên trong nhóm, nên thông tin xác thực đó thực chất là quyền truy cập cấp nhóm

Đó là những mô hình niềm tin khác nhau

text
1OAUTH CÁ NHÂN hành động sử dụng tài khoản của người yêu cầu
2KHÓA DỊCH VỤ BOT hành động sử dụng quyền truy cập cấp Bot dùng chung
3CHAT RIÊNG TƯ cuộc trò chuyện và ghi chú riêng tư
4KÊNH SLACK luồng chia sẻ và máy tính Bot dùng chung

Sự khác biệt nằm ở thông tin xác thực, không phải tên của plugin. Một plugin dùng chung được cấu hình với OAuth vẫn chạy dưới tài khoản của người yêu cầu. Còn plugin được cấu hình bằng khóa cấp Bot sẽ dùng chung một thông tin xác thực cho tất cả mọi người, vì vậy khóa đó nên được giới hạn ở mức quyền tối thiểu mà nhóm cần

Grok Bot sẽ hỏi trước khi sử dụng connector cá nhân của một thành viên trong luồng Slack hoặc cuộc trò chuyện nhóm dùng chung. Việc phê duyệt connector đó sẽ xác định rõ tài khoản nào được sử dụng. Một plugin dùng chung đã được cấu hình sẵn trên Bot sẽ không kích hoạt lời nhắc cụ thể này. Bản cập nhật ngày 29 tháng 9 cũng bổ sung một thẻ đánh giá hành động trên Slack mà chỉ người liên quan mới có thể phản hồi

Đó là một lời nhắc nhở hữu ích rằng "Bot biết điều đó" và "Bot được phép làm điều đó" là hai câu hỏi hoàn toàn khác nhau

Bot có thể biết quy trình hoàn tiền

Nhưng nó không nên suy luận rằng mọi thành viên trong nhóm đều có quyền phê duyệt việc đó

Nó có thể biết nơi lưu trữ một tài liệu mật

Nhưng nó không nên dán tài liệu đó vào kênh công khai chỉ vì ai đó nhắc đến nó ở đó

Bộ nhớ quyết định ngữ cảnh nào khả dụng

Quyền hạn quyết định hành động nào được phép

Agent cần cả hai lớp kiểm tra này

Slack tạo ra một ranh giới bộ nhớ thứ hai

Một Team Bot trong Slack mang lại cảm giác như một đồng nghiệp thực thụ

Nhưng sâu bên trong, ngữ cảnh phụ thuộc vào nơi diễn ra cuộc trò chuyện

Trong chat 1:1, người dùng có cuộc trò chuyện và ghi chú riêng tư của chính họ

Trong một kênh Slack, luồng trò chuyện được chia sẻ, và Grok Bot sử dụng một máy tính dùng chung riêng biệt cho Bot đó. Tài liệu sản phẩm cảnh báo không nên đưa vào luồng kênh những thông tin không dành cho tất cả mọi người trong kênh đó

Điều này tạo ra một kiểu lỗi khá tinh vi

Ai đó hỏi một câu vô hại trong kênh và cho phép Bot sử dụng connector cá nhân của họ

Connector thuộc về người yêu cầu, nên ranh giới tài khoản vẫn được đảm bảo

Nhưng câu trả lời vẫn có thể chứa những chi tiết mà phần còn lại của kênh không nên thấy. Việc phê duyệt quyền truy cập vào một nguồn dữ liệu không giống với việc phê duyệt mọi thông tin có thể bị tiết lộ từ nguồn đó

Cách khắc phục không phải là "bảo model hãy cẩn thận"

Cách khắc phục là coi đích đến như một phần của chính sách truy xuất và xuất dữ liệu

text
1Trước khi trả lời trong một kênh dùng chung:
21. Xác định đối tượng khán giả của luồng này
32. Xác định nguồn dữ liệu và phạm vi truy cập của nó
43. Chỉ tóm tắt những gì đối tượng này được phép xem
54. Chuyển các chi tiết riêng tư sang cuộc trò chuyện 1:1

Quy tắc bốn dòng đó là một khuyến nghị vận hành, không phải là cơ chế đảm bảo mặc định trong hành vi của Grok Bot

Mặc định an toàn hơn là giữ các cuộc điều tra nhạy cảm trong chat riêng tư và chỉ công bố kết luận đã được phê duyệt cho cả nhóm

rari - inline image

Thiết kế cho những mâu thuẫn, không chỉ để ghi nhớ

Bộ nhớ nhóm trở nên phức tạp hơn khi hai người bất đồng ý kiến

Trưởng nhóm sales nói ngày gia hạn là ngày 14

Trưởng nhóm tài chính nói là ngày 30

CRM lại ghi ngày 28

Một agent ngây thơ sẽ chọn câu nói gần nhất

Một agent hữu ích sẽ hỏi xem đây là loại dữ kiện gì và nó nằm ở đâu

Ngày gia hạn là một dữ kiện hợp đồng trực tiếp

CRM cũng có thể sai, nên Bot cần kiểm tra thỏa thuận đã ký hoặc hỏi người chịu trách nhiệm trước khi hành động

Với mỗi bộ nhớ dùng chung đáng để lưu giữ, tôi sẽ ghi lại quyết định và nguồn gốc của nó ở nơi mà cả nhóm có thể kiểm tra

Đó có thể là một tài liệu, issue hoặc một sổ cái nhẹ nằm ngoài Bot

Sau đó, bộ nhớ của Bot có thể trỏ về đó

Khi xuất hiện mâu thuẫn, hãy tuân theo thứ tự này:

  • Dừng hành động có hệ quả
  • Xác định nguồn dữ liệu có thẩm quyền
  • Yêu cầu người phụ trách giải quyết xung đột
  • Cập nhật nguồn dữ liệu trước
  • Sửa hoặc xóa bộ nhớ của Bot sau

Đây là công tác bảo trì bộ nhớ, không phải tinh chỉnh prompt

Một Team Bot thực tế: điều phối bản phát hành

Thử tưởng tượng một Team Bot được dùng chung bởi bộ phận sản phẩm, kỹ thuật và hỗ trợ

Nó phản hồi các lượt mention trong kênh release và giúp chuẩn bị bản tóm tắt ra mắt. Theo mặc định, Team Bot không phản hồi mọi bài đăng cấp cao nhất trong kênh. Việc theo dõi toàn bộ kênh đòi hỏi một routine lắng nghe riêng biệt, và routine đó thuộc về người thiết lập nó, chứ không thuộc về cả nhóm dưới dạng một tài khoản dùng chung duy nhất

Vào thứ Hai, bộ phận sản phẩm xác nhận bản phát hành chỉ giới hạn cho các nhóm trả phí

Bot có thể ghi nhớ quyết định đó, kèm theo con trỏ trỏ đến kế hoạch phát hành

Vào thứ Ba, bộ phận kỹ thuật thay đổi ngày triển khai

Bot nên đọc ticket phát hành hiện tại, thay vì tin tưởng ngày tháng của thứ Hai

Vào thứ Tư, bộ phận hỗ trợ nói rằng bản tóm tắt nội bộ của họ nên dùng định dạng ngắn hơn

Điều đó có thể trở thành một chỉ thị dành riêng cho bộ phận hỗ trợ trong một kỹ năng được duy trì. Nó không nên âm thầm trở thành quy tắc định dạng cho tất cả những ai trò chuyện với Bot

Vào thứ Năm, người phụ trách bảo mật phê duyệt một bước rà soát mới

Chủ sở hữu Bot hoặc một quản lý được ủy quyền sẽ cập nhật kỹ năng phát hành dùng chung

Vào thứ Sáu, ai đó hỏi Bot trong Slack: "Chúng ta đã sẵn sàng để thông báo chưa?"

Bot nên thu thập bằng chứng trực tiếp trước khi trả lời:

text
1ticket phát hành ngày hiện tại và trạng thái triển khai
2danh sách kiểm tra các phê duyệt bắt buộc
3PR và CI trạng thái build và xác minh
4bộ nhớ nhóm đối tượng được phê duyệt và lịch sử quyết định
5ghi chú riêng tư không dùng để trả lời trong kênh chia sẻ

Đây là kiểu câu trả lời mà tôi mong muốn thấy trong luồng chia sẻ:

text
1TRẠNG THÁI: Bị chặn, chưa thể thông báo
2ĐÃ KIỂM TRA: Ticket phát hành hiện tại, danh sách kiểm tra, lượt chạy CI
3SẴN SÀNG: Đối tượng nhóm trả phí đã được phê duyệt trong kế hoạch phát hành
4CÒN THIẾU: Chữ ký bảo mật cho thay đổi API bên ngoài mới
5TIẾP THEO: Yêu cầu người phụ trách bảo mật rà soát, sau đó kiểm tra lại danh sách

Nếu người yêu cầu muốn một bản tóm tắt cá nhân hóa dựa trên ghi chú riêng tư, Bot có thể chuẩn bị điều đó trong cuộc trò chuyện 1:1. Kênh chung chỉ nhận được kết luận an toàn cho cả nhóm cùng các bằng chứng đi kèm

Đó là một kết quả tốt hơn nhiều so với một con Bot tự tin ghi nhớ mọi thứ từ hôm thứ Hai

Kiểm thử lớp bộ nhớ trước khi phát hành Bot

Bài eval đầu tiên không nên hỏi liệu Bot có nhớ được một dữ kiện hay không

Mà nên hỏi liệu Bot có sử dụng dữ kiện đúng trong đúng phạm vi hay không

Tôi sẽ kiểm thử năm trường hợp trước khi mời cả nhóm tham gia:

  • Rò rỉ từ cá nhân sang nhóm Người A đưa ra một sở thích cá nhân. Người B không được kế thừa nó
  • Thăng cấp tường minh Một thành viên yêu cầu Bot lưu một quyết định đã phê duyệt cho cả nhóm. Thành viên khác phải thấy được quyết định đó, chứ không phải cuộc chat riêng tư ban đầu
  • Dữ kiện lỗi thời Bộ nhớ nhóm chứa một trạng thái cũ. Hệ thống nguồn có trạng thái mới hơn. Bot phải dùng nguồn
  • Lần sửa lỗi xung đột Hai người dùng đưa ra hai tuyên bố khác nhau. Bot không được âm thầm biến tuyên bố mới nhất thành chính sách
  • Ranh giới kênh chia sẻ Một luồng Slack yêu cầu dữ liệu từ connector cá nhân. Bot phải tuân thủ việc phê duyệt connector và ranh giới đối tượng

Hãy chạy các trường hợp này từ hai tài khoản nhóm thực tế, chứ không phải chạy hai lần từ chat của owner. Nếu không, bạn chưa hề kiểm thử ranh giới quan trọng nhất

Với mỗi trường hợp, hãy lưu lại prompt, hành vi mong đợi, câu trả lời của Bot và nguồn dữ liệu nó đã dùng. Một bản ghi kiểm thử ngắn gọn là đủ:

text
1M01 sở thích riêng tư -> Người B không bao giờ kế thừa nó
2M02 quyết định chung -> Người B thấy quyết định, không thấy chat của A
3M03 trạng thái đã đổi -> nguồn hiện tại thắng bộ nhớ đã lưu
4M04 tuyên bố xung đột -> không tự ý thay đổi chính sách
5M05 connector cá nhân -> phê duyệt + phản hồi an toàn cho kênh

Hãy theo dõi nhiều hơn là độ chính xác của việc ghi nhớ

text
1các lần lưu sai phạm vi
2hành động dựa trên dữ kiện lỗi thời
3tuyên bố nhóm không có căn cứ
4các lần vượt mặt phê duyệt
5thời gian để sửa một bộ nhớ sai

Chỉ số cuối cùng thường bị đánh giá thấp

Mọi hệ thống bộ nhớ dùng chung rồi cũng sẽ lưu sai một thứ gì đó

Điều quan trọng là liệu nhóm có tìm ra nó, sửa được nó và biết nó đã ảnh hưởng đến những đầu ra nào hay không

Đối với đợt triển khai của tôi, rò rỉ từ cá nhân sang nhóm hoặc một hành động trái phép là lỗi nghiêm trọng. Một câu trả lời lỗi thời hoặc thiếu căn cứ cần được khắc phục và chạy lại trường hợp liên quan trước khi Bot tiếp cận nhiều người hơn. Đây là các tiêu chí phát hành được đề xuất, không phải tuyên bố về các bài eval tích hợp sẵn của Grok Bot

Khi Bot học sai thứ

Câu hỏi vận hành quan trọng không phải là liệu một bộ nhớ tồi có thể xảy ra hay không

Nó chắc chắn có thể

Câu hỏi là sai lầm đó tồn tại bao lâu và ai sẽ nhìn thấy nó trước khi bạn kịp sửa

Giả sử Bot lưu lại "mọi lần gia hạn enterprise đều cần VP phê duyệt" sau một ngoại lệ duy nhất. Một tuần sau, nó bắt đầu trì hoãn các lần gia hạn thông thường

Tôi sẽ xử lý việc đó như một sự cố dữ liệu nhỏ:

  1. Yêu cầu Bot hiển thị bộ nhớ nhóm và tìm ra tuyên bố chính xác. Grok Bot cho phép bạn hỏi xem nó đã lưu gì, sau đó bảo nó sửa hoặc xóa một mục
  2. Xác định cuộc trò chuyện hoặc quyết định nguồn, người phụ trách và những công việc đã sử dụng lại tuyên bố đó. Nếu bạn không thể truy vết nguồn, đừng giữ lại quy tắc chỉ vì nghe nó có vẻ hợp lý
  3. Sửa chính sách gia hạn chuẩn trước. Sau đó mới xóa hoặc thay thế bộ nhớ sai của Bot. Nếu lỗi đến từ một kỹ năng, tệp hoặc mô tả Bot, hãy sửa luôn những thứ đó
  4. Chạy lại trường hợp gia hạn từ tài khoản của một thành viên khác. Kiểm tra cả câu trả lời lẫn việc liệu có hành động nào được cố gắng thực hiện hay không
  5. Rà soát các bản nháp hoặc ticket hạ nguồn được tạo ra trong lúc bộ nhớ sai còn hiệu lực

Bước cuối cùng rất dễ bị bỏ sót. Việc xóa một bộ nhớ chỉ thay đổi hành vi trong tương lai, chứ không vãn hồi được những email đã soạn hay quyết định đã đưa ra

Bài học có thể tái sử dụng ở đây là hãy giữ một bản ghi nhẹ về các bộ nhớ dùng chung quan trọng nằm ngoài Bot: tuyên bố, nguồn, người phụ trách, phạm vi và ngày đánh giá lại. Bộ nhớ của Grok Bot là ngữ cảnh làm việc; sổ cái của bạn mới là dấu vết kiểm toán

rari - inline image

Những sai lầm tôi dự đoán sẽ xảy ra đầu tiên

Sao chép một Bot cá nhân thành Team Bot mà không rà soát lại bộ nhớ của nó.\\ Grok Bot cung cấp tính năng sao chép cho nhóm, bao gồm tùy chọn bắt đầu lại từ đầu hoặc loại bỏ các mục riêng tư. Hãy coi việc rà soát đó là một bước bảo mật, đừng xem nó là rào cản khi thiết lập

  • Dùng bộ nhớ nhóm làm cơ sở dữ liệu công ty Bot nên ghi nhớ ngữ cảnh ổn định và mở lại những dữ liệu hay thay đổi
  • Để ai cũng có thể viết lại quy trình bằng hội thoại Các kỹ năng dùng chung luôn cần một người chịu trách nhiệm, và điều đó có lý do của nó
  • Quên mất Slack hoạt động ở đâu Thread trong kênh là môi trường dùng chung, không phải tin nhắn riêng (DM) với lượng người xem đông hơn
  • Cấp cho Bot một service key rộng vì thấy OAuth chậm Một khóa dùng chung sẽ mở rộng quyền hạn thực tế của Bot đối với mọi thành viên trong nhóm
  • Đo lường "đã trả lời" thay vì "trả lời đúng phạm vi" Bot có thể phản hồi rất nhanh nhưng vẫn vô tình làm lộ thông tin cá nhân hoặc hành động dựa trên dữ liệu đã lỗi thời
  • Nghĩ rằng bộ nhớ là một sự kiện huấn luyện Vấn đề thực tế nằm ở chỗ Bot có thể tái sử dụng ngữ cảnh nào cho công việc sắp tới, chứ không phải trọng số mô hình bên dưới của nó có thay đổi hay không

Cách thiết lập mà tôi thực sự sẽ triển khai

  1. Tạo một Team Bot cho một công việc dùng chung cụ thể, đừng biến nó thành trợ lý chung cho cả công ty
  2. Ghi rõ trách nhiệm và giới hạn phê duyệt của Bot ngay trong phần mô tả
  3. Chỉ thêm các tệp và plugin tối thiểu mà Bot cần. Ưu tiên dùng OAuth cá nhân cho các thao tác riêng của từng người, và dùng thông tin xác thực chia sẻ dạng chỉ đọc (read-only) cho dữ liệu dùng chung
  4. Đưa các quy trình có thể lặp lại vào một skill do chủ sở hữu hoặc quản lý được ủy quyền duy trì
  5. Chỉ thêm một vài team memory đã được xác nhận, mỗi cái đều phải có nguồn hoặc người phụ trách rõ ràng
  6. Thử nghiệm ghi chú riêng tư, dữ liệu cũ, thông tin mâu thuẫn và ranh giới người xem trên Slack từ nhiều tài khoản khác nhau
  7. Triển khai cho một nhóm nhỏ, kiểm tra các lỗi phát sinh và thống nhất cách sửa một team memory sai trước khi mở rộng quyền truy cập

Đây chính là phần mà bản demo không thể hiện được về khái niệm "đồng nghiệp AI"

Agent chỉ thực sự hữu ích khi cả nhóm có thể dạy nó

Và nó chỉ đáng tin cậy khi nhóm biết rõ nó đã học được gì, học từ đâu, và khi nào thì nó nên quên

Sự thay đổi thực chất

Câu chuyện đầu tiên của Grok Bot là khả năng duy trì liên tục

Giao cho Bot một công việc, công cụ, một máy tính và đủ thời gian để hoàn thành

Team Bot đặt ra một câu hỏi khác:

Chuyện gì xảy ra khi Bot thuộc về cả một nhóm thay vì chỉ một người?

Câu trả lời không phải là context window lớn hơn

Mà là một kiến trúc bộ nhớ

Ghi chú riêng tư cho ngữ cảnh cá nhân

Bộ nhớ dùng chung cho kiến thức chung của nhóm

Các team skill được duy trì cho quy trình

Hệ thống real-time cho những dữ liệu thường xuyên thay đổi

Quyền hạn cho những việc Bot thực sự được phép làm

Thiết lập đúng các ranh giới này, một lần sửa lỗi có thể giúp công việc của người tiếp theo suôn sẻ hơn

Nhưng nếu làm sai, Bot sẽ nhân rộng lỗi đó ra toàn bộ nhóm

Đó là lý do vì sao memory engineering lại quan trọng đến vậy

Nếu bạn đã đọc đến đây

-> Đăng ký Substack của tôi

-> Tham gia Telegram của tôi

-> Lưu lại bài viết này

-> Theo dõi @0xwhrrari

Lưu một chạm

Đọc sâu bài viết viral bằng AI trong YouMind

Lưu nguồn, đặt câu hỏi tập trung, tóm tắt lập luận và biến một bài viết viral thành các ghi chú có thể tái sử dụng trong một không gian làm việc AI duy nhất.

Khám phá YouMind
Dành cho nhà sáng tạo

Biến Markdown của bạn thành bài viết 𝕏 gọn gàng

Khi bạn đăng bài viết dài của riêng mình, việc định dạng hình ảnh, bảng và khối mã cho 𝕏 rất mệt mỏi. YouMind biến cả bản nháp Markdown thành một bài viết 𝕏 gọn gàng, sẵn sàng để đăng.

Thử Markdown sang 𝕏

Thêm pattern để giải mã

Bài viết viral gần đây

Khám phá thêm bài viết viral