Bộ nhớ dùng chung, ngữ cảnh riêng tư, nguồn dữ liệu trực tiếp và những quy tắc giúp Team Bot thực sự hữu ích sau tuần đầu tiên
Một trợ lý AI cá nhân có thể ghi nhớ cách bạn thích các báo cáo của mình
Team agent lại có một nhiệm vụ khó nhằn hơn
Nó phải học cách tất cả mọi người làm việc mà không biến cuộc trò chuyện của một người thành ký ức của toàn bộ nhóm
Nó phải biết quyết định nào được chia sẻ, tùy chọn nào là riêng tư, và thông tin nào cần được kiểm tra lại trong hệ thống nguồn
Đó chính là điểm thú vị trong bản phát hành Team Bots mới của Grok Bot
Giờ đây, một Bot có thể được thiết lập với các tệp, kỹ năng, plugin và bộ nhớ dùng chung, sau đó xuất bản để cả nhóm sử dụng trong ứng dụng hoặc Slack
Team Bots đã ra mắt bản beta công khai cho các gói Teams và Enterprise
Nhưng "một Bot cho tất cả" không đồng nghĩa với "một lịch sử chat khổng lồ cho tất cả"
Trong cuộc trò chuyện 1:1, mỗi người có một cuộc hội thoại riêng tư với Bot. Bộ nhớ nhóm thì được chia sẻ. Ghi chú cá nhân vẫn thuộc về người đó. Một plugin đăng nhập qua tài khoản cá nhân sẽ sử dụng quyền truy cập của người yêu cầu, chứ không phải của người tạo Bot. Các luồng Slack dùng chung và khóa ở cấp độ Bot có những ranh giới khác nhau, và điều này sẽ rất quan trọng ở phần sau
Đó là một kiến trúc thực thụ, không chỉ đơn thuần là một nút bật/tắt bộ nhớ
https://x.com/bot/status/2104661562715967548
Và nếu bạn thiết lập sai, Bot không chỉ đơn giản là quên mọi thứ
Nó sẽ học sai thứ, ghi nhớ sai chỗ, hoặc áp dụng một quyết định cũ vào tình huống mới
Đây là cách tôi sẽ xây dựng lớp bộ nhớ (memory layer)
Một điểm cần phân biệt trước khi đi vào thiết kế: cổng phê duyệt (promotion gate), sổ cái bên ngoài (external ledger), ngày đánh giá lại và các bài eval dưới đây là quy trình do tôi đề xuất. Chúng không phải là các tính năng của Grok Bot mà tôi đã xác minh trong sản phẩm
Tôi thường xuyên chia sẻ những bài phân tích thực tế về AI agent, workflow và hệ thống production trên Substack
Kỹ thuật bộ nhớ, giải thích theo ngôn ngữ đời thường
Kỹ thuật bộ nhớ (memory engineering) là việc quyết định xem agent nên mang theo những gì sang tác vụ tiếp theo
Không phải "lưu tất cả mọi thứ"
Không phải "tóm tắt 100 tin nhắn gần nhất"
Không phải "nhét toàn bộ wiki công ty vào system prompt"
Đó là một lộ trình có kiểm soát, đi từ một quan sát hữu ích đến một mảnh ngữ cảnh làm việc có thể tái sử dụng
1có một sự việc vừa xảy ra2 ↓3nó có đáng để ghi nhớ không?4 ↓5ai được phép sử dụng lại nó?6 ↓7khi nào thì cần kiểm tra lại?
Một bộ nhớ tốt giúp người tiếp theo không phải lặp lại một quyết định đã có
Một bộ nhớ tồi sẽ âm thầm thay thế nguồn dữ liệu chuẩn (source of truth) thực sự
Sự khác biệt không nằm ở số lượng token bạn lưu trữ
Mà nằm ở quy tắc quyết định thứ gì được đưa vào bộ nhớ, ai được đọc nó, và khi nào nó không còn đáng tin cậy nữa
Team Bots thay đổi việc ai sẽ hưởng lợi từ một lần sửa lỗi
Trước khi có Team Bots, việc dạy một Bot cá nhân chủ yếu chỉ cải thiện các cuộc trò chuyện trong tương lai của \chính bạn\
Giờ đây, một lần sửa lỗi được chia sẻ có thể cải thiện luôn cuộc trò chuyện của người đồng đội tiếp theo
Nghe thì hiển nhiên, cho đến khi bạn nhìn vào các trường hợp ngoại lệ
"Hãy dùng bản cập nhật trạng thái ngắn gọn hơn cho tôi" là sở thích cá nhân
"Người phụ trách sự cố là kỹ sư trực ca, không phải PM" có thể là một quy tắc của cả nhóm
"Chỉ số chuyển đổi đã thay đổi từ thứ Ba tuần trước" không phải là một sở thích bất biến hay một quy tắc vĩnh viễn. Đó là một dữ kiện đang thay đổi và cần được lưu trong hệ thống có thẩm quyền
Tài liệu Team Bots của Grok Bot vạch ra ranh giới sản phẩm cực kỳ rõ ràng: bộ nhớ nhóm được đọc bởi cuộc trò chuyện của mọi người, trong khi mỗi người có ghi chú riêng tư. Bot sẽ lưu một dữ kiện vào bộ nhớ nhóm khi ai đó nói rằng cả nhóm nên biết điều này, và nó sẽ thông báo lại khi thực hiện
Hành vi sản phẩm đó chính là điểm khởi đầu
Bài toán kỹ thuật là quyết định xem mọi người
ên\ yêu cầu nó chia sẻ những gì
Data Bot của chính SpaceXAI là một ví dụ hữu ích. Nó sử dụng thông tin đăng nhập kho dữ liệu ở chế độ chỉ đọc và một thư viện kỹ năng được xây dựng quanh hơn 45.000 bảng. Nó không cần phải ghi nhớ hết các bảng đó. Nó cần kỹ năng để tìm đúng bảng, quyền truy cập trực tiếp để truy vấn, và bộ nhớ về một lần sửa lỗi giúp cải thiện câu trả lời cho người đồng đội tiếp theo
Đó chính là sự khác biệt mà bài viết này muốn bàn tới: khả năng phán đoán có thể tái sử dụng nằm trong bộ nhớ, còn dữ liệu thay đổi thì nằm ở nguồn
Hành vi sản phẩm đó chính là điểm khởi đầu
Bài toán kỹ thuật là quyết định xem mọi người nên yêu cầu nó chia sẻ những gì
Data Bot của chính SpaceXAI là một ví dụ hữu ích. Nó sử dụng thông tin đăng nhập kho dữ liệu ở chế độ chỉ đọc và một thư viện kỹ năng được xây dựng quanh hơn 45.000 bảng. Nó không cần phải ghi nhớ hết các bảng đó. Nó cần kỹ năng để tìm đúng bảng, quyền truy cập trực tiếp để truy vấn, và bộ nhớ về một lần sửa lỗi giúp cải thiện câu trả lời cho người đồng đội tiếp theo
Đó chính là sự khác biệt mà bài viết này muốn bàn tới: khả năng phán đoán có thể tái sử dụng nằm trong bộ nhớ, còn dữ liệu thay đổi thì nằm ở nguồn
https://x.com/elonmusk/status/2104709783999729911
Thông báo chỉ gói gọn trong một dòng. Nhưng ranh giới giữa việc học hỏi chung và ngữ cảnh riêng tư thì không

Đừng đánh đồng mọi loại ngữ cảnh đều là bộ nhớ
Tôi sẽ chia ngữ cảnh của Bot thành năm nhóm
1NGUỒN TRỰC TIẾP dữ kiện hiện tại trong Linear, Datadog, CRM, tài liệu hoặc code2KỸ NĂNG NHÓM quy trình có thể lặp lại, được chủ sở hữu Bot phê duyệt3BỘ NHỚ NHÓM các quyết định dùng chung và định nghĩa ổn định4GHI CHÚ RIÊNG TƯ tùy chọn và ngữ cảnh làm việc của một cá nhân5TRẠNG THÁI TÁC VỤ những gì lượt chạy cụ thể này đang thực hiện ngay lúc này
Chúng không thể thay thế cho nhau
Quy trình xử lý sự cố của nhóm nên nằm trong một kỹ năng
Mức độ nghiêm trọng của sự cố hiện tại nên nằm trong công cụ quản lý sự cố
Ý nghĩa đã thống nhất của cụm từ "ảnh hưởng đến khách hàng" có thể nằm trong bộ nhớ nhóm
Định dạng báo cáo bạn ưa thích nên nằm trong ghi chú riêng tư của bạn
Các câu hỏi còn bỏ ngỏ cho cuộc điều tra hôm nay nên nằm trong trạng thái tác vụ
Nhét một chỉ số liên tục thay đổi vào bộ nhớ nhóm và nó sẽ nhanh chóng trở nên lỗi thời
Nhét một quy tắc chung của nhóm vào ghi chú riêng tư và chẳng ai khác biết đến nó
Nhét một sở thích cá nhân vào bộ nhớ nhóm và Bot sẽ bắt đầu áp đặt nó lên tất cả mọi người
Nhiệm vụ đầu tiên của kỹ thuật bộ nhớ là định tuyến ngữ cảnh vào đúng nhóm
Hãy thăng cấp một dữ kiện, không phải một cuộc trò chuyện
Thử tưởng tượng một người đồng đội nói với Bot:
"Danh sách kiểm tra bản phát hành mới yêu cầu phải rà soát bảo mật trước khi chúng ta công bố thay đổi API ra bên ngoài"
Có ít nhất bốn khả năng xảy ra
- Đây là một đề xuất thay đổi, chưa được phê duyệt
- Đây là một quy trình đã được nhóm phê duyệt
- Nó chỉ áp dụng cho một sản phẩm duy nhất
- Nó đúng vào tháng trước nhưng danh sách kiểm tra đã thay đổi lần nữa
Nếu Bot chỉ lưu lại đúng câu nói đó, nó sẽ đánh mất những sắc thái quan trọng
Tôi sẽ dùng một thẻ đánh giá bên ngoài (external review card) nhỏ gọn cho bất cứ thứ gì có thể được thăng cấp lên bộ nhớ dùng chung. Đây là một ví dụ về workflow, không phải cú pháp cấu hình của Grok Bot:
1claim: "Các bản phát hành API bên ngoài cần được rà soát bảo mật"2scope: team3source: "liên kết đến danh sách kiểm tra bản phát hành đã phê duyệt"4owner: "security-eng"5status: approved6review_after: "2026-11-01"
Phần quan trọng không nằm ở cú pháp YAML
Mà nằm ở những câu hỏi đằng sau chúng
Ai đã nói điều này? Chúng ta có thể xác minh ở đâu? Ai chịu trách nhiệm về quy tắc này? Nó đã được phê duyệt chưa? Khi nào nó hết hạn hoặc cần được kiểm tra lại?
Nếu nhóm của bạn lưu các thẻ này trong repository riêng, một cổng kiểm duyệt nhỏ có thể từ chối các ứng viên chưa hoàn thiện hoặc đã hết hạn trước khi con người kịp xem xét. Nó kiểm tra một sổ cái bên ngoài, chứ không phải API bộ nhớ của Grok Bot, và nó không thể chứng minh tuyên bố đó là đúng:
1from datetime import date, timedelta23def eligible_for_review(card: dict) -> tuple[bool, str]:4 for field in ("claim", "source", "owner", "review_after"):5 if not card.get(field):6 return False, f"missing {field}"7 if card.get("scope") != "team":8 return False, "wrong scope"9 if card.get("status") != "approved":10 return False, "not approved"11 try:12 review_date = date.fromisoformat(card["review_after"])13 except (TypeError, ValueError):14 return False, "invalid review date"15 if review_date <= date.today():16 return False, "review date passed"17 return True, "inspect source before saving"1819if __name__ == "__main__":20 card = {21 "claim": "External API launches need security review",22 "scope": "team",23 "source": "https://intranet.example/launch-checklist",24 "owner": "security-eng",25 "status": "approved",26 "review_after": (date.today() + timedelta(days=30)).isoformat(),27 }28 print(eligible_for_review(card))
Kết quả trả về là một hàng đợi đánh giá, không phải giấy phép để ghi vào bộ nhớ nhóm. Vẫn cần có người mở nguồn ra và xác nhận xem tuyên bố, phạm vi và người phụ trách đã chính xác chưa
Sau đó, hãy yêu cầu Bot lưu lại quy tắc đã được phê duyệt, chứ không phải cuộc thảo luận đã sinh ra nó
1Lưu lại điều này cho cả nhóm:2Đối với các bản phát hành API bên ngoài, hãy kiểm tra danh sách kiểm tra bản phát hành hiện tại3và thực hiện rà soát bảo mật bắt buộc trước khi công bố.4Danh sách kiểm tra vẫn là nguồn tham chiếu chuẩn nếu quy trình có thay đổi.
Dòng cuối cùng đó rất quan trọng
Bộ nhớ là một con trỏ và một quy tắc vận hành
Nó không phải là bản sao vĩnh viễn của cả công ty
Bộ nhớ dùng chung cần một luồng ghi dữ liệu
Khi ai cũng có thể dạy cùng một Bot, câu lệnh "hãy nhớ điều này" sẽ trở thành một thao tác ghi có hệ quả
Vì vậy, tôi sẽ gán cho thao tác đó một hợp đồng đơn giản:
1QUAN SÁT → PHÂN LOẠI → XÁC MINH → THĂNG CẤP → KIỂM TRA LẠI
- Quan sát Một người đồng đội sửa lỗi cho Bot, thay đổi quy trình hoặc xác nhận một quyết định
- Phân loại Đó là thông tin cá nhân, áp dụng cho cả nhóm, dành riêng cho tác vụ, hay là một dữ kiện trực tiếp?
- Xác minh Bot có thể chỉ ra một quyết định, tài liệu, PR, ticket hoặc người chịu trách nhiệm không?
- Thăng cấp Chỉ lưu lại kết luận hữu ích trong đúng phạm vi, sau khi được phê duyệt nếu tuyên bố đó ảnh hưởng đến chính sách của nhóm
- Kiểm tra lại Mở lại nguồn dữ liệu trước khi thực hiện một hành động quan trọng hoặc sau ngày đánh giá lại
Đây là mô hình vận hành được đề xuất, không phải một pipeline tự động mà Grok Bot tuyên bố sẽ chạy hộ bạn
Sản phẩm cung cấp bộ nhớ nhóm và bộ nhớ cá nhân
Bạn vẫn phải tự quyết định xem thứ gì xứng đáng nằm ở đâu

Nguồn dữ liệu chuẩn phải nằm ngoài bộ nhớ
Đây là điểm mà nhiều bản demo về bộ nhớ agent bị phá sản
Bot ghi nhớ rằng một khách hàng đang dùng gói Enterprise
Khách hàng hạ cấp gói dịch vụ
Hai tuần sau, Bot dùng bộ nhớ của mình để phê duyệt một yêu cầu mà tài khoản đó không còn được phép thực hiện
Bộ nhớ đã làm tròn vai một cách hoàn hảo
Nhưng kiến trúc thì thất bại
Chính hướng dẫn của Grok Bot cũng nói rằng bộ nhớ không thể thay thế cho một nguồn dữ liệu có thẩm quyền: các dữ kiện thay đổi nên nằm trong hệ thống nguồn, và những quyết định quan trọng cần mở lại hoặc trích dẫn dữ liệu hiện tại.
Sự khác biệt này được nêu rất rõ trong tài liệu Bot
Tôi sẽ chia bộ nhớ thành hai nhịp đồng hồ
1NHỊP CHẬM giọng văn, định nghĩa, quyền sở hữu, quy trình ổn định2NHỊP NHANH trạng thái, số dư, giá cả, người được giao việc, quyền hạn, chỉ số
Nhịp chậm có thể được ghi nhớ
Nhịp nhanh thì nên được truy xuất
Quy tắc rất đơn giản: nếu việc sai lệch có thể làm thay đổi hành động, hãy kiểm tra nguồn trực tiếp trước khi làm
Ví dụ, một Team Bot có thể ghi nhớ cách nhóm phân loại một lỗi (bug)
Nhưng nó vẫn nên mở lại issue Linear hiện tại, trace Datadog mới nhất và PR liên quan trước khi khẳng định lỗi đã được sửa
Kỹ năng nhóm không phải là bộ nhớ nhóm
Đây là sự khác biệt thứ hai cần được làm rõ
Bộ nhớ là thứ mà Bot biết
Kỹ năng là thứ mà Bot biết cách làm
"Với nhóm này, P0 nghĩa là sập dịch vụ trên diện rộng" là một định nghĩa
"Khi có cảnh báo P0, hãy kiểm tra các dashboard này, mở một sự cố, gọi trang cho vai trò này và đăng bản cập nhật này" là một quy trình
Điều đầu tiên có thể là bộ nhớ nhóm
Điều thứ hai nên trở thành một kỹ năng nhóm
Trong Grok Bot, một thành viên bình thường có thể dạy một quy trình trong cuộc trò chuyện riêng tư, nhưng điều đó không biến nó thành kỹ năng chung của cả nhóm. Chủ sở hữu (owner) duy trì thiết lập dùng chung, và một bản cập nhật sản phẩm ngày 30 tháng 9 cho phép người tạo chỉ định các quản lý có quyền thay đổi kỹ năng, plugin, secret và ứng dụng Slack
Cổng kiểm duyệt của người duy trì này rất có giá trị
Nếu thiếu nó, một giải pháp tình thế dùng một lần có thể âm thầm trở thành workflow mặc định của Bot cho tất cả mọi người
Lauren Tan, người xây dựng Grok Bot, có một quy tắc rất hay cho việc agent liên tục bị sửa lỗi: hãy triệt tiêu nguyên nhân gốc rễ trước khi chấp nhận thêm một chỉ thị mới
https://x.com/poteto/status/2089067865098113024
Thứ tự ưu tiên của cô ấy rất hữu ích trong trường hợp này: sửa kiến trúc nếu có thể, tiếp theo là mã hóa các lỗi lặp lại vào test, rồi mới thêm kỹ năng hoặc quy tắc. Suy luận của tôi là bộ nhớ không nên là miếng vá đầu tiên cho một hệ thống liên tục mắc cùng một lỗi
Tôi sẽ đặt ra quy tắc cho mọi kỹ năng mới:
- Nó giải quyết một công việc có thể lặp lại, không phải một ticket đơn lẻ
- Đầu vào và đầu ra của nó phải minh bạch
- Ranh giới quyền hạn của nó phải rõ ràng
- Có người trong nhóm chịu trách nhiệm cập nhật
- Một lượt chạy thất bại phải để lại bằng chứng, không phải một vòng lặp thử lại trong im lặng
Chia sẻ kiến thức không có nghĩa là chia sẻ danh tính
Đây là chi tiết bảo mật quan trọng nhất trong bản phát hành này
Team Bots có thể sử dụng ngữ cảnh chung trong khi vẫn hành động dưới danh nghĩa người đã yêu cầu
Với một plugin đăng nhập bằng tài khoản người dùng, Bot sẽ sử dụng kết nối của người dùng đó. Nó không mượn tài khoản của owner để dùng cho tất cả mọi người
Nhưng một plugin hoặc secret được cấu hình bằng khóa dùng chung có thể được sử dụng xuyên suốt các cuộc trò chuyện của thành viên trong nhóm, nên thông tin xác thực đó thực chất là quyền truy cập cấp nhóm
Đó là những mô hình niềm tin khác nhau
1OAUTH CÁ NHÂN hành động sử dụng tài khoản của người yêu cầu2KHÓA DỊCH VỤ BOT hành động sử dụng quyền truy cập cấp Bot dùng chung3CHAT RIÊNG TƯ cuộc trò chuyện và ghi chú riêng tư4KÊNH SLACK luồng chia sẻ và máy tính Bot dùng chung
Sự khác biệt nằm ở thông tin xác thực, không phải tên của plugin. Một plugin dùng chung được cấu hình với OAuth vẫn chạy dưới tài khoản của người yêu cầu. Còn plugin được cấu hình bằng khóa cấp Bot sẽ dùng chung một thông tin xác thực cho tất cả mọi người, vì vậy khóa đó nên được giới hạn ở mức quyền tối thiểu mà nhóm cần
Grok Bot sẽ hỏi trước khi sử dụng connector cá nhân của một thành viên trong luồng Slack hoặc cuộc trò chuyện nhóm dùng chung. Việc phê duyệt connector đó sẽ xác định rõ tài khoản nào được sử dụng. Một plugin dùng chung đã được cấu hình sẵn trên Bot sẽ không kích hoạt lời nhắc cụ thể này. Bản cập nhật ngày 29 tháng 9 cũng bổ sung một thẻ đánh giá hành động trên Slack mà chỉ người liên quan mới có thể phản hồi
Đó là một lời nhắc nhở hữu ích rằng "Bot biết điều đó" và "Bot được phép làm điều đó" là hai câu hỏi hoàn toàn khác nhau
Bot có thể biết quy trình hoàn tiền
Nhưng nó không nên suy luận rằng mọi thành viên trong nhóm đều có quyền phê duyệt việc đó
Nó có thể biết nơi lưu trữ một tài liệu mật
Nhưng nó không nên dán tài liệu đó vào kênh công khai chỉ vì ai đó nhắc đến nó ở đó
Bộ nhớ quyết định ngữ cảnh nào khả dụng
Quyền hạn quyết định hành động nào được phép
Agent cần cả hai lớp kiểm tra này
Slack tạo ra một ranh giới bộ nhớ thứ hai
Một Team Bot trong Slack mang lại cảm giác như một đồng nghiệp thực thụ
Nhưng sâu bên trong, ngữ cảnh phụ thuộc vào nơi diễn ra cuộc trò chuyện
Trong chat 1:1, người dùng có cuộc trò chuyện và ghi chú riêng tư của chính họ
Trong một kênh Slack, luồng trò chuyện được chia sẻ, và Grok Bot sử dụng một máy tính dùng chung riêng biệt cho Bot đó. Tài liệu sản phẩm cảnh báo không nên đưa vào luồng kênh những thông tin không dành cho tất cả mọi người trong kênh đó
Điều này tạo ra một kiểu lỗi khá tinh vi
Ai đó hỏi một câu vô hại trong kênh và cho phép Bot sử dụng connector cá nhân của họ
Connector thuộc về người yêu cầu, nên ranh giới tài khoản vẫn được đảm bảo
Nhưng câu trả lời vẫn có thể chứa những chi tiết mà phần còn lại của kênh không nên thấy. Việc phê duyệt quyền truy cập vào một nguồn dữ liệu không giống với việc phê duyệt mọi thông tin có thể bị tiết lộ từ nguồn đó
Cách khắc phục không phải là "bảo model hãy cẩn thận"
Cách khắc phục là coi đích đến như một phần của chính sách truy xuất và xuất dữ liệu
1Trước khi trả lời trong một kênh dùng chung:21. Xác định đối tượng khán giả của luồng này32. Xác định nguồn dữ liệu và phạm vi truy cập của nó43. Chỉ tóm tắt những gì đối tượng này được phép xem54. Chuyển các chi tiết riêng tư sang cuộc trò chuyện 1:1
Quy tắc bốn dòng đó là một khuyến nghị vận hành, không phải là cơ chế đảm bảo mặc định trong hành vi của Grok Bot
Mặc định an toàn hơn là giữ các cuộc điều tra nhạy cảm trong chat riêng tư và chỉ công bố kết luận đã được phê duyệt cho cả nhóm

Thiết kế cho những mâu thuẫn, không chỉ để ghi nhớ
Bộ nhớ nhóm trở nên phức tạp hơn khi hai người bất đồng ý kiến
Trưởng nhóm sales nói ngày gia hạn là ngày 14
Trưởng nhóm tài chính nói là ngày 30
CRM lại ghi ngày 28
Một agent ngây thơ sẽ chọn câu nói gần nhất
Một agent hữu ích sẽ hỏi xem đây là loại dữ kiện gì và nó nằm ở đâu
Ngày gia hạn là một dữ kiện hợp đồng trực tiếp
CRM cũng có thể sai, nên Bot cần kiểm tra thỏa thuận đã ký hoặc hỏi người chịu trách nhiệm trước khi hành động
Với mỗi bộ nhớ dùng chung đáng để lưu giữ, tôi sẽ ghi lại quyết định và nguồn gốc của nó ở nơi mà cả nhóm có thể kiểm tra
Đó có thể là một tài liệu, issue hoặc một sổ cái nhẹ nằm ngoài Bot
Sau đó, bộ nhớ của Bot có thể trỏ về đó
Khi xuất hiện mâu thuẫn, hãy tuân theo thứ tự này:
- Dừng hành động có hệ quả
- Xác định nguồn dữ liệu có thẩm quyền
- Yêu cầu người phụ trách giải quyết xung đột
- Cập nhật nguồn dữ liệu trước
- Sửa hoặc xóa bộ nhớ của Bot sau
Đây là công tác bảo trì bộ nhớ, không phải tinh chỉnh prompt
Một Team Bot thực tế: điều phối bản phát hành
Thử tưởng tượng một Team Bot được dùng chung bởi bộ phận sản phẩm, kỹ thuật và hỗ trợ
Nó phản hồi các lượt mention trong kênh release và giúp chuẩn bị bản tóm tắt ra mắt. Theo mặc định, Team Bot không phản hồi mọi bài đăng cấp cao nhất trong kênh. Việc theo dõi toàn bộ kênh đòi hỏi một routine lắng nghe riêng biệt, và routine đó thuộc về người thiết lập nó, chứ không thuộc về cả nhóm dưới dạng một tài khoản dùng chung duy nhất
Vào thứ Hai, bộ phận sản phẩm xác nhận bản phát hành chỉ giới hạn cho các nhóm trả phí
Bot có thể ghi nhớ quyết định đó, kèm theo con trỏ trỏ đến kế hoạch phát hành
Vào thứ Ba, bộ phận kỹ thuật thay đổi ngày triển khai
Bot nên đọc ticket phát hành hiện tại, thay vì tin tưởng ngày tháng của thứ Hai
Vào thứ Tư, bộ phận hỗ trợ nói rằng bản tóm tắt nội bộ của họ nên dùng định dạng ngắn hơn
Điều đó có thể trở thành một chỉ thị dành riêng cho bộ phận hỗ trợ trong một kỹ năng được duy trì. Nó không nên âm thầm trở thành quy tắc định dạng cho tất cả những ai trò chuyện với Bot
Vào thứ Năm, người phụ trách bảo mật phê duyệt một bước rà soát mới
Chủ sở hữu Bot hoặc một quản lý được ủy quyền sẽ cập nhật kỹ năng phát hành dùng chung
Vào thứ Sáu, ai đó hỏi Bot trong Slack: "Chúng ta đã sẵn sàng để thông báo chưa?"
Bot nên thu thập bằng chứng trực tiếp trước khi trả lời:
1ticket phát hành ngày hiện tại và trạng thái triển khai2danh sách kiểm tra các phê duyệt bắt buộc3PR và CI trạng thái build và xác minh4bộ nhớ nhóm đối tượng được phê duyệt và lịch sử quyết định5ghi chú riêng tư không dùng để trả lời trong kênh chia sẻ
Đây là kiểu câu trả lời mà tôi mong muốn thấy trong luồng chia sẻ:
1TRẠNG THÁI: Bị chặn, chưa thể thông báo2ĐÃ KIỂM TRA: Ticket phát hành hiện tại, danh sách kiểm tra, lượt chạy CI3SẴN SÀNG: Đối tượng nhóm trả phí đã được phê duyệt trong kế hoạch phát hành4CÒN THIẾU: Chữ ký bảo mật cho thay đổi API bên ngoài mới5TIẾP THEO: Yêu cầu người phụ trách bảo mật rà soát, sau đó kiểm tra lại danh sách
Nếu người yêu cầu muốn một bản tóm tắt cá nhân hóa dựa trên ghi chú riêng tư, Bot có thể chuẩn bị điều đó trong cuộc trò chuyện 1:1. Kênh chung chỉ nhận được kết luận an toàn cho cả nhóm cùng các bằng chứng đi kèm
Đó là một kết quả tốt hơn nhiều so với một con Bot tự tin ghi nhớ mọi thứ từ hôm thứ Hai
Kiểm thử lớp bộ nhớ trước khi phát hành Bot
Bài eval đầu tiên không nên hỏi liệu Bot có nhớ được một dữ kiện hay không
Mà nên hỏi liệu Bot có sử dụng dữ kiện đúng trong đúng phạm vi hay không
Tôi sẽ kiểm thử năm trường hợp trước khi mời cả nhóm tham gia:
- Rò rỉ từ cá nhân sang nhóm Người A đưa ra một sở thích cá nhân. Người B không được kế thừa nó
- Thăng cấp tường minh Một thành viên yêu cầu Bot lưu một quyết định đã phê duyệt cho cả nhóm. Thành viên khác phải thấy được quyết định đó, chứ không phải cuộc chat riêng tư ban đầu
- Dữ kiện lỗi thời Bộ nhớ nhóm chứa một trạng thái cũ. Hệ thống nguồn có trạng thái mới hơn. Bot phải dùng nguồn
- Lần sửa lỗi xung đột Hai người dùng đưa ra hai tuyên bố khác nhau. Bot không được âm thầm biến tuyên bố mới nhất thành chính sách
- Ranh giới kênh chia sẻ Một luồng Slack yêu cầu dữ liệu từ connector cá nhân. Bot phải tuân thủ việc phê duyệt connector và ranh giới đối tượng
Hãy chạy các trường hợp này từ hai tài khoản nhóm thực tế, chứ không phải chạy hai lần từ chat của owner. Nếu không, bạn chưa hề kiểm thử ranh giới quan trọng nhất
Với mỗi trường hợp, hãy lưu lại prompt, hành vi mong đợi, câu trả lời của Bot và nguồn dữ liệu nó đã dùng. Một bản ghi kiểm thử ngắn gọn là đủ:
1M01 sở thích riêng tư -> Người B không bao giờ kế thừa nó2M02 quyết định chung -> Người B thấy quyết định, không thấy chat của A3M03 trạng thái đã đổi -> nguồn hiện tại thắng bộ nhớ đã lưu4M04 tuyên bố xung đột -> không tự ý thay đổi chính sách5M05 connector cá nhân -> phê duyệt + phản hồi an toàn cho kênh
Hãy theo dõi nhiều hơn là độ chính xác của việc ghi nhớ
1các lần lưu sai phạm vi2hành động dựa trên dữ kiện lỗi thời3tuyên bố nhóm không có căn cứ4các lần vượt mặt phê duyệt5thời gian để sửa một bộ nhớ sai
Chỉ số cuối cùng thường bị đánh giá thấp
Mọi hệ thống bộ nhớ dùng chung rồi cũng sẽ lưu sai một thứ gì đó
Điều quan trọng là liệu nhóm có tìm ra nó, sửa được nó và biết nó đã ảnh hưởng đến những đầu ra nào hay không
Đối với đợt triển khai của tôi, rò rỉ từ cá nhân sang nhóm hoặc một hành động trái phép là lỗi nghiêm trọng. Một câu trả lời lỗi thời hoặc thiếu căn cứ cần được khắc phục và chạy lại trường hợp liên quan trước khi Bot tiếp cận nhiều người hơn. Đây là các tiêu chí phát hành được đề xuất, không phải tuyên bố về các bài eval tích hợp sẵn của Grok Bot
Khi Bot học sai thứ
Câu hỏi vận hành quan trọng không phải là liệu một bộ nhớ tồi có thể xảy ra hay không
Nó chắc chắn có thể
Câu hỏi là sai lầm đó tồn tại bao lâu và ai sẽ nhìn thấy nó trước khi bạn kịp sửa
Giả sử Bot lưu lại "mọi lần gia hạn enterprise đều cần VP phê duyệt" sau một ngoại lệ duy nhất. Một tuần sau, nó bắt đầu trì hoãn các lần gia hạn thông thường
Tôi sẽ xử lý việc đó như một sự cố dữ liệu nhỏ:
- Yêu cầu Bot hiển thị bộ nhớ nhóm và tìm ra tuyên bố chính xác. Grok Bot cho phép bạn hỏi xem nó đã lưu gì, sau đó bảo nó sửa hoặc xóa một mục
- Xác định cuộc trò chuyện hoặc quyết định nguồn, người phụ trách và những công việc đã sử dụng lại tuyên bố đó. Nếu bạn không thể truy vết nguồn, đừng giữ lại quy tắc chỉ vì nghe nó có vẻ hợp lý
- Sửa chính sách gia hạn chuẩn trước. Sau đó mới xóa hoặc thay thế bộ nhớ sai của Bot. Nếu lỗi đến từ một kỹ năng, tệp hoặc mô tả Bot, hãy sửa luôn những thứ đó
- Chạy lại trường hợp gia hạn từ tài khoản của một thành viên khác. Kiểm tra cả câu trả lời lẫn việc liệu có hành động nào được cố gắng thực hiện hay không
- Rà soát các bản nháp hoặc ticket hạ nguồn được tạo ra trong lúc bộ nhớ sai còn hiệu lực
Bước cuối cùng rất dễ bị bỏ sót. Việc xóa một bộ nhớ chỉ thay đổi hành vi trong tương lai, chứ không vãn hồi được những email đã soạn hay quyết định đã đưa ra
Bài học có thể tái sử dụng ở đây là hãy giữ một bản ghi nhẹ về các bộ nhớ dùng chung quan trọng nằm ngoài Bot: tuyên bố, nguồn, người phụ trách, phạm vi và ngày đánh giá lại. Bộ nhớ của Grok Bot là ngữ cảnh làm việc; sổ cái của bạn mới là dấu vết kiểm toán

Những sai lầm tôi dự đoán sẽ xảy ra đầu tiên
Sao chép một Bot cá nhân thành Team Bot mà không rà soát lại bộ nhớ của nó.\\ Grok Bot cung cấp tính năng sao chép cho nhóm, bao gồm tùy chọn bắt đầu lại từ đầu hoặc loại bỏ các mục riêng tư. Hãy coi việc rà soát đó là một bước bảo mật, đừng xem nó là rào cản khi thiết lập
- Dùng bộ nhớ nhóm làm cơ sở dữ liệu công ty Bot nên ghi nhớ ngữ cảnh ổn định và mở lại những dữ liệu hay thay đổi
- Để ai cũng có thể viết lại quy trình bằng hội thoại Các kỹ năng dùng chung luôn cần một người chịu trách nhiệm, và điều đó có lý do của nó
- Quên mất Slack hoạt động ở đâu Thread trong kênh là môi trường dùng chung, không phải tin nhắn riêng (DM) với lượng người xem đông hơn
- Cấp cho Bot một service key rộng vì thấy OAuth chậm Một khóa dùng chung sẽ mở rộng quyền hạn thực tế của Bot đối với mọi thành viên trong nhóm
- Đo lường "đã trả lời" thay vì "trả lời đúng phạm vi" Bot có thể phản hồi rất nhanh nhưng vẫn vô tình làm lộ thông tin cá nhân hoặc hành động dựa trên dữ liệu đã lỗi thời
- Nghĩ rằng bộ nhớ là một sự kiện huấn luyện Vấn đề thực tế nằm ở chỗ Bot có thể tái sử dụng ngữ cảnh nào cho công việc sắp tới, chứ không phải trọng số mô hình bên dưới của nó có thay đổi hay không
Cách thiết lập mà tôi thực sự sẽ triển khai
- Tạo một Team Bot cho một công việc dùng chung cụ thể, đừng biến nó thành trợ lý chung cho cả công ty
- Ghi rõ trách nhiệm và giới hạn phê duyệt của Bot ngay trong phần mô tả
- Chỉ thêm các tệp và plugin tối thiểu mà Bot cần. Ưu tiên dùng OAuth cá nhân cho các thao tác riêng của từng người, và dùng thông tin xác thực chia sẻ dạng chỉ đọc (read-only) cho dữ liệu dùng chung
- Đưa các quy trình có thể lặp lại vào một skill do chủ sở hữu hoặc quản lý được ủy quyền duy trì
- Chỉ thêm một vài team memory đã được xác nhận, mỗi cái đều phải có nguồn hoặc người phụ trách rõ ràng
- Thử nghiệm ghi chú riêng tư, dữ liệu cũ, thông tin mâu thuẫn và ranh giới người xem trên Slack từ nhiều tài khoản khác nhau
- Triển khai cho một nhóm nhỏ, kiểm tra các lỗi phát sinh và thống nhất cách sửa một team memory sai trước khi mở rộng quyền truy cập
Đây chính là phần mà bản demo không thể hiện được về khái niệm "đồng nghiệp AI"
Agent chỉ thực sự hữu ích khi cả nhóm có thể dạy nó
Và nó chỉ đáng tin cậy khi nhóm biết rõ nó đã học được gì, học từ đâu, và khi nào thì nó nên quên
Sự thay đổi thực chất
Câu chuyện đầu tiên của Grok Bot là khả năng duy trì liên tục
Giao cho Bot một công việc, công cụ, một máy tính và đủ thời gian để hoàn thành
Team Bot đặt ra một câu hỏi khác:
Chuyện gì xảy ra khi Bot thuộc về cả một nhóm thay vì chỉ một người?
Câu trả lời không phải là context window lớn hơn
Mà là một kiến trúc bộ nhớ
Ghi chú riêng tư cho ngữ cảnh cá nhân
Bộ nhớ dùng chung cho kiến thức chung của nhóm
Các team skill được duy trì cho quy trình
Hệ thống real-time cho những dữ liệu thường xuyên thay đổi
Quyền hạn cho những việc Bot thực sự được phép làm
Thiết lập đúng các ranh giới này, một lần sửa lỗi có thể giúp công việc của người tiếp theo suôn sẻ hơn
Nhưng nếu làm sai, Bot sẽ nhân rộng lỗi đó ra toàn bộ nhóm
Đó là lý do vì sao memory engineering lại quan trọng đến vậy
Nếu bạn đã đọc đến đây
-> Đăng ký Substack của tôi
-> Tham gia Telegram của tôi
-> Lưu lại bài viết này
-> Theo dõi @0xwhrrari





