Hướng Dẫn Thực Tiễn Về 3 Lớp Mà Mọi Người Thường Nhầm Lẫn
Hầu hết mọi người đều nói về AI agents như thể nó là một thứ duy nhất.
Không phải vậy.
Khi một agent vượt ra khỏi một bản demo đồ chơi và bắt đầu chạm vào file, API, tài liệu, khách hàng, hoặc code sản xuất, bạn không chỉ đơn thuần là "đang prompt một model."
Bạn đang thiết kế một hệ thống.
Và trong hệ thống đó, có ba ý tưởng thường xuyên bị nhầm lẫn với nhau:
- Kỹ thuật xây dựng harness (Agent harness engineering)
- Kỹ thuật thiết kế vòng lặp (Loop engineering)
- Kỹ thuật thiết kế đồ thị (Graph engineering)
Cả ba đều xoay quanh cùng một model.
Cả ba đều ảnh hưởng đến độ tin cậy.
Và đúng vậy, cả ba đều có thể chứa các vòng lặp.
Nhưng chúng giải quyết các vấn đề khác nhau.
Nếu bạn nhầm lẫn chúng, bạn sẽ kết thúc việc debug sai lớp.
Câu Trả Lời Trong 30 Giây
Đây là phiên bản rõ ràng nhất:
- Kỹ thuật xây dựng harness xây dựng môi trường xung quanh model
- Kỹ thuật thiết kế vòng lặp thiết kế chu trình làm việc và phản hồi lặp đi lặp lại
- Kỹ thuật thiết kế đồ thị làm cho cấu trúc quy trình làm việc trở nên tường minh
Một mô hình tư duy tốt là:
Môi trường → Phản hồi → Luồng
- Harness cung cấp cho model các công cụ, bộ nhớ, khả năng kiểm soát và một không gian làm việc
- Vòng lặp quyết định cách công việc được thử lại, kiểm tra và cải thiện
- Đồ thị xác định bước nào được phép xảy ra tiếp theo
Đó là sự khác biệt.
Tại Sao Các Thuật Ngữ Này Lại Quan Trọng Ngay Bây Giờ
Một model thô không thể tự mình thực hiện công việc thực tế.
Nó không thể:
- duy trì trạng thái dự án qua nhiều phiên làm việc
- gọi các công cụ một cách an toàn
- kiểm tra trình duyệt
- thực thi quyền hạn
- thử lại công việc thất bại
- xác thực chất lượng đầu ra
- định tuyến nhiệm vụ qua các chuyên gia
- dừng lại đúng thời điểm
Tất cả những điều đó đến từ hệ thống xung quanh nó.
Khi phần mềm agent trưởng thành hơn, một stack thực tế đang dần hình thành:
- Harness cung cấp các điều kiện vận hành cho model
- Các vòng lặp làm cho công việc trở nên lặp lại và có thể kiểm chứng
- Đồ thị làm cho các quy trình phức tạp trở nên tường minh và có thể kiểm soát
Một khi bạn nhìn thấy chúng như các lớp riêng biệt, rất nhiều sự nhầm lẫn về kiến trúc AI sẽ biến mất.
Một Harness Nghiêm Túc Thường Bao Gồm Những Gì
- Tiêm Ngữ Cảnh (Context Injection)
Những gì model thấy trước khi hành động:
- hướng dẫn
- kiến thức đã truy xuất
- trạng thái hội thoại
- bộ nhớ
- chính sách
- quy tắc dành riêng cho nhiệm vụ
- Bề Mặt Hành Động (Action Surfaces)
Những gì model có thể làm:
- lời gọi API
- hành động trên trình duyệt
- lệnh shell
- thực thi code
- công cụ MCP
- cơ sở dữ liệu
- hàm tùy chỉnh
- Tính Bền Vững (Persistence)
Những gì tồn tại theo thời gian:
- file
- điểm kiểm tra (checkpoints)
- trạng thái phiên
- nhật ký tiến trình
- lịch sử git
- bộ nhớ dài hạn
- Kiểm Soát Thực Thi (Execution Control)
Cách quá trình chạy được quản lý:
- thử lại
- thời gian chờ
- ngân sách
- lựa chọn model
- khởi tạo subagent
- cổng phê duyệt
- An Toàn Và Quản Trị (Safety And Governance)
Những gì giữ cho hệ thống an toàn:
- quyền tối thiểu
- sự cô lập
- danh sách cho phép
- xử lý bí mật
- phê duyệt của con người
- Khả Năng Quan Sát (Observability)
Những gì cho phép bạn debug:
- dấu vết (traces)
- đầu vào và đầu ra của công cụ
- chuyển đổi trạng thái
- độ trễ
- chi phí
- kết quả đánh giá
Tại Sao Kỹ Thuật Xây Dựng Harness Lại Quan Trọng
Hai đội có thể sử dụng cùng một model và đạt được kết quả hoàn toàn khác nhau.
Tại sao?
Bởi vì một đội cung cấp cho model:
- các công cụ sạch sẽ
- trạng thái ổn định
- bộ nhớ có cấu trúc
- quyền hạn rõ ràng
- thực thi có thể quan sát
Và đội kia cung cấp cho nó:
- một prompt mơ hồ
- các công cụ lộn xộn
- ngữ cảnh nhiễu
- không có bộ nhớ
- không có xác minh
Model có thể giống nhau.
Nhưng điều kiện làm việc thì không.
Kỹ thuật xây dựng harness trở nên quan trọng bất cứ khi nào agent:
- không thể truy cập đúng khả năng
- mất ngữ cảnh giữa các phiên
- hành động không nhất quán giữa các môi trường
- không thể được kiểm toán
- có quá nhiều quyền hạn
- không thể phục hồi sạch sẽ sau khi bị gián đoạn
Nếu model không thể hoạt động đáng tin cậy, nơi đầu tiên cần xem xét là harness.
2. Kỹ Thuật Thiết Kế Vòng Lặp (Loop Engineering)
Nó Là Gì
Mọi agent sử dụng công cụ đều đã có sẵn một vòng lặp nhỏ tích hợp:
- gọi model
- quan sát kết quả
- chạy các công cụ
- đưa các quan sát trở lại
- lặp lại cho đến khi hoàn thành
Kỹ thuật thiết kế vòng lặp bắt đầu khi bạn cố ý thiết kế các chu kỳ bổ sung xung quanh hành vi đó.
Không chỉ là "hỏi lại."
Không chỉ là "thử lại."
Mà là một hệ thống làm việc và phản hồi thực sự.
Giải Phẫu Một Vòng Lặp Tốt
Bộ Kích Hoạt (Trigger)
Điều gì bắt đầu một chu kỳ mới?
- yêu cầu của người dùng
- bài kiểm tra thất bại
- tài liệu mới
- lịch chạy định kỳ
- webhook
- phản hồi từ người đánh giá
Mục Tiêu (Goal)
Chúng ta đang cố gắng đạt được điều kiện cụ thể nào?
Không phải "cứ cải thiện hoài."
Mà là một mục tiêu thực sự.
Trạng Thái (State)
Chu kỳ tiếp theo cần biết những gì?
- bản nháp hiện tại
- lần thử trước đó
- kết quả công cụ
- lỗi
- trạng thái tiến trình
Chính Sách Hành Động (Action Policy)
Agent được phép làm gì?
- chỉnh sửa
- ủy quyền
- gọi công cụ
- tiêu thụ token
- ghi file
- mở PR
Bằng Chứng (Evidence)
Làm sao chúng ta biết nó có hoạt động không?
- bài kiểm tra
- xác thực schema
- trích dẫn
- sự khác biệt (diffs)
- chỉ số
- sự chấp thuận của người đánh giá
Phản Hồi (Feedback)
Điều gì đã thất bại một cách chính xác?
Phản hồi nên ngắn gọn và có thể hành động được.
Quy Tắc Dừng (Stop Rule)
Khi nào nó kết thúc?
- thành công
- hết thời gian chờ
- cạn kiệt ngân sách
- đạt số lần thử lại tối đa
- thất bại không thể khắc phục
- chuyển lên cho con người xử lý
Nguyên Tắc Quan Trọng Nhất Trong Kỹ Thuật Thiết Kế Vòng Lặp
**Đừng lặp dựa trên sự tự tin.
Hãy lặp dựa trên bằng chứng.**
"Agent nói nó đã xong" không phải là một điều kiện dừng.
Một điều kiện dừng thực sự trông giống như:
- các bài kiểm tra đều đạt
- schema xác thực thành công
- các trích dẫn được giải quyết
- người đánh giá chấp thuận
- kiểm tra chính sách sạch sẽ
Đó là kỹ thuật thiết kế vòng lặp.
Tại Sao Kỹ Thuật Thiết Kế Vòng Lặp Không Chỉ Là Kỹ Thuật Prompt
Một prompt bảo model phải làm gì trong một lần gọi.
Một vòng lặp xác định hệ thống làm gì sau lần gọi đó.
Điều đó bao gồm:
- cách nó kiểm tra kết quả
- cách nó phản ứng với thất bại
- cách nó duy trì tiến trình
- cách nó quyết định tiếp tục
- cách nó kết thúc
Prompting cải thiện một phản hồi.
Một vòng lặp cải thiện một quy trình.
Đó là một vấn đề kỹ thuật rất khác.
3. Kỹ Thuật Thiết Kế Đồ Thị (Graph Engineering)
Nó Là Gì
Kỹ thuật thiết kế đồ thị làm cho cấu trúc quy trình làm việc trở nên tường minh.
Nó trả lời một câu hỏi khác:
Không chỉ là "agent nên làm gì?" Mà là "bước nào được phép xảy ra tiếp theo?"
Trong kỹ thuật thiết kế đồ thị:
- các bước là các nút (nodes)
- các chuyển tiếp là các cạnh (edges)
- sự phân nhánh là tường minh
- công việc song song là tường minh
- các điểm kết nối (joins) là tường minh
- các lần thử lại là tường minh
- các can thiệp của con người là tường minh
Đồ thị trở thành bản đồ kiểm soát cho hệ thống.
Những Gì Kỹ Sư Đồ Thị Thực Sự Thiết Kế
Ranh Giới Nút (Node Boundaries)
Những gì thuộc về:
- một hàm xác định
- một lời gọi LLM
- một agent chuyên gia
- một bước xem xét của con người
Lược Đồ Trạng Thái (State Schema)
Những gì mỗi nút có thể đọc hoặc ghi.
Điều Kiện Định Tuyến (Routing Conditions)
Bằng chứng nào di chuyển công việc:
- tiến lên
- lùi lại
- sang ngang
- lên cấp xử lý
Tính Đồng Thời (Concurrency)
Những gì có thể chạy song song, và những gì phải chờ đợi.
Các Chu Kỳ Và Lối Thoát (Cycles And Exits)
Nơi nào được phép thử lại, bao nhiêu lần được phép, và chúng dừng lại như thế nào.
Tính Bền Vững (Durability)
Nơi các điểm kiểm tra xảy ra và quy trình làm việc tiếp tục như thế nào sau khi bị gián đoạn.
Khi Nào Đồ Thị Đáng Giá
Đồ thị có giá trị khi quy trình bao gồm:
- sự phân nhánh có ý nghĩa
- sự phê duyệt
- sự bàn giao chuyên gia
- công việc song song
- các đường dẫn phục hồi
- quy trình nhiều bước với các điểm kiểm soát tường minh
Chúng ít hữu ích hơn khi công việc chỉ đơn giản là:
"Đưa cho một agent vài công cụ và để nó làm việc."
Trong trường hợp đó, một harness vững chắc cùng với vài vòng lặp có thể là đủ.
Một đồ thị thêm sự rõ ràng, nhưng nó cũng thêm cấu trúc.
Quá nhiều cấu trúc quá sớm có thể làm cho hệ thống trở nên giòn và dễ vỡ.
Cách 3 Lớp Hoạt Động Cùng Nhau
Giả sử bạn đang xây dựng một agent nghiên cứu và xuất bản.
Nó phải:
- xác định phạm vi chủ đề
- thu thập nguồn
- sàng lọc trích dẫn
- soạn thảo báo cáo
- vượt qua kiểm duyệt pháp lý
- xuất bản chỉ sau khi được phê duyệt
Đây là cách các lớp ánh xạ:
Harness
Cung cấp:
- truy cập trình duyệt
- công cụ tìm kiếm
- không gian làm việc file
- bộ nhớ
- trích dẫn
- phê duyệt
- dấu vết
- định tuyến model
Vòng Lặp
Xử lý:
- thử lại việc truy xuất nguồn khi bằng chứng yếu
- sửa lỗi trích dẫn thất bại
- chạy các kiểm tra đánh giá
- làm mới công việc khi thị trường thay đổi
Đồ Thị
Kiểm soát đường dẫn:
- xác định phạm vi
- nghiên cứu
- sàng lọc
- tổng hợp
- soạn thảo
- xem xét
- xuất bản
Với một cổng kiểm soát của con người trước khi phát hành.
Đó là lý do tại sao 3 lớp không thể thay thế cho nhau.
Chúng hoạt động cùng nhau, nhưng chúng không phải là cùng một thứ.
Chẩn Đoán Sự Cố Trước Khi Chọn Giải Pháp
Đây là quy tắc thực tế:
Nếu agent không thể hoạt động, hãy sửa harness
Ví dụ:
- thiếu quyền truy cập công cụ
- trạng thái cũ
- bộ nhớ yếu
- quyền hạn kém
- không có khả năng quan sát
Nếu agent gần như hoạt động nhưng không đáng tin cậy, hãy sửa vòng lặp
Ví dụ:
- bản nháp đầu tiên gần đúng nhưng yếu
- thành công không nhất quán
- các lần thử lại không được kiểm soát
- không có bằng chứng hoàn thành
Nếu bản thân quy trình phức tạp, hãy sửa đồ thị
Ví dụ:
- nhiều chuyên gia
- phê duyệt
- logic phân nhánh
- các đường dẫn song song
- bàn giao có cấu trúc
Những Sai Lầm Thường Gặp
1. Xây Dựng Đồ Thị Quá Sớm
Các đội thường vẽ sơ đồ một quy trình làm việc khổng lồ trước khi thấy công việc thực sự hoạt động như thế nào.
Cách tiếp cận tốt hơn:
- bắt đầu với một harness đơn giản hơn
- thu thập dấu vết
- tìm ra các mẫu ổn định
- chính thức hóa chỉ những gì xứng đáng được kiểm soát
2. Để Cùng Một Model Viết Và Chấm Điểm Mà Không Có Biện Pháp Bảo Vệ
Tự đánh giá có thể hữu ích, nhưng nó chia sẻ cùng những điểm mù.
Nên ưu tiên:
- kiểm tra xác định (deterministic checks) khi có thể
- ngữ cảnh đánh giá riêng biệt
- người đánh giá bên ngoài
- phê duyệt của con người cho các hành động có tác động cao
3. Sử Dụng "Cứ Thử Tiếp" Như Một Vòng Lặp
Đó không phải là một thiết kế vòng lặp.
Đó là một sự rò rỉ chi phí không kiểm soát.
Mọi vòng lặp cần:
- một mục tiêu có thể đo lường
- bằng chứng thực tế
- giới hạn thử lại
- quy tắc chuyển lên cấp trên
4. Coi Harness Như Một Ngăn Kéo Đựng Đồ Linh Tinh
Nhiều công cụ hơn không tự động có nghĩa là agent tốt hơn.
Quá nhiều công cụ tạo ra:
- sai lầm trong lựa chọn
- ngữ cảnh nhiễu
- độ tin cậy yếu
- bề mặt rủi ro rộng hơn
Một harness tốt không phải là chật chội.
Nó phải chính xác.
5. Đổ Lỗi Cho Model Vì Những Thất Bại Trong Điều Phối
Một model không thể bù đắp cho:
- API hỏng
- trạng thái cũ
- thiếu điều kiện thoát
- lược đồ công cụ mơ hồ
- các chế độ thất bại vô hình
Hãy sửa lớp chịu trách nhiệm cho sự thất bại đó.
Một Danh Sách Kiểm Tra Sản Xuất Đơn Giản
Harness
- Các công cụ có hẹp và được ghi chép lại không?
- Trạng thái có bền vững không?
- Quyền hạn có ở mức tối thiểu không?
- Người vận hành có thể tạm dừng, kiểm tra và tiếp tục không?
- Các dấu vết có hiển thị không?
Vòng Lặp
- Bằng chứng nào chứng minh sự thành công?
- Phản hồi nào được trả về khi thất bại?
- Cho phép thử lại bao nhiêu lần?
- Quy tắc dừng là gì?
- Điều gì xảy ra khi ngân sách cạn kiệt?
Đồ Thị
- Những đường dẫn nào phải mang tính xác định?
- Những gì có thể chạy song song?
- Các cổng kiểm soát của con người ở đâu?
- Trạng thái nào được chia sẻ?
- Các đường dẫn phục hồi bắt đầu từ đâu?
Đánh Giá
- Bạn có thể phát lại các dấu vết thực tế không?
- Bạn có thể so sánh các phiên bản không?
- Bạn có thể quy sự cải thiện cho một thay đổi thực tế không?
Vận Hành
- Bạn có đang theo dõi chi phí không?
- độ trễ?
- tỷ lệ thất bại?
- tỷ lệ can thiệp?
- sự thành công của nhiệm vụ trong sản xuất?
Cách Đơn Giản Nhất Để Ghi Nhớ Sự Khác Biệt
Nếu bạn chỉ nhớ một điều, hãy nhớ điều này:
- Kỹ thuật xây dựng harness làm cho model có thể vận hành được
- Kỹ thuật thiết kế vòng lặp làm cho công việc trở nên lặp lại và có thể kiểm chứng
- Kỹ thuật thiết kế đồ thị làm cho đường dẫn thực thi trở nên tường minh và có thể kiểm soát
Không có cái nào thay thế được cái nào.
Một đồ thị hoàn hảo sẽ không cứu được một harness yếu.
Một harness mạnh vẫn sẽ lãng phí tiền nếu không có các vòng lặp tốt.
Và các vòng lặp sạch sẽ trở nên khó quản lý khi việc phân nhánh và phê duyệt vẫn bị ẩn trong code tùy chỉnh (ad hoc).
Các hệ thống agent đáng tin cậy chỉ xuất hiện khi cả 3 lớp được thiết kế một cách có chủ đích.
Đó là stack kiến trúc thực sự.
Kết Luận Cuối Cùng
Mọi người cứ nói về AI agents như thể đột phá là ở model.
Trong sản xuất, đó hiếm khi là yếu tố khác biệt thực sự.
Yếu tố khác biệt là hệ thống xung quanh model:
- harness cho phép nó làm việc
- các vòng lặp cho phép nó cải thiện
- đồ thị cho phép nó hoạt động dưới sự kiểm soát
Đó là cách các agent đồ chơi trở thành các hệ thống thực tế.
Nếu bạn đọc đến đây:
- ĐÁNH DẤU TRANG NÀY.
- Theo dõi @LunarResearcher
- Theo dõi Substack của tôi
- Theo dõi Kênh Telegram Riêng Tư Của Tôi
