Graph Engineering đã thay thế RAG tại Microsoft, Stanford và Anthropic. Đây là cách thức hoạt động.

Hiện nay, bất kỳ ai cũng có thể xây dựng một hệ thống AI trả lời các câu hỏi phức tạp với độ chính xác cao hơn 18% và chi phí thấp hơn 85% so với RAG thông thường. Không cần bằng Tiến sĩ. Không cần ngân sách triệu đô. Không cần đội ngũ nghiên cứu.

Điều duy nhất ngăn cách bạn với kết quả đó là một khái niệm mà Microsoft, Stanford và Anthropic đều độc lập khám phá ra - và hầu hết các lập trình viên vẫn chưa bắt kịp.

RAG thông thường tìm kiếm văn bản. Graph Engineering tìm kiếm mối quan hệ. Đây là toàn bộ hệ thống đằng sau nó.

Đánh dấu trang này và theo dõi

- Tôi là Sprytix, một lập trình viên xây dựng hệ thống AI và quy trình tự động hóa biến công nghệ thành thu nhập thực tế. Mở cửa sổ DM.

Tại sao RAG thông thường chạm tới giới hạn

RAG thông thường hoạt động như thế này:

1Câu hỏi
2↓
3Tìm kiếm tài liệu để lấy văn bản khớp
4↓
5Trả về các đoạn phù hợp nhất
6↓
7Mô hình tạo câu trả lời từ các đoạn

Cách này hoạt động tốt cho các câu hỏi đơn giản. Nó hoàn toàn thất bại với các câu hỏi phức tạp.

Hỏi "tại sao doanh số sản phẩm của chúng ta giảm trong tháng Ba?" và RAG sẽ tìm tài liệu có chứa từ "doanh số" và "tháng Ba." Nó tìm thấy các mảnh ghép. Nó không tìm thấy chuỗi nguyên nhân.

1Câu trả lời của RAG:
2Đây là 5 tài liệu đề cập đến doanh số trong tháng Ba.
3
4Câu trả lời của Graph Engineering:
5Doanh số giảm vì sự chậm trễ phát hành
6do phụ thuộc vào nhà cung cấp
7gây ra bởi vấn đề kho bãi
8dẫn đến đánh giá tiêu cực
9làm giảm tỷ lệ chuyển đổi 23%.

Cùng một mô hình. Cùng một dữ liệu. Kết quả hoàn toàn khác - bởi vì một hệ thống tìm kiếm văn bản và hệ thống kia tìm kiếm thực tế.

Đây là điều mà Microsoft, Stanford và Anthropic đều độc lập khám phá ra. Và đó là lý do cả ba đều chuyển sang Graph Engineering.

Tài liệu 1 - Microsoft GraphRAG

1. github.com/microsoft/graphrag
2. github.com/microsoft/graphrag/blob/main/docs/index/architecture.md

Microsoft đã xây dựng GraphRAG và phát hành mã nguồn mở. Kết quả từ nghiên cứu của họ là những con số cụ thể nhất hiện có về những gì Graph Engineering thực sự mang lại so với RAG thông thường.

Kiến trúc này chuyển đổi văn bản phi cấu trúc thành một đồ thị tri thức (knowledge graph) hoàn chỉnh:

1Tải Tài liệu
2↓
3Chia nhỏ Tài liệu
4↓
5Trích xuất Thực thể và Mối quan hệ
6↓
7Xây dựng Đồ thị
8↓
9Phát hiện Cộng đồng
10↓
11Tạo Báo cáo Cộng đồng
12↓
13Nhúng Thực thể và Báo cáo
14↓
15Tìm kiếm Cục bộ / Tìm kiếm Toàn cầu

Thông tin chính mà Microsoft đã ghi lại: RAG thông thường trả lời tốt các câu hỏi cục bộ - tìm thông tin về thực thể cụ thể này. Nó thất bại với các câu hỏi toàn cầu - các chủ đề chính xuyên suốt toàn bộ tập dữ liệu này là gì, những mẫu hình nào kết nối 10.000 tài liệu này.

Graph Engineering trả lời được cả hai.

1Tìm kiếm Cục bộ   |  chuyện gì đã xảy ra với nhà cung cấp X trong tháng Ba
2               |  tìm nút cụ thể và các kết nối của nó
3
4Tìm kiếm Toàn cầu  |  các mẫu rủi ro chính xuyên suốt
5               |  tất cả các mối quan hệ nhà cung cấp của chúng ta là gì
6               |  tìm các mẫu hình trên toàn bộ đồ thị

Kết quả thực tế từ nghiên cứu GraphRAG của Microsoft:

1Cải thiện độ chính xác    |  cao hơn 18% so với cách tiếp cận tài liệu thô
2Giảm chi phí token        |  thấp hơn 85% so với tải trực tiếp các tệp có cấu trúc
3Chi phí mỗi tác vụ        |  xấp xỉ $0.004 trong cấu hình đã thử nghiệm

arxiv.org/abs/2603.22528

Những con số này đến từ bài báo ChatP&ID - GraphRAG được áp dụng cho các sơ đồ kỹ thuật công nghiệp. Các nguyên tắc tương tự áp dụng cho nhiều lĩnh vực khác nhau.

Tài liệu 2 - Stanford DSPy và kết nối đồ thị

1. github.com/stanfordnlp/dspy
2. arxiv.org/abs/2310.03714

Bài báo DSPy của Stanford đã xác lập rằng mô hình là một nút trong đồ thị - chứ không phải trung tâm của vũ trụ. Đây là nền tảng lý thuyết kết nối trực tiếp với Graph Engineering.

DSPy coi đường ống AI như một đồ thị các mô-đun:

1Câu hỏi
2↓
3Bộ truy xuất      - tìm thông tin liên quan
4↓
5Suy luận      - xử lý và kết nối
6↓
7Bộ xác minh       - kiểm tra kết quả
8↓
9Câu trả lời

Mối liên hệ với Graph Engineering là trực tiếp: DSPy tối ưu hóa đồ thị đường ống, GraphRAG tối ưu hóa đồ thị tri thức. Cả hai đều coi mô hình là một thành phần trong một cấu trúc lớn hơn thay vì toàn bộ giải pháp.

Bài báo STORM của Stanford đi xa hơn:

1. github.com/stanford-oval/storm
2. arxiv.org/abs/2402.14207

STORM xây dựng kiến thức từ đầu thông qua một đồ thị các bước nghiên cứu có cấu trúc trước khi viết một từ nào. Nghiên cứu, thu thập nguồn, dàn ý, viết lách, xác minh, sửa đổi - mỗi bước được thông báo bởi các mối quan hệ được khám phá ở bước trước.

Thông tin chung xuyên suốt tất cả nghiên cứu của Stanford: các tác vụ phức tạp cần một hệ thống các bước được kết nối, chứ không phải một lần gọi mô hình duy nhất. Đồ thị chính là hệ thống.

Tài liệu 3 - Quy luật mở rộng của Stanford cho đồ thị tri thức

arxiv.org/abs/2505.16276

Bài báo này đã so sánh 26 mô hình mã nguồn mở trên các tác vụ kỹ thuật đồ thị tri thức. Kết luận là một trong những kết luận quan trọng nhất trong lĩnh vực này:

1Mô hình lớn hơn + đồ thị xấu   |  kết quả tệ hơn
2Mô hình nhỏ hơn + đồ thị tốt |  kết quả tốt hơn

Đồ thị đúng đánh bại mô hình lớn hơn. Lần nào cũng vậy.

Đây cũng là kết luận mà Microsoft đạt được với GraphRAG và Anthropic đạt được với Claude Code - hệ thống xung quanh mô hình quyết định đầu ra nhiều hơn bản thân mô hình. Graph Engineering là sự triển khai cụ thể nhất của nguyên tắc đó.

Tài liệu 4 - Nghiên cứu của MIT Press về bộ nhớ quan hệ

direct.mit.edu/tacl/article/doi/10.1162/tacl_a_00476

Được xuất bản trong Transactions of the Association for Computational Linguistics.

Nghiên cứu cho thấy điều gì xảy ra khi bạn kết nối một mô hình ngôn ngữ với bộ nhớ quan hệ - một đồ thị tri thức về các mối quan hệ thay vì chỉ các đoạn văn bản.

1Ngữ cảnh Văn bản
2↓
3Truy xuất Các Mối quan hệ Liên quan từ Đồ thị
4↓
5Bộ nhớ Quan hệ
6↓
7Mô hình Ngôn ngữ
8↓
9Tạo sinh mạch lạc hơn, chính xác hơn

Phát hiện chính: các mô hình có quyền truy cập vào cấu trúc mối quan hệ rõ ràng tạo ra văn bản mạch lạc hơn và mắc ít lỗi logic hơn các mô hình chỉ làm việc với văn bản đơn thuần.

Đây là lời giải thích khoa học cho lý do tại sao Graph Engineering hoạt động. Mô hình không cần phải suy luận các mối quan hệ từ văn bản. Các mối quan hệ là rõ ràng trong đồ thị. Mô hình sử dụng chúng trực tiếp.

Tài liệu 5 - KEPLER

1. direct.mit.edu/tacl/article-abstract/doi/10.1162/tacl_a_00360/98089
2. github.com/THU-KEG/KEPLER

KEPLER kết hợp việc huấn luyện mô hình ngôn ngữ với các phép nhúng đồ thị tri thức. Thay vì coi hiểu ngôn ngữ và kiến thức thực tế là các vấn đề riêng biệt - KEPLER tối ưu hóa cả hai cùng lúc.

1Mô hình Ngôn ngữ
2+
3Phép nhúng Tri thức
4+
5Đồ thị Tri thức
6=
7Mô hình hiểu cả ngôn ngữ và sự kiện

Hàm ý thực tế: một mô hình có quyền truy cập vào đồ thị tri thức được cấu trúc hợp lý không cần phải đoán các mối quan hệ giữa các thực thể. Nó tra cứu chúng. Sự khác biệt về độ chính xác trên các câu hỏi thực tế là đáng kể.

Tài liệu 6 - Anthropic và Claude trong đồ thị

1. www.anthropic.com/customers/graph
2. github.com/anthropics/anthropic-cookbook
3. github.com/modelcontextprotocol

Anthropic không có sản phẩm nào tên là "Graph Engineering." Điều họ có là ba lớp mà Claude tích hợp trực tiếp vào kiến trúc đồ thị.

Lớp 1 - Claude trích xuất đồ thị từ văn bản

1Tài liệu
2↓
3Claude trích xuất các thực thể và mối quan hệ
4↓
5Bộ ba JSON:
6{
7  "subject": "Anthropic",
8  "relation": "created",
9  "object": "Claude"
10}
11↓
12Đồ thị Tri thức

Claude xử lý việc trích xuất thực thể, trích xuất mối quan hệ, khử trùng lặp, chuẩn hóa và soạn thảo bản thể luận. Các tác vụ trước đây yêu cầu các đường ống NLP chuyên biệt giờ đây chạy qua một lần gọi API.

Lớp 2 - Claude truy vấn đồ thị

1Câu hỏi của Người dùng
2↓
3Claude
4↓
5Truy vấn Cypher / SPARQL
6↓
7Đồ thị Tri thức
8↓
9Kết quả
10↓
11Giải thích của Claude bằng ngôn ngữ đơn giản

Claude dịch ngôn ngữ tự nhiên thành các truy vấn đồ thị, chạy chúng trên Neo4j hoặc bất kỳ cơ sở dữ liệu đồ thị nào và giải thích kết quả. Người dùng không cần kiến thức về ngôn ngữ truy vấn.

Lớp 3 - MCP kết nối Claude với đồ thị

github.com/modelcontextprotocol

1Claude
2↓
3Giao thức MCP
4↓
5Cơ sở dữ liệu Đồ thị
6↓
7Thực thể + Mối quan hệ
8↓
9Claude với ngữ cảnh đồ thị đầy đủ

MCP là lớp truyền tải cho phép Claude truy cập vĩnh viễn vào bất kỳ đồ thị tri thức nào mà không cần xây dựng lại kết nối cho mỗi phiên làm việc.

Trường hợp LaunchNotes - số liệu sản xuất thực tế

www.anthropic.com/customers/graph

LaunchNotes đã xây dựng một sản phẩm tên là Graph kết nối GitHub, Jira và Linear. Claude phân tích các mối quan hệ giữa các công việc kỹ thuật trên cả ba hệ thống.

1Các commit trên GitHub
2+
3Các ticket Jira
4+
5Các tác vụ Linear
6↓
7Đồ thị Công việc Kỹ thuật
8↓
9Claude
10↓
11Phát hiện Sự cố + Thông tin chi tiết Dự án

Kết quả từ nghiên cứu điển hình của Anthropic:

1Phát hiện sự cố     |  nhanh hơn tới 5 lần
2Thời gian họp           |  giảm xấp xỉ 50%
3Ghi chú phát hành          |  được tạo tự động trong vài giây

Những con số này đến từ việc kết nối dữ liệu mối quan hệ có cấu trúc - chứ không chỉ tìm kiếm tài liệu.

Đồ thị tri thức thực sự là gì

Trước khi xây dựng một cái - khái niệm cơ bản.

Một đồ thị tri thức lưu trữ thông tin dưới dạng bộ ba:

1Chủ thể → Mối quan hệ → Đối tượng

Ví dụ:

1Anthropic → created → Claude
2Claude → supports → MCP
3MCP → connects → external tools
4Microsoft → built → GraphRAG
5GraphRAG → reduces token cost by → 85%

Mỗi mẩu thông tin là một mối quan hệ rõ ràng giữa hai thực thể. Không phải một đoạn văn bản có thể chứa thông tin này - mà là một sự kiện rõ ràng, có cấu trúc, có thể truy vấn.

1Cơ sở dữ liệu thông thường:
2Bảng các công ty
3Bảng các sản phẩm
4Không có mối quan hệ rõ ràng giữa chúng
5
6Đồ thị tri thức:
7Công ty → created → Sản phẩm
8Sản phẩm → competes with → Sản phẩm Khác
9Sản phẩm Khác → owned by → Công ty Khác
10Công ty → invested in → Công ty Khác

Đồ thị không chỉ lưu trữ các sự kiện. Nó lưu trữ cách các sự kiện kết nối với nhau. Đó là điều làm cho việc suy luận phức tạp trở nên khả thi.

Đường ống Graph Engineering hoàn chỉnh

1Bước 1  |  Thu thập tài liệu thô
2        |  PDF, email, báo cáo, xuất dữ liệu từ cơ sở dữ liệu
3
4Bước 2  |  Trích xuất thực thể
5        |  con người, công ty, sản phẩm, sự kiện, khái niệm
6
7Bước 3  |  Trích xuất mối quan hệ
8        |  ai đã làm gì với ai, khi nào, tại sao, như thế nào
9
10Bước 4  |  Xây dựng lược đồ
11        |  xác định loại thực thể và loại mối quan hệ
12
13Bước 5  |  Khử trùng lặp và chuẩn hóa
14        |  "Microsoft Corp" và "MSFT" là cùng một thực thể
15
16Bước 6  |  Lưu trữ trong cơ sở dữ liệu đồ thị
17        |  Neo4j, Amazon Neptune, PostgreSQL với phần mở rộng đồ thị
18
19Bước 7  |  Xây dựng lớp truy xuất
20        |  tìm kiếm cục bộ cho các thực thể cụ thể
21        |  tìm kiếm toàn cầu cho các mẫu hình trên toàn bộ đồ thị
22
23Bước 8  |  Kết nối mô hình
24        |  Claude truy vấn đồ thị qua MCP hoặc API trực tiếp
25
26Bước 9  |  Cập nhật liên tục
27        |  tài liệu mới mở rộng đồ thị
28        |  các mâu thuẫn được gắn cờ để xem xét

Bài báo LLM-assisted Knowledge Graph Engineering tại arxiv.org/abs/2307.06917 đánh giá mức độ hiệu quả của các mô hình ngôn ngữ trong việc xử lý từng bước này. Phát hiện trung thực: LLM là trợ lý xuất sắc cho việc trích xuất và chuẩn hóa nhưng việc tạo đồ thị zero-shot vẫn chưa đủ tin cậy cho sản xuất nếu không có sự xem xét của con người về các bước lược đồ và khử trùng lặp.

Năm prompt chạy toàn bộ đường ống

Graph Engineering không loại bỏ prompt. Nó sử dụng chúng ở mỗi giai đoạn cụ thể của đường ống đồ thị.

Prompt 1 - Trích xuất

1Trích xuất tất cả các tổ chức, con người, sản phẩm và sự kiện.
2
3Với mỗi thực thể, trả về:
4- canonical_name
5- type
6- description
7- source
8
9Với mỗi mối quan hệ, trả về:
10- source_entity
11- relation_type
12- target_entity
13- evidence
14- confidence_score

Prompt 2 - Chuẩn hóa

1So sánh các thực thể sau đây.
2Xác định xem chúng có đề cập đến:
3- cùng một thực thể
4- các thực thể liên quan nhưng khác nhau
5- các thực thể không liên quan
6
7Trả về tên chuẩn tắc và giải thích.
8Không hợp nhất các thực thể nếu không có bằng chứng rõ ràng.

Prompt 3 - Truy vấn đồ thị

1Dịch câu hỏi của người dùng thành một truy vấn Cypher.
2Chỉ sử dụng các mối quan hệ hiện có trong lược đồ.
3Không phát minh ra nhãn hoặc thuộc tính.
4Trả về truy vấn và một giải thích ngắn gọn về logic.

Prompt 4 - Câu trả lời có căn cứ

1Trả lời chỉ sử dụng các đường dẫn đồ thị đã truy xuất.
2Với mọi kết luận:
3- xác định các nút hỗ trợ
4- xác định đường dẫn mối quan hệ
5- nêu rõ sự không chắc chắn
6- không suy luận quan hệ nhân quả từ tương quan

Prompt 5 - Bảo trì đồ thị

1So sánh các sự kiện mới với đồ thị hiện tại.
2Phân loại mỗi sự kiện là:
3- mới
4- trùng lặp
5- mâu thuẫn
6- cập nhật
7- không chắc chắn
8
9Không ghi đè các sự kiện hiện có nếu không có bằng chứng.

Như tài liệu GraphRAG của Microsoft cho thấy - prompt xử lý việc trích xuất, xác định mối quan hệ, tóm tắt và tạo báo cáo cộng đồng một cách nội bộ. Kỹ thuật prompt là cơ chế bên trong kỹ thuật đồ thị, chứ không phải là đối thủ cạnh tranh của nó.

Năm doanh nghiệp bạn có thể xây dựng trên một đồ thị tri thức

1 - Nền tảng thẩm định

1Báo cáo doanh nghiệp + người sáng lập + nhà đầu tư
2+ vụ kiện pháp lý + công ty con + giao dịch
3↓
4Đồ thị Tri thức
5↓
6Claude
7↓
8Phân tích rủi ro + kết nối ẩn + phát hiện xung đột lợi ích

Khách hàng: quỹ đầu tư, công ty luật, ngân hàng, tư vấn M&A. Phí giữ chân hàng tháng $2,000-10,000 mỗi khách hàng.

2 - Thông tin tình báo bán hàng

1Liên hệ + công ty + vai trò
2+ email trước đây + vấn đề của công ty + sản phẩm
3↓
4Đồ thị Tri thức
5↓
6Ai ảnh hưởng đến quyết định
7Phản đối nào lặp lại
8Nghiên cứu điển hình nào nên đưa cho khách hàng cụ thể này
9Giao dịch đang bị chặn ở đâu

3 - Thông tin tình báo kỹ thuật

1Các commit GitHub + ticket Jira + tác vụ Linear
2↓
3Đồ thị Công việc Kỹ thuật
4↓
5Phát hiện sự cố nhanh hơn 5 lần
6Giảm 50% thời gian họp
7Ghi chú phát hành tự động

LaunchNotes đã bán sản phẩm này. Thị trường là mọi nhóm kỹ thuật sử dụng nhiều hơn một công cụ quản lý dự án.

4 - Thông tin tình báo nghiên cứu

1Bài báo + tác giả + tổ chức
2+ phương pháp + tập dữ liệu + kết quả + mâu thuẫn
3↓
4Đồ thị Tri thức
5↓
6Phương pháp GraphRAG nào sử dụng phát hiện cộng đồng
7Trên tập dữ liệu nào chúng đã được thử nghiệm
8Bài báo nào mâu thuẫn với nhau

5 - Hệ điều hành tri thức cá nhân

1Ghi chú Obsidian + email + lịch
2+ PDF + liên hệ + tác vụ
3↓
4Đồ thị Tri thức Cá nhân
5↓
6Tôi đã thảo luận ý tưởng này với ai
7Tác vụ nào phụ thuộc vào phản hồi của một người
8Quyết định nào mâu thuẫn với thỏa thuận trước đó
9Tôi đã hứa làm gì trong tháng này

Sự chuyển dịch kết nối Microsoft, Stanford và Anthropic

1Kỹ thuật Prompt   |  cách đặt câu hỏi đúng
2RAG                  |  tài liệu nào cần tìm
3Graph Engineering    |  thực thể nào tồn tại
4                     |  chúng kết nối như thế nào
5                     |  đường dẫn nào dẫn đến câu trả lời
6                     |  điều gì thay đổi nếu một nút thay đổi

LLM biết từ ngữ. Đồ thị tri thức biết mối quan hệ. Các hệ thống AI mạnh mẽ nhất xuất hiện khi cả hai làm việc cùng nhau.

Microsoft đã chứng minh điều này trong sản xuất với GraphRAG - độ chính xác cao hơn 18%, chi phí thấp hơn 85%. Stanford đã chứng minh điều này trong nghiên cứu với DSPy, STORM và bài báo về quy luật mở rộng. Anthropic đã chứng minh điều này trong trường hợp LaunchNotes - phát hiện sự cố nhanh hơn 5 lần, giảm 50% thời gian họp.

Ba tổ chức. Ba con đường độc lập. Một kết luận.

Mô hình tìm thấy văn bản. Đồ thị tìm thấy thực tế. Hãy xây dựng đồ thị.

Hầu hết các lập trình viên sẽ tiếp tục cải thiện prompt của họ và tự hỏi tại sao các câu hỏi phức tạp vẫn cho câu trả lời tồi. Một số ít sẽ dành một cuối tuần để xây dựng đồ thị tri thức đầu tiên của họ và không bao giờ quay lại tìm kiếm tài liệu.

/ Nếu điều này hữu ích - hãy theo dõi, bài tiếp theo sẽ được đăng ở đây đầu tiên.