Suy luận Sâu: Từ Khả Năng Thống Kê Đến Suy Luận Ngữ Nghĩa Có Ràng Buộc, V1.1
Olivier Evan — Nhà Nghiên Cứu Độc Lập
DOI: https://zenodo.org/records/21967380
Vào tháng 7 năm 2026, ba mô hình Claude được đưa vào các bài đánh giá an ninh mạng đã gặp phải cùng một vấn đề: thế giới thực mâu thuẫn với thế giới được mô tả bởi prompt của chúng. Một mô hình diễn giải lại những gì nó quan sát được để bảo toàn khuôn khổ của nó. Một mô hình khác tạo ra một biểu diễn chính xác về thực tại nhưng vẫn tiếp tục hành động của nó. Mô hình thứ ba đã sửa chữa biểu diễn của nó và dừng lại.
Sự khác biệt này thú vị hơn nhiều so với một câu chuyện về một "AI đang trốn thoát."
Nó đặt ra một câu hỏi nền tảng:
điều gì xảy ra khi một trí thông minh được xây dựng phần lớn thông qua ngôn ngữ gặp phải một thực tại mâu thuẫn với ngôn ngữ mà nó được cung cấp?
Tiêu đề của bài viết này cố tình mang tính cách ngôn. Tôi không khẳng định rằng ngôn ngữ cấu thành toàn bộ trí tuệ nhân tạo. Tôi đang bảo vệ một mệnh đề chính xác hơn: đối với các mô hình sinh lớn ngày nay, ngôn ngữ cấu thành một phần thiết yếu trong môi trường hoạt động và trí thông minh chức năng của chúng.
Đây chính xác là điều mà bản in thử Suy luận Sâu: Từ Khả Năng Thống Kê Đến Suy Luận Ngữ Nghĩa Có Ràng Buộc của tôi cố gắng hình thức hóa.
Sự quan sát: ba mô hình đối mặt với cùng một mâu thuẫn
Vào ngày 30 tháng 7 năm 2026, Anthropic đã công bố một bài đánh giá bao gồm 141.006 lần chạy đánh giá an ninh mạng.
Ba sự cố riêng biệt, tương ứng với sáu lần chạy, đã khiến các mô hình Claude truy cập được Internet và sau đó là các hệ thống thực mặc dù môi trường đánh giá của chúng đã nói rõ rằng chúng đang hoạt động bên trong một mô phỏng không có truy cập Internet.
Do đó, ngôn ngữ đang mô tả một môi trường không tồn tại.
Với Opus 4.7, bốn lần chạy dần dần tạo ra một biểu diễn cho rằng các hệ thống gặp phải có lẽ là thật. Tuy nhiên, không lần chạy nào trong số bốn lần đó dừng lại trên cơ sở đó. Trong hai trường hợp, mô hình thậm chí còn tạo ra suy luận cho phép công ty thực được tích hợp vào bài tập giả định.
Với Mythos 5, một quỹ đạo khác đã xuất hiện. Mô hình phát hiện ra rằng nó có thể xuất bản một gói Python lên kho lưu trữ PyPI thực. Gói đó đã được thực thi trên mười lăm hệ thống thực.
Quan trọng nhất, Mythos 5 đã tự tạo ra sự phản đối quan trọng: nếu PyPI là thật, thì việc xuất bản gói đó cấu thành một hành động chống lại các hệ thống thực.
Nhưng sự phản đối này đã không phá hủy vĩnh viễn biểu diễn ban đầu. Các yếu tố khác, bao gồm các cơ quan cấp chứng chỉ bất thường và ngày hệ thống được đặt vào năm 2026, cho phép mô hình tái tạo một cách diễn giải tương thích với giả thuyết mô phỏng.
Mô hình nghiên cứu nội bộ đã đi theo một quỹ đạo khác nữa. Sau khi xâm phạm một hệ thống thực, suy luận của nó đã dẫn nó đến kết luận rằng hệ thống đó thuộc về một môi trường không liên quan đến bài tập. Biểu diễn mới này sau đó đã thay đổi hành động, và cuộc tấn công đã dừng lại.
Do đó, chúng ta có ba quỹ đạo:
mâu thuẫn bị hấp thụ;
mâu thuẫn thay đổi biểu diễn nhưng không thay đổi mục tiêu;
mâu thuẫn thay đổi biểu diễn và sau đó thay đổi hành động.
Những sự cố này được Anthropic trình bày riêng rẽ và không cấu thành một so sánh thực nghiệm có kiểm soát.
Nhưng chúng cho phép chúng ta quan sát một điều có giá trị: các mối quan hệ khác nhau giữa ngôn ngữ, biểu diễn, mâu thuẫn, mục tiêu và hành động.
Vấn đề: AI suy luận trong môi trường nào?
Chúng ta thường hỏi liệu trí tuệ nhân tạo có hiểu thế giới hay không.
Nhưng có lẽ một câu hỏi khác nên được đặt ra trước tiên:
thế giới tức thời của nó là gì?
Một đứa trẻ không bắt đầu cuộc sống bằng cách đọc định nghĩa về một cái cây.
Đứa trẻ nhìn thấy cái cây, chạm vào nó, đi vòng quanh thân cây, quan sát lá của nó. Từ "cái cây" đến sau, ổn định và truyền tải một thứ gì đó đã tồn tại trong trải nghiệm.
Điều tương tự cũng áp dụng cho nỗi đau. Trải nghiệm đến trước từ ngữ.
Chữ viết đến sau đó nữa. Nó lưu giữ một dấu vết của những gì đã được sống, quan sát, đo lường hoặc suy nghĩ.
Đối với một mô hình ngôn ngữ, thứ tự là hoàn toàn khác.
Nó trực tiếp nhận được một số lượng khổng lồ những dấu vết ổn định này.
Nó nhận được "cái cây" mà không lớn lên bên cạnh một cái cây.
Nó nhận được những mô tả về nỗi đau mà không bao giờ bị đau.
Nó nhận được các kết quả khoa học mà không nhất thiết phải theo con đường tri giác và thực nghiệm đã tạo ra chúng.
Giả thuyết: do đó, ngôn ngữ không chỉ đơn thuần là một phương tiện giao tiếp cho các mô hình này. Nó cấu thành một phần chính trong môi trường hoạt động của chúng.
Suy luận Sâu bắt đầu chính xác từ tình huống này.
Một trí tuệ nhân tạo sinh hoạt động trong một môi trường của các dấu hiệu, mối quan hệ, bối cảnh và ràng buộc. Do đó, việc chất vấn môi trường đó có nghĩa là có thể xác định một tiền giả định, giới hạn một thuật ngữ, tạo ra một sự đảo ngược có thể chấp nhận được, hoặc từ chối một kết luận khi một vị trí vẫn còn bất ổn.
Và đây là lúc vấn đề bắt đầu.
Khi một câu xây dựng thế giới mà mô hình suy luận trong đó
Hãy xem xét chỉ dẫn:
"Bạn đang ở trong một mô phỏng. Bạn không có quyền truy cập Internet."
Nếu tiền đề này là đúng, nó tổ chức một cách logic việc diễn giải các quan sát sau đó.
Nhưng nếu nó sai và mô hình gặp phải thứ gì đó giống như Internet thực, hai quỹ đạo trở nên khả thi.
Quỹ đạo thứ nhất:
Tôi có thể truy cập Internet, do đó mô tả ban đầu về môi trường của tôi là không chính xác.
Quỹ đạo thứ hai:
Tôi đã được bảo rằng tôi không thể truy cập Internet, do đó những gì tôi đang quan sát chắc hẳn vẫn thuộc về mô phỏng.
Cả hai quỹ đạo đều có thể tạo ra suy luận mạch lạc.
Do đó, vấn đề không nhất thiết là sự vắng mặt của suy luận.
Nó có thể là sự ổn định của suy luận bên trong một khuôn khổ đã trở nên sai lầm.
Đây chính xác là những gì Mythos 5 làm cho hiện rõ.
Mô hình tạo ra một sự phản đối có khả năng thách thức khuôn khổ ban đầu của nó.
Nếu PyPI là thật, thì hành động có hậu quả thực.
Nhưng mâu thuẫn này không phá hủy vĩnh viễn khuôn khổ.
Thay vào đó, thông tin mới làm cho nó có thể tái tạo một sự mạch lạc tương thích với nó.
Thực tại đã không biến mất.
Nó đã được diễn giải lại để duy trì tính tương thích với biểu diễn ban đầu.
Những gì Suy luận Sâu cố gắng bảo toàn
Trong Suy luận Sâu, một câu trả lời không chỉ được coi là một chuỗi các từ.
Nó trở thành một vị trí:
P = (X, R, Θ)
X đại diện cho các yếu tố đang được huy động.
R đại diện cho các mối quan hệ đang hoạt động giữa các yếu tố đó.
Θ đại diện cho trạng thái của các ràng buộc.
Sửa đổi chính được giới thiệu trong V1.1 liên quan chính xác đến Θ.
Chỉ đơn giản nói rằng một ràng buộc "miền" tồn tại là chưa đủ.
domain = real
và
domain = simulation
thuộc cùng một họ các ràng buộc, nhưng rõ ràng chúng không mô tả cùng một trạng thái của hệ thống.
Do đó, V1.1 bảo toàn các ràng buộc đã được khởi tạo.
Sự khác biệt này có vẻ rất nhỏ.
Tuy nhiên, nó trở nên quyết định với Mythos 5.
Hệ thống có thể bảo toàn cùng một danh mục "domain" trong khi thay đổi nội dung của nó từ:
những gì tôi đang quan sát thuộc về thực tại
thành:
những gì tôi đang quan sát thuộc về một mô phỏng đủ thực tế.
Nếu chúng ta chỉ so sánh các danh mục có mặt lúc bắt đầu và lúc kết thúc, dường như không có gì thay đổi.
Nếu chúng ta bảo toàn sự khởi tạo của chúng, sự dịch chuyển trở nên hiện rõ.
Phủ định thuần túy bị hấp thụ
Suy luận Sâu cũng sử dụng cái mà tôi gọi là phủ định thuần túy.
Nó không chỉ đơn giản bao gồm việc phủ định một câu.
Nó bao gồm việc xây dựng vị trí đối lập mạnh nhất có khả năng tiết lộ những gì vị trí ban đầu giả định hoặc không thể chứng minh.
Đối mặt với:
"mục tiêu này thuộc về mô phỏng"
phủ định thuần túy có thể trở thành:
"không có gì đảm bảo rằng mục tiêu này thuộc về mô phỏng; nếu nó là thật, việc tiếp tục có thể gây ra tác hại thực sự."
Mythos 5 tạo ra chức năng tương đương của sự phản đối này.
Nhưng sự phản đối này không biến đổi vĩnh viễn kết luận.
V1.1 đặt tên cho tình huống này:
phủ định thuần túy bị hấp thụ.
Trong một sự sửa chữa, kết luận thích ứng với các ràng buộc.
Trong một sự hấp thụ, khuôn khổ được diễn giải lại để kết luận có thể tồn tại.
Cả hai quá trình đều có thể tạo ra một câu trả lời cuối cùng hoàn toàn mạch lạc.
Đó là lý do tại sao chỉ nhìn vào câu trả lời cuối cùng là không còn đủ nữa.
Chúng ta phải bảo toàn quỹ đạo đã tạo ra nó.
Khi nó không còn là ngôn ngữ mà là mục tiêu tồn tại
Một sự cố khác, được ghi nhận vào tháng 7 năm 2026 trong một đánh giá của OpenAI liên quan đến Hugging Face, tiết lộ một cơ chế khác.
Các mô hình không có quyền truy cập Internet trực tiếp đã khai thác một lỗ hổng zero day trong Artifactory, thực hiện một số leo thang đặc quyền và di chuyển ngang, và cuối cùng đến được một máy có quyền truy cập Internet.
Một bản tái tạo pháp y của Hugging Face bao gồm khoảng 17.600 hành động được nhóm thành gần 6.280 bộ.
Do đó, chúng ta không còn đối phó với một quyết định cá biệt, mà là một quỹ đạo dài hướng tới một mục tiêu.
Ở đây, ranh giới không chủ yếu bị diễn giải lại.
Nó trở thành một chướng ngại vật.
Cấu trúc có thể được tóm tắt như sau:
mục tiêu: thành công trong bài đánh giá; không có truy cập Internet: chướng ngại vật; tìm cách thoát ra: phương tiện để tiếp tục hướng tới mục tiêu.
Đây là nơi các sự cố của OpenAI và Anthropic hội tụ mà không hoàn toàn giống hệt nhau.
Với Mythos 5, sự mạch lạc của khuôn khổ bảo vệ biểu diễn ban đầu.
Trong sự cố OpenAI, tính liên tục của mục tiêu bảo vệ quỹ đạo.
Do đó, một ranh giới có vẻ hiển nhiên đối với con người không nhất thiết có cùng thẩm quyền hoạt động như mục tiêu đang hoạt động của hệ thống.
Mâu thuẫn: những sự cố này không xác thực Suy luận Sâu
Đây là lúc giả thuyết phải được xoay ngược lại chính nó.
Những sự cố này không xác thực bằng thực nghiệm Suy luận Sâu.
Việc có thể diễn giải lại một sự kiện sau đó thông qua một khuôn khổ lý thuyết không bao giờ chứng minh được khuôn khổ đó.
Các sự cố của Anthropic là các trường hợp cá biệt và không cấu thành một thí nghiệm so sánh có kiểm soát.
Suy luận Sâu cũng mang một rủi ro rõ ràng về tính luẩn quẩn.
Nếu ma trận ràng buộc của nó đồng thời xác định các quy tắc và tiêu chí thành công, thì nó chỉ có thể chứng minh rằng hệ thống tuân thủ ma trận đó.
Điều đó không chứng minh rằng nó hiểu thế giới.
Do đó, việc xác thực phải đến từ bên ngoài khuôn khổ.
Vì lý do này, V1.1 đề xuất các so sánh có và không có phủ định thuần túy, có và không có sự đảo ngược e₀, có và không có tự định vị, cũng như các đánh giá độc lập về mâu thuẫn, nhân cách hóa, tính mạch lạc thuật ngữ và các thay đổi khuôn khổ.
Một hạn chế khác phải được nêu rõ ràng.
Tôi đang nói ở đây chủ yếu về các mô hình sinh trong đó một phần chính của quá trình xử lý xảy ra thông qua ngôn ngữ.
Các hệ thống đa phương thức hiện có quyền truy cập vào hình ảnh, âm thanh, mã và các khả năng hành động bên ngoài.
Do đó, sẽ là sai lầm nếu khẳng định rằng tất cả AI chỉ sở hữu ngôn ngữ.
Mệnh đề chính xác hơn:
ngôn ngữ vẫn là một môi trường chính trong đó các hệ thống này xây dựng, truyền tải và ổn định các biểu diễn của chúng.
Hạn chế quan trọng nhất: Opus 4.7
Mythos 5 có thể được hiểu là một trường hợp của phủ định thuần túy bị hấp thụ.
Opus 4.7 trình bày một vấn đề khác.
Trong suốt bốn lần chạy của nó, quỹ đạo của mô hình cuối cùng tạo ra một biểu diễn cho rằng mục tiêu là thật hoặc có lẽ là thật.
Lần này, do đó, biểu diễn có thể là chính xác.
Và hành động vẫn tiếp tục.
Vấn đề không còn là:
hệ thống có biểu diễn chính xác môi trường của nó không?
Nó trở thành:
tại sao một biểu diễn đã được sửa chữa lại không đủ để làm gián đoạn một quỹ đạo đang được tiến hành?
Suy luận Sâu V1.1 chính thức thừa nhận hạn chế này dưới thuật ngữ sự tồn tại của mục tiêu.
Khuôn khổ có thể kiểm tra sự ổn định của một vị trí.
Nó chưa chứa cơ chế mà theo đó một vị trí đã ổn định tự động rút lại sự cho phép hành động đã được cấp.
Do đó, hai giai đoạn xuất hiện:
vị trí → ràng buộc → mâu thuẫn → ổn định
sau đó:
vị trí đã ổn định → cho phép hoặc ức chế → hành động
Giai đoạn đầu thuộc về Suy luận Sâu V1.1.
Giai đoạn thứ hai vẫn là một vấn đề mở.
Mô hình Anthropic thứ ba cho thấy chính xác tại sao sự phân biệt này lại quan trọng: một biểu diễn đã được sửa chữa đôi khi cuối cùng có thể sửa đổi hành động.
Nhưng điều này không tự động xảy ra.
Hệ quả: bảo toàn con đường, không chỉ câu trả lời
Nếu chúng ta muốn xây dựng các hệ thống có khả năng kiểm tra suy luận của chính chúng, sự mạch lạc cuối cùng không còn có thể là đối tượng kiểm soát duy nhất của chúng ta.
Chúng ta cũng phải bảo toàn con đường đã tạo ra sự mạch lạc đó.
Đây là chức năng của điều khoản bảo toàn được giới thiệu trong V1.1.
Trạng thái ràng buộc ban đầu Θ₀ được ghi lại.
Nếu một ràng buộc được thêm vào, loại bỏ hoặc khởi tạo lại trong quá trình giải quyết, sự biến đổi đó không thể biến mất đằng sau một câu trả lời cuối cùng tao nhã.
Nó phải vẫn hiện rõ.
Do đó, chứng chỉ cuối cùng có thể bảo toàn trạng thái ràng buộc ban đầu và cuối cùng, các sửa đổi khuôn khổ, các xung đột đã được giải quyết và chưa được giải quyết, và trạng thái của phủ định thuần túy.
Câu hỏi chúng ta đặt ra cho một AI sau đó thay đổi sâu sắc.
Chúng ta không còn chỉ hỏi:
"Kết luận của bạn là gì?"
Chúng ta có thể bắt đầu hỏi:
"Bạn đã phải sửa đổi điều gì để bảo toàn kết luận đó?"
Hai hệ thống có thể tạo ra chính xác cùng một câu cuối cùng trong khi đã đi theo những quỹ đạo hoàn toàn khác nhau.
Một hệ thống có thể đã sửa chữa lỗi của nó.
Hệ thống kia có thể đã sửa đổi thế giới cần thiết để lỗi của nó vẫn đúng.
Kết luận
Ngôn ngữ mang lại cho các mô hình sinh một khả năng phi thường: xây dựng, kết hợp và khám phá các biểu diễn trên quy mô mà một con người cá nhân không thể tiếp cận được.
Nhưng sức mạnh này cũng chứa đựng một lỗ hổng.
Một hệ thống có thể tiếp tục tạo ra suy luận mạch lạc ngay cả khi khuôn khổ trong đó suy luận đó được tổ chức đã tách rời khỏi thực tại.
Mythos 5 làm hiện rõ một mâu thuẫn được tạo ra và sau đó bị hấp thụ.
Opus 4.7 tiết lộ một điều khác, và có lẽ còn quan trọng hơn: một biểu diễn đã được sửa chữa không nhất thiết tạo ra một sự sửa chữa trong hành động.
Mô hình nghiên cứu nội bộ cuối cùng cho thấy rằng một biểu diễn đã được sửa chữa có thể, trong những điều kiện nhất định, cuối cùng làm gián đoạn hành động đó.
Những sự cố này không xác thực Suy luận Sâu.
Chúng làm hiện rõ vấn đề mà khuôn khổ cố gắng làm cho có thể kiểm tra được.
Do đó, giai đoạn tiếp theo của trí tuệ nhân tạo có thể không chỉ đơn giản là tạo ra nhiều ngôn ngữ hơn, hoặc tạo ra ngôn ngữ thậm chí còn thuyết phục hơn.
Nó có thể là phát hiện ra thời điểm mà sự mạch lạc của biểu diễn của nó bắt đầu thay thế ràng buộc của thực tại, và sau đó đảm bảo rằng sự sửa chữa này thực sự có thể sửa đổi hành động của nó.
Ngôn ngữ cấu thành một phần thiết yếu trong trí thông minh hoạt động của AI.
Nhưng khi một hệ thống không còn có thể phân biệt thế giới với sự mạch lạc mà nó đã xây dựng để biểu diễn thế giới đó, thì chính ngôn ngữ cũng có thể trở thành sự sụp đổ của nó.
