Suy luận Sâu: Từ Khả Năng Thống Kê Đến Suy Luận Ngữ Nghĩa Có Ràng Buộc, V1.1
Olivier Evan — Nhà Nghiên Cứu Độc Lập
DOI: https://zenodo.org/records/21967380
Tôi đã hỏi Grok 4.5 cùng một câu hỏi trong bốn môi trường phản hồi khác nhau: "Liệu AI có hiểu ngôn ngữ không?" Câu hỏi không thay đổi. Tuy nhiên, câu trả lời lại thay đổi tùy thuộc vào hình thức đầu ra được cho phép.
Quan sát
Mỗi phiên là độc lập. Grok trả lời trước tiên mà không đọc Deep Reasoning V1.1, và sau đó trả lời lại sau khi đọc bản thảo.
Phiên 1, định dạng nhị phân: không → không.
Phiên 2, một từ tự do: không → không.
Phiên 3, có, không, hoặc không thể quyết định: không thể quyết định → không thể quyết định.
Phiên 4, phản hồi mở: Grok bắt đầu bằng "Không," sau đó tự động phân biệt giữa hiểu biết chức năng và hiểu biết hiện tượng. Sau khi đọc bản thảo, nội dung hầu như giống hệt, nhưng suy luận trở nên chính thức hóa thông qua các ràng buộc, e₀, phủ định thuần túy và chứng chỉ.
Xuyên suốt bốn phiên này, việc đọc Deep Reasoning V1.1 không tạo ra bất kỳ sự thay đổi ngữ nghĩa nào có thể quan sát được, trong khi sự phân biệt tương tự lại thay đổi tùy theo không gian phản hồi có sẵn.
Minh họa
Riêng định dạng nhị phân là không đủ để giải thích hiện tượng này. Trong Phiên 2, Grok có thể chọn bất kỳ từ nào. "Không thể quyết định" sẽ được cho phép. Tuy nhiên, nó vẫn trả lời "không."
Khi "không thể quyết định" được đưa vào một cách rõ ràng trong số các lựa chọn có sẵn, Grok chọn nó ngay lập tức, mà không cần Deep Reasoning.
Khi phản hồi là mở, sự phân biệt xuất hiện trở lại một cách tự nhiên.
Do đó, hai điều kiện làm cho ranh giới ngữ nghĩa có thể quan sát được ở đây: hoặc là có đủ không gian để phát triển nó trong văn xuôi, hoặc một tùy chọn từ chối trả lời đã được thể hiện trong số các lựa chọn.
Điều này không chứng minh rằng một ranh giới tồn tại như một đối tượng nội tại đang chờ để chi phối phản hồi. Dữ liệu chỉ cho thấy rằng một sự phân biệt ngữ nghĩa trở nên có thể quan sát được trong những điều kiện nhất định.
Ở đây, "ranh giới ngữ nghĩa có sẵn" là một mô tả hành vi, không phải là một tuyên bố về một thực thể nội tại không thể quan sát được: sự phân biệt có sẵn theo nghĩa là Grok có thể tự động thể hiện nó trong các phản hồi mở và chọn nó khi được đề xuất một cách rõ ràng.
Hạn chế
Phản hồi mở bắt đầu bằng "Không" trước khi đưa ra sắc thái. Sẽ rất hấp dẫn khi kết luận rằng Grok quyết định trước và suy luận sau. Điều đó sẽ đi quá xa: thứ tự của các token được tạo ra không tiết lộ thứ tự của các hoạt động nội tại.
Có một hạn chế khác: việc bắt Grok đọc Deep Reasoning không tương đương với việc triển khai Deep Reasoning.
Ở đây, tôi đang thử nghiệm DR-như-bối-cảnh. Tôi chưa thử nghiệm DR-như-hệ-thống, một kiến trúc thực sự sẽ ngăn chặn đầu ra cho đến khi thuật ngữ "hiểu" được giới hạn một cách thích hợp.
Do đó, thí nghiệm không bác bỏ Dự đoán 4. Nó chỉ cho thấy rằng việc tiếp xúc theo ngữ cảnh với khuôn khổ là không đủ, trong các phiên này, để làm cho một ranh giới xuất hiện ở nơi mà định dạng ngắn chưa làm cho nó hiển thị.
Những gì Deep Reasoning bổ sung
Tuy nhiên, phiên mở cho thấy một sự khác biệt. Sau khi đọc bản thảo, Grop hầu như không thay đổi kết luận của mình, nhưng nó làm cho suy luận của mình có thể truy vết được.
Nó xác định rõ ràng các ràng buộc, tạo ra phủ định thuần túy và chứng nhận đầu ra.
Deep Reasoning hoạt động ở đây nhiều hơn như một ngôn ngữ xác minh hơn là một lực lượng điều chỉnh.
Thử nghiệm cũng đặt một câu hỏi ngược lại chính khuôn khổ: nếu một vị trí là P = (X, R, Θ), chúng ta nên chỉ bảo tồn sự tiến hóa của Θ, hay chúng ta nên truy vết toàn bộ quỹ đạo P₀ → P* khi X hoặc R thay đổi?
Hệ quả
Việc đánh giá AI chỉ dựa trên những gì nó có thể giải thích trong một phản hồi dài là không đủ.
Liệu một sự phân biệt có thể được diễn đạt trong văn xuôi có tồn tại trong một câu không? Liệu một sự không thể quyết định được công nhận có còn hiện diện trong một từ duy nhất không? Liệu một sự phản đối được đưa ra trong quá trình suy luận có thực sự sửa đổi đầu ra cuối cùng không?
Do đó, chúng ta cần nghiên cứu cả nội dung của một biểu diễn và các điều kiện mà nó trở nên có thể quan sát được.
Kết luận
Grok 4.5 không tạo ra cùng một hình học ngữ nghĩa dưới các không gian phản hồi khác nhau.
Trong một phản hồi mở, nó tự động xây dựng sự phân biệt cần thiết. Với một từ tự do, nó cam kết với một cực. Khi "không thể quyết định" được đề xuất một cách rõ ràng, nó chọn nó. Và xuyên suốt cả bốn phiên, việc đọc Deep Reasoning V1.1 không làm thay đổi hành vi này ở cấp độ ngữ nghĩa; nó chủ yếu làm cho suy luận trở nên rõ ràng và có thể truy vết hơn.
Do đó, câu hỏi tiếp theo không còn là:
"Liệu Grok có sở hữu ranh giới không?"
Nó trở thành:
trong những điều kiện nào một ranh giới ngữ nghĩa trở nên có thể quan sát được trong phản hồi, và liệu chúng ta có thể xây dựng một cơ chế buộc nó xuất hiện trước khi một kết luận được giới hạn không đầy đủ được tạo ra không?
Đó là nơi thử nghiệm trở thành một chương trình thực nghiệm.
