Глибоке міркування: від статистичної правдоподібності до обмеженого семантичного міркування, V1.1
Олів'є Еван — незалежний дослідник
DOI: https://zenodo.org/records/21967380
Я поставив Grok 4.5 те саме питання в чотирьох різних середовищах відповіді: «Чи розуміє ШІ мову?» Питання не змінювалося. Проте відповідь варіювалася залежно від дозволеної форми виведення.
Спостереження
Кожен сеанс був незалежним. Grok відповів спочатку, не прочитавши Deep Reasoning V1.1, а потім знову після прочитання препринту.
Сеанс 1, бінарний формат: ні → ні.
Сеанс 2, одне вільне слово: ні → ні.
Сеанс 3, так, ні або нерозв'язно: нерозв'язно → нерозв'язно.
Сеанс 4, відкрита відповідь: Grok починає з «Ні», потім спонтанно розрізняє функціональне розуміння та феноменальне розуміння. Після прочитання препринту суть залишається майже ідентичною, але міркування формалізується через обмеження, e₀, чисте заперечення та сертифікат.
У цих чотирьох сеансах читання Deep Reasoning V1.1 не спричиняє спостережуваного семантичного зсуву, тоді як те саме розрізнення змінюється залежно від доступного простору для відповіді.
Демонстрація
Бінарного формату недостатньо, щоб пояснити явище. У сеансі 2 Grok може вибрати будь-яке слово. «Нерозв'язно» було б дозволено. Проте він все одно відповідає «ні».
Коли «нерозв'язно» явно включено до доступних варіантів, Grok вибирає його негайно, без Deep Reasoning.
Коли відповідь відкрита, розрізнення з'являється спонтанно.
Отже, дві умови роблять семантичну межу тут спостережуваною: або достатньо простору, щоб розвинути її в прозі, або варіант утримання вже представлений серед вибору.
Це не доводить, що межа існує як внутрішній об'єкт, який чекає, щоб керувати відповіддю. Дані показують лише те, що семантичне розрізнення стає спостережуваним за певних умов.
Тут «доступна семантична межа» — це поведінковий опис, а не твердження про внутрішню сутність, яку неможливо спостерігати: розрізнення доступне в тому сенсі, що Grok може спонтанно висловити його у відкритих відповідях і вибрати його, коли воно явно запропоноване.
Обмеження
Відкрита відповідь починається з «Ні», перш ніж ввести нюанси. Було б спокусливо зробити висновок, що Grok спочатку приймає рішення, а потім міркує. Це було б занадто далеко: порядок згенерованих токенів не розкриває порядок внутрішніх операцій.
Є ще одне обмеження: змусити Grok прочитати Deep Reasoning не еквівалентно впровадженню Deep Reasoning.
Тут я тестую DR-як-контекст. Я ще не тестую DR-як-систему, архітектуру, яка фактично запобігала б виведенню, доки термін «розуміти» не буде належним чином обмежений.
Отже, експеримент не спростовує Прогноз 4. Він лише показує, що контекстного ознайомлення з рамкою недостатньо, у цих сеансах, щоб змусити межу з'явитися там, де короткий формат уже не зробив її видимою.
Що додає Deep Reasoning
Відкритий сеанс, тим не менш, показує різницю. Після прочитання препринту Grok майже не змінює свого висновку, але робить своє міркування відстежуваним.
Він явно ідентифікує обмеження, створює чисте заперечення та сертифікує виведення.
Deep Reasoning діє тут більше як мова верифікації, ніж як коригувальна сила.
Тест також повертає питання до самої рамки: якщо позиція є P = (X, R, Θ), чи слід зберігати лише еволюцію Θ, чи слід простежувати всю траєкторію P₀ → P*, коли X або R змінюються?
Наслідок
Оцінювати ШІ лише за тим, що він може пояснити у довгій відповіді, недостатньо.
Чи виживає розрізнення, яке можна висловити в прозі, в одному реченні? Чи залишається визнана нерозв'язність присутньою в одному слові? Чи змінює заперечення, висловлене під час міркування, фактично кінцеве виведення?
Отже, нам потрібно вивчати як зміст репрезентації, так і умови, за яких вона стає спостережуваною.
Висновок
Grok 4.5 не створює однакової семантичної геометрії в різних просторах відповіді.
У відкритій відповіді він спонтанно конструює необхідне розрізнення. З одним вільним словом він прив'язується до полюса. Коли «нерозв'язно» явно запропоновано, він вибирає його. І в усіх чотирьох сеансах читання Deep Reasoning V1.1 не змінює цю поведінку на семантичному рівні; воно головним чином робить міркування більш явним і відстежуваним.
Отже, наступне питання більше не є:
«Чи має Grok межу?»
Воно стає:
за яких умов семантична межа стає спостережуваною у відповіді, і чи можемо ми побудувати механізм, який змушує її з'являтися до того, як буде створено недостатньо обмежений висновок?
Ось де тест стає експериментальною програмою.
