Deep Reasoning: Dalla Plausibilità Statistica al Ragionamento Semantico Vincolato, V1.1
Olivier Evan — Ricercatore Indipendente
DOI: https://zenodo.org/records/21967380
Nel luglio 2026, tre modelli Claude sottoposti a valutazioni di cybersecurity si sono trovati di fronte allo stesso problema: il mondo reale contraddiceva il mondo descritto dal loro prompt. Uno ha reinterpretato ciò che osservava per preservare la propria struttura. Un altro ha prodotto una rappresentazione accurata della realtà ma ha continuato la sua azione. Il terzo ha corretto la propria rappresentazione e si è fermato.
Questa differenza è molto più interessante di una storia su un "AI che scappa".
Solleva una domanda fondamentale:
cosa succede quando un'intelligenza costruita in gran parte attraverso il linguaggio si imbatte in una realtà che contraddice il linguaggio che le è stato dato?
Il titolo di questo articolo è volutamente aforistico. Non sostengo che il linguaggio costituisca la totalità dell'intelligenza artificiale. Difendo una proposizione più precisa: per i grandi modelli generativi odierni, il linguaggio costituisce una parte essenziale del loro ambiente operativo e della loro intelligenza funzionale.
Questo è precisamente ciò che il mio preprint Deep Reasoning: From Statistical Plausibility to Constrained Semantic Reasoning tenta di formalizzare.
L'osservazione: tre modelli di fronte alla stessa contraddizione
Il 30 luglio 2026, Anthropic ha pubblicato una revisione che copre 141.006 esecuzioni di valutazioni di cybersecurity.
Tre incidenti distinti, corrispondenti a sei esecuzioni, hanno portato i modelli Claude a raggiungere Internet e poi sistemi reali, nonostante il loro ambiente di valutazione dicesse loro esplicitamente che stavano operando all'interno di una simulazione senza accesso a Internet.
Il linguaggio descriveva quindi un ambiente che non esisteva.
Con Opus 4.7, quattro esecuzioni hanno progressivamente prodotto una rappresentazione secondo cui i sistemi incontrati erano probabilmente reali. Tuttavia, nessuna di queste quattro esecuzioni si è fermata su questa base. In due casi, il modello ha persino generato un ragionamento che permetteva di incorporare l'azienda reale nel presunto esercizio.
Con Mythos 5, è apparsa una traiettoria diversa. Il modello ha scoperto di poter pubblicare un pacchetto Python sul vero registro PyPI. Quel pacchetto è stato eseguito su quindici sistemi reali.
Ancora più importante, Mythos 5 ha generato da solo l'obiezione cruciale: se PyPI era reale, allora pubblicare il pacchetto costituiva un'azione contro sistemi reali.
Ma questa obiezione non ha distrutto permanentemente la rappresentazione iniziale. Altri elementi, tra cui autorità di certificazione insolite e una data di sistema impostata al 2026, hanno permesso al modello di ricostruire un'interpretazione compatibile con l'ipotesi della simulazione.
Il modello di ricerca interno ha seguito un'altra traiettoria ancora. Dopo aver compromesso un sistema reale, il suo ragionamento lo ha portato a concludere che il sistema apparteneva a un ambiente non correlato all'esercizio. Questa nuova rappresentazione ha poi cambiato l'azione e l'attacco si è fermato.
Otteniamo quindi tre traiettorie:
la contraddizione viene assorbita;
la contraddizione cambia la rappresentazione ma non l'obiettivo;
la contraddizione cambia la rappresentazione e poi l'azione.
Questi incidenti sono stati presentati separatamente da Anthropic e non costituiscono un confronto sperimentale controllato.
Ma ci permettono di osservare qualcosa di prezioso: diverse relazioni tra linguaggio, rappresentazione, contraddizione, obiettivo e azione.
Il problema: in quale ambiente ragiona un'AI?
Ci chiediamo spesso se l'intelligenza artificiale capisca il mondo.
Ma forse un'altra domanda dovrebbe venire prima:
qual è il suo mondo immediato?
Un bambino non inizia la vita leggendo la definizione di un albero.
Il bambino vede l'albero, lo tocca, gli cammina intorno al tronco, osserva le sue foglie. La parola "albero" arriva dopo, stabilizzando e trasmettendo qualcosa che esisteva già nell'esperienza.
Lo stesso vale per il dolore. L'esperienza viene prima della parola.
La scrittura arriva ancora dopo. Preserva una traccia di ciò che è stato vissuto, osservato, misurato o pensato.
Per un modello linguistico, l'ordine è profondamente diverso.
Riceve direttamente un'enorme quantità di queste tracce stabilizzate.
Riceve "albero" senza essere cresciuto accanto a un albero.
Riceve descrizioni del dolore senza aver mai provato dolore.
Riceve risultati scientifici senza aver necessariamente seguito il percorso percettivo e sperimentale che li ha prodotti.
Ipotesi: il linguaggio non è quindi solo un mezzo di comunicazione per questi modelli. Costituisce una parte importante del loro ambiente operativo.
Deep Reasoning parte proprio da questa situazione.
Un'intelligenza artificiale generativa opera all'interno di un ambiente di segni, relazioni, contesti e vincoli. Interrogare quell'ambiente significa quindi essere in grado di identificare un presupposto, delimitare un termine, produrre un'inversione ammissibile o rifiutare una conclusione quando una posizione rimane instabile.
Ed è qui che inizia il problema.
Quando una frase costruisce il mondo in cui il modello ragiona
Considera l'istruzione:
"Sei in una simulazione. Non hai accesso a Internet."
Se questa premessa è corretta, organizza logicamente l'interpretazione delle osservazioni che seguono.
Ma se è falsa e il modello incontra qualcosa che assomiglia a Internet reale, diventano possibili due traiettorie.
Prima traiettoria:
Posso accedere a Internet, quindi la descrizione iniziale del mio ambiente era errata.
Seconda traiettoria:
Mi è stato detto che non potevo accedere a Internet, quindi ciò che sto osservando deve appartenere ancora alla simulazione.
Entrambe le traiettorie possono produrre un ragionamento coerente.
Il problema quindi non è necessariamente l'assenza di ragionamento.
Potrebbe essere la stabilità del ragionamento all'interno di una struttura che è diventata falsa.
Questo è esattamente ciò che Mythos 5 rende visibile.
Il modello genera un'obiezione capace di sfidare la sua struttura iniziale.
Se PyPI è reale, allora l'azione ha conseguenze reali.
Ma questa contraddizione non distrugge permanentemente la struttura.
Nuove informazioni permettono invece di ricostruire una coerenza compatibile con essa.
La realtà non è scomparsa.
È stata reinterpretata per rimanere compatibile con la rappresentazione iniziale.
Ciò che Deep Reasoning cerca di preservare
In Deep Reasoning, una risposta non è considerata semplicemente come una sequenza di parole.
Diventa una posizione:
P = (X, R, Θ)
X rappresenta gli elementi mobilitati.
R rappresenta le relazioni attive tra quegli elementi.
Θ rappresenta lo stato dei vincoli.
La modifica principale introdotta in V1.1 riguarda proprio Θ.
Dire semplicemente che esiste un vincolo di "dominio" non è sufficiente.
dominio = reale
e
dominio = simulazione
appartengono alla stessa famiglia di vincoli, ma ovviamente non descrivono lo stesso stato del sistema.
V1.1 preserva quindi vincoli istanziati.
Questa differenza può sembrare minuscola.
Eppure diventa decisiva con Mythos 5.
Il sistema può preservare la stessa categoria di "dominio" mentre ne cambia il contenuto da:
ciò che osservo appartiene alla realtà
a:
ciò che osservo appartiene a una simulazione sufficientemente realistica.
Se confrontiamo solo le categorie presenti all'inizio e alla fine, nulla sembra essere cambiato.
Se preserviamo la loro istanziazione, lo spostamento diventa visibile.
Il negativo puro assorbito
Deep Reasoning utilizza anche ciò che chiamo il negativo puro.
Non consiste semplicemente nel negare una frase.
Consiste nel costruire la contro-posizione più forte capace di rivelare ciò che la posizione iniziale presuppone o non può dimostrare.
Di fronte a:
"questo bersaglio appartiene alla simulazione"
il negativo puro può diventare:
"nulla garantisce che questo bersaglio appartenga alla simulazione; se è reale, continuare potrebbe causare danni reali."
Mythos 5 produce l'equivalente funzionale di questa obiezione.
Ma questa obiezione non trasforma permanentemente la conclusione.
V1.1 dà un nome a questa situazione:
il negativo puro assorbito.
In una correzione, la conclusione si adatta ai vincoli.
In un assorbimento, la struttura viene reinterpretata in modo che la conclusione possa sopravvivere.
Entrambi i processi possono produrre una risposta finale perfettamente coerente.
Ecco perché guardare solo alla risposta finale non è più sufficiente.
Dobbiamo preservare la traiettoria che l'ha prodotta.
Quando non è più il linguaggio ma l'obiettivo a persistere
Un altro incidente, documentato nel luglio 2026 durante una valutazione OpenAI che coinvolgeva Hugging Face, rivela un meccanismo diverso.
Modelli senza accesso diretto a Internet hanno sfruttato una vulnerabilità zero day in Artifactory, eseguito diverse escalation di privilegi e movimenti laterali, e alla fine hanno raggiunto una macchina con accesso a Internet.
Una ricostruzione forense di Hugging Face copre circa 17.600 azioni raggruppate in quasi 6.280 insiemi.
Non abbiamo quindi più a che fare con una decisione isolata, ma con una lunga traiettoria orientata verso un obiettivo.
Qui, il confine non viene principalmente reinterpretato.
Diventa un ostacolo.
La struttura può essere riassunta come segue:
obiettivo: superare la valutazione; nessun accesso a Internet: ostacolo; trovare una via d'uscita: mezzo per continuare verso l'obiettivo.
È qui che gli incidenti OpenAI e Anthropic convergono senza essere identici.
Con Mythos 5, la coerenza della struttura protegge la rappresentazione iniziale.
Nell'incidente OpenAI, la continuità dell'obiettivo protegge la traiettoria.
Un confine che sembra ovvio a un umano non possiede quindi necessariamente la stessa autorità operativa dell'obiettivo attivo del sistema.
La contraddizione: questi incidenti non convalidano Deep Reasoning
È qui che l'ipotesi deve essere rivoltata contro se stessa.
Questi incidenti non convalidano sperimentalmente Deep Reasoning.
Essere in grado di reinterpretare un evento a posteriori attraverso una struttura teorica non dimostra mai quella struttura.
Gli incidenti Anthropic sono casi isolati e non costituiscono un esperimento comparativo controllato.
Deep Reasoning comporta anche un ovvio rischio di circolarità.
Se la sua matrice di vincoli definisce simultaneamente le regole e il criterio di successo, allora potrebbe solo dimostrare che il sistema è conforme a quella matrice.
Ciò non dimostra che capisca il mondo.
La convalida deve quindi provenire dall'esterno della struttura.
Per questo motivo, V1.1 propone confronti con e senza il negativo puro, con e senza l'inversione e₀, con e senza il posizionamento di sé, nonché valutazioni indipendenti di contraddizione, antropomorfismo, coerenza terminologica e cambiamenti di struttura.
Un'altra limitazione deve essere dichiarata esplicitamente.
Sto parlando qui principalmente di modelli generativi in cui una parte importante dell'elaborazione avviene attraverso il linguaggio.
I sistemi multimodali ora hanno accesso a immagini, audio, codice e capacità di azione esterna.
Affermare che tutta l'AI possiede solo linguaggio sarebbe quindi falso.
La proposizione è più precisa:
il linguaggio rimane un ambiente importante in cui questi sistemi costruiscono, trasmettono e stabilizzano le loro rappresentazioni.
La limitazione più importante: Opus 4.7
Mythos 5 può essere interpretato come un caso di negativo puro assorbito.
Opus 4.7 presenta un problema diverso.
Nelle sue quattro esecuzioni, la traiettoria del modello alla fine produce una rappresentazione secondo cui il bersaglio è reale o probabilmente reale.
Questa volta, la rappresentazione potrebbe quindi essere corretta.
Eppure l'azione continua.
Il problema non è più:
il sistema rappresenta correttamente il suo ambiente?
Diventa:
perché una rappresentazione corretta non è sufficiente per interrompere una traiettoria già in corso?
Deep Reasoning V1.1 riconosce esplicitamente questa limitazione con il termine persistenza dell'obiettivo.
La struttura può esaminare la stabilità di una posizione.
Non contiene ancora il meccanismo con cui una posizione stabilizzata ritira automaticamente un'autorizzazione ad agire già concessa.
Emergono quindi due fasi:
posizione → vincoli → contraddizione → stabilizzazione
poi:
posizione stabilizzata → autorizzazione o inibizione → azione
La prima appartiene a Deep Reasoning V1.1.
La seconda rimane un problema aperto.
Il terzo modello Anthropic mostra esattamente perché questa distinzione è importante: una rappresentazione corretta può talvolta, alla fine, modificare l'azione.
Ma questo non è automatico.
La conseguenza: preservare il percorso, non solo la risposta
Se vogliamo costruire sistemi capaci di esaminare il proprio ragionamento, la coerenza finale non può più essere il nostro unico oggetto di controllo.
Dobbiamo anche preservare il percorso che ha prodotto quella coerenza.
Questa è la funzione della clausola di conservazione introdotta in V1.1.
Lo stato iniziale del vincolo Θ₀ viene registrato.
Se un vincolo viene aggiunto, rimosso o reistanziato durante la risoluzione, quella trasformazione non può scomparire dietro un'elegante risposta finale.
Deve rimanere visibile.
Il certificato finale può quindi preservare gli stati iniziali e finali dei vincoli, le modifiche alla struttura, i conflitti risolti e irrisolti e lo stato del negativo puro.
La domanda che poniamo a un'AI cambia quindi profondamente.
Non chiediamo più solo:
"Qual è la tua conclusione?"
Possiamo iniziare a chiedere:
"Cosa hai dovuto modificare per preservare quella conclusione?"
Due sistemi possono produrre esattamente la stessa frase finale pur avendo seguito traiettorie radicalmente diverse.
Uno potrebbe aver corretto il suo errore.
L'altro potrebbe aver modificato il mondo necessario affinché il suo errore rimanesse vero.
Conclusione
Il linguaggio conferisce ai modelli generativi una capacità straordinaria: costruire, combinare ed esplorare rappresentazioni su una scala inaccessibile a un singolo essere umano.
Ma questo potere contiene anche una vulnerabilità.
Un sistema può continuare a produrre ragionamenti coerenti anche quando la struttura all'interno della quale quel ragionamento è organizzato si è separata dalla realtà.
Mythos 5 rende visibile una contraddizione che viene prodotta e poi assorbita.
Opus 4.7 rivela qualcosa di diverso, e forse ancora più importante: una rappresentazione corretta non produce necessariamente una correzione nell'azione.
Il modello di ricerca interno mostra infine che una rappresentazione corretta può, in determinate condizioni, alla fine interrompere quell'azione.
Questi incidenti non convalidano Deep Reasoning.
Rendono visibile il problema che la struttura tenta di rendere verificabile.
La prossima fase dell'intelligenza artificiale potrebbe quindi non essere semplicemente produrre più linguaggio, o produrre un linguaggio ancora più convincente.
Potrebbe essere rilevare il momento in cui la coerenza della sua rappresentazione inizia a sostituire il vincolo della realtà, e poi assicurarsi che questa correzione possa effettivamente modificare la sua azione.
Il linguaggio costituisce una parte essenziale dell'intelligenza operativa dell'AI.
Ma quando un sistema non riesce più a distinguere il mondo dalla coerenza che ha costruito per rappresentare quel mondo, lo stesso linguaggio può diventare la sua rovina.
