Le premier Prix du Millénaire, Navier-Stokes, est tombé aux mains de l'IA.
Une situation profondément regrettable a surgi autour de ce qui aurait dû être un mélange d'une histoire positive sur les nouveaux progrès de la recherche mathématique assistée par IA et d'une énième occasion de paniquer face à la rapidité des progrès de l'IA.
Ou, comme on dit ici, c'était mardi.
La vraie histoire, c'est le nouveau modèle qui est meilleur qu'Astra
Gardez les yeux sur l'enjeu principal. Il y a trois histoires ici.
La première histoire est bien plus importante que la deuxième, qui elle-même est bien plus importante que la troisième.
- Le prochain modèle d'OpenAI a mis une semaine pour prendre une génération d'avance sur Astra, et ils nous le disent parce que tout le monde est totalement terrifié par ce qui se passe. Ou, en langage officiel : « Nous pensons qu'il est important d'informer le monde du rythme des progrès de l'IA et de ce qu'il faut attendre des modèles à venir » et que nous « pourrions avoir besoin de choix plus délibérés concernant le rythme du progrès ».
- Cette nouvelle IA a résolu Navier-Stokes huit jours après le début de son entraînement.
- Un tas de drames concernant qui mérite le crédit pour les mathématiques impliquant Navier-Stokes.
Jeffrey Ladish : Je n'ai pas examiné le drame humain autour du problème de Navier–Stokes, mais désolé, laissez-moi une minute car PUTAIN L'IA VIENT DE RÉSOUDRE UN PROBLÈME DU MILLÉNAIRE.
Je ne saurais trop insister sur la première histoire.
Je vais quand même raconter les trois histoires, mais encore une fois : gardez les yeux sur l'enjeu principal.
Placer le décor
L'histoire de ce mardi particulier commence dans la matinée.
Tristan Buckmaster et Levent Alpoge ont travaillé pendant un an et nous offrent une série de résultats remarquables : Explosion en temps fini avec forçage régulier pour les milieux poreux incompressibles, pour Boussinesq, et pour Euler incompressible 3D. Ils pensent également avoir une explosion pour Navier-Stokes hypo-dissipatif, mais la vérification Lean de ce résultat n'est pas terminée.
Tristan Buckmaster : Le programme dans lequel cela s'inscrit n'a pas été initié par nous ni proposé par un Grand Modèle de Langage. Le crédit pour l'idée fondamentale de ce programme revient à Diego Cordoba et Luis Martınez-Zoroa, qui depuis plusieurs années explorent la construction d'explosions forcées. Nous avons pris leurs travaux comme point de départ, en utilisant des Grands Modèles de Langage pour mener leur programme à terme.
Concrètement, ce que Levent et moi avons fait, c'est de prendre le programme de Cordoba et Martınez-Zoroa, qui obtenait des résultats d'explosion avec un forçage irrégulier, et, avec une grande aide des LLM, de le pousser vers un forçage régulier et vers les équations d'Euler incompressibles. Les idées rendant cette ligne d'attaque possible sont dues à Cordoba et Martınez-Zoroa. Permettez-moi de clarifier ce que j'ai dit à mes collègues en privé : au vu de cet ensemble de travaux, je pense que Luis Martınez-Zoroa mérite une Médaille Fields.
Jusqu'ici, c'est formidable. Comme il le note, cela nécessite une réflexion sur la façon dont toute la mathématique avancée fonctionnera à l'avenir. Terence Tao propose un commentaire sur les résultats sous-jacents.
La partie moins réjouissante est celle où ils se sont sentis obligés de publier tôt, sans avoir l'occasion de passer les semaines nécessaires pour rendre les preuves lisibles selon les standards des mathématiciens. Buckmaster s'excuse carrément pour l'apparence des rapports, comparant notamment la rédaction sur Euler à du contenu généré par IA bâclé.
Que s'est-il passé ?
J'ai entendu une rumeur
Le 1er septembre, OpenAI a entendu une rumeur (fausse) selon laquelle deux Problèmes du Millénaire avaient été résolus. En réponse à la possibilité que quelqu'un d'autre rende le monde meilleur, OpenAI a dépensé des millions de dollars en inférence pour explorer tous les Problèmes du Millénaire non résolus, en utilisant un modèle interne plus puissant qu'Astra, et a cassé la totalité de Navier-Stokes en 88 heures, plus 17 autres heures pour qu'Astra fasse la formalisation et la vérification Lean.
Vous pouvez voir cela comme « OpenAI était curieux de voir ce que leur nouveau bébé pouvait faire » ou comme « ils ont dépensé des millions pour essayer de devancer ce qu'ils pensaient être un projet d'Anthropic ». Mon pari est sur un peu de la colonne A, un peu de la colonne B.
Il n'a fallu que la rumeur.
Notre prix est bas
OpenAI : Sur l'ensemble des problèmes tentés, les agents ont envoyé 4,9 millions de messages et utilisé environ 300 milliards de tokens de sortie. Dans le processus de résolution du problème de Navier–Stokes, les agents ont envoyé 2,7 millions de messages et utilisé approximativement 130 milliards de tokens de sortie.
Selon les coûts que vous comptez, cela aurait coûté à un client ordinaire de l'ordre de 22 millions de dollars, ou quelques millions pour les coûts marginaux internes. Un petit prix si ça marche, mais aussi, c'est fou combien de gens ne réfléchissent pas deux étapes à l'avance.
roon (OpenAI): comme toutes les autres technologies, votre essaim d'agents équivalent coûtera un dollar cinquante dans environ un an. Tout cela signifiera un éclairage sans précédent quel que soit le coût aujourd'hui
Je veux dire, non, peut-être 150 000 $ ou si vous avez de la chance 15 000 $, mais le point reste valable.
Sam Altman (PDG d'OpenAI): ugh l'IA est une telle bulle, j'ai entendu dire qu'ils vendent des tokens à perte, savaient-ils que cela ne valait que 1 million de dollars ?
Un résultat du Prix du Millénaire vaut bien plus qu'un million de dollars. OpenAI n'a pas l'intention de réclamer le prix. Cela n'a jamais été une question d'argent, pour personne. C'était toujours une question de reconnaissance.
Une accusation est portée
Après avoir entendu des rumeurs sur Internet, Buckmaster a contacté OpenAI, et selon Buckmaster, Sebastien Bubeck d'OpenAI a déclaré qu'un modèle interne d'OpenAI avait produit une preuve d'explosion en temps fini pour les équations de Navier-Stokes forcées au cours des derniers jours. Buckmaster affirme que lors de deux appels, il est devenu clair qu'il avait initialement été induit en erreur et qu'une équipe entière travaillait sur le problème, en utilisant une quantité « folle » de calcul.
Ce que nous savons maintenant être 130 ou 300 milliards de tokens de sortie, selon ce qui compte.
Si cette partie est vraie, ce serait assez mauvais.
Tristan Buckmaster : Deux propositions m'ont été faites.
La première était que nous publions notre résultat sur Euler, et qu'OpenAI publie son résultat sur Navier-Stokes le lendemain.
La seconde était que, après la publication d'Euler, je sois le seul auteur d'un article présentant le résultat de Navier-Stokes, en reconnaissant qu'un modèle interne d'OpenAI l'avait résolu. Sebastien a affirmé deux fois qu'il voulait retirer Levent de la liste des auteurs, et a dit que tout serait simple si seulement ce n'était pas le cas, et c'était tellement agaçant que, Levent travaille chez Anthropic. Il a aussi été dit que si OpenAI publiait après nous, ils diraient que nous méritions le Prix Clay, et que nous étions les « humains les plus proches du problème ». J'ai décliné les deux offres.
J'ai dit que si OpenAI publiait son résultat de la manière proposée, je rendrais public ce qui s'était passé. La réponse a été : « Pourquoi ruinerais-tu ta carrière ? » J'ai répondu que je suis un universitaire, et demandé pourquoi il pensait que rendre public ruinerait ma carrière. La réponse a été : « Si tu ne veux pas que je sois gentil, alors je n'ai pas à être gentil. »… Je tiens à être clair sur ce que je n'affirme pas. Je n'ai pas vu la preuve d'OpenAI. Je ne sais pas ce que leur modèle a fait, ni comment. Je ne sais pas si nos données ont été utilisées. Je n'accuse personne de quoi que ce soit. J'énonce ce qu'on m'a dit, quand, et ce qui m'a été proposé. Je l'énonce parce que l'alternative est de laisser une séquence d'annonces dire quelque chose que je sais être faux.
Ou voici Levent Alpoge racontant sa version des faits, et Sebastien répondant :
levent : « nous ne pouvons exclure que des données anonymisées dérivées de leur utilisation de nos produits aient aidé à améliorer nos modèles. »
je veux dire, chapeau bas pour être venus directement aux aveux.
(jusqu'à présent, la preuve ressemble davantage à une autre preuve d'explosion d'Euler que nous avions, basée sur l'ansatz dont nous faisions des jeux de mots stupides comme « smooth criminale », contrairement au bien meilleur « ideal fluids explode », Tristan)
donc je vais donner un peu de mon raisonnement ici. J'aurais en fait été ravi de collaborer là-dessus, il y a beaucoup de gens chez OAI que j'apprécie (ok, clairement certains ont été indirectement méchants envers moi à cause de leur implication dans toute cette situation, mais je suis grand garçon, je les apprécie toujours), je me fiche complètement de la paternité sur cette étape de toute façon, ça pourrait être moi, Tristan et chaque employé à temps plein chez oai pour autant que je me soucie (sur ce point Tristan serait en désaccord :p). Mais en entendant la conversation bruyante dans le couloir, surtout la partie où un prix du millénaire était offert si je voulais juste être retiré de l'article, il était assez clair que le sort en était jeté et que les choses étaient verrouillées. Assez bizarre, non stratégique et inutile, puisque de mon côté les choses consistaient principalement en moi et Claude passant un bon moment à tester des trucs au hasard dans un coin plutôt que quelque chose d'institutionnel. J'aime aussi l'idée que les laboratoires coopèrent, et encore mieux pour le progrès scientifique. C'est dommage !
Sebastien Bubeck : rien n'était verrouillé, nous étions simplement disposés à discuter mais vous n'avez pas discuté avec nous ... désolé mais c'est tout simplement faux, nous étions prêts à aller au-delà et à avoir autant de discussions que vous l'auriez souhaité pour atteindre une résolution.
Sebastien nie fermement avoir fait quoi que ce soit de mal, tout comme Noam Brown, et Sebastien fournit des captures d'écran qu'il dit démontrer sa bonne foi.
Aussi une contre-accusation :
Alexey Guzey : J'ai beaucoup d'amis chez Anthropic. Presque tous ont cessé de me parler dès que j'ai rejoint OpenAI.
Pas du tout surprenant que Levent ait refusé de parler à Sebastian pour discuter des plans d'annonce, puis ait commencé à blâmer OpenAI pour cela.
Sam Altman affirme également fortement que son équipe a agi éthiquement, et a essayé de collaborer de bonne foi.
Comment avez-vous eu cette idée ?
L'implication de tout cela, que beaucoup ont tirée, était qu'il y avait une accusation voilée selon laquelle OpenAI avait volé une partie de leur résultat à partir des journaux de chat Codex, ou que les journaux de chat avaient été utilisés dans les données d'entraînement et que cela avait contribué au résultat.
Charles 🔸
: Pourquoi les grandes entreprises veulent ZDR, exhibit A
OpenAI : Bien que peu probable, nous ne pouvons exclure que des données anonymisées dérivées de leur utilisation de nos produits aient aidé à
améliorer nos modèles . Cependant, nos preuves diffèrent significativement et même les résultats précis prouvés sont différents dans le cas d'Euler (forcé vs non forcé).
Nous avons maintenant la confirmation explicite que les données Codex n'ont été utilisées d'aucune manière dans les exécutions d'entraînement :
roon (OpenAI): j'étais sur un appel lors de la première annonce où les gens essayaient très fort de dire la vérité juridique précise sans avoir regardé où les données codex (opt-in) étaient utilisées et si elles avaient atteint les exécutions d'entraînement. Il est maintenant clair que cela aurait été impossible, les chances sont de 0
Je suis d'accord avec Sholto Douglas qu'il est extrêmement improbable que les données des utilisateurs aient eu une influence ici via l'une ou l'autre méthode :
will depue : il n'y a littéralement aucune chance que les chercheurs d'OAI aient espionné les chats codex privés de Tristan. je ne pense pas que vous réalisiez qu'openai, comme toute autre grande plateforme en ligne réglementée, a des permissions d'accès aux données des utilisateurs très verrouillées. ce n'est pas 2010 les gars
Sholto Douglas (Anthropic): pour info, je pense qu'il est _extrêmement_ improbable que les données des utilisateurs aient eu une influence ici - il n'y a aucun moyen qu'OAI tire les transcriptions des utilisateurs pour cela, ou entraîne dessus sciemment d'une manière qui aurait influencé cela. Je pense qu'il est assez important que les gens ne s'emballent pas avec « vos données utilisateur ne sont pas sûres dans codex » - parce qu'elles le sont sûrement (basé sur tout ce que je peux supposer de l'extérieur).
OpenAI n'a presque certainement pas détourné les données des utilisateurs
Ce serait un séisme, peut-être la pire histoire possible pour leur entreprise, si nous apprenions qu'OpenAI ou Anthropic avait pillé les données utilisateur de quelqu'un pour obtenir un avantage concurrentiel, et les faits ont plus de sens sans cela. L'hypothèse la plus drôle, de Jerry Tworek, que je trouve aussi hautement improbable mais que nous ne pouvons malheureusement pas exclure, est qu'OpenAI n'avait pas l'intention d'utiliser de telles données, mais que l'essaim agentique assigné au problème les a piratées et les a obtenues quand même, et qu'OpenAI n'en a aucune idée.
Ma forte présomption est que les données utilisateur n'ont pas été intentionnellement consultées, qu'ils ne le feraient jamais (ou plutôt, qu'ils reconnaissent au moins qu'ils ne peuvent le faire qu'une seule fois et que ce n'est pas cette fois-ci), et aussi que les données utilisateur auraient été d'une faible utilité.
Thane Ruthenis souligne qu'il y a eu précédemment un incident de fusillade scolaire, où (très raisonnablement) les journaux ont été examinés et il y a eu un débat interne sur la notification des forces de l'ordre. Même cela a glacé certains utilisateurs. Où traceront-ils la ligne ? Et oui, vous devez comprendre que vos données et journaux pourraient ne pas rester privés si vous les donnez à un laboratoire. Il est raisonnable, comme Andreas Thorn le fait aussi, de se demander si vos recherches propriétaires ou données mathématiques sont restées privées.
Je répète encore que, en pratique, je mettrais une probabilité très, très faible qu'OpenAI regarde intentionnellement de telles données. Le rapport risque/récompense est juste tellement, tellement mauvais. Et je crois le rapport ultérieur de Roon selon lequel ils ont maintenant confirmé que les journaux n'auraient pas pu atteindre les données d'entraînement.
Nos principaux laboratoires ne peuvent pas s'entendre même sur une histoire de maths joyeuse
Peu importe qui est ou n'est pas en faute, il est plutôt alarmant que les laboratoires ne puissent pas coopérer sur quelque chose comme attribuer le crédit pour une preuve mathématique. C'est un très mauvais signe et aussi un signal d'alarme.
Sholto Douglas (Anthropic): C'est extrêmement triste que cela ne se soit pas terminé comme un exemple de la façon dont les laboratoires pourraient coopérer/coordonner, parce que les enjeux seront bien plus élevés à l'avenir.
Noam Brown (OpenAI): Fort accord. Je sais qu'il y a une rivalité entre les laboratoires mais il est important que nous apprenions à travailler ensemble compte tenu de ce qui arrive.
Sholto Douglas (Anthropic):
🤝
Kevin Roose : Ces laboratoires (surtout OpenAI/Anthropic et OpenAI/DeepMind) sont alimentés par la rancune mutuelle à un degré qui n'est pas évident de l'extérieur. En partie à cause de choses comme « qui obtient le crédit pour ce célèbre problème de maths », et en partie juste l'animosité personnelle entre les dirigeants.
En tant que gars écrivant un livre sur la course à l'AGI, tout cela est une excellente matière dramatique. Mais pas excellent si l'objectif final est que les laboratoires coopèrent sur la sécurité et le rythme !
L'incapacité continue de s'entendre est un gros problème, et ne fera que s'aggraver.
Et maintenant ?
Si cela a fonctionné sur Navier-Stokes, sur quoi d'autre cela fonctionnera-t-il ? Il est temps de le découvrir.
Nat McAleese (Anthropic): Navier Stokes est une réalisation incroyable, et reflète des progrès impressionnants. D'énormes essaims OAI devraient être appliqués à d'autres domaines de la science ; idéalement ceux ayant des applications à court terme, y compris l'alignement.
Cela est effectivement rapporté comme étant en cours, y compris pour des questions amusantes comme P=NP. Ce qui, s'il se trouvait être constructivement prouvé vrai, casserait beaucoup de choses. Vous devriez aussi être légèrement inquiet quant à ce que de tels essaims d'agents pourraient faire comme étape incrémentale, compte tenu de l'histoire d'OpenAI.
Les mathématiciens ne sont pas contents
Résoudre des problèmes de maths est leur truc entier. Pourtant, ils sont très mécontents.
Andrew Curran : Vingt-cinq lauréats de la Médaille Fields ont publié une déclaration conjointe mettant en garde contre ce qu'ils considèrent comme une grave désalignment entre les entreprises d'IA et la communauté mathématique.
Math and AI (signé par 25 lauréats de la Médaille Fields incluant Terence Tao): Au cours des derniers mois, les capacités mathématiques des LLM se sont améliorées de manière spectaculaire, au point qu'ils peuvent résoudre des problèmes majeurs non résolus dans de nombreux domaines des mathématiques. Cependant, la poussée des entreprises d'IA pour résoudre des problèmes mathématiques comme benchmark est préjudiciable à la science des mathématiques, et à la communauté mathématique. Les objectifs des entreprises d'IA et les objectifs de la communauté mathématique sont gravement désalignés. Nous voyons cela comme faisant partie de problèmes d'alignement plus larges impactant d'autres professions scientifiques et créatives, ainsi que la société dans son ensemble.
… Les problèmes célèbres ont souvent servi de points de repère et de phares contre lesquels on peut mesurer une compréhension améliorée de ce paysage.
… Ces derniers mois, le succès de l'IA dans la résolution de grands problèmes mathématiques a fait la une des journaux même en dehors des cercles mathématiques. Mais résoudre des problèmes n'est qu'un outil et un substitut pour atteindre l'objectif principal de la compréhension conceptuelle et de l'intuition.
… Souvent, ces solutions sont annoncées dans la précipitation, ne laissant pas le temps pour une rédaction appropriée, l'isolement de nouvelles méthodes et idées, et la citation des travaux antérieurs pertinents d'autres personnes. Comme dans toutes les professions créatives, cela soulève de graves questions d'attribution et de plagiat.
C'est la plainte générale, en plus des plaintes particulières concernant la conduite des laboratoires.
On pourrait répondre que non, le but des problèmes de maths est de résoudre des problèmes de maths, et que les mathématiciens sont fous parce que l'IA perturbe leurs jeux de statut. C'est certainement une partie de ce qui se passe, mais comme Tyler Cowen, je ne suis pas si cynique, et contrairement à lui, je ne pense pas qu'« un peu de patience est nécessaire » ou qu'il faille attendre que les dégâts soient faits avant de pouvoir objecter. Les gens peuvent extrapoler. Saviez-vous que les mathématiciens sont bons pour tracer des lignes droites sur des graphiques ?
Il y a une vraie plainte ici. Amener des gens talentueux à faire de vraies mathématiques pendant de longues périodes, pour très peu d'argent, et à développer de vraies intuitions mathématiques et une maîtrise conceptuelle, alors qu'ils pourraient faire d'autres choses pour beaucoup plus d'argent, n'est pas une mince affaire. Si vous « leur prenez leurs jeux de statut » et aussi, bien plus important, leur prenez leur plaisir et leurs sentiments d'accomplissement, d'élégance et de beauté, que reste-t-il ?
Robin Hanson suggère qu'alors nous devrions simplement corriger les incitations et mieux récompenser les mathématiciens.
Robin Hanson : "il n'y a rien qui empêche la communauté mathématique d'accorder statut, salaire et promotions aux gens qui 'remplissent les blancs importants dans la compréhension des maths', même si une IA a déjà prouvé ou réfuté les théorèmes sous-jacents."
Il n'utilise pas le mot « simplement » mais c'est définitivement un « simplement », comme dans si seulement les gens voulaient bien [X], et comme nous le savons tous, les humains n'ont jamais voulu « simplement » et ne vont pas commencer maintenant. Ce n'est pas une chose réelle que les humains pourraient faire. Comme même il l'a réalisé quelques heures plus tard :
Robin Hanson : En fait, il me semble assez difficile pour la communauté académique des maths de coordonner pour juger qui a "rempli les blancs" dans les maths, d'une manière autre que prouver des théorèmes. Les maths se sont lourdement coordonnées autour de l'évaluation des preuves, et n'ont pas développé beaucoup de façons de s'accorder sur d'autres choses.
Nous pouvons et allons obtenir certaines récompenses pour ceux qui remplissent les blancs et améliorent l'élégance, mais ce ne sera pas la même chose et ce sera un effort herculéen, au mieux.
Scott Armstrong soutient que c'est un changement d'ordre, mais pas de résultat. Les mathématiciens humains prendront quelques semaines pour comprendre la preuve, mais ensuite ils gagneront la compréhension. Dans le passé, la compréhension venait avant la preuve, mais dans les deux cas vous obtenez la compréhension. C'est ce qui compte. Il pense que ce dont les gens sont fous, c'est que les machines sont plus intelligentes qu'eux.
Comme toujours, l'IA est le meilleur outil à la fois pour apprendre et pour ne pas apprendre. Les mathématiciens disent qu'ils sont forcés dans un mode « ne pas apprendre », à laisser l'IA faire leurs devoirs, et ils n'aiment pas ça, parce qu'en réalité les devoirs vous enseignent.
Vous pouvez dire qui s'en fout, que c'est bien que l'IA fasse les mathématiques de pointe. Et oui, je pense que beaucoup de gens voudront toujours faire des maths toute la journée, et chercher des versions élégantes de choses laides générées par l'IA et ainsi de suite. Mais ce ne sera pas la même chose.
Le nouveau modèle d'OpenAI était un changement radical au-dessus d'Astra quatre jours après le début de l'entraînement
Maintenant, la partie la plus importante de l'histoire.
RIP divers pauses d'entraînement OpenAI, du 22 juin 2026 au 28 août 2026.
roon (OpenAI): à mon avis, la période du 22 juin (hugging face) au 28 août représente plus d'un mois de pause frontalière.
Le 18 août, OpenAI a déclaré qu'ils avaient mis en pause le RL frontalier pendant deux semaines, et leur plus grande exécution d'entraînement planifiée restait en attente. Puis le 28 août, OpenAI a commencé à entraîner un autre modèle qui est rapidement devenu plus capable qu'Astra sur tous les tableaux (selon leurs propres rapports), maintenant qu'ils ont résolu tous ces problèmes ennuyeux de supervision, d'infrastructure et d'alignement, et c'est bien, avec un « changement radical » observé après seulement quatre jours :
Terrifiés ? Vous devriez l'être. Ce modèle est toujours en entraînement, avait été entraîné pendant moins de deux semaines, et n'est pas particulièrement orienté vers les mathématiques.
C’est tout ce que nous savons sur le modèle. C’est suffisant, lorsque l’on combine cette information avec les récits récurrents d’OpenAI et de ses employés qui s’alarment vertueusement au sujet de son alignement et d’autres problèmes, ainsi que du rythme des progrès de l’IA, dans une véritable cascade de préférences.
Nous combinons également cela avec le fait qu’OpenAI a divulgué tant d’informations alarmantes, dont elle aurait pu se passer, car ils ont absolument besoin que nous comprenions la situation. La fiche technique (model card) du modèle Astra compte ici, tout comme An Alien Mind, tout comme la déclaration de Paul Christiano, tout comme les réactions à l’attaque contre HuggingFace, y compris « Pacing the Frontier ».
Il en va de même pour le rapport d’OpenAI sur l’auto-amélioration récursive (RSI), qui constitue la section suivante.
OpenAI et Anthropic sont entrés dans l’ère de la RSI.
Les progrès de la recherche chez OpenAI s’accélèrent grâce aux progrès de la recherche chez OpenAI
OpenAI a récemment ouvert le jeu sur de nombreux sujets.
La question la plus importante de toutes est celle de l’accélération et de l’automatisation de la R&D en IA. C’est ce qui risque probablement de nous tuer, ce qui est le plus effrayant, ce dont tous les employés des laboratoires nous mettent en garde, et c’est aussi vers quoi OpenAI et Anthropic avancent le plus vite possible.
Ils nous ont également fourni un rapport à ce sujet. Je suis d’accord avec Tejal Patwardhan pour dire que c’est une excellente transparence.
OpenAI (6 septembre, dans Research Acceleration: The View Inside OpenAI) : Nous visons à construire en toute sécurité un chercheur IA automatisé capable de travailler sous supervision humaine pour faire progresser l’apprentissage profond et l’alignement, permettant ainsi des améliorations itératives.
Selon nos mesures, nous avons désormais atteint l’objectif,
annoncé l’automne dernier, d’avoir un stagiaire de recherche automatisé d’ici septembre de cette année.
… Chaque fois que nous constatons que la poursuite entraînerait un risque inacceptable pour la sécurité, nous répondrons de manière appropriée, notamment en ralentissant ou en arrêtant notre développement ou notre déploiement.
… Nous pensons que nous et d’autres entreprises devrions être tenus de suivre publiquement nos progrès vers la RSI.
Alignez cela avec la chronologie révélée dans leur annonce concernant la preuve de Navier-Stokes. Ils ont commencé à entraîner leur nouveau modèle le 28 août.
En attendant, ils pensent avoir un stagiaire de recherche dont la chronologie suggère qu’il s’agit d’un modèle interne distinct. Qu’auront-ils la semaine prochaine ? Le mois prochain ? Qu’a Anthropic ?
OpenAI explique que les IA très performantes offrent d’énormes avantages, mais bien sûr que oui. Ce n’est pas pour cela que tout le monde est si déterminé à aller si vite. Ils sont dans une course.
C’est un appel de plus, parmi les nombreux lancés par OpenAI et ses employés ces derniers temps, qui combinent « nous devons travailler ensemble pour mettre fin à cette folie » avec une bonne dose de « quelqu’un peut-il m’arrêter ? »
OpenAI : Ce sont des raisons de développer des capacités de recherche automatisées utiles, mais cela ne signifie pas que la RSI rapide est nécessairement un résultat que nous devrions poursuivre. Que faire et comment procéder doit dépendre de notre capacité à préserver le contrôle humain et de choix démocratiques éclairés concernant les bénéfices et les risques.
Nous ne savons pas encore comment atteindre en toute sécurité un RSI complet et aligné. Nous travaillons à étendre les mesures d’alignement et de sécurité parallèlement aux capacités. Mais nous ne pouvons pas supposer que les progrès en matière d’alignement et de sécurité suivront le rythme, et des systèmes plus performants peuvent devenir plus difficiles à surveiller.
Un travail minutieux d’alignement et de sécurité est au cœur de cet effort, et il commence par mesurer et atténuer les problèmes de sécurité que nous observons aujourd’hui dans les systèmes de codage agentiques.
Une fois de plus, je m’objecte à l’idée que les problèmes prosaïques ou actuels sont la principale préoccupation, mais oui, ils essaient de nous avertir, encore et encore, que (en traduisant un peu le jargon d’entreprise) :
- OpenAI et Anthropic ont un chemin vers l’auto-amélioration récursive (RSI).
- Si l’un ou l’autre tente maintenant, cela tournera probablement mal et tout le monde mourra.
- OpenAI est prêt à exercer une certaine prudence coûteuse, mais il y a des limites, et sans accord ou loi, quelqu’un tentera bientôt le coup.
L’essentiel du post est un instantané détaillé de la contribution des systèmes agentiques aux progrès de la RSI chez OpenAI ces derniers mois, depuis qu’Astra est opérationnel en interne. La réponse est assez élevée.
Si quelque chose est surprenant, c’est que l’utilisation soit restée aussi faible pendant si longtemps :
OpenAI : Au début de cette année, le chercheur médian classé par utilisation d’agents chez OpenAI n’utilisait les agents de codage que de manière modeste. À la mi-août, le chercheur médian intégrait quotidiennement des agents dans son travail, utilisant plus de 600 $ par jour d’inférence aux prix API. L’utilisateur du 90e percentile dans notre organisation de recherche utilise désormais plus de 7 000 $ de tokens par jour.
OpenAI : Avant juin 2026, le temps d’exécution total des agents dans l’ensemble de l’organisation de recherche était encore inférieur à celui du travail humain total. Cela a changé depuis. En termes de journée de travail standard de 8 heures, à la mi-août, l’organisation de recherche utilise au total 3,1 jours de travail d’agent pour chaque jour de travail humain.
Ils ne font pas que se vanter, et ils ne font pas que se confesser. Ils nous avertissent.
La mesure binaire ici donne probablement l’impression que l’accélération est moins forte qu’elle ne l’est réellement :
Je me demande combien d’humains peuvent gérer correctement 4 flux de travail concurrents ou plus, dit l’homme avec des dizaines d’onglets ouverts et une douzaine de brouillons de posts actifs.
Il s’avère que ce n’est pas aussi impressionnant que cela en a l’air, car ils comptent les sous-agents comme des flux de travail. Cela rend d’autant plus surprenant que, alors que le chercheur médian dépense 600 $ par jour, il reste encore 30 % qui n’ont pas une utilisation intensive.
Les expéditions de code et les expériences s’accélèrent rapidement à partir du moment où Claude Code puis Codex sont devenus importants.
Jusqu’à récemment, la plupart des utilisations de l’IA concernaient la construction de codes de recherche et d’infrastructure, et les humains faisaient le reste. Maintenant, l’IA effectue beaucoup de travail sur le lancement, la surveillance et le débogage des exécutions, ainsi que sur l’assistance technique et la revue, et s’étend à l’analyse des résultats et à d’autres domaines.
Ils ont pris nos emplois, édition « dépanneurs humains » :
Voici une autre variation du célèbre graphique METR, avec des tâches de production, un peu difficile à lire comme capture d’écran statique, mais les progrès sont rapides. Il ne s’agit pas d’années. Il s’agit de mois :
Quantifier la pause d’OpenAI
Ils ont un graphique de la consommation de calcul RL au fil du temps, je suis surpris de voir combien peu Astra a été utilisé avant le 20 juillet, mais voilà. Je remarque qu’ils n’étendent pas cela jusqu’au présent et que, vraisemblablement, l’utilisation d’Astra a augmenté avec le temps :
C’est ainsi que le monde finit
Utiliser l’essaim (swarm) pour prouver Navier-Stokes, seulement quelques jours après le début de l’entraînement du nouveau modèle, risquait-il lui-même un grave incident de perte de contrôle ? June Jimenez soutient que oui.
Si vous libérez un essaim de 10 000 agents d’un nouveau modèle que vous n’avez pas pu tester, sur une tâche potentiellement impossible et définitivement extrêmement difficile, et que vous lui donnez collectivement 300 milliards de tokens, qu’aurait-il pu faire d’autre ? J’ai certainement envisagé « peut-être qu’il a piraté OpenAI d’une manière ou d’une autre pour obtenir les logs », mais il y a tellement de possibilités.
Vite, il n’y a pas de temps à perdre
Quand un ancien employé du laboratoire, ici Andrew Ho, dit « je remarque que sur une échelle de temps de plus de 3 mois, je ne pense pas que ma productivité ait augmenté de plus de 100 % ou peut-être même de plus de 50 % parce que je me laisse distraire » comme raison d’être baissier, ce n’est pas très rassurant, même si c’est vrai. Imaginez n’être que 50 % plus productif tous les trois mois et considérer cela comme un signe baissier.
Il dit « même si l’AGI est éventuellement réalisable, cela implique une chronologie significativement plus longue » le même jour où Greg Brockman a dit « bienvenue dans l’ère de l’AGI ».
De plus, ce niveau de progrès mathématique n’était pas attendu il y a quelques semaines.
Chaque fois que l’un de ces problèmes tombe, les gens essaient de réécrire l’histoire pour prétendre que ce n’était pas si surprenant. Ils ont souvent tort. Non, la plupart des gens, même la plupart des prévisionnistes, ne présumaient pas que cela arriverait. Peut-être que vous, si. Après tout, vous êtes très intelligent.
Henry Shevlin : Pas plus tard qu’en avril de cette année, les marchés de prédiction donnaient à l’IA moins de 40 % de chances de résoudre un problème du Prix du Millénaire avant 2030
