Astra montre jusqu'où l'IA est arrivée. Qu'est-ce qui la mènera plus loin ?
Les progrès continus des modèles les plus performants d'aujourd'hui dépendent de décisions plus intelligentes avant l'entraînement, de meilleures stratégies pendant l'entraînement et d'une infrastructure plus efficace sous-jacente — un travail encore largement mené par des chercheurs humains. Lorsque l'IA peut poursuivre ces améliorations de manière récursive, le rythme du progrès change fondamentalement : chaque avancée vérifiée renforce le cycle suivant.
C'est pourquoi nous avons construit le système de recherche automatisée en IA d'Apex Intelligence pour découvrir et valider des améliorations à travers les piles d'entraînement de l'IA.
Lors de sa première évaluation, notre système a obtenu trois nouveaux SOTA officiels sur SLDBench SimpleTES, GPUMode TriMul (H100) et MLS-Bench Fused Causal Attention Kernel, son résultat TriMul surpassant TTT-Discover d'une équipe comprenant Stanford, NVIDIA et d'autres institutions. Sur NanoChat Autoresearch, son résultat B200 a surpassé les résultats publiés de Recursive SuperIntelligence et de Hyra de Tencent Hunyuan, le plaçant près du SOTA public pour l'entraînement de LLM à budget fixe.
Cela démontre que le paradigme de recherche récursive automatisée d'Apex fonctionne au niveau — et dans certains cas au-delà — de l'ingénierie humaine de premier plan et des systèmes automatisés de pointe en matière de prédiction de mise à l'échelle de modèles, d'entraînement de modèles de langage à budget fixe et de performance de noyaux GPU.
Au sein de chaque benchmark, le cycle de recherche s'exécute de manière autonome : le système identifie ce qui doit être amélioré, teste ses idées, vérifie les résultats et apprend des preuves. Ces résultats de pointe créent des points de départ plus solides pour les cycles suivants — c'est ainsi que l'amélioration devient récursive.
Évaluation I : SLDBench (Protocole SimpleTES 4 Tâches)
Avant qu'un grand entraînement ne commence, les chercheurs doivent prédire les performances à des échelles qu'ils ne peuvent pas se permettre de tester directement. Les lois de mise à l'échelle guident les décisions concernant la taille du modèle, la composition des données, le taux d'apprentissage, la taille des lots et le calcul ; une loi qui s'adapte aux petites expériences mais extrapole mal peut orienter tout un budget d'entraînement dans la mauvaise direction.
SLDBench transforme cette incertitude en une tâche de découverte mesurable construite à partir de plus de 5 000 expériences d'entraînement de LLM publiées. Chaque système doit produire une loi symbolique et une procédure d'ajustement qui se généralisent à des régimes de mise à l'échelle non observés. Suivant l'évaluation en quatre tâches utilisée par SimpleTES, notre système d'IA est testé sur la mise à l'échelle parallèle, la mise à l'échelle de mélange de domaines, la co-mise à l'échelle taux d'apprentissage/taille de lot et la mise à l'échelle de calcul en forme de U.
Sous les évaluateurs publics fixes, notre système améliore la référence publique précédente sur chaque tâche, faisant passer la moyenne des quatre tâches de 0,8613 à 0,8846 (+2,71 %). Le plus grand gain provient de la mise à l'échelle en forme de U, où le score passe de 0,4975 à 0,5761 (+15,80 %). La co-mise à l'échelle taux d'apprentissage/taille de lot s'améliore de 0,9506 à 0,9650 (+1,51 %) , avec des gains supplémentaires sur la mise à l'échelle parallèle et de mélange de domaines. Ces scores mesurent les performances sur des régimes non observés, récompensant les lois qui restent précises au-delà des expériences utilisées pour les ajuster.
Figure 1 : Notre système de recherche en IA améliore la référence publique précédente sur les quatre tâches SLDBench sélectionnées, faisant passer le score moyen non observé de 0,8613 à 0,8846. Le plus grand gain concerne la mise à l'échelle en forme de U. Plus le score est élevé, mieux c'est.
L'avance la plus claire au niveau de la méthode apparaît sur la mise à l'échelle de calcul en forme de U. Notre système d'IA représente la courbe comme la somme d'une tendance de mise à l'échelle persistante et d'un effet de régime localisé qui émerge sur une plage de calcul limitée puis décroît. Cette structure empêche qu'un renversement temporaire dans les données observées soit projeté indéfiniment.
La distinction devient décisive lorsque l'évaluateur retient la phase finale de la courbe. Des équations flexibles peuvent reproduire la courbure observée tout en extrapolant dans la mauvaise direction ; modéliser explicitement l'apparition, la durée et la décroissance de la composante transitoire produit des prédictions plus précises après le point d'inflexion.
Le résultat est techniquement significatif car la décomposition améliore la précision sur les données non observées tout en restant interprétable et testable. Elle suggère une hypothèse réutilisable pour la découverte de lois de mise à l'échelle : un renversement apparent peut refléter un régime temporaire superposé à une tendance de mise à l'échelle à long terme.
Évaluation II : NanoChat Autoresearch
L'entraînement à budget fixe force chaque idée à gagner sa place : les améliorations doivent provenir d'une utilisation plus efficace du même temps et du même matériel. Cela fait de NanoChat Autoresearch un test direct de la capacité d'un système d'IA à transformer une expérimentation rapide en une implémentation d'entraînement de modèle plus performante.
Publié par Andrej Karpathy en mars 2026, NanoChat Autoresearch donne à un agent un seul GPU et la liberté de modifier l'architecture du modèle, l'optimiseur, les hyperparamètres et le code d'entraînement. Chaque expérience reçoit le même budget de cinq minutes et est notée par validation bits par octet (val_bpb ; plus bas est mieux). La configuration s'est depuis étendue à autoresearch@home, où des participants humains et des agents IA partagent des expériences et rivalisent avec les solutions publiques les plus performantes.
Dans le cadre fixe de 300 secondes sur un seul B200, notre système d'IA atteint 0,892426 val_bpb, le plaçant près de la frontière publique. Cela dépasse le meilleur run unique publié de Recursive SuperIntelligence de juin 2026 de 0,903891 et la moyenne sur 10 graines de 0,9108745, ainsi que le résultat Hyra de Tencent Hunyuan de juillet 2026 de 0,901543. Cela se rapproche du leader du classement public de septembre 2026, ScienceGuru d'AutoTrust AI, à 0,889522.
Figure 2 : Comparaison du BPB de validation dans le cadre du budget d'entraînement fixe de 300 secondes sur un seul B200. Plus bas est mieux.
L'amélioration décisive provient du transport de la parcimonie des n-grammes à travers le calcul d'entraînement. L'implémentation ScienceGuru démontre la valeur des grandes mémoires de n-grammes, mais chaque lot n'accède qu'à une petite fraction de leurs lignes. Notre système d'IA identifie les coûts de gradient denses qui restent dans le chemin d'entraînement et les remplace par une passe arrière compacte qui ne met à jour que les lignes utilisées par le lot actuel.
Ce changement réduit la mémoire d'entraînement de pointe d'environ 177,7 Go à 140,6 Go — une réduction de 20,9 % — tout en préservant une qualité proche du SOTA. Dans le même budget de 300 secondes, notre système d'IA atteint 0,892426 val_bpb tout en traitant environ 4,5 % de tokens en moins que l'implémentation ScienceGuru, montrant qu'une qualité proche du SOTA ne dépend pas d'un débit de tokens plus élevé.
Notre système d'IA étend le même principe à travers l'ensemble du chemin d'accès mémoire. Il fusionne deux recherches de tables de n-grammes, la concaténation, la découverte de lignes actives et l'enregistrement de lignes en un seul noyau Triton. La passe arrière réutilise directement le mappage ligne-à-emplacement résultant, éliminant le travail d'indexation dupliqué et préservant la parcimonie de la recherche à la mise à jour du gradient.
C'est un résultat système solide car un modèle parcimonieux ne paie plus les coûts système denses. Le même principe peut être transféré à d'autres charges de travail construites autour de grandes tables d'incorporation ou de mémoire chaque fois que chaque lot ne touche qu'un petit sous-ensemble de lignes.
Évaluation III : GPUMode TriMul H100
Une fois qu'un noyau GPU est fortement optimisé, la latence restante se trouve rarement dans l'opération la plus évidente. Les goulots d'étranglement se déplacent à travers les limites de fusion, les dispositions de tenseurs et les chemins d'accès mémoire, faisant des progrès supplémentaires un test de découverte de goulots d'étranglement autant que de génération de noyaux.
La tâche GPUMode TriMul cible la mise à jour multiplicative triangulaire sortante utilisée dans les modèles de structure de protéines de classe AlphaFold. Les participants doivent produire une implémentation numériquement correcte qui minimise la latence moyenne géométrique sur sept formes d'entrée fixes sur un NVIDIA H100. La tâche a attiré des solutions humaines et automatisées solides, y compris TTT-Discover, publié en janvier 2026 par des chercheurs de Stanford, NVIDIA, Astera Institute, UC San Diego et Together AI.
Sur les sept formes H100, notre système d'IA atteint une latence moyenne géométrique de 1 036,1 μs. Dans notre évaluation appariée sur la même machine, cela améliore la comparaison humaine la plus solide conçue, stashuk-olek (1 064,9 μs), de 2,71 %. Le résultat est également numériquement inférieur aux implémentations rapportées séparément de shiyegao CUDA (1 074 μs), Zeyu Shen Triton (1 140 μs) et TTT-Discover (1 161 μs), tout en se situant à 0,59 % des 1 030 μs rapportés séparément par K-Search.
Figure 3 : Latence moyenne géométrique sur les sept charges de travail GPUMode TriMul H100. Notre système d'IA atteint 1 036,1 μs. Plus bas est mieux.
Les valeurs publiques sont tirées de leurs rapports ou enregistrements d'évaluation respectifs et ne sont pas des mesures appariées sur la même machine. Notre résultat de 1 036,1 μs est mesuré localement à l'aide de l'évaluateur officiel.
Les implémentations TriMul haute performance existantes utilisent déjà la fusion, la multiplication matricielle spécialisée, la spécialisation de forme et le déplacement de données adapté à la disposition. Notre système pousse d'abord la fusion côté producteur plus loin, puis détecte des rendements décroissants et dépendants de la forme à mesure que la pression des registres augmente. Il déplace par conséquent la recherche vers la manière dont la sortie du producteur est consommée.
Pour plusieurs formes de charge de travail, notre système d'IA identifie la limite BMM→LayerNorm comme la source restante de latence. L'implémentation résultante charge les sorties BMM le long de la dimension physique contiguë et effectue la transposition requise dans les registres avant LayerNorm.
Le résultat est techniquement significatif car notre système d'IA change l'hypothèse de recherche elle-même : il reconnaît quand l'optimisation côté producteur a saturé, relocalise le goulot d'étranglement à travers la limite BMM→LayerNorm et déplace l'objectif d'optimisation en conséquence. Ses plans dépendants de la forme montrent en outre que le système peut s'adapter à mesure que les goulots d'étranglement se déplacent entre les charges de travail — une capacité ayant une valeur plus large que le réglage d'une conception de noyau fixe.
Évaluation IV : MLS-Bench — Noyau d'Attention Causale Fusionné (H100)
L'attention est un goulot d'étranglement majeur en calcul et en mémoire dans l'entraînement et l'inférence des Transformers, donc son efficacité affecte directement la vitesse et le coût du modèle. Les noyaux d'attention fusionnés modernes sont déjà hautement optimisés, laissant peu de marge de manœuvre évidente ; des gains supplémentaires nécessitent de revisiter l'algorithme numérique parallèlement à la planification et au mouvement de la mémoire.
La tâche d'Attention Causale Fusionnée de MLS-Bench demande aux systèmes d'IA d'implémenter une passe avant d'auto-attention fusionnée OpenAI Triton sur un NVIDIA H100, de maximiser le débit à travers trois configurations d'attention causale et de maintenir une erreur absolue maximale inférieure à 1e-2. Le benchmark inclut des résultats de modèles de pointe tels que Claude Opus 4.6, GPT-5.4 et Gemini 3.1 Pro, fournissant des références solides d'Anthropic, OpenAI et Google DeepMind.
À travers les trois configurations d'attention fusionnée, notre système atteint 430,7, 468,4 et 451,7 TFLOP/s pour les dimensions de tête 64, 128 et 256. Ces résultats établissent un nouveau record sur les trois configurations, améliorant les résultats précédents de 27,18 %, 15,63 % et 17,11 %, respectivement.
Figure 4 : Comparaison du débit sur les trois charges de travail d'attention causale fusionnée de MLS-Bench.
La plus grande amélioration est venue de la simplification du chemin softmax en ligne. Les implémentations standard de type FlashAttention maintiennent un maximum courant et remettent à l'échelle à plusieurs reprises les statistiques softmax accumulées pour la stabilité numérique. Notre système de recherche automatisé a constaté que, sur les charges de travail MLS-Bench, les logits d'attention mis à l'échelle restent dans une plage suffisamment étroite, permettant de supprimer cette remise à l'échelle répétée tout en satisfaisant la tolérance numérique du benchmark.
Le softmax sans remise à l'échelle résultant accumule directement les exponentielles et les valeurs pondérées et normalise une seule fois à la fin. Cela a amélioré le débit de 21,0 %, 8,5 % et 19,3 % pour les dimensions de tête 64, 128 et 256, respectivement.
Des gains supplémentaires sont venus de l'optimisation de la planification spécifique à la forme et du mouvement de la mémoire, y compris la planification LPT et TMA. Le chemin sans remise à l'échelle était le résultat le plus intéressant car il a changé une hypothèse à l'intérieur de l'algorithme numérique lui-même : un mécanisme de stabilité conçu pour une plage de fonctionnement plus large était inutile pour la charge de travail évaluée.
Plus largement, ce résultat pointe vers une opportunité plus large : même près de la frontière des systèmes, des gains supplémentaires peuvent provenir de la révision d'hypothèses qui sont généralement traitées comme fixes. Dans ce cas, le système de recherche automatisé d'Apex est allé au-delà du réglage des paramètres et des planifications d'un noyau existant : il a identifié une sauvegarde numérique qui pouvait être omise en toute sécurité sous le régime de fonctionnement du benchmark et a transformé cette observation en un chemin d'exécution plus rapide. C'est le genre de comportement qui nous intéresse : utiliser la recherche non seulement pour optimiser les paramètres et les planifications, mais aussi pour remettre en question la structure des implémentations établies.
Au-delà des Benchmarks
Un benchmark capture un résultat. Un système d'IA récursif le fait progresser. À travers quatre benchmarks, notre système de recherche en IA a produit des améliorations vérifiées de niveau frontière. Son processus suit une boucle en quatre étapes : découvrir une inconnue de grande valeur, vérifier les solutions candidates, apprendre des preuves et améliorer le cycle suivant. La prochaine étape est le transfert — transformer les avancées spécifiques aux tâches en connaissances réutilisables qui renforcent les cycles suivants.
La recherche donne naissance à la prochaine courbe en S. Les connaissances scientifiques, la recherche novatrice et les systèmes d'ingénierie tracent de nouvelles voies — que l'exécution et l'échelle transforment ensuite en industries réelles. Lorsqu'une courbe en S atteint un plateau, les progrès ultérieurs dépendent du déverrouillage de la suivante. Nous croyons que la prochaine révolution technologique sera définie par l'IA agissant comme un moteur de recherche natif.
L'IA passe de copilote à collaborateur. Le jugement et l'imagination humains guident ce qui compte ; l'IA élargit ce qui peut être exploré. Ensemble, ils peuvent découvrir de nouvelles directions, inspirer de nouvelles questions et construire des modèles plus capables — créant un cycle de renforcement entre la découverte machine et l'imagination humaine. Astra montre jusqu'où l'IA est arrivée. Qu'est-ce qui la mènera plus loin ? La capacité à aider à découvrir ce qui vient ensuite.
Nous ouvrons ces résultats pour que vous puissiez les inspecter, les reproduire et les étendre. Le code, les enregistrements d'expériences, les implémentations découvertes et les supports d'évaluation sont désormais disponibles sur GitHub et notre site web.
