Le 19 mai 2026, Andrej Karpathy a publié une mise à jour en trois phrases : il avait rejoint Anthropic, les prochaines années à la frontière des grands modèles de langage seraient "particulièrement formatrices", et il prévoyait de reprendre son travail éducatif "en temps voulu". Trois phrases. Plus de 5 800 publications sur X en 48 heures.
La réaction n'était pas du bruit. C'était un signal. Il s'agit de l'un des mouvements de talents les plus significatifs dans la recherche en IA depuis la fondation des grands laboratoires — et cela a des implications directes pour chaque développeur qui construit sur Claude.
Qui est Andrej Karpathy ?
Karpathy a co-fondé OpenAI en 2015, est parti diriger l'IA chez Tesla (construisant la pile de réseaux de neurones d'Autopilot de zéro), puis a fondé Eureka Labs — une startup éducative fondée sur l'IA. Il est aussi la personne qui a probablement enseigné à plus de développeurs le fonctionnement réel des LLM que quiconque d'autre sur la planète, à travers sa légendaire série YouTube sur les transformers, la rétropropagation et nanoGPT.
Sa valeur unique ne réside pas uniquement dans ses références de recherche. C'est la combinaison rare de trois compétences qui n'apparaissent presque jamais chez la même personne :
- Compréhension théorique profonde de comment les grands modèles de langage apprennent
- Expérience d'ingénierie à grande échelle pour mener des runs d'entraînement en production à des volumes massifs
- Capacité à rendre les systèmes complexes lisibles — réduire un processus d'entraînement à un milliard de paramètres aux principes qui comptent vraiment
Cette dernière compétence est exactement ce qu'il faut pour construire une équipe utilisant un modèle IA pour entraîner une meilleure version de lui-même.
Qu'est-ce que le Pré-entraînement réellement ?
La plupart des développeurs interagissent avec Claude au moment de l'inférence : vous envoyez une invite, obtenez une réponse. Mais les capacités sur lesquelles vous comptez ont été façonnées durant le pré-entraînement — la phase qui précède le fine-tuning, le RLHF ou tout travail de suivi d'instructions.
Le pré-entraînement est l'endroit où le modèle apprend le langage, le raisonnement, le code, les mathématiques et les représentations latentes qui sous-tendent tout le reste. C'est aussi :
- La phase la plus coûteuse (des milliards de dollars en calcul)
- La plus opaque (le signal indiquant ce qui fonctionne arrive lentement)
- La phase où les gains composés comptent le plus
Une amélioration de un pour cent dans la qualité des données de pré-entraînement ou l'efficacité de l'entraînement ne rend pas seulement le modèle meilleur de un pour cent. Elle se compose à travers chaque capacité en aval. C'est pourquoi les laboratoires de frontière traitent la recherche en pré-entraînement comme existentielle.
Le Concept IA-sur-IA : Claude entraîne Claude
Voici le cadrage spécifique qu'Anthropic a donné à la mission de Karpathy : utiliser Claude lui-même pour accélérer la recherche en pré-entraînement.
Que cela signifie-t-il en pratique ? Considérez ce que la recherche en pré-entraînement implique :
- Concevoir des expériences (quel mélange de données, quels changements architecturaux, quelles plages d'hyperparamètres tester)
- Écrire le code de scaffolding des expériences
- Analyser les courbes d'entraînement et les modes de défaillance
- Lire des centaines d'articles pour synthétiser ce que le domaine sait
- Rédiger les résultats et décider quelles directions poursuivre
En 2024, tout cela était un travail uniquement humain. En 2026, Claude peut effectuer des parties substantielles des étapes 1 à 5. Pas parfaitement, et pas de manière autonome — mais suffisamment pour comprimer drastiquement le cycle d'itération.
Le travail de Karpathy est de construire l'équipe qui opérationnalise cette boucle : des chercheurs qui savent quelles questions poser, associés à Claude comme accélérateur de recherche pouvant proposer des expériences, écrire du code de scaffolding, faire remonter la littérature pertinente et signaler les anomalies dans les logs d'entraînement.
C'est la recherche IA-sur-IA non pas comme concept théorique, mais comme flux de travail de production.
Pourquoi Cela Surpasse le Calcul Brut
Le modèle naïf du progrès de l'IA est : plus de calcul équivaut à de meilleurs modèles. Achetez plus de GPU, entraînez plus longtemps, gagnez. Google possède le plus de calcul. OpenAI a accès à beaucoup. La course au calcul est réelle.
Mais le recrutement de Karpathy signale quelque chose qu'Anthropic croit fermement : la vélocité de recherche compte plus que le calcul brut à la marge actuelle.
Voici pourquoi. Les décisions de pré-entraînement — quelles données vous utilisez, comment vous les pondérez, quels choix architecturaux vous faites avant le début du run — déterminent l'efficacité avec laquelle vous utilisez votre budget de calcul. Un run d'entraînement bien conçu avec 10 000 GPU peut surpasser un run mal conçu avec 50 000 GPU.
La vélocité de recherche est la vitesse à laquelle vous pouvez tester des hypothèses, apprendre des échecs et mettre à jour vos priors avant le prochain grand run. Si Claude peut comprimer un cycle d'expérimentation de deux semaines en trois jours, Anthropic réalise plus d'expériences par dollar de calcul. C'est un avantage composé.
Ce que Cela Signifie pour les Développeurs qui Construisent sur Claude
Si vous construisez des applications sur Claude aujourd'hui, vous avez un intérêt direct dans cette direction de recherche. Voici ce qu'il faut surveiller :
Des fondations de raisonnement plus solides
Les améliorations du pré-entraînement se manifestent généralement d'abord dans les benchmarks, puis dans les tâches qui comptent réellement pour les développeurs : les chaînes de raisonnement complexes, la précision de la génération de code, la résolution de problèmes mathématiques. Alors que l'équipe de Karpathy comprime le cycle de recherche, les améliorations devraient atteindre les modèles en production plus rapidement.
Une meilleure fiabilité agentique
L'une des limitations connues de Claude dans les flux de travail agentiques est la fiabilité sur de longs horizons de tâches — le modèle peut dériver ou faire des hypothèses incorrectes sur des opérations en plusieurs étapes. La qualité des données de pré-entraînement et les choix architecturaux sont des causes profondes ici. La recherche assistée par IA peut mener des expériences plus ciblées sur la fiabilité sur de longs horizons.
Des sorties de modèles plus fréquentes
Si le cycle d'itération se raccourcit, le temps entre les versions majeures de Claude se réduit. Pour les développeurs, cela signifie des mises à niveau de capacités plus fréquentes — et plus de pression pour concevoir des applications pouvant s'adapter aux améliorations des modèles sans couplage rigide à des comportements spécifiques.
Le Signal des Talents
Le mouvement de Karpathy est aussi une déclaration sur où se passe la recherche de frontière la plus intéressante. Il aurait pu rester indépendant ou rejoindre n'importe quel laboratoire. Il a choisi l'équipe de pré-entraînement d'Anthropic — pas le produit, pas le déploiement, pas le fine-tuning. La recherche d'entraînement fondamentale.
Pour les chercheurs observant de l'extérieur, c'est un signal sur l'endroit où se trouvent les problèmes non résolus les plus difficiles, et quel laboratoire crée les conditions pour y travailler sérieusement.
Pour les entreprises évaluant quel fournisseur d'IA choisir, c'est un signal sur la trajectoire technique à long terme. L'équipe de pré-entraînement est l'équipe qui détermine ce dont Claude sera capable dans deux ans.
Ce qu'il Faut Surveiller
Quelques indicateurs spécifiques qui méritent d'être suivis :
Publications de recherche. Si l'équipe de recherche assistée par IA de Karpathy produit des résultats dignes d'être partagés, ils devraient apparaître dans les pipelines de recherche en interprétabilité et alignement d'Anthropic.
Intégration Claude Code. Le cadrage d'Anthropic mentionne explicitement Claude Code comme partie du flux de travail IA-sur-IA. Les chercheurs de Karpathy sont probablement des utilisateurs intensifs, ce qui fait des lacunes de capacités dans Claude Code des priorités de recherche directes.
Progression des benchmarks sur les tâches difficiles. Surveillez les scores ARC-AGI, FrontierMath et LiveCodeBench à travers les générations de modèles. Si la recherche en pré-entraînement assistée par IA fonctionne, ces courbes devraient s'accentuer.
La Vue Globale
Il se passe quelque chose d'historiquement intéressant ici. La personne qui a rendu l'entraînement des réseaux de neurones compréhensible pour toute une génération d'ingénieurs utilise maintenant cette connaissance pour faire de l'IA elle-même un meilleur chercheur.
Karpathy a toujours travaillé à l'intersection du travail technique difficile et de le rendre compréhensible. Le pari qu'Anthropic fait est que cette compétence — construire des systèmes pouvant introspecter et accélérer leur propre développement — est la capacité de recherche la plus importante à la frontière actuelle.
S'ils ont raison, la prochaine version de Claude ne sera pas seulement plus intelligente. Elle aura été façonnée, en partie, par la version qui l'a précédée.
C'est un type différent d'amélioration de l'intelligence. Et cela mérite attention.