Anthropic vient de publier un rapport de recherche intitulé "When AI builds itself" (Quand l'IA se construit elle-même) qui combine une étape remarquable et un avertissement préoccupant : Claude rédige désormais plus de 80% du code fusionné dans les dépôts de production d'Anthropic, et la société estime que l'auto-amélioration récursive complète — où l'IA conçoit, entraîne et déploie ses propres successeurs de manière autonome — pourrait être plus proche que la plupart ne l'imaginent.
Points clés
- Claude a rédigé plus de 80% de tout le code fusionné dans les dépôts de production d'Anthropic en mai 2026
- Les ingénieurs types chez Anthropic fusionnent désormais huit fois plus de code par jour qu'en 2024
- Le modèle Mythos Preview d'Anthropic gère des tâches s'étendant sur au moins 16 heures continues, dépassant les limites supérieures des benchmarks actuels
- La société appelle à un mécanisme mondial vérifiable permettant à plusieurs laboratoires frontières de suspendre simultanément le développement
- Le rapport établit un parallèle explicite avec les traités de contrôle des armements nucléaires
Le jalon de Claude en matière de code
Les chiffres sont saisissants. Avant qu'Anthropic ne lance Claude Code début 2025, la contribution de Claude au code de l'entreprise ne représentait qu'une infime fraction. En mai 2026, ce chiffre avait dépassé 80% de l'ensemble des commits de production fusionnés. Les ingénieurs ne sont pas remplacés — ils sont considérablement amplifiés. Selon le rapport, l'ingénieur type d'Anthropic expédie désormais huit fois plus de code par jour qu'en 2024.
Le modèle Mythos Preview, le système interne le plus avancé d'Anthropic, traite déjà des tâches s'étalant sur au moins 16 heures consécutives — une durée qui dépasse ce que les benchmarks actuels sont même conçus pour mesurer.
Le risque d'auto-amélioration récursive
La préoccupation centrale du rapport porte sur ce que les auteurs appellent l'auto-amélioration récursive (RSI) : le scénario dans lequel un système d'IA commence à concevoir, construire et entraîner ses propres successeurs avec une implication humaine minimale. Comme le décrit Anthropic, les humains seraient repoussés en marge d'un processus qu'ils dirigent actuellement de bout en bout.
Le risque ne réside pas uniquement dans le fait que l'IA devienne plus capable. Il tient à ce que tout désalignement subtil présent dans une génération de modèles pourrait se composter entre les générations — devenant de plus en plus fréquent et de moins en moins compris à chaque cycle, jusqu'à ce que les humains perdent la capacité de corriger le tir.
"S'il était possible de ralentir efficacement le développement de cette technologie pour nous donner plus de temps pour traiter ses implications immenses, nous pensons que ce serait probablement une bonne chose", affirme le rapport.
Un appel conditionnel à une pause mondiale
Plutôt que d'appeler à un arrêt unilatéral, Anthropic propose un mécanisme mondial conditionnel : un accord vérifiable dans lequel plusieurs laboratoires d'IA frontières dans plusieurs pays s'engagent à suspendre le développement simultanément, dans des conditions identiques pouvant faire l'objet d'un audit indépendant. Le modèle, note le rapport, s'inspire des cadres des traités de contrôle des armements nucléaires.
La proposition est délibérément conditionnelle. Anthropic précise clairement qu'elle ne cesserait pas unilatéralement le développement pendant que ses concurrents continueraient d'avancer. Des critiques ont souligné la tension évidente : la même société qui prépare son introduction en bourse — avec une valorisation d'Anthropic approchant mille milliards de dollars — exhorte simultanément l'industrie à envisager de freiner.
Calendrier de l'IPO et réactions du secteur
Anthropic a déposé des documents confidentiels en vue de son introduction en bourse la semaine dernière, et le timing de la publication du rapport "When AI builds itself" a attiré l'attention. Certains observateurs y voient un mouvement stratégique destiné à renforcer le positionnement d'Anthropic axé sur la sécurité avant une introduction en bourse historique. D'autres soutiennent que la recherche sous-jacente est sincère et que les préoccupations sont fondées indépendamment du contexte d'entreprise.
Le rapport a généré plus de 3 700 publications sur X et déclenché un débat entre chercheurs, ingénieurs et éthiciens sur la question de savoir si l'industrie évolue trop vite pour se gouverner elle-même.
Et ensuite ?
L'écart entre les capacités actuelles des systèmes d'IA et l'auto-amélioration récursive complète n'est pas fixe. Comme le montrent les propres données d'Anthropic, les capacités s'accélèrent plus vite que prévu. Qu'un mécanisme de pause industriel émerge ou non, le rapport "When AI builds itself" marque un moment significatif : l'un des laboratoires d'IA les plus importants au monde a publiquement reconnu que la boucle de rétroaction entre l'IA et le développement de l'IA est déjà en cours.
Source : The Next Web