Terence Tao : l'IA est astucieuse, pas intelligente

Le médaillé Fields Terence Tao vient de participer à un long entretien avec Dwarkesh Patel sur l'IA, les mathématiques et le progrès scientifique. Son verdict ? L'IA démontre ce qu'il appelle "l'astuce générale artificielle" — pas de l'intelligence. Cette distinction compte plus qu'on ne le pense.

Le fossé de vérification dont personne ne parle

L'IA a réduit le coût de la génération d'idées à pratiquement zéro. On peut désormais produire des milliers de théories en quelques minutes. Mais déterminer lesquelles sont correctes ? Cette partie n'a pas du tout accéléré.

C'est l'intuition centrale de Tao : le goulot d'étranglement en science a changé. Nous luttions autrefois pour formuler des hypothèses. Maintenant, nous luttons pour les vérifier. Chaque entreprise et laboratoire de recherche utilisant l'IA devrait réfléchir à ce fossé.

Tao évoque le parallèle historique de Kepler, qui a passé 20 ans à essayer des théories aléatoires sur les orbites planétaires — solides platoniciens, harmonies musicales, astrologie — avant de trouver le modèle elliptique correct. L'IA moderne peut reproduire ces essais-erreurs à grande échelle, mais elle manque de la compréhension profonde qui transforme un coup de chance en véritable théorie.

Astuce artificielle contre intelligence véritable

Quand deux mathématiciens collaborent sur un problème, chaque tentative ratée leur apprend quelque chose qui façonne la suivante. L'IA, elle, devine, échoue et devine à nouveau sans apprendre de chaque échec pour rendre la tentative suivante plus pertinente.

Tao établit une distinction nette : l'IA démontre la capacité de résoudre de larges classes de problèmes par des moyens ad hoc — stochastiques, en force brute, non fondés. Ces solutions peuvent fonctionner, mais elles ne relèvent pas d'une véritable intelligence.

Son analogie de la montagne illustre parfaitement le propos : imaginez une chaîne de murs dans l'obscurité. Les humains tâtonnent lentement vers le haut, trouvant des prises et cartographiant des itinéraires. L'IA est une machine capable de sauter deux mètres verticalement. Parfois elle franchit un mur bas. Mais elle ne peut pas s'agripper à un rebord, se hisser et sauter à nouveau depuis une position plus élevée. Cette incapacité à construire sur un progrès partiel est le fossé critique.

L'IA a résolu les problèmes faciles, puis a calé

Il existe une liste célèbre d'environ 1 100 défis mathématiques non résolus appelés problèmes d'Erdos. L'IA en a résolu environ 50 d'un coup — presque tous étaient des problèmes que personne n'avait sérieusement tenté auparavant. Puis le progrès a stagné. Trois équipes distinctes ont lancé les meilleurs modèles sur chaque problème restant et n'ont presque rien obtenu de nouveau.

Ce schéma se répète dans toutes les industries. Les victoires sont publiées sur les réseaux sociaux. Les taux d'échec systématique restent silencieux. Si vous ne suivez que les succès médiatisés, votre vision du progrès de l'IA est fondamentalement faussée.

Pourquoi la théorie correcte semble souvent pire au départ

Quand Copernic a proposé que la Terre tourne autour du Soleil, son modèle était en fait moins précis que l'ancien modèle géocentrique, qui avait accumulé mille ans d'ajustements. Copernic était plus simple mais plus approximatif.

Tout système d'IA qui évalue les idées uniquement sur leur précision actuelle aurait rejeté la plupart des plus grandes découvertes de l'histoire. C'est un avertissement pour quiconque construit des benchmarks : optimiser pour les métriques d'aujourd'hui peut vous aveugler aux changements de paradigme de demain.

Ce que Tao utilise réellement de l'IA

Malgré son scepticisme envers l'intelligence artificielle, Tao est personnellement deux fois plus productif grâce à l'IA. Ses articles incluent désormais davantage de code, de graphiques et d'exemples numériques parce que l'IA les rend faciles à produire. Recréer ses articles actuels sans IA prendrait cinq fois plus de temps.

Mais le travail fondamental — résoudre effectivement le puzzle mathématique — se fait toujours avec un stylo et du papier. L'IA gère les tâches annexes. Le chiffre de productivité 5x est réel, mais il mesure les extras plutôt que les percées.

Il a également utilisé ChatGPT avec succès pour écrire des preuves formelles en Lean, un langage de vérification de preuves. C'est là que l'IA brille : non pas dans la découverte de la vérité, mais dans la vérification formelle de la validité logique.

La vraie opportunité : restructurer le fonctionnement de la science

Tao envisage un avenir où l'IA et les humains forment des partenariats complémentaires plutôt que des scénarios de remplacement. Sa proposition : créer de vastes classes de problèmes exploratoires que l'IA balaierait, éliminant les observations faciles pour que les experts humains se concentrent sur ce qui reste.

Cela restructurerait la méthode scientifique elle-même — en privilégiant l'exploration large aux côtés de l'investigation approfondie traditionnelle. Des lycéens pourraient contribuer à la recherche de pointe en utilisant des outils d'IA, ce qui nécessitait auparavant un doctorat.

Le message pour les entreprises est clair : l'impact de l'IA dépend de la restructuration des institutions et des flux de travail, pas seulement de l'amélioration des algorithmes. Les entreprises qui sauront combiner l'étendue de l'IA avec la profondeur humaine auront un avantage considérable.

L'essentiel

Le cadre de Tao recadre toute la conversation sur l'IA. Arrêtez de demander si l'IA est intelligente. Demandez plutôt si vos processus de vérification peuvent suivre le rythme de sa production. Le fossé entre génération et vérification est là où se concentrent la valeur — et le risque.

Comme le dit le plus grand mathématicien vivant : nous vivons dans une ère particulièrement imprévisible, et des choses que nous tenions pour acquises depuis des siècles pourraient ne plus tenir. La question n'est pas de savoir si l'IA changera la science. C'est de savoir si nous construirons les institutions pour rendre ce changement productif plutôt que chaotique.