Dans les films et les gros titres, la superintelligence est presque toujours dessinée de la même manière : une machine qui sait tout, ne se trompe jamais et ne cesse de s’agrandir. L’image frappe. Mais jusqu’où les mathématiques et la physique l’autorisent-elles ?
La réponse courte va dans les deux sens. Un système qui apprend bien plus vite que nous, prévoit mieux et améliore ses propres algorithmes ne contredit aucune loi connue. En revanche, « ne jamais se tromper », « tout savoir » et « calculer sans limite » ne peuvent pas se défendre à l’intérieur de ces lois. Cet article reprend une à une l’origine de ces limites.
Surhumain ne veut pas dire illimité
Le premier piège du débat consiste à confondre deux mots. Un système peut être bien plus performant qu’un humain tout en fonctionnant avec une énergie finie, en un temps fini, à partir d’observations incomplètes. Être surhumain ne signifie pas être illimité.
Il faut donc distinguer deux niveaux. Le premier est l’intelligence effective : la capacité à produire, avec les mêmes ressources, de meilleurs modèles, de meilleurs algorithmes et de meilleurs plans. Le second est la capacité physique de calcul : la limite supérieure du traitement de l’information qu’un système peut accomplir avec son énergie, sa masse, son volume et son temps.
Ce n’est pas la même chose, car le nombre d’opérations par seconde n’est pas l’intelligence. Imaginez une méthode qui résout un problème en 2n étapes et une autre qui le résout en n² étapes. Pour n égal à cinquante, la première demande environ un million de milliards d’étapes ; la seconde, deux mille cinq cents. Un meilleur algorithme, trouvé sans toucher au matériel, comble un écart que le processeur le plus rapide ne comblerait jamais.
Là où l’intelligence ne voit pas
Le premier obstacle à l’infaillibilité ne tient pas à l’intelligence, mais à l’information. Aucun système ne voit le monde tel qu’il est ; il le voit à travers des mesures, et les mesures sont incomplètes ou bruitées.
Modèle Comment un agent voit-il le monde ?
La revue traite une IA comme un agent composé de plusieurs parties : un modèle du monde, un état d’incertitude, une planification, un apprentissage, un objectif, des ressources et un mécanisme d’amélioration de soi. À l’intérieur de l’agent, il n’y a pas de copie de la réalité ; il y a une distribution de probabilité sur les états possibles du monde. Les décisions en découlent, en choisissant l’action dont on attend le plus grand bénéfice futur.
Si une même observation est compatible avec deux états différents du monde, la seule réflexion ne permet pas de trancher avec certitude lequel est réel. Un fait qu’aucun capteur n’atteint ne devient pas une connaissance simplement parce que l’intelligence augmente. Ce n’est pas une insuffisance de la raison, mais une limite d’accès.
Des questions qu’aucun algorithme ne peut résoudre
Le deuxième obstacle vient des mathématiques elles-mêmes. En 1936, Alan Turing a montré qu’il ne peut exister d’algorithme universel capable de dire correctement, pour tout programme, si ce programme finira par s’arrêter. Ce n’est pas un obstacle que des ordinateurs plus rapides finiront par franchir ; c’est une impossibilité inscrite dans la question. On ne peut donc pas promettre un système qui « décide toujours correctement à propos de tous les programmes ».
En 1931, Kurt Gödel a montré que tout système formel cohérent, assez puissant pour exprimer l’arithmétique et dont les axiomes peuvent être énumérés mécaniquement, contient des énoncés vrais mais indémontrables à l’intérieur de ce système.
Le résultat de Gödel ne doit pas être résumé par « l’IA ne pourra jamais connaître certaines vérités ». Un système peut passer à des axiomes plus forts. La limite qu’il pose est autre : il n’existe pas de système unique et fermé qui englobe toutes les vérités.
La facture énergétique de la pensée
La première limite du côté de la physique concerne la chaleur. En 1961, Rolf Landauer a montré qu’effacer un bit de façon irréversible n’est pas gratuit : l’opération doit libérer dans l’environnement au moins kBT ln 2 d’énergie, où kB est la constante de Boltzmann et T la température.
À température ambiante, 300 kelvins, cela représente environ 2,87 × 10−21 joule. Avec un joule, dans des conditions idéales, on pourrait effacer environ 3,5 × 1020 bits. Quand la température baisse, le coût baisse dans la même proportion.
Il importe de ne pas mal lire ce nombre. Ce n’est pas « la quantité de pensée contenue dans un joule » ; c’est seulement la limite inférieure des opérations qui perdent de l’information. Les approches qui calculent de manière réversible, sans effacer d’information, peuvent éviter une partie de ce coût. Les appareils réels, eux, dépensent bien plus que cette limite en refroidissement, correction d’erreurs, signaux d’horloge et communication.
Pas de pensée plus rapide que la lumière
Agrandir un esprit le rend-il plus rapide ? La relativité freine cette idée : l’information ne peut pas voyager plus vite que la lumière. Un message entre les deux extrémités d’un système de taille d met au moins d/c pour arriver.
| Distance | Trajet de la lumière (aller simple) |
|---|---|
| 10 centimètres | 0,33 nanoseconde |
| Diamètre de la Terre | environ 42 millisecondes |
| Du Soleil à la Terre | environ 499 secondes |
Au-delà d’un certain point, ajouter de la matière de calcul ne produit pas un esprit unique et rapide, mais un réseau d’agents reliés avec des délais. Les parties d’un esprit étendu à toute une galaxie devraient attendre des dizaines de milliers d’années pour se mettre d’accord. Plus de matière ne signifie pas une pensée unique proportionnellement plus rapide.
Ce qu’un kilogramme peut contenir
Une information infinie peut-elle tenir dans une région finie ? En 1981, Jacob Bekenstein a répondu non : un système de rayon et d’énergie donnés possède une limite supérieure universelle sur l’entropie, et donc sur l’information, qu’il peut contenir.
D’après le calcul de la revue, une masse d’un kilogramme comprimée dans un rayon de dix centimètres a une limite d’environ 2,6 × 1042 bits. Ce n’est pas une mémoire utilisable, mais un plafond théorique extrêmement lâche. Ce qu’il dit est simple : un lieu fini ne peut pas contenir une information illimitée.
La vitesse a elle aussi une limite. En 1998, Norman Margolus et Lev Levitin ont montré que le temps le plus court dont un système quantique a besoin pour passer à un état entièrement distinct est borné par son énergie. En 2000, Seth Lloyd a réuni ces limites dans une expérience de pensée baptisée « ordinateur portable ultime » : un kilogramme de masse dans un litre de volume.
En comptant toute sa masse comme de l’énergie, cet appareil imaginaire pourrait effectuer environ 5,4 × 1050 opérations élémentaires par seconde et contenir environ 1031 bits. Ce ne sont pas des prévisions d’ingénierie, mais des calculs de limite qui marquent le point extrême permis par la physique.
Une recherche hors de portée de l’univers
En 2002, Lloyd est allé plus loin et a compté les opérations que l’univers observable a pu effectuer depuis son commencement : environ 10120. L’information que la matière ordinaire peut enregistrer s’élève à environ 1090 bits.
Ces nombres donnent le vertige, et pourtant ils ne suffisent pas pour une seule recherche. Essayer toutes les combinaisons de seulement mille choix par oui ou par non, c’est 21000, soit environ 1,07 × 10301 possibilités. C’est 10181 fois plus que les opérations effectuées par l’univers dans toute son histoire.
L’avantage de l’intelligence la plus puissante ne peut pas être de tout essayer un par un. Il consiste à découvrir ce qui ne vaut pas la peine d’être essayé.
Une machine qui s’améliore elle-même va-t-elle à l’infini ?
Derrière l’idée d’une « explosion d’intelligence » se cache un modèle simple : si un système s’améliore d’un taux fixe à chaque étape, sa croissance est exponentielle et ne cesse d’accélérer.
La revue soutient que ce modèle n’est pas physiquement réaliste à long terme. L’énergie, la communication, la capacité de production, les données et la saturation algorithmique finissent par freiner la croissance. Un meilleur modèle est la croissance logistique : une courbe qui semble exponentielle au début, puis ralentit à l’approche du plafond fixé par un régime de ressources donné.
Autre détail : s’améliorer ne signifie pas toujours devenir meilleur. Une nouvelle architecture peut introduire des erreurs, des failles de sécurité ou une dérive des valeurs. Un mécanisme réaliste d’amélioration de soi doit inclure la vérification, et la possibilité de revenir à une version antérieure si nécessaire, autant que la performance.
La vraie question : qu’optimise-t-elle ?
Qu’un agent soit « autonome » ne signifie pas qu’il possède un libre arbitre au sens philosophique. Il peut choisir parmi un large ensemble d’options selon son propre modèle et son objectif, mais ce choix reste le produit de son algorithme, de sa mémoire et de ses observations.
Le point décisif est l’objectif. Plus la puissance d’optimisation grandit, plus ce qui est optimisé compte. La revue donne un exemple simple : le bien-être humain, la connaissance acquise, la sûreté du système et le respect de l’autonomie humaine pèsent positivement, le risque négativement. Mais choisir ces pondérations n’est pas une tâche mathématique ; c’est une question d’éthique et de gouvernance.
C’est pourquoi, dans le débat sur la superintelligence, la question « à quel point est-elle intelligente ? » ne doit pas éclipser la question « qu’optimise-t-elle ? ».
Quatre plafonds
Tout cela montre que l’« intelligence maximale » ne se résume pas à un seul nombre. Il existe au moins quatre plafonds distincts :
- Le plafond de la calculabilité : certains problèmes n’ont pas de solution algorithmique générale.
- Le plafond de l’information : on ne peut pas produire de certitude sur un état non observé ; un système fini porte une information finie.
- Le plafond physique : l’énergie, l’entropie, la vitesse de la lumière et la dynamique quantique limitent le calcul.
- Le plafond algorithmique : davantage d’opérations brutes ne compensent pas toujours une mauvaise représentation ou un mauvais algorithme.
Dans ce cadre, la revue propose de penser l’intelligence comme une efficacité : des résultats utiles et vérifiables obtenus par unité d’énergie, de temps et de calcul dépensés. Ce n’est pas une mesure scientifique standard, mais une manière de réfléchir. Elle saisit pourtant quelque chose de juste : l’avantage d’un système avancé tient peut-être moins à faire plus d’opérations qu’à découvrir lesquelles sont inutiles.
Pas une machine divine, mais un agent fini
L’idée de superintelligence n’est pas contradictoire en elle-même. Mais elle prend sens non comme une machine omnisciente placée hors de la physique, plutôt comme un processeur d’information fini qui fonctionne avec une efficacité extraordinaire à l’intérieur de l’univers physique. Un agent qui travaille avec une incertitude bien calibrée plutôt qu’une certitude absolue, qui réduit ses erreurs de façon systématique plutôt que de prétendre les supprimer, et qui tient compte, en grandissant, des limites d’énergie, de chaleur, de communication et d’information.
Ne jamais se tromper n’est pas un objectif défendable. Ce qui l’est, c’est rendre les erreurs très petites et la correction très rapide, et le faire en sécurité dans les limites de ressources que fixe la physique.
Sur quoi repose cet article ?
Cet article s’appuie sur la revue théorique de Selim Kusursuz Süper Yapay Zekânın Matematiksel ve Fiziksel Sınırları (Les limites mathématiques et physiques de la superintelligence artificielle), septembre 2026. Les valeurs numériques proviennent des calculs de la revue et ont été vérifiées à nouveau ; la comparaison entre 250 et n² ainsi que l’écart d’un facteur 10181 ont été ajoutés pour cet article.
- Turing, On Computable Numbers, with an Application to the Entscheidungsproblem, Proceedings of the London Mathematical Society, 1936.
- Gödel, Über formal unentscheidbare Sätze der Principia Mathematica und verwandter Systeme I, Monatshefte für Mathematik und Physik, 1931.
- Landauer, Irreversibility and Heat Generation in the Computing Process, IBM Journal of Research and Development, 1961.
- Bekenstein, Universal Upper Bound on the Entropy-to-Energy Ratio for Bounded Systems, Physical Review D, 1981.
- Margolus, Levitin, The Maximum Speed of Dynamical Evolution, Physica D, 1998.
- Lloyd, Ultimate Physical Limits to Computation, Nature, 2000.
- Lloyd, Computational Capacity of the Universe, Physical Review Letters, 2002.
Selim Kusursuz
Étudie les systèmes et réseaux informatiques à Paris-Saclay, parcours Systèmes autonomes. Travaille en mathématiques et en informatique. Parle couramment le français, l’anglais et le turc.
Voir tous ses articles