Explosion informatique : l'ia dépasse les lois de la physique
Mustafa Suleyman, l'architecte de l'IA chez Google et aujourd'hui chez Microsoft, ne mâche pas ses mots : l'évolution de l'intelligence artificielle n'obéit plus aux mêmes règles que celle du monde physique. Une révolution silencieuse, mais d'une ampleur vertigineuse.
Le saut exponentiel : plus qu'une simple accélération.
Il le souligne avec une précision glaçante : « Si vous marchez une heure, vous parcourez une distance. Si vous marchez deux heures, vous doublez cette distance. Cette intuition fonctionnait dans la savane, mais elle échoue face à l'IA. » L'IA ne s'adapte pas de manière linéaire ; elle explose. Suleyman, témoin direct de cette transformation depuis 2010, relate une multiplication du calcul d'environ un trillion de fois. Des 1014 FLOPS des premiers systèmes à plus de 1026 FLOPS des modèles actuels, c'est une véritable singularité.
Pour comprendre cette accélération fulgurante, il compare l'entraînement des modèles d'IA à « une salle remplie de personnes effectuant des calculs avec des calculatrices ». Jusqu'à récemment, l'augmentation de la puissance de l'IA se résumait à ajouter plus de « calculatrices ». Mais cette « foule » passait une grande partie de son temps à attendre les données, entraînant des goulots d'étranglement majeurs. Aujourd'hui, la véritable révolution réside dans la capacité à maintenir toutes ces « calculatrices » en permanence à l'œuvre, formant un unique « cerveau géant ».
Trois piliers d'une transformation radicale
Cette mutation est le fruit d'avancées convergentes. La première, incarnée par l'IA de Claude Code, a récemment découvert une vulnérabilité critique dans le code Linux, longtemps cachée. La seconde, grâce aux puces Nvidia, a vu un gain de performance spectaculaire, passant de 312 teraflops en 2020 à 2 250 teraflops aujourd'hui, avec un gain de 30% par euro par rapport aux alternatives. Enfin, la troisième, et tout aussi déterminante, est l'arrivée de la mémoire HBM (High Bandwidth Memory), qui empile les puces comme des immeubles, tripliquant la bande passante de la génération précédente.
Eric Schmidt, ancien PDG de Google, a d'ailleurs émis une mise en garde : « Nous vivons entre 10 et 15% des effets de tout cela ». Le résultat ? Une puissance de calcul inégalée, capable de réaliser des tâches qui prenaient 167 minutes avec huit GPU en 2020 en moins de quatre minutes avec le matériel actuel – une amélioration de 50 fois, bien au-delà des 5 fois prévues par la loi de Moore.
Des prévisions qui font frissonner
Les prévisions sont proprement hallucinantes. Les laboratoires majeurs augmentent leur capacité de calcul à un rythme d'environ 4x annuel. Entre 2020 et aujourd'hui, l'augmentation a été de 5x par an. D'ici 2027, le calcul global de l'IA devrait atteindre 100 millions de puces H100, soit une progression de 10 fois en trois ans. Microsoft, Nvidia, et la course à la superintelligence – ou ASI – sont les acteurs clés de cette course effrénée. Suleyman, à la tête de la division IA de Microsoft, insiste sur le fait que nous ne sommes plus dans l'ère des prototypes, mais bien dans celle des infrastructures massives : des clusters de 100 000 GPU, des racks dont la taille rivalise avec une réfrigérateur, et des centres de données qui consomment une énergie équivalente à celle du Royaume-Uni, de la France, de l'Allemagne et de l'Italie à leur pic de consommation annuel. « Les 100 milliards de dollars investis dans les clusters d'IA, les 10 gigawatts de consommation, les superordinateurs de navires… ce ne sont plus de la science-fiction. Ils sont en construction aux États-Unis et dans le monde entier », affirme-t-il avec une assurance presque défiante.
L'objectif ultime ? La superintelligence. L'IA de type agent, capable de rédiger du code sur plusieurs jours, de mener des projets sur plusieurs semaines ou mois, de mener des appels téléphoniques, de négocier des contrats, de gérer la logistique… des systèmes de plus en plus autonomes, et qui, selon Suleyman, sont à l'aube d'une nouvelle ère. Une ère où les risques de cyberattaques, comme le souligne l'IA de Claude Mythos, pourraient être considérables. Et malgré cette folie technologique, les coûts de l'énergie solaire et des batteries continuent de chuter, réduisant considérablement la facture énergétique de ces infrastructures massives. Un paradoxe qui, selon Suleyman, témoigne de la « histoire technologique la plus passionnante de notre époque », une histoire qui ne fait que commencer.