Anthropic alerte : la course à l'ia est hors de contrôle, une coalition est nécessaire
Dario Amodei, PDG d’Anthropic, ne mâche pas ses mots : la progression de l’intelligence artificielle dépasse largement la capacité des gouvernements à la réguler. Un ultimatum est lancé aux démocraties occidentales, appelées à s’unir face à une menace existentielle, à l’image de la résistance des hobbits contre Barbalâtre dans Le Seigneur des Anneaux.
Un virage réglementaire brutal exigé
Dans son manifeste, baptisé « Politique face à l’IA exponentielle », Amodei réclame une transition immédiate, abandonnant une approche de transparence volontaire à une régulation contraignante, incluant des blocages des modèles d’IA. Il plaide pour un statut juridique comparable à celui des armes nucléaires, soulignant que les conséquences de cette Technologie dépassent de loin les risques cybernétiques.
Il évoque un risque de « reconfiguration du jeu géopolitique à une échelle sans précédent, potentiellement plus importante que celle des armes nucléaires ». Face à ce scénario, il propose la création d’une coalition de démocraties partageant des technologies clés – notamment les puces et les équipements de fabrication de semi-conducteurs – et coordonnant les contrôles d’exportation, tout en bâtissant des capacités de défense communes.
Les dangers d'une ia incontrôlée
Amodei met en garde contre la possibilité que l’IA devienne « l’outil ultime de l’autocratie », citant l’exemple d’une armée de drones autonomes pouvant exécuter des ordres illégaux, permettant aux gouvernements de s’accrocher au pouvoir. Il souligne également le risque d’une surveillance généralisée, capable d’analyser en masse les données disponibles et de déduire les aspects les plus intimes de la vie des citoyens. Une situation alarmante, selon ses dires.
Au-delà de la cybersécurité : un nouveau défi existentiel
Amodei ne se limite pas à la cybersécurité. Il anticipe l’émergence de risques biologiques, dépassant de loin les préoccupations actuelles. Il insiste sur la nécessité de repenser l’équilibre économique, où une « hypercroissance et une hyperinégalité » risquent de s’installer, rendant l’amélioration du partage des richesses particulièrement ardue. Il propose une renta de base universelle financée par des impôts sur les entreprises bénéficiant de l’IA, afin de créer une base fiscale solide pour une prospérité partagée.
Un avertissement lucide, pas un appel à la panique
Malgré cette vision sombre, Amodei tempère son discours, démentant les accusations de « professeur de l’apocalypse ». Il reconnaît la nécessité d’une adaptation des politiques publiques et des entreprises, en offrant des complémentions de salaire aux travailleurs déplacés, des incitations fiscales pour retenir les talents et des statistiques en temps réel pour évaluer l’impact de la transformation. Si le déplacement est structurel, il propose une renta de base universelle. « Nous devons agir, et vite », conclut-il.