Sam Altman, le patron d’OpenAI, a affirmé cette semaine que l’IA a atteint la « singularité ». Dans le même temps, plus de mille salariés du secteur demandent de ralentir son développement. Ce paradoxe résume l’état d’une technologie qui progresse plus vite que les institutions chargées de l’encadrer.
Deux visions de l’intelligence artificielle se sont télescopées cette semaine aux États-Unis.
D’un côté, Sam Altman, le patron d’OpenAI, a affirmé que nous sommes entrés dans l’ère de la « singularité technologique ».
L’expression désigne ce moment encore hypothétique où l’IA dépasserait l’intelligence humaine et progresserait ensuite à une vitesse devenue imprévisible.
La course à l’IA est bien lancée
De l’autre côté, plus de mille salariés d’OpenAI, d’Anthropic, de Meta, ou encore de Mistral viennent de signer une lettre ouverte intitulée « Ralentir la frontière ».
Ils demandent au gouvernement américain de soutenir un effort international pour encadrer les modèles les plus avancés.
Le contraste est saisissant. Mais à ce stade, il faut garder son calme. Aucun consensus scientifique ne permet d’affirmer que la singularité a été atteinte. En revanche, la course à l’IA, elle, est bel et bien lancée.
Les décisions des intelligences artificielles deviennent difficiles à controler
Les acteurs de l’intelligence artificielle réclament des règles pour les ralentir parce que leurs inquiétudes reposent sur des faits très concrets.
Il y a quelques jours, une machine d’OpenAI a réussi à sortir de son environnement test, à accéder à Internet, puis à pénétrer les données d’une plateforme extérieure pour réussir une évaluation informatique.
La machine ne s’est pas rebellée : elle cherchait toujours à accomplir sa mission. Mais elle a emprunté un chemin qui n’était pas prévu. La nuit dernière, l’IA Claude a fait de même.
Le président américain réfléchit à des moyens pour contrôler les IA
C’est précisément le problème : plus ces systèmes deviennent autonomes, plus leurs décisions deviennent difficiles à anticiper et à contrôler.
Face à cela, Donald Trump envisage lui-même des mécanismes de contrôle, mais il refuse de brider les entreprises nationales. C’est tout le paradoxe américain : Washington veut sécuriser l’IA sans ralentir l’innovation.
De plus, il faut bien comprendre que la demande de régulation répond aussi à des intérêts économiques. Les règles les plus contraignantes favorisent souvent les entreprises déjà dominantes.
Le discours sur le danger de l’IA alimente la peur
Meta ou Anthropic possèdent les ressources pour s’y conformer, mais une jeune entreprise en serait beaucoup moins capable. Encadrer les modèles les plus puissants peut donc protéger la société, mais aussi fermer le marché.
Enfin, attention : parler constamment d’IA incontrôlables contribue à en augmenter la valeur. Le discours sur le danger devient lui-même un argument commercial. C’est de la communication.
Une gouvernance mondiale de l’intelligence artificielle serait donc nécessaire, mais extrêmement difficile à mettre en place.
L’Europe tente de réglementer l’IA
L’IA est devenue l’un des principaux terrains de la rivalité entre les États-Unis et la Chine. Pour Washington, ralentir reviendrait à prendre le risque de laisser Pékin prendre l’avantage.
Pour la Chine, accepter des règles définies par les Américains reviendrait à consacrer leur domination technologique.
De son côté, l’Europe tente de construire une troisième voie fondée sur la réglementation. Elle dispose d’un pouvoir normatif important, mais reste en retrait dans la fabrication des modèles les plus avancés.
De leur côté, les Nations unies peuvent organiser le dialogue, mais elles ne possèdent ni les moyens de contrôler les laboratoires privés ni la capacité d’imposer des inspections aux grandes puissances.
A lire aussi
Alors, il existe bien un précédent : le contrôle international du nucléaire. Celui-ci repose sur des matières physiques que l’on peut mesurer, des installations que l’on peut inspecter et une institution, l’AIEA, chargée d’en vérifier l’usage.
Le problème est qu’une IA tient dans des centres de données privés et elle évolue presque chaque semaine sous forme de code. Elle est beaucoup plus difficile à enfermer dans un traité.
L’IA n’a peut-être pas encore dépassé l’humanité. Mais elle avance déjà plus vite que les institutions qui réfléchissent encore sur la manière de l’encadrer.
Lukas Aubin
Retrouvez les articles liés à l’actualité internationale
