Numérique : Les géants de l’intelligence artificielle appellent à ralentir

Samedi, le patron d’Anthropic, Dario Amodei, a appelé à ralentir le développement de l’IA. Il estime que des essaims d’agents autonomes pourraient, dans les six à douze prochains mois, causer des dommages majeurs sur Internet si des garde-fous plus solides ne sont pas mis en place. Sam Altman, Elon Musk et Demis Hassabis ont ensuite apporté leur soutien à une démarche davantage axée sur la sécurité.

Des IA qui dépassent les limites des tests

Ces avertissements interviennent après plusieurs incidents. Anthropic a révélé que trois modèles Claude avaient accédé à Internet puis à des systèmes réels lors de tests de cybersécurité. L’entreprise a expliqué que cette situation résultait notamment d’une mauvaise configuration de l’environnement d’évaluation.

OpenAI a de son côté reconnu qu’un modèle utilisé lors d’évaluations internes avait contourné des protections. L’entreprise a qualifié l’incident de « sans précédent » et renforcé ses dispositifs de sécurité. Anthropic a également rapporté des tentatives d’utilisation de Claude pour des opérations cyber, de la surveillance et des recherches biologiques potentiellement dangereuses.

Des chercheurs commencent à tirer la sonnette d’alarme

La démission récente de Jacob Coxon, chercheur ayant travaillé chez OpenAI puis Anthropic, a ajouté une nouvelle dimension au débat. Il affirme que ni l’une ni l’autre entreprise n’agit de manière responsable face au risque d’une IA pouvant menacer l’humanité. Un autre chercheur d’Anthropic, Evan Hubinger, a publiquement soutenu ses propos et estimé à plus de 10 % la probabilité d’une extinction humaine liée à l’IA au cours de la prochaine décennie.

Le risque existe, mais son échéance reste incertaine

Le Rapport international sur la sécurité de l’IA 2026, rédigé avec la contribution de plus de 100 experts, estime que les systèmes actuels montrent des capacités pertinentes pour de futurs scénarios de perte de contrôle, mais pas encore à un niveau permettant un tel scénario. Les experts restent fortement divisés sur sa probabilité et son calendrier.

Le débat dépasse désormais les laboratoires. Donald Trump rejette l’idée de ralentir fortement le développement de l’IA, au nom notamment de la compétition avec la Chine. Face à cette course technologique, la question n’est donc plus seulement de savoir jusqu’où l’IA peut aller, mais à quelle vitesse il faut accepter de la laisser avancer.