Anthropic, OpenAI et Google DeepMind se disent favorables à davantage de prudence face à l’accélération des capacités de l’intelligence artificielle.

À l’origine de cette proposition, Dario Amodei, patron d’Anthropic, appelle à ralentir le rythme de développement afin de mieux évaluer les risques et renforcer les dispositifs de sécurité. Sam Altman, dirigeant d’OpenAI, aurait soutenu cette démarche, tandis que Demis Hassabis, patron de Google DeepMind, et Elon Musk ont également exprimé leur soutien. Il ne s’agit toutefois pas, à ce stade, d’une suspension générale des développements de l’IA, mais d’un appel à renforcer les garde-fous avant que les capacités des systèmes ne progressent davantage.

Cette inquiétude est notamment alimentée par l’essor des agents IA, capables non seulement de répondre à une question, mais aussi de recevoir un objectif, utiliser différents outils et enchaîner de manière autonome plusieurs actions pour l’atteindre. Certains chercheurs et anciens employés d’Anthropic alertent ainsi sur le risque de voir apparaître des systèmes capables de participer à leur propre amélioration. Le concept d’« auto-amélioration récursive » nourrit particulièrement les interrogations : si les capacités des machines progressent plus rapidement que celles des mécanismes chargés de les contrôler, les garde-fous pourraient devenir insuffisants.

Pour gagner du temps sur cette question, Dario Amodei propose notamment que des évaluateurs indépendants puissent examiner les dispositifs de sécurité des entreprises d’IA. OpenAI aurait indiqué être disposé à adopter une démarche similaire. De son côté, le PDG de Hugging Face, Clément Delangue, appelle à élargir le débat aux chercheurs en sciences sociales, aux constructeurs d’IA, aux investisseurs et aux décideurs publics. L’enjeu n’est donc pas de stopper l’intelligence artificielle, mais de déterminer jusqu’où accélérer son développement sans dépasser notre capacité collective à en maîtriser les risques.

Auteur

La rédaction

Parlons de vous