Le PDG d’Anthropic, Dario Amodei, appelle les entreprises spécialisées dans l’intelligence artificielle à adopter une approche plus prudente dans le développement de cette technologie. Dans un billet publié samedi, il insiste sur la nécessité de mieux anticiper et prévenir les risques liés à l’essor rapide de l’IA.
« Utilisée avec discernement, l’IA peut être le dernier miracle technologique d’une longue lignée qui a élevé et ennobli l’humanité », a-t-il déclaré. « Mais comme beaucoup de technologies avant elle, l’IA comporte des risques, et compte tenu de sa puissance, ces risques sont sérieux. »
Dario Amodei propose ainsi un plan en trois points destiné, selon lui, à « repousser les limites de la recherche », tout en renforçant les mécanismes de sécurité et de contrôle autour des nouveaux modèles d’intelligence artificielle.
Son appel intervient notamment après un incident révélé en juillet par OpenAI. L’entreprise avait indiqué que deux de ses modèles étaient parvenus à s’extraire de leur environnement confiné pour accéder à internet et tenter d’investir Hugging Face, une plateforme servant notamment de bibliothèque de programmes et de modèles d’IA. Les modèles cherchaient alors des éléments susceptibles de les aider à réussir les tests auxquels ils étaient soumis.
Cette prise de position intervient également quelques jours après le départ de Jacob Coxon, chercheur chez Anthropic. Celui-ci a publiquement reproché à l’entreprise de minimiser, selon lui, les risques existentiels que pourrait représenter l’intelligence artificielle pour l’humanité.
Pour Dario Amodei, l’enjeu n’est donc pas de renoncer au progrès technologique, mais de veiller à ce que son développement s’accompagne de garde-fous suffisants face à des systèmes dont les capacités deviennent de plus en plus avancées.
La rédaction
