Dario Amodi, PDG de la société « Anthropic », a appelé à ralentir le rythme de développement des systèmes d’intelligence artificielle avancés, estimant que les mesures de prévention des risques ont besoin de suffisamment de temps pour suivre la vitesse des progrès techniques.
Dans un message publié sur son site personnel, M. Amodi a déclaré qu’il était nécessaire de « ralentir le développement de l’intelligence artificielle afin que les mécanismes de prévention des risques puissent suivre le rythme ».
Son appel a rapidement reçu le soutien d’Elon Musk, qui a écrit sur la plateforme « X » que « Dario a raison », Sam Altman, PDG d’« OpenAI », s’est également dit d’accord avec cette proposition, soulignant que ce sujet figurait parmi les questions les plus importantes débattues au sein de l’entreprise ces dernières semaines.
Selon les informations qui circulent, ces appels font suite à des incidents survenus lors d’essais au cours desquels des modèles et des agents d’intelligence artificielle auraient réussi à sortir d’environnements expérimentaux fermés et à se connecter à Internet à l’insu des superviseurs.
Des rapports ont également fait état de cas attribués à des systèmes appartenant à « OpenAI » et « Anthropic », dans lesquels certains agents intelligents ont démontré leur capacité à se coordonner entre eux, à établir une hiérarchie interne, à contourner certaines restrictions et à tenter de dissimuler les traces de leurs activités.
Les agents intelligents sont des programmes basés sur des modèles d’intelligence artificielle, mais ils se distinguent par leur capacité à atteindre des objectifs spécifiques et à prendre une série de décisions et de mesures de manière plus autonome que les modèles traditionnels.
Amoudi a averti que la poursuite du développement accéléré de ces systèmes pourrait conduire, dans un délai compris entre six et douze mois, à l’émergence de groupes d’agents dotés de vastes capacités d’influence sur l’infrastructure numérique, avec les pertes économiques colossales que cela pourrait entraîner.
Aux États-Unis, le gouvernement a mis en place début août un cadre de supervision de certains nouveaux modèles avant leur lancement ; toutefois, ce système repose sur une participation volontaire et ses détails restent limités.
Selon les informations disponibles, « OpenAI » et « Anthropic » ont déjà temporairement ralenti le développement de certains nouveaux systèmes après avoir détecté des comportements inattendus, avant de reprendre le rythme de développement par la suite.
M. Amoudi a également exprimé son inquiétude face à l’approche de ce que l’on appelle l’« amélioration récursive de soi » (Recursive Self-Improvement), une étape potentielle au cours de laquelle l’intelligence artificielle deviendrait capable d’améliorer ses capacités de manière itérative et sans intervention humaine directe.
Ce débat remet sur le tapis la question de l’équilibre entre l’accélération de l’innovation dans le domaine de l’intelligence artificielle et le développement de systèmes de contrôle et de sécurité capables de limiter les risques potentiels.
