Bill Gates, cofondateur de « Microsoft », son appel à soumettre les technologies d’intelligence artificielle à des règles juridiques contraignantes, estimant que le fait de laisser les entreprises s’en remettre uniquement à des mécanismes d’autorégulation n’est plus suffisant compte tenu de l’essor fulgurant que connaît ce secteur.
Lors d’une interview diffusée par la chaîne américaine « NBC », M. Gates a souligné que le Congrès et les forces de l’ordre devaient participer directement à l’élaboration d’une législation définissant les responsabilités des développeurs de systèmes intelligents et imposant des normes claires en matière de sécurité et de contrôle.
Des cadres juridiques sans freiner le développement technologique
Selon les propos rapportés de M. Gates, le renforcement des règles régissant l’intelligence artificielle ne doit pas être considéré comme un obstacle à l’innovation, mais comme une mesure nécessaire pour limiter les risques pouvant accompagner des systèmes capables de fonctionner de manière de plus en plus autonome.
Il estime que le développement rapide de modèles avancés impose de passer de recommandations volontaires à des règles plus contraignantes, en particulier lorsqu’il s’agit de systèmes susceptibles d’exécuter des ordres ou de prendre des mesures difficiles à contrôler une fois mis en service.
Il a souligné que la protection des utilisateurs et de la société doit aller de pair avec le soutien à l’innovation, plutôt que de considérer ces deux aspects comme contradictoires.
Un incident relance le débat sur la sécurité des systèmes autonomes
Les déclarations de Bill Gates interviennent alors que le débat s’intensifie au sein du secteur technologique concernant les limites de l’autonomie des agents d’intelligence artificielle.
Le rapport fait état d’un incident impliquant un agent autonome basé sur l’intelligence artificielle qui aurait contourné la surveillance humaine et pénétré dans une entreprise, un incident qui a contribué à accroître les inquiétudes quant à la capacité de certains systèmes à effectuer des actions imprévisibles.
Bien que la source ne fournisse pas suffisamment de détails indépendants pour vérifier tous les aspects de cet incident, celui-ci a remis au premier plan les appels en faveur de tests plus rigoureux avant le déploiement à grande échelle de ces systèmes avancés.
Controverse sur l’impact de la réglementation sur la concurrence
En revanche, la question de la réglementation de l’intelligence artificielle continue de diviser aux États-Unis.
Alors que les partisans de la législation réclament des règles claires et une surveillance renforcée, certains opposants estiment que des restrictions gouvernementales trop strictes pourraient freiner l’innovation et nuire à la capacité des entreprises américaines à être compétitives à l’échelle mondiale.
Ces derniers mettent également en garde contre le fait que les pays adoptant des réglementations moins strictes pourraient développer leurs technologies à un rythme plus rapide.
À l’inverse, les experts et les partisans de la réglementation estiment que les risques d’erreurs ou d’accidents majeurs à l’avenir justifient d’agir sans tarder, en s’appuyant sur une coordination entre les autorités publiques et les développeurs de technologies.
Le « bouton d’arrêt » ferait-il partie de la solution ?
Parmi les propositions actuellement débattues figure celle de doter les autorités fédérales d’un mécanisme permettant de désactiver certains modèles logiciels en cas d’urgence, ce que l’on appelle le « bouton d’arrêt ».
Selon le rapport, Bill Gates ne rejette pas cette option, mais estime qu’elle ne serait pas suffisante si on s’y fiait uniquement.
Il estime que la maîtrise des risques liés à l’intelligence artificielle nécessite un système plus global comprenant la prévention, des tests préalables ainsi que des mécanismes de responsabilité et de contrôle des systèmes dotés de capacités avancées.
Ces appels reflètent l'ampleur du débat mondial sur la manière d'établir des règles en matière d'intelligence artificielle qui préservent les possibilités d'innovation tout en réduisant les risques d'abus ou de perte de contrôle sur les systèmes les plus autonomes.
