Il est urgent de mettre en place une gouvernance de l’intelligence artificielle. Une régulation qui est poussée par les Nations Unies, notamment par son bureau des droits humains.
Peu avant l’ouverture de l’Assemblée générale, le Haut-Commissaire des Nations Unies aux droits de l’Homme, Volker Türk a appelé États et entreprises à encadrer en urgence l’intelligence artificielle, estimant que les systèmes les plus sophistiqués exposent les droits humains à des risques sans précédent.
« Nous sommes à l’aube d’un changement irréversible, qui non seulement nous affectera mais affectera aussi les générations futures », a déclaré le Haut-Commissaire dans une lettre adressée aux États et aux développeurs d’intelligence artificielle.
L’IA pose des risques existentiels à l’humanité
« La course actuelle vers une intelligence artificielle toujours plus puissante marque un tournant vers des risques existentiels accrus pour tous les aspects de nos vies. Des défaillances impliquant des systèmes d’IA autonomes – sans parler des systèmes délibérément conçus à cette fin – pourraient paralyser des services essentiels, interrompre les communications, déstabiliser des infrastructures critiques et porter atteinte au cœur même des institutions démocratiques », a-t-il averti dans sa lettre.
« Des populations entières pourraient se retrouver privées d’eau potable, de chauffage et de services financiers, et l’IA agentique accélère déjà le rythme et l’ampleur des conflits armés, tout en érodant les garde-fous qui nous séparent du lancement d’armes de destruction massive. »
Un danger déjà bien réel
Le Haut-Commissaire a prévenu qu’il reste très peu de temps pour réglementer l’IA. Il a souligné que notre avenir dépend directement des choix actuels concernant sa conception, son déploiement et sa gouvernance.
« Les préjudices liés à l’IA ne sont pas hypothétiques : ils se produisent déjà au grand jour », a ajouté M. Türk.
« Les services essentiels sont automatisés laissant les personnes marginalisées encore plus à la traîne. L’appétit pour les données et les nouveaux outils de surveillance puissants érodent la vie privée à grande échelle, de manière potentiellement irréversible. Les campagnes de désinformation alimentées par l’IA faussent déjà le débat public, sapent la cohésion sociale et mettent à rude épreuve les institutions démocratiques de manière insidieuse et inédite. »
Réguler l’IA : une gouvernance et une surveillance
Les leaders de l’IA ont le devoir et le pouvoir d’agir dès maintenant pour en limiter les risques, estime le chef des droits humains.
« Il est nécessaire d’élaborer et d’appliquer une diligence raisonnable qui soit rigoureuse en matière de droits humains. (…) Et la mise en œuvre de ces normes doit faire l’objet d’un contrôle interne indépendant afin de renforcer la transparence et le principe de responsabilité », a-t-il souligné.
Selon Volker Türk, les États qui abritent les grands de l’IA doivent exiger d’eux un comportement responsable et pouvoir leur demander des comptes en cas de manquement. Le Haut-Commissaire a demandé que des experts indépendants contrôlent l’IA en continu à travers l’accès aux modèles, aux documents et aux tests afin de garantir le respect des droits humains.
« Compte tenu des enjeux et de la situation actuelle, je demande aux États et aux entreprises de se mobiliser d’urgence dans le cadre d’instances multilatérales afin de définir une feuille de route pour encadrer les modèles d’IA qui reposent sur le droit international des droits humains », a-t-il indiqué.
« Aucun pays ne peut encadrer seul cette technologie. Aucune entreprise ne devrait pouvoir décider seule des risques que le monde doit accepter. Personne ne devrait être contraint de renoncer à ses droits humains au nom d’un prétendu progrès technologique. »
« La génération qui entre aujourd’hui dans l’âge adulte héritera des conséquences des décisions prises sur cette question sans avoir eu son mot à dire. Nous lui devons de veiller à ce que ces décisions soient prises en toute transparence, dans le respect de ses droits et avec l’humilité qu’exige l’ampleur de cette entreprise. »
Plus d’information :