INTELLIGENCE ARTIFICIELLE · DOSSIER UNRIC

Intelligence artificielle et droits humains : qui protège les personnes ?

Les systèmes d'intelligence artificielle peuvent faciliter certains services tout en créant des risques pour l'égalité, la liberté d'expression, la vie privée et le droit à un recours. Un outil statistiquement performant n'est pas forcément juste envers tous les groupes. Les droits humains offrent des critères pour déterminer si un usage doit être modifié, encadré ou écarté. Les organisations qui utilisent ces systèmes doivent pouvoir justifier leurs décisions, protéger les données personnelles et permettre aux personnes concernées de contester une erreur.

Les textes internationaux de référence

En 2024, une étude de l'UNESCO a identifié des stéréotypes de genre dans les modèles de langage étudiés. Ce constat ne s'étend pas automatiquement à tous les systèmes : étude et méthode.
En 2025, l'UNICEF a publié une nouvelle version de ses orientations pour l'IA et les enfants (EN).
En 2022, le système des Nations Unies s'est doté de principes internes d'utilisation éthique de l'IA (EN). Ils ne sont pas une loi internationale s'imposant aux entreprises.

L'intelligence artificielle peut améliorer l'accès à certains services, mais elle peut aussi reproduire des discriminations, faciliter la surveillance ou influencer des décisions difficiles à contester. La question centrale n'est pas seulement « est-ce techniquement possible ? » mais « est-ce juste, explicable et compatible avec les droits humains ? ».

Quand les données reproduisent les inégalités

Un système entraîné sur des données incomplètes ou biaisées peut traiter certains groupes moins favorablement. Cela peut devenir particulièrement grave dans le recrutement, l'accès à des prestations sociales, la sécurité ou la santé. Les biais peuvent apparaître dans les données, le choix de l'objectif, les tests ou les conditions réelles d'utilisation.

SCHÉMA 03 · DROITS

À quel moment un biais peut-il devenir une injustice ?

Un parcours de décision assistée par IA, illustré par les questions à poser à chaque étape.

01 · DONNÉES
Qui est représenté ?
Des données incomplètes peuvent défavoriser certains groupes.
02 · RÉSULTAT
Que recommande l'outil ?
Une sortie peut être erronée, biaisée ou mal adaptée au contexte.
03 · DÉCISION
Qui peut corriger ?
Un examen humain adapté doit pouvoir remettre en cause la recommandation.
04 · RECOURS
Qui répond des effets ?
Les personnes concernées doivent savoir vers qui se tourner selon les règles applicables.

À retenir Le contrôle humain et les voies de recours sont des questions de responsabilité institutionnelle, pas de simple qualité technique.

Source officielle : Principes éthiques de l'IA du système ONU (EN)

Une évaluation sérieuse doit demander quelles personnes ont été représentées, quels types d'erreurs sont possibles et comment la décision peut être contestée. Une précision moyenne élevée peut masquer des résultats très différents selon les groupes.

Vie privée, transparence et responsabilité

Les modèles et services d'IA peuvent nécessiter de grandes quantités de données. Il faut distinguer les données accessibles, les usages autorisés et les informations sensibles qui ne devraient pas être partagées sans garanties. Les décisions importantes doivent comporter des voies de recours et une responsabilité humaine clairement identifiée.

La transparence ne consiste pas nécessairement à publier chaque ligne de code : elle implique de pouvoir comprendre qu'un système a été utilisé, dans quel but, avec quelles limites et quels contrôles.

Enfants, migrants et personnes vulnérables

Les risques ne touchent pas tous les publics de la même manière. Les enfants peuvent manquer de moyens pour évaluer les réponses d'un outil ou pour protéger leurs données. La désinformation amplifiée par l'IA peut contribuer à stigmatiser des migrants. Les violences numériques fondées sur le genre peuvent être aggravées par les images et voix synthétiques.

Les garanties doivent être conçues dès le départ, en tenant compte des personnes qui supportent le risque le plus élevé et pas uniquement de l'utilisateur moyen.

Les principes proposés par le système des Nations Unies

La Recommandation de l'UNESCO sur l'éthique de l'IA, adoptée le 23 novembre 2021, place la dignité et les droits fondamentaux au cœur de son approche. Elle constitue un instrument normatif international, mais pas un traité mondial directement contraignant. En septembre 2022, le système des Nations Unies a approuvé dix principes pour encadrer son utilisation éthique de l'IA.

Le Haut-Commissariat des Nations Unies aux droits de l'homme rappelle l'importance de la responsabilité et de mécanismes de contrôle indépendants pour les technologies les plus puissantes. Les déclarations publiques doivent être attribuées à leurs auteurs : elles ne signifient pas qu'une règle universelle ait déjà été adoptée.

Un cas institutionnel : le HCR et la protection des réfugiés

Le Haut-Commissariat des Nations Unies pour les réfugiés présente une approche de l'utilisation responsable de l'IA (EN). Son enjeu est de pouvoir aider des équipes et des personnes concernées sans laisser une technologie porter seule des décisions de protection sensibles. L'existence d'un cadre de gouvernance ne constitue toutefois pas, en elle-même, une preuve de performance ou de respect des droits dans chaque application.

Qui décide, qui répond ?

Quatre questions permettent d'évaluer la place accordée aux personnes et à leurs droits lorsqu'un outil intervient dans une décision importante.

Questions fréquentes

Une IA peut-elle discriminer sans intention de le faire ?

Oui, en reproduisant des biais de collecte, de conception ou d'évaluation. La comparaison des performances entre groupes concernés est une étape utile, mais ne dispense pas d'une analyse juridique et sociale.

Pourquoi ne pas simplement publier toutes les données pour être transparent ?

La transparence doit être conciliée avec la confidentialité, la sécurité et la protection des personnes. Certaines données sensibles, particulièrement dans les situations humanitaires, ne doivent pas être divulguées.

Qui porte la responsabilité d'une décision assistée par IA ?

Les responsabilités dépendent du droit et des rôles en cause. Une machine ne fait pas disparaître les obligations des concepteurs, des décideurs et des institutions qui la déploient.