L’essor des deepfakes est une des évolutions les plus préoccupantes liées à l’intelligence artificielle (IA). À mesure qu’ils se généralisent et deviennent plus difficiles à détecter, ils sont de plus en plus utilisés pour diffuser de la désinformation et cibler des individus en ligne.
Qu’est ce qu’un deepfake ?
Les « deepfakes » sont des images, vidéos ou enregistrements audio créés ou modifiés par l’intelligence artificielle qui imitent des personnes réelles. Entraînées sur de vastes bases de données, les IA reproduisent des traits humains tels que les visages, les voix et les mouvements pour générer des contenus réalistes.
De 2019 à 2023, le nombre de vidéos deepfake mises en ligne a augmenté de 550 %. Créer et diffuser massivement ces vidéos est aujourd’hui à la portée de tous, même sans compétences techniques avancées.
De fausses réalités dangereuses
Ces « contrefaçons numériques » créent de fausses réalités et constituent un défi croissant pour distinguer le vrai du faux et érodent la confiance des utilisateurs. Il est de plus en plus difficile de distinguer les contenus authentiques des contenus fabriqués sans aide technologique.
Les deepfakes peuvent ainsi alimenter la désinformation, accentuer les préjugés et aggraver les tensions ethniques, religieuses et politiques.
L’essor de IA générative a également simplifié la production et la diffusion de contenus néfastes, notamment ceux à caractère pédopornographique.
Des effets disproportionnés sur les femmes et les enfants
Les contenus pornographiques représentent 98 % de l’ensemble des vidéos deepfake disponibles en ligne.
De nombreux outils de création de deepfake ne sont pas conçus pour fonctionner sur des images d’hommes, soulignant la dimension genrée de cette technologie.
Au moins 1,2 million d’enfants, principalement des filles, ont été la cible de deepfakes à caractère sexuel générés par IA à partir de leurs photos selon un rapport de 2025 de l’UNICEF, d’INTERPOL et du réseau d’associations ECPAT. Ces contenus posent de nouveaux défis aux forces de l’ordre pour la protection des enfants.
Quel cadre juridique pour les deepfakes ?
Les deepfakes peuvent avoir de graves conséquences dans la vie réelle. Les poursuites légales restent rares, les mécanismes de contrôle peinent à suivre l’évolution des technologies et les plateformes en ligne prennent rarement les mesures nécessaires. Moins de la moitié des pays disposent de lois traitant des violences en ligne, et encore moins ont adopté des législations visant spécifiquement les deepfakes.
Une coopération internationale renforcée et des cadres juridiques plus efficaces sont nécessaires pour lutter contre les violences facilitées par l’IA.
Que fait l’ONU ?
Les organismes des Nations Unies appellent à une conception plus sûre de l’IA, à une plus grande responsabilité des plateformes, à de meilleurs outils de détection et à un renforcement des législations.
- L’UNESCO a élaboré des normes éthiques pour l’IA à travers sa Recommandation sur l’éthique de l’intelligence artificielle.
- L’UNICEF a publié des Orientations sur l’IA et les enfants, qui définissent les fondements d’une IA centrée sur les droits et les besoins des enfants.
- ONU Femmes a alerté sur le fait que l’IA accélère les violences faites aux femmes et continue de plaider en faveur d’une meilleure protection contre ce type de violences.
- L’Union internationale des télécommunications (UIT) travaille à l’élaboration de normes internationales relatives au tatouage numérique (watermarking), à l’authentification des contenus et à la vérification numérique, afin d’aider les utilisateurs à distinguer les contenus authentiques de ceux générés par l’IA.
En savoir plus :
IA : contrer une menace existentielle
L’UE et l’ONU en lutte contre la désinformation en ligne
Qui répond des dommages causés par l’IA ? L’ONU ouvre le débat sur la responsabilité