Le philosophe belge Mark Coeckelbergh (*), spécialiste des médias et des technologies, fait partie des 40 experts nommés par les Nations Unies pour constituer un Groupe scientifique international indépendant sur l’intelligence artificielle (IA).
Ces experts ont été sélectionnés parmi plus de 2 600 candidats à l’issue d’un examen indépendant mené par plusieurs organes des Nations Unies, dont l’Union internationale des télécommunications (UIT). Ils exerceront leurs fonctions pendant trois ans afin de faire progresser les connaissances scientifiques et de garantir que les délibérations internationales s’appuient sur les meilleures données disponibles.
Leur rapport annuel alimentera les discussions menées dans le cadre du Pacte numérique mondial adopté lors du Sommet du futur de 2024, qui définit une vision commune d’un avenir numérique ouvert, sûr et inclusif.
« Dans un monde où l’IA progresse à une vitesse fulgurante, ce groupe apportera ce qui manquait jusqu’à présent : des analyses scientifiques rigoureuses et indépendantes permettant à tous les États membres, quelles que soient leurs capacités technologiques, de participer sur un pied d’égalité », a déclaré António Guterres, Secrétaire général des Nations Unies.
Mark Coeckelbergh souligne l’importance de la gouvernance mondiale pour l’IA à une époque où le multilatéralisme est mis à mal.
Vous avez écrit plusieurs ouvrages en anglais sur l’IA, notamment « L’éthique de l’IA » et « Pourquoi l’IA mine la démocratie et comment y remédier ». Vous démontrez que la trajectoire actuelle est néfaste pour l’humanité. Pourquoi ?
Telle qu’elle est utilisée et développée actuellement, l’IA sape la démocratie de multiples façons. Elle peut servir à manipuler les électeurs et les élections d’une manière inédite. Le ciblage personnalisé des électeurs à partir de leurs données personnelles est également une nouveauté.
Plus inquiétant encore, à mon sens, est la mise à mal des fondements mêmes de nos démocraties. Le principe d’égalité est, par exemple, miné par les fortes asymétries de pouvoir entre les citoyens et les géants du numérique. Le principe de liberté est compromis par les moyens de surveillance désormais disponibles.
Le type d’environnement du savoir ainsi créé est également problématique. Nous ne savons plus distinguer le vrai du faux. La philosophe Hannah Arendt nous avait déjà mis en garde : quiconque cherche à contrôler les citoyens a tout intérêt à exploiter la confusion. La propagande devient alors plus efficace, et cela pourrait mener au totalitarisme.
Dans la seconde partie de l’ouvrage, je montre comment nous pouvons changer les choses et modifier l’environnement dans lequel l’IA est développée afin de l’utiliser au service de la démocratie.
Vous êtes co-auteur d’un livre intitulé « Intelligence artificielle communicative ». Quel est l’impact de cette technologie ?
L’ouvrage traite des grands modèles de langage (GML) et de leur portée philosophique. Soudain, nous disposons d’un outil capable de produire du texte, une capacité jusque-là réservée à l’humain. Car nous ne sommes ni des machines, ni des animaux.
Selon une tradition philosophique, nous sommes définis par le « logos », les mots. Or, ce sont les machines qui produisent des mots. Dans ce livre, nous nous interrogeons sur les implications de cette évolution pour la notion d’auteur, pour le langage et la communication.
Lorsque nous écrivons avec des GML, par exemple, il est clair que nous ne sommes plus des auteurs au sens traditionnel du terme. Mais alors, que sommes-nous ? Et est-ce encore écrire ? Nous sommes contraints de repenser ce que signifie être auteur et écrire.
Les menaces liées à l’IA vont de la désinformation aux dommages environnementaux, voire à une IA incontrôlable… Quel est le plus grand risque selon vous ?
Je me suis concentré sur les risques politiques, mais il existe aussi un risque majeur, d’ordre plus psychologique, lié au phénomène d’addiction et à notre dépendance à la technologie.
Le risque ne réside pas tant dans une prise de conscience ou une domination de l’IA, mais plutôt dans des risques très concrets pour l’éducation et l’exposition des personnes vulnérables, comme les enfants, les personnes souffrant de troubles mentaux ou les personnes très isolées. Ces problèmes s’accentueront à mesure que les chatbots deviendront de plus en plus convaincants et imiteront de plus en plus une personne.
Comment, selon vous, l’IA modifie-t-elle notre perception de la vérité ?
L’IA facilite la désinformation. Il devient alors difficile de distinguer le vrai du faux. Toute information peut être fausse. Toute citation, vidéo ou enregistrement sonore peut être falsifié. Cette confusion est dangereuse pour la démocratie.
Dans un contexte d’absence de gouvernance mondiale de l’IA, le groupe d’experts sera-t-il en mesure de formuler des recommandations contraignantes ?
Très bonne question. Le travail du groupe d’experts et des organes consultatifs est essentiel, même dans un contexte où le multilatéralisme est mis à rude épreuve. Dans le cadre de mes travaux personnels, j’ai plaidé en faveur d’une gouvernance mondiale de l’IA, établi des lignes directrices et fourni des orientations. Même s’il est peu probable que des règles contraignantes soient adoptées prochainement, il est important de s’y préparer.
Le groupe d’experts est avant tout perçu comme un organe scientifique. L’accent sera donc moins mis sur la gouvernance que sur l’expertise scientifique. Bien entendu, je ferai part de mon expertise en matière d’éthique de l’IA, notamment sur toutes ces questions.
Utilisez-vous les réseaux sociaux ?
Oui, bien sûr. En tant qu’universitaire, il est indispensable de se faire connaître et de publier ses résultats. À titre personnel, j’utilise également les réseaux sociaux pour garder le contact.
Quel est le dernier exemple de désinformation qui vous a marqué ?
Ce qui me frappe, c’est que, par exemple, sur la plateforme X (anciennement Twitter), Elon Musk semble privilégier certains discours et censurer les opinions qui lui déplaisent. Je constate que c’est un outil de propagande très efficace de nos jours. C’est d’ailleurs l’une des raisons pour lesquelles j’ai écrit un article intitulé « techno-fascisme ».
Y a-t-il des motifs d’espoir quant à l’avenir de l’IA ?
Oui, je constate qu’aujourd’hui, de plus en plus de gens prennent conscience des dangers et des défis liés à l’IA. J’espère que cela se traduira par une orientation plus éthique et démocratique de cette technologie. L’IA devrait être une technologie qui profite à tous.
(*) Mark Coeckelbergh, professeur de philosophie des médias et des technologies à l’Université de Vienne, est titulaire d’une chaire à l’Institut de philosophie de l’Académie tchèque des sciences, où il dirige le Centre d’éthique environnementale et technologique. Il conseille régulièrement des décideurs politiques et des organisations internationales, notamment la Commission européenne (Groupe d’experts de haut niveau sur l’IA), la Commission autrichienne pour l’UNESCO, le Conseil autrichien de la robotique et de l’IA et le Comité consultatif fédéral belge sur les données et l’IA.
LIENS UTILES
Intelligence artificielle : quelle quantité d’énergie pour l’IA ?
Intelligence artificielle : pas d’« apocalypse de l’emploi »
Intelligence artificielle et éducation – conversation avec ChatGPT
Intelligence artificielle : les avancées de l’ONU vers un cadre mondial de gouvernance