[ 16 janvier 2025 ]

IA et Droits de l’homme

Pourquoi et comment cet instrument d’encadrement de la technologie a-t-il été élaboré ?

Ayant pour but la sauvegarde et la promotion des principes de démocratie, d’état de droit et des droits de l’Homme, le Conseil de l’Europe s’attache depuis ses débuts à faire en sorte que les progrès technologiques ne se traduisent pas par une régression des droits des individus en essayant d’en encadrer les excès. En attestent plusieurs conventions telles que la Convention 108 sur la protection des personnes à l’égard du traitement de leurs données personnelles ou la convention dite d’Oviedo sur les droits de l’Homme et la biomédecine. Il était donc assez évident que le Conseil de l’Europe finisse par se pencher sur l’intelligence artificielle dont les progrès récents soulèvent autant d’interrogations quant au respect des droits et libertés, qu’ils ouvrent de possibilités d’application.

Il l’a fait au travers de l’élaboration d’une convention-cadre sur les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle, négociée et rédigée pendant près de 2 ans au sein du comité sur l’intelligence artificielle (CAI) sur mandat du Comité des ministres. On relèvera que les discussions sur cette Convention ont été menées en parallèle de celles au sein de l’Union européenne sur la réglementation de l’IA qui ont conduit à l’adoption du règlement (UE) 2024/1689 du 13 juin 2024 dit règlement sur l’intelligence artificielle. L’Union européenne a d’ailleurs pris part aux négociations au sein du CAI et est signataire de la Convention-cadre aux côtés d’États membres du Conseil de l’Europe mais aussi d’États non-membres comme les États-Unis ou Israël. Elle pourra entrer en vigueur dès qu’elle aura été ratifiée par 5 signataires dont au moins trois membres du Conseil de l’Europe.

Qu’est-ce qu’elle vise à encadrer ?

Cette Convention-cadre dessine un cadre général visant à permettre le respect de la démocratie, de l’état de droit et des droits de l’Homme durant le cycle de vie des systèmes d’intelligence artificielle. Pour ce faire, elle adopte une définition large et technologiquement neutre (car ne mentionne pas de technologie en particulier) des systèmes d’IA qui sont entendus comme tout « système automatisé qui, pour des objectifs explicites ou implicites, déduit, à partir d’entrées reçues, comment générer des résultats en sortie tels que des prévisions, des contenus, des recommandations ou des décisions qui peuvent influer sur des environnements physiques ou virtuels ». En outre, se référer au « cycle de vie » de ces systèmes permet d’englober toutes les activités depuis la conception du système jusqu’à sa mise hors service. De façon intéressante, cette définition est identique à celle élaborée par l’OCDE, reprise également par l’UE dans son règlement dans le but avoué d’harmoniser la gouvernance internationale de l’IA. Si cette Convention-cadre concerne l’ensemble des systèmes d’IA, elle inclut une approche fondée sur les risques en posant le principe d’une gradation des mesures prises par parties en tenant compte des « impacts réels et potentiels sur les droits de l’Homme, la démocratie et l’état de droit ».

Elle a vocation à s’appliquer aux acteurs publics et privés à l’exception des activités liées à la protection de la sécurité nationale, excluant donc les systèmes d’armements, et des activités de recherche.

Quelles sont les obligations mises à la charge des acteurs publics et privés pour réfléchir sur les impacts des nouvelles technologies ?

De façon générale, la Convention-cadre ne vise pas à créer de nouveaux droits ou de nouvelles obligations, mais à exiger des États qu’ils fassent en sorte que les activités menées dans le cadre du cycle de vie des systèmes d’IA se conforment bien à leurs engagements actuels en matière de respect des droits de l’Homme que la convention se borne à rappeler. Autrement dit, que les activités liées aux systèmes d’IA ne tombent pas dans une sorte de vide juridique permettant de s’affranchir du respect de la dignité de la personne humaine. Il revient donc aux parties de faire évoluer leur droit pour l’adapter à celle de ces systèmes ; ce à quoi s’est par exemple employée l’UE dans son récent règlement sur le sujet.

Pour ce faire, la Convention-cadre rappelle un certain nombre de principes que les Parties doivent prendre en compte : respect de la dignité humaine et de l’autonomie personnelle, transparence et contrôle des systèmes d’IA allant avec une obligation de rendre des comptes et d’assumer la responsabilité d’éventuels dommages, respect crucial en la matière du principe d’égalité et du droit à la non-discrimination (notamment s’agissant d’éventuels biais dans l’apprentissage des IA génératives) ainsi que de la vie privée et de la protection des données personnelles, et enfin une double exigence de fiabilité des systèmes et de recours à des environnements contrôlés pour le test de nouveaux systèmes (bacs à sable). 

Quels dispositifs de protection des droits de l’homme sont prévus vis-à-vis des utilisateurs de l’intelligence artificielle ?

La Convention-cadre a pour particularité de ne pas créer un nouveau dispositif spécifique, mais d’exiger des États parties qu’ils fassent application des mécanismes existants aux situations impliquant un système d’IA. Tout au plus, la Convention prévoit que le respect des principes évoqués plus haut suppose l’existence de voies de recours accessibles et effectives contre d’éventuelles violations résultant des activités liées aux systèmes d’IA. Voies de recours qui, pour être utiles, nécessitent l’existence et l’accès à des informations suffisantes sur ces systèmes.

La Convention-cadre prévoit par ailleurs un mécanisme de suivi assez classique pour ce type de convention fondée sur une conférence des parties qui devra se réunir périodiquement pour examiner les rapports dans lesquels ces parties devront exposer les mesures qu’elles ont adoptées pour se conformer à leurs obligations.