[ 13 octobre 2022 ]

Service public et Intelligence artificielle

Quels peuvent être les avantages du déploiement de SIA au cœur des administrations dans leur mission de service public ?

Les SIA peuvent traiter une grande quantité de données diverses en un temps très court, procurant potentiellement aux pouvoirs publics et aux établissements publics des informations constamment actualisées sur l'état des ressources, sur les usages et sur la détection d'anomalies ou de profils. En automatisant le traitement de ces données, voire en automatisant la gestion des ressources, on aboutirait dans l'idéal à un ajustement permanent des services aux besoins connus, à une détection précoce des risques et à une minimisation des dépenses. Cela répondrait en théorie aux objectifs de célérité et de préservation de l'environnement. Les SIA peuvent aussi faciliter le repérage d'indicateurs restés inaperçus par les moyens d'enquête habituels ; leur conception peut conduire à formaliser des procédures et des critères de décision rendus ainsi plus visibles. Cela suppose toutefois de les concevoir et d'en user de manière raisonnée.

Quel rôle l’IA pourrait-elle jouer dans la décision juridictionnelle ?

Le droit positif français exclut qu’une décision de justice impliquant une appréciation sur le comportement d’une personne puisse avoir pour fondement (exclusif ou non) un traitement automatisé de données à caractère personnel destiné à évaluer certains aspects de la personnalité. En revanche, les SIA pourraient être utilisés pour d’autres contentieux et d’autres tâches : aider les juges à repérer des dossiers similaires dans la masse du contentieux ; aider les juridictions à lutter contre l’impression de disparité géographique (par ex. pour fixer le montant de certaines indemnités) ; automatiser le traitement de certains incidents de procédure (par ex. la péremption par écoulement d’un délai sans acte de procédure).

La Défenseure des droits, Claire Hédon, appelle à replacer le principe de non-discrimination au cœur du projet de règlement sur l’Intelligence artificielle de la Commission européenne. Dans quelle mesure le rapport du Conseil d’État tient compte de ces craintes concernant nos droits fondamentaux ?

Le rapport du Conseil d’État prend clairement position pour « accélérer le déploiement des SIA publics pour en exploiter pleinement le potentiel ». Il vise donc bien davantage à en montrer l’intérêt qu’à en faire une présentation critique. Néanmoins le problème de la « confiance » accordée à ces dispositifs conduit à affirmer le nécessaire respect de grands principes, parmi lesquels figurent l’équité et la non-discrimination. Celle-ci est interprétée comme impliquant « d’identifier, de prévenir et d’éliminer les biais discriminatoires prohibés » et d’être attentif à ce risque durant « toute la vie du SIA (pendant les phases de test du modèle, lors du passage à l’échelle, dans le cadre de ré-entraînements réguliers, etc.) ». Le Conseil d’État appelle ainsi à une évaluation préalable des risques associant des agents, des experts, des chercheurs et des membres de la société civile (utilisateurs cibles ou membres de groupes victimes de discriminations systémiques), ce qui semble dépasser les prévisions de la proposition de Règlement sur l’IA qui cible principalement les SIA « à haut risque ».

Comment construire de tels outils en minimisant les biais de fonctionnement inhérents à tout système ?

Lorsque le SIA use de règles préalablement déterminées (type système expert, technique intégrée dans les SIA par la proposition de Règlement européen), on peut directement opérer une appréciation sur celles-ci. Lorsque le SIA recourt à un système d’apprentissage automatique, l’action se porte sur les données d’entrée, sur les contraintes initiales et sur les résultats en sortie. Cela consiste à entraîner le SIA sur des bases de données dont les caractéristiques sont connues et les biais minimisés, à agir sur la programmation initiale en faisant de la non-discrimination une contrainte primordiale et à mettre en place un système de contrôle en sortie par exemple au moyen d’algorithmes dédiés. Fournir à l’utilisateur (agent ou citoyen) des explications sur ces éléments devrait le conduire à prendre conscience des biais résiduels (par exemple, du fait du manque de données) et lui restituer l’esprit critique et la marge d’appréciation nécessaires pour éviter que le biais technique ne conduise à la discrimination sociale systémique.