[ 25 avril 2019 ]

Algorithme et personnalité numérique

Qu’est-ce qu’un algorithme ? 

Un algorithme est constitué d’une succession d’instructions à mettre en œuvre afin de résoudre un problème. Le théorème de Pythagore est un algorithme : il donne toutes les étapes à suivre pour calculer les longueurs d’un triangle rectangle. Le terme a progressivement glissé vers une acception informatique mais désigne toujours une suite d’instructions permettant de répondre à une requête. Lorsqu’une recherche est entrée sur Google, les résultats affichés sont le fruit d’algorithmes qui vont classer les résultats de la recherche en fonction, par exemple, de la popularité des sites internet ou des précédentes recherches de l’utilisateur. En réalité, la plupart des services numériques sont optimisés par des algorithmes qui vont afficher un résultat donné en fonction des critères qui les composent et des informations qu’ils ont déjà traitées. Youtube proposera des contenus qui ressemblent à ceux vus par l’utilisateur ; Amazon lui recommandera des produits susceptibles de l’intéresser ; Facebook déterminera les contenus de son fil d’actualité en fonction de ses précédentes réactions, etc. Les algorithmes offrent pour la plupart des services personnalisés, liés à aux habitudes de consommation de chacun.

Faut-il craindre ces algorithmes ?

Il va sans dire que les algorithmes facilitent le quotidien. Ce n’est toutefois pas une raison pour leur donner une confiance aveugle. Une réalité est certaine : il est difficile de comprendre le fonctionnement d’un algorithme, quand bien même il serait disponible en open-source. Amazon avait par exemple annoncé le retrait de son algorithme d’aide au recrutement en s’étant aperçu que le robot discriminait les femmes. Se fondant sur les candidatures qui avaient déjà été retenues, l’algorithme avait constaté que les meilleurs postes étaient occupés par des hommes et en a conclu que les hommes étaient meilleurs que les femmes. Les jeux de données qui entraînent les algorithmes ne reflètent pas nécessairement le meilleur aspect de notre société et les algorithmes ne font que reproduire cette image, sans conscience du bien et du mal. Plus inquiétant encore, l’ouvrage récent « L’Amour sous algorithme » de J. Duportail dévoile que l’algorithme de Tinder pourrait attribuer une « note d’attractivité physique » aux utilisateurs ou même établir leur QI à partir de leur langage. Le manque de transparence des opérateurs ne permet pas de savoir quelles sont les données traitées par les algorithmes et quels sont les critères d’analyse des algorithmes. Leur opacité est, à mon sens, leur plus grand danger.

Existe-t-il une personnalité numérique ?

Les algorithmes concentrent un certain nombre d’informations sur une personne : des informations qu’elle donne volontairement lors de son inscription telles que son âge, son sexe ou son adresse mail, mais aussi d’autres informations qu’elle donne malgré elle et dont peuvent se déduire d’autres informations plus confidentielles. La géolocalisation d’une personne peut par exemple apprendre énormément : habitudes de consommation par des allées et venues dans tel cinéma, restaurant ou magasin, mais aussi des données plus sensibles, comme la religion, l’état de santé, l’orientation sexuelle ou le niveau de vie qui sont déduits en fonction des lieux fréquentés. Ces informations seront ensuite classifiées par l’algorithme qui, par similarité, va créer un profil de l’utilisateur et va le catégoriser par rapport au profil d’autres utilisateurs. Par le croisement des données recueillies et les expériences tirées des précédentes analyses de l’algorithme, il en ressort une véritable création d’un individu artificiel, avec tous ses attributs, tout ce qui peut établir la singularité d’une personne. Ainsi l’algorithme génère-t-il de l’utilisateur l’image qu’il se fait de lui, la représentation de ce qu’il est sur la sphère numérique, jusqu’à créer une véritable « personnalité numérique ». Et cette représentation peut tant s’avérer criante de vérité que totalement biaisée. Ces deux écueils extrêmes peuvent générer des risques, essentiellement de failles de sécurité, de revente de données ou de discrimination, si l’utilisateur ne garde pas la main sur les données qu’il partage.

Comment garder la main sur sa personnalité numérique ?

La loi n° 78-17 « Informatique et libertés » (LIL) offre à la personne concernée tout un arsenal de protection regroupé dans le principe d’autodétermination informationnelle. Ce principe, prévu à l’article 1^er, alinéa 2, de la LIL, permet à toute personne de disposer « du droit de décider et de contrôler les usages qui sont faits des données à caractère personnel la concernant ». Concrètement, la personne concernée dispose d’un droit d’accès, qui consiste à obtenir du responsable du traitement des informations sur les données qui ont été collectées, les finalités du traitement, les destinataires ou catégorie de destinataires, la durée de conservation, l’existence d’autres droits incluant celui de saisir la CNIL, ainsi que, le cas échéant, la question de la collecte indirecte de données, ou celle de savoir si les données font l’objet d’un transfert international ou si la personne concernée fait l’objet d’une prise de décision automatisée (LIL, art. 39 ; RGPD, art. 15). La personne concernée dispose également d’un droit de rectification, d’effacement ou de limitation du traitement de ses données (LIL, art. 40 ; RGPD, art. 16 à 19). La personne concernée peut, enfin, s’opposer à ce que ses données fassent l’objet d’un traitement (LIL, art. 38 ; RGPD, art. 21).

En marge de ces mécanismes de protection légaux, il est également urgent de sensibiliser les consommateurs. Plusieurs réflexes peuvent d’ores et déjà être mis en œuvre, le premier étant de refuser dès que possible de communiquer ses données personnelles. Des solutions techniques sont également envisageables, telles que l’installation de logiciels (ex : le module d’extension « Privacy Badger » qui bloque les cookies) ou l’utilisation de plateformes soucieuses de la vie privée (ex : le navigateur « Qwant » qui s’engage à ne pas vendre les données personnelles des utilisateurs). La concentration de plusieurs services au sein d’un même opérateur est également risquée en ce que le croisement des données des différents services lui permet d’obtenir un profil détaillé de l’utilisateur. Une diversification des opérateurs limite dès lors la connaissance qu’ils pourraient avoir de votre vie privée.