Fer de lance d'une économie basée sur les données et les algorithmes, il n'est guère surprenant qu'Uber se trouve en pointe des critiques et des polémiques, y compris parmi les chauffeurs qui comptent sur elle pour leur subsistance. La plainte déposée hier à Amsterdam contre sa filiale européenne (son siège étant aux Pays-Bas) pourrait aussi affiner les nouvelles frontières légales de l'ère « digitale ».
Bien qu'elle semble focalisée sur les problématiques spécifiques des contractuels opérant la flotte du géant des VTC, notamment en matière de subordination dans la relation de travail, l'action engagée révèle clairement les difficultés qui guettent toutes les entreprises élaborant des stratégies extensives d'automatisation, notamment grâce à l'intelligence artificielle. Car elle émane principalement de l'opacité des traitements mis en œuvre et du soupçon de biais et de discriminations qu'elle engendre inévitablement.
En l'occurrence, les conducteurs britanniques à l'origine de la procédure, avec les associations professionnelles qui les soutiennent, se disent convaincus que la plate-forme établit et gère un profil comportemental individuel pour chacun d'eux, sur la base, entre autres, du respect des délais annoncés, des annulations de trajets, de l'attitude vis-à-vis des voyageurs… Celui-ci serait exploité, à l'insu des principaux intéressés, pour déterminer l'affectation des courses commandées par les clients.
En conséquence, la demande formulée à l'encontre d'Uber est une injonction de respecter les dispositions du Règlement Général sur la Protection des Données (RGPD), dont, en premier lieu, celles qui imposent un droit d'accès et de portabilité de tout citoyen européen sur les informations personnelles qui le concernent. Mais, derrière cette requête relativement conventionnelle, les plaignants introduisent une deuxième exigence, aux implications potentiellement considérables, bien au-delà du cas d'espèce.
En effet, l'objectif visé serait d'obtenir de l'opérateur, non seulement les caractéristiques des profils assignés au chauffeur, mais également les données brutes dont elles dérivent… ainsi que les logiques de traitement qui leurs sont appliquées. C'est, apparemment, un article de la loi encore non éprouvé auprès d'une cour qui pourrait justifier une telle revendication, à savoir l'article 22, qui instaure une série de restrictions sur les processus de décisions « critiques » pilotés exclusivement par logiciel.
De nombreuses incertitudes planent sur les contours du texte, autant sur les conditions dans lesquelles il est opposable – la qualification des opérations considérées, entre impact significatif pour la personne et nécessité impérative pour le fonctionnement du service proposé – que sur la manière de le prendre en compte dans la pratique – de l'option de refus, avec ou sans solution de repli « humaine », jusqu'à la possibilité de recevoir une explication des résultats produits, voire de les contester.
L'interprétation qu'offrira la justice risque de se faire attendre, mais l'affaire sera certainement suivie de près par tous les acteurs qui rêvent d'intelligence artificielle dans leur activité, notamment dans les interactions avec la clientèle. Rappelons tout de même, dès aujourd'hui, à ceux qui restent persuadés que le profilage des personnes et la prise de décision automatisée sont prohibés par le RGPD qu'il n'en est rien et que ce qui est reproché à Uber n'est que son non respect (présumé) des contraintes associées.
Aucun commentaire:
Enregistrer un commentaire
Afin de lutter contre le spam, les commentaires ne sont ouverts qu'aux personnes identifiées et sont soumis à modération (je suis sincèrement désolé pour le désagrément causé…)