Au jeu avec la vie privée, tout le monde perd

À l'occasion d'une récente mésaventure avec son assistant vocal Siri, Apple a appris à ses dépens que, quelles que soient sa bonne volonté et les mesures qu'elles prend afin de conquérir et maintenir la confiance de ses clients, celle-ci est inéluctablement érodée par les pratiques moins vertueuses de la majorité des acteurs du marché.

L'histoire commence en 2019 par une petite erreur qui prend rapidement des dimensions incontrôlées : une fuite révèle que des extraits de conversations avec Siri – parfois intimes et sans que leurs auteurs aient conscience d'être écoutés et encore moins d'être enregistrés – sont transmis à des opérateurs humains afin de contrôler la qualité de fonctionnement des algorithmes de reconnaissance vocale. Les victimes estiment d'abord ne pas avoir été clairement informées de cette possibilité.

D'une certaine manière, Apple ne conteste pas cette appréciation puisque le programme de surveillance est suspendu peu après et l'entreprise promet d'instaurer des mécanismes plus transparents (effectivement mis en place depuis) permettant à l'utilisateur d'accepter explicitement et de manière proactive la transmission de ses échanges avec l'agent virtuel à des fins exclusives d'amélioration du service. Mais une fois l'emballement déclenché, un tel discours de réassurance ne pouvait pas suffire.

Un groupe de consommateurs a ainsi déposé une plainte arguant que le contenu de leurs conversations était exploité dans le but de leur soumettre des publicités ciblées. Apple a résolument réfuté ces affirmations et rien n'autorise à penser qu'il s'agisse d'un mensonge de sa part… mais elle a tout de même mis un terme aux poursuites engagées, sans reconnaître la moindre culpabilité, moyennant une compensation de 95 millions de dollars, destinée uniquement à éteindre la polémique.

En réponse à ces derniers rebondissements, la marque à la pomme vient de publier un communiqué détaillant tous ses efforts en matière de protection de la vie privée et de la confidentialité des données que ses outils sont amenés à manipuler. Sans être totalement irréprochable, son historique en la matière est plus que satisfaisant et son usage comme argument marketing est légitime. Mais, comme le souligne un article de ComputerWorld, dans le monde contemporain, un rien fait basculer l'opinion.

Parce que nous sommes tous aujourd'hui habitués au web et aux AppStores infestés de services et d'applications qui abusent sans vergogne de nos données personnelles – phénomène qui empire avec le développement de l'intelligence artificielle – et parce que le moindre soupçon est instantanément amplifié et transformé en fait irréfutable, le plus petit écart peut se transformer en scandale international et mettre à bas des années de travail voués à établir une relation de confiance au long cours.

Si j'aborde ce sujet ici, c'est en raison, naturellement, de l'écho qu'il rencontre dans les institutions financières. Entre les informations extrêmement sensibles qu'elles détiennent, leurs velléités récurrentes de mettre à profit celles-ci dans de nouvelles lignes d'activité et la valeur critique pour leur survie de la confiance de leurs clients, elles sont extraordinairement exposées à ce même risque d'être accusées à tort d'abus. Il doit donc être soigneusement considéré dans chaque initiative (notamment avec l'IA) et il faut sans cesse rassurer, preuves à l'appui, afin de le réduire. Espérons toutefois que les craintes qu'il est susceptible de susciter ne handicapent pas trop l'innovation.