Ces acteurs qui décrédibilisent l'IA

À force de communication et de démonstrations, elles nous ont persuadés qu'elles étaient les stars de l'intelligence artificielle. Mais derrière le rideau, elles n'emploient que des algorithmes stupides destinés à développer leurs profits. Ces entreprises finiront par tuer la confiance des consommateurs… et leur propre poule aux œufs d'or.

Prenez le cas de LinkedIn, propriété de Microsoft depuis 2016, qui promet aux entreprises, jusque sur les ondes de la radio, de trouver leurs nouveaux clients et de les mettre en relation avec le candidat à l'embauche idéal. Pour ce faire, chaque utilisateur est invité à fournir tous les détails de sa vie professionnelle (mais néanmoins privée) et se voit ensuite bombarder de publicités ciblées, d'offres d'emploi personnalisées et autres contenus soigneusement sélectionnés en fonction de ses centres d'intérêt.

Voilà pour la théorie. En réalité, les annonces diffusées sont généralement partagées avec la population la plus large possible, sans aucune tentative d'adéquation au profil du visiteur (qu'aurais-je à faire d'une arnaque rédigée en néerlandais ?) et en réagissant à des événements basiques. Confirmez, par exemple, la fin d'une mission dans votre historique et vous croulez sous les propositions de postes plus farfelues les unes que les autres (quelqu'un oserait-il vraiment me recruter comme directeur commercial ?)…

Pire encore, les réponses de l'internaute aux suggestions incongrues sont totalement ignorées. Signalez votre désir de voir disparaître le message qui ne vous concerne en rien ou que vous avez vu trop fréquemment, demandez systématiquement la suppression des offres d'emploi, LinkedIn vous informe que vous ne les recevrez plus. Pourtant, vous revenez deux heures plus tard et les mêmes, exactement, sont de retour. Faut-il donc une intelligence extraordinaire pour ajuster le tir en fonction de telles interactions ?

Bien sûr, le réseau social professionnel n'est pas le seul coupable, loin s'en faut. Facebook, avec ses manipulations des fils d'actualité, donne une autre illustration des mécanismes à l'œuvre. Dans la plupart des cas, les règles appliquées sont triviales et ne visent qu'un seul objectif, de maximiser les recettes publicitaires. Et quand quelques modèles analytiques avancés sont déployés, ils opèrent exclusivement au bénéfice de la plate-forme, jamais des consommateurs et rarement, même, des annonceurs.

Vous me direz qu'il n'y a là rien de nouveau et que ce que je décris est le fondement commercial de ces nouveaux géants. Certes, mais il faudrait maintenant s'attarder sur les conséquences de ces dérives. Car les LinkedIn et consorts, utilisés au quotidien par des millions de personnes, constituent les vitrines implicites de la technologie et façonnent insensiblement la manière dont celle-ci est perçue par le grand public. La caricature des usages de l'intelligence artificielle qu'ils exposent devient alors la référence.

Une fois que l'association sera installée dans les consciences, il sera trop tard. Qui pourra convaincre le client d'une banque ou d'une compagnie d'assurances, d'un constructeur automobile ou d'une chaîne de restaurants… que les mêmes outils sont mis en œuvre par ceux-là dans le but de leur apporter un service optimal ou de composer le produit qui correspondra parfaitement à leur contexte et leurs préférences ? L'avenir de l'IA se joue autant sur le plan technique que sur son acceptabilité : il serait triste de le compromettre prématurément par la faute d'une poignée d'acteurs aux pratiques douteuses.