L'IA pour éviter de réfléchir ?

L'intelligence artificielle, encore, toujours. Nombreuses sont les alertes au mirage de la solution magique. Mais les succès mis en avant dernièrement laissent dorénavant entrevoir un autre risque, plus sournois et peu abordé : derrière les discours convenus sur l'humain augmenté, elle devient un « formidable » moyen de ne plus réfléchir.

Je propose trois cas d'usage, tirés d'expériences vécues destinées à démontrer l'immense valeur de l'IA dans les entreprises, que j'ai découverts au hasard de mes lectures d'aujourd'hui (vous en trouverez des milliers d'autres) : l'automatisation des processus complexes, l'aide au ciblage de campagnes marketing, le conseil (financier) personnalisé. Outre leur popularité dans les implémentations ou, à tout le moins, les expérimentations actuelles, ils ont en commun de prétendre se positionner en assistance à un employé, afin d'accroître sa performance sans le remplacer.

Quelles que soient les intentions réelles des décideurs en la matière, les algorithmes déployés de la sorte viennent tout de même se substituer aux cerveaux d'un groupe de collaborateurs dans les tâches, supposément basiques et répétitives, qu'ils prennent en charge… en procurant une indéniable illusion d'efficacité… qui peut malheureusement s'avérer éphémère, voire contre-productive à moyen ou long terme.

Dans le premier scénario, on retrouve les mêmes limitations et dangers que j'ai régulièrement dénoncés ici concernant les robots d'automatisation des processus (RPA). Ainsi, en laissant un outil plus ou moins élaboré estomper les frictions existantes, les traitements sont accélérés et rendus plus fiables, pour un résultat positif immédiat. Mais celui-ci induit une paresse insidieuse car une fois l'optimisation de surface réalisée, personne ne cherchera plus à comprendre et à corriger les défauts profonds, désormais masqués. Les fondations de l'entreprise se fragiliseront alors avec le temps.

Avec le deuxième exemple, dans lequel l'IA contribue à sélectionner les individus les plus susceptibles de répondre à une sollicitation, on passe dans une autre dimension, celle de la perte de contrôle. En effet, un modèle mathématique est certainement capable, par comparaisons affinitaires, de déterminer les probabilités bien mieux que n'importe quel collaborateur. Mais les choix qu'il effectue n'ont aucun sens métier et, indépendamment de ses prouesses, il sera incapable, entre autres, d'en garantir l'alignement avec la stratégie globale. Il conduit à oublier qui est le client.

Dans la dernière situation, il est plutôt question d'enjeu. Grâce aux offres qui se développent rapidement aujourd'hui, la tentation est immense d'envisager la mise en place d'un agent intelligent prêt à distribuer ses conseils à ses utilisateurs, sans élaborer au préalable une approche cohérente commençant par l'assemblage d'une vraie connaissance des clients, un décryptage de leurs attentes et besoins, explicites et implicites, et la fixation des objectifs de la démarche (en particulier, s'ils se réduisent à augmenter les ventes, il n'est guère nécessaire d'engager un arsenal lourd).

Mon point n'est pas de dissuader les initiatives, y compris dans les domaines cités. Il s'agit d'attirer l'attention des porteurs de projets sur l'impact invisible de l'IA sur le fonctionnement des organisations. Derrière chaque mise en œuvre réussie, il faut absolument garder en mémoire qu'elle opère avec un « raisonnement » statistique, dans un contexte restreint, qui ignore totalement tous les à-côtés et autres sujets périphériques qu'un cerveau humain, et, encore plus, l'intelligence humaine collective, parviennent toujours à maintenir dans leur champ de considération.