L'IA générative suscite une confiance excessive

Quelques règles (de bon sens) viennent à peine d'être mises en place (en France) afin de réguler les pseudo-recommandations financières d'« influenceurs » sans scrupules que la prochaine menace pour le porte-monnaie des consommateurs prend corps, dans le sillage de ChatGPT, via les plate-formes d'intelligence artificielle générative.

C'est une vaste enquête du Capgemini Research Institute auprès de 10 000 adultes résidant dans 13 pays (en Amérique, en Asie, en Australie et en Europe) qui justifie l'alerte, bien que ce ne soit pas a priori son but. Entre l'engouement massif pour ces outils aux facultés apparemment magiques, stimulé sans relâche par un battage médiatique incontrôlable, et l'ignorance (ou la minimisation) des risques associés, les internautes semblent en effet prêts à s'exposer, avec leurs données personnelles, comme jamais.

Sur le plan de la notoriété d'abord. Alors que, jusqu'à l'automne dernier, le concept d'IA générative était globalement inconnu du grand public, plus de 85% des individus interrogés sont aujourd'hui au fait de l'existence de ses applications phares et plus de la moitié ont déjà expérimenté ChatGPT ou un de ses équivalents. Plus étonnant, à revers des modèles habituels d'adoption des technologies, toutes les générations sont concernées, les jeunes étant même légèrement moins séduits que leurs aînés.

Certes, leurs usages paraissent, pour l'instant, relativement anodins : interactions avec des agents virtuels (dans les centres de support à la clientèle), jeux, recherche en ligne, résumés de textes, production de vidéos et d'images de synthèse… Mais la satisfaction élevée qu'ils expriment dans ces différents domaines les encourage à accorder une forte confiance aux robots qu'ils rencontrent et aux informations qu'ils leur dispensent, et ce, encore une fois, à l'identique au travers de toutes les catégories de populations.

On commence à percevoir le danger lorsqu'on apprend que, par exemple, près de trois répondants sur quatre (parmi ceux qui ont entendu parler du sujet) donnent crédit aux textes rédigés par l'IA générative, deux sur trois estiment qu'ils bénéficieraient des conseils médicaux qu'elle pourrait leur prodiguer et plus d'un sur deux serait prêt à suivre ses recommandations en matière de planification financière… sans se préoccuper des détournements qui peuvent en être faits (création de faux contenus, utilisation pour des cyberattaques…) ni des « hallucinations » parfois observées dans les réponses.

Au-delà de ces aléas directs, il faut également souligner l'impact sur les institutions financières de l'appétence disproportionnée de leurs clients pour l'IA, alors qu'elles-mêmes avancent sur ce terrain avec une prudence extrême (qui ne peut leur être totalement reprochée) : faute d'obtenir un accompagnement personnalisé digne de ce nom, ils vont se précipiter d'autant plus facilement vers les solutions qui leur promettront une assistance opérationnelle de tous les instants (qu'elle soit optimale ou non).

À court terme, les consommateurs, émoustillés, vont donc (re-)découvrir la valeur d'un conseiller (virtuel, en l'occurrence) pour mieux gérer leurs finances personnelles, bien que celui-ci ne soit peut-être pas toujours parfait. À plus long terme, à moins d'un brutal retour de balancier, des plates-formes spécialisées se positionneront sur ce créneau, porteur par nature. Au bout du compte, les acteurs traditionnels qui n'auront toujours pas progressé dans cette direction perdront une partie de leur crédibilité et de leur activité.