Quand l'IA déraille, les commerçants payent

Pour les marchands, surtout en ligne, la fraude « classique » ne constitue pas le principal poste de coûts post-vente. Les demandes de remboursement non justifiées des clients occupent généralement cette place. Et l'arrivée de l'intelligence artificielle agentique chez les internautes commence à en introduire une nouvelle forme insidieuse.

C'est Chargebacks911, spécialiste américain (et présent en Europe) de la maîtrise de ce que les spécialistes appellent la fraude amicale, qui sonne l'alarme, par la voix de sa fondatrice et directrice générale. Avec la popularité croissante des agents autonomes, il n'est plus question de déclaration tardive d'une carte volée ou d'erreur commise par le vendeur, cas classiques de contestation (légitime ou non), mais de rétractation de la responsabilité : ce n'est pas moi qui ai passé cette commande, c'est mon IA !

Ces réactions sont inévitables car, même quand l'outil croit répondre à la demande de son utilisateur, ce dernier ne découvrira que trop tard qu'il n'a pas spécifié toutes les conditions implicites qu'il applique quand il est lui-même à la manœuvre. Et il se retrouve avec un vêtement moins cher que celui souhaité mais d'une marque qui ne lui plaît pas, un voyage adapté à son calendrier mais hors de ses habitudes de confort, un renouvellement d'abonnement non désiré… qu'il va évidemment vouloir contester.

Parce que les solutions du genre se propagent rapidement parmi les consommateurs, certes plates-formes d'e-commerce appliquent apparemment dès à présent des prix spécifiques sur les transactions pilotées par l'intelligence artificielle, en raison du risque accru de retours susceptible d'être engendré par des achats inconscients et inopportuns – du point de vue de l'humain qui règle la facture – de plus en plus nombreux.

En arrière-plan, se dessine une remise en cause fondamentale du principe élémentaire de la vente en ligne, qui veut que le clic sur le bouton de validation du règlement vaut accord définitif du client. Demain, il faudra introduire des étapes de vérification supplémentaires afin d'éviter des flux massifs de réclamations sur des opérations réalisées à l'insu du porteur de l'instrument de paiement utilisé et qui seront découvertes tardivement, par exemple à la consultation d'un relevé mensuel de carte de crédit.

En pratique, il faudra à la fois mettre en place, a minima, des notifications multiples des actions exécutées par les agents de manière à limiter le danger qu'elles passent inaperçues – des demandes de confirmation seront préférables mais nuisent à l'automatisation promise – et des mécanismes de notarisation des preuves du respect des intentions de la personne (sa requête, les limites qu'elle a fixées, ses exigences d'information…), par son agent IA, puis par le marchand (qui peut aussi utiliser l'IA !). La mise au point de tels dispositifs, standardisés, devient maintenant urgente…