Après (et en complément de) leurs tentatives d'interdiction aux agents IA d'accéder aux comptes de leurs clients, les institutions financières, à commencer par Wells Fargo aux États-Unis, veulent se décharger de toute responsabilité en cas d'action indésirable. Quitte à se voiler la face quant à la faisabilité des solutions qu'elles préconisent.
Les banques qui croyaient naïvement pouvoir interdire l'entrée de leurs systèmes aux plates-formes d'intelligence artificielle sont peut-être en train de prendre conscience de l'impossibilité de mettre en place des barrières efficaces, telle que je l'évoquais dans mon précédent billet sur ce thème. En conséquence, elles enrichissent également les conditions d'utilisation de leurs services en ligne afin d'établir explicitement la responsabilité du client sur toute opération exécutée par un robot qu'il aurait mandaté.
Cependant, les risques (perçus) s'avèrent tellement élevés qu'une enseigne de premier plan telle que Wells Fargo cède à la surenchère… et elle sera probablement imitée par d'autres. Elle stipule en effet que les personnes qui déposeraient une réclamation pour une erreur commise par un agent IA égaré devraient prouver qu'elles ont débranché les accès de ce dernier à leur espace privé pour être recevable. L'objectif vise clairement à marquer la bascule vers une présomption d'imprudence (coupable) du client.
Et qu'importe si, une fois encore, l'industrie se berce d'illusions. Car comment un individu pourra-t-il justifier d'avoir retiré à son outil préféré l'autorisation de se connecter à sa banque ? Il n'existe aucun mécanisme formalisé pour ce genre de démarche. En outre, puisqu'il est question des activités de robots en pleine dérive, comment ignorer l'hypothèse qu'il s'affranchissent des consignes qui leur ont été transmises et comment alors fournir des éléments probants sur d'éventuels comportements erratiques ?
Face à un danger indéniable, la seule réaction dont semblent capables la plupart des institutions financières tient de la fuite en avant dans la répression, sans se préoccuper des impacts de leurs décisions sur la confiance de leurs clients et, surtout, sur leur ressenti par rapport à ce qu'ils considèrent comme leur droit légitime d'interagir avec leur argent comme bon leur semble, sans être pris en otage par des menaces (qui plus est sans fondement et que les américains n'hésiteront pas à porter devant la justice).
Au risque de me répéter, je suggère plutôt ou, à tout le moins, en parallèle de mesures de protection temporaires, de prendre en compte les attentes des usagers et d'admettre que leur recours à l'intelligence artificielle pour leurs gestes du quotidien est une tendance inéluctable. Il est vain de lutter contre un phénomène massif et il faut, au contraire, explorer au plus vite les moyens de l'accompagner dans les meilleures conditions, en termes d'expérience utilisateur et de sécurité, notamment.
Aucun commentaire:
Enregistrer un commentaire
Afin de lutter contre le spam, les commentaires ne sont ouverts qu'aux personnes identifiées et sont soumis à modération (je suis sincèrement désolé pour le désagrément causé…)