Dans sa série des leçons apprises sur le terrain qu'elle partage avec le reste du monde, Monzo relate sa récente expérience avec l'intelligence artificielle placée entre les mains de ses clients, dans le cadre d'un programme de test en conditions réelles implémenté par le régulateur britannique. Pragmatisme au menu, comme toujours !
Pour une jeune pousse comme pour une banque historique, l'IA et les incertitudes sur les résultats qu'elle produit constituent un défi inédit par rapport aux algorithmes traditionnels, plus prédictibles (si on laisse de côté les anomalies de programmation). Plus encore que dans tout autre secteur économique, il est impossible de distribuer des services susceptibles d'induire leurs utilisateurs en erreur, autant pour préserver leur confiance que dans le but d'éviter des sanctions réglementaires impitoyables.
C'est pourquoi Monzo a choisi de participer à l'initiative de la FCA, qui consistait à expérimenter, avec des entreprises possédant déjà une certaine maturité avec l'intelligence artificielle, une application opérationnelle dans un environnement contrôlé, c'est-à-dire avec, entre autres, le support des équipes de l'autorité publique pour l'évaluation en temps réel des risques et la définition de bonnes pratiques permettant d'atteindre les objectifs visés, notamment en termes d'expérience client.
Le cas de mise en œuvre retenu pour cet exercice porte sur une classique fonction d'assistance à l'épargne : le client spécifie un projet – réserve de secours, voyage, objet à acquérir… – et l'outil l'aide ensuite à mettre de l'argent de côté afin de le réaliser, avec une faculté de réajustements intermédiaires. Le cadre est volontairement circonscrit à un périmètre réduit et il s'agit du premier enseignement à tirer de la démarche : seule une cible précise et resserrée autorise une maîtrise complète.
Une fois l'objectif clairement établi, il devient en effet facile de formaliser ce qui déterminera le succès et, à l'inverse, ce qui pourrait mal tourner. Sur cette base, il reste alors à identifier, en accord avec les obligations à respecter, les preuves de justesse et de pertinence requises ainsi que les moyens à déployer pour gérer les incertitudes et vérifier la compréhension par l'utilisateur de ce qui lui est proposé. Ce dernier point est particulièrement critique car le danger de l'IA ne se résume pas à ses hallucinations. Son excès d'assurance, ses hypothèses implicites… sont tout aussi néfastes.
Enfin, Monzo rappelle que chaque application est à considérer comme un ensemble évolutif. Au fil des changements de technologie, de données, de comportement des clients…, il faudra veiller en permanence à sa stabilité. Cela implique d'assigner des responsabilités explicites sur le long terme, ainsi que d'anticiper au plus tôt les règles de pilotage des modifications et de prise en charge des alertes. Là encore, l'approche privilégiée sera celle qui s'appuie non sur des contraintes techniques qui ne résistent pas à l'usure du temps mais sur quelques principes et sur les résultats attendus.



















