Dans le secteur financier, la lutte contre la fraude fait partie des domaines les plus propices à l'exploitation de l'intelligence artificielle. Les applications ne semblent pourtant pas enregistrer des progrès fulgurants. CommBank figure ainsi parmi les premières à générer automatiquement des règles défensives contre les nouvelles attaques.
La première partie du dispositif est désormais classique et correspond au niveau de maturité général de l'industrie. Des modèles d'analyse repèrent parmi les millions de transactions et autres interactions des clients – notamment à travers les canaux « digitaux » – les événements suspects. Conçus initialement dans le but de stopper les tentatives de malversations avérées, ils deviennent progressivement capables d'identifier l'apparition de formes inédites de menaces, qu'il faut ensuite prendre en compte.
C'est justement sur ce dernier aspect que CommBank franchit une étape majeure. En effet, son agent ne se contente pas d'une posture passive, il est également en mesure de mettre au point en totale autonomie les éléments de configuration qui permettront à la banque de protéger ses systèmes contre ces offensives dès qu'elles sont détectées. Une réserve, toutefois : afin d'éviter toute perturbation que produirait une hallucination de l'IA, ces propositions sont inspectées par un humain avant d'être mises en œuvre.
Pas de surprise sur une telle étape de contrôle, elle reflète la méfiance caractéristique des institutions financières historiques vis-à-vis des algorithmes d'intelligence artificielle (et, auparavant, d'apprentissage automatique). Elle n'est probablement pas très gênante en termes de réactivité, surtout si l'agent sait aussi qualifier la criticité des alertes qu'il émet et donne ainsi des indications de priorité aux personnes en charge des validations. Elle crée néanmoins un goulet d'étranglement et une possible source d'erreur.
La démarche est sans conteste intéressante et pourrait inspirer les consœurs de CommBank. Mais elle mérite un parallèle avec celle de Stripe… en 2018. À l'époque, il était encore question de science des données et, déjà, le trublion des paiements avait mis en place un mécanisme de mise à jour autonome des règles anti-fraude au fur et à mesure de la détection d'attaques émergentes, avec vérification humaine a posteriori. Trois conclusions : les acteurs traditionnels ont 8 ans de retard sur l'état de l'art, ils se gargarisent de technologies de pointe alors que des outils classiques seraient potentiellement suffisants et, pour couronner le tout, ils ne leur font pas confiance…
Aucun commentaire:
Enregistrer un commentaire
Afin de lutter contre le spam, les commentaires ne sont ouverts qu'aux personnes identifiées et sont soumis à modération (je suis sincèrement désolé pour le désagrément causé…)