Un modèle d'IA contre les abus domestiques

Engagée depuis plusieurs années dans la lutte contre les violences domestiques, qui passent fréquemment par les finances personnelles, l'australienne CommBank veut désormais partager son savoir-faire et publie donc sous licence libre un de ses outils phares, qui permet de détecter les abus commis à travers les libellés de virement.

Il faut dire que le dispositif a bien évolué par rapport à sa première incarnation qui a, depuis sa mise en place en 2020, filtré près d'un million de tentatives de transfert dont le message d'accompagnement comporte un vocabulaire injurieux ou menaçant. En 2021, l'établissement lui a adjoint un algorithme à base d'intelligence artificielle autorisant l'identification de pratiques plus insidieuses, utilisées notamment après blocage par le système précédent, dont quelques 1 500 instances sont interceptées chaque année.

Combinant apprentissage automatique, traitement du langage naturel et grand modèle linguistique, ce composant, baptisé AITD, analyse non seulement le texte mais également le contexte des transactions, en particulier le montant (généralement faible pour les agressions répétées) et, surtout, l'historique de la relation entre l'émetteur et le destinataire (via leurs échanges d'argent). En outre, la qualification triviale des mots employés est complétée par l'évaluation du ton avec lequel ils sont exprimés.

Sont ainsi pris en considération l'émotion dégagée – colère, peur, amour, tristesse, surprise, joie – et le sentiment général véhiculé – positif, négatif ou neutre. Les résultats sont produits sous la forme d'un score de toxicité et, dans l'implémentation de CommBank, sont transmis à un opérateur humain pour confirmation et action (qui peut aller jusqu'à un signalement à la police) quand ils reflètent une situation à risque.

L'ensemble de ces capacités sont maintenant disponibles publiquement (sur GitHub), grâce à une collaboration avec H2O.ai, une jeune entreprise qui se consacre à la démocratisation des usages responsables de l'intelligence artificielle. Les banques intéressées pourront exploiter directement les modèles pré-entraînés, dans une version focalisée sur les abus ponctuels (sur un mois) ou prolongés (évalués sur trois mois de relevés), ou bien s'approprier les sources et les adapter en fonction de leurs besoins propres (ce qui sera probablement nécessaire hors des pays anglophones).

Après l'exemple récent d'Arkéa et quelques autres similaires, il est extrêmement intéressant de constater l'émergence d'une tendance des institutions financières à partager leurs projets d'IA non stratégiques avec leurs paires, voire au-delà. Ces initiatives devraient être bienvenues dans la période actuelle de pénurie de talents… mais je me demande toutefois si elles sont réellement mises à profit par leur audience cible, vue l'habituelle méfiance des banques vis-à-vis de ce qu'elles ont pas créé elles-mêmes…