Un test anti-discrimination pour l'IA

Avant d'investir massivement dans l'intelligence artificielle générative, les entreprises – et encore plus celles, particulièrement timorées, du secteur financier – veulent s'assurer qu'elles en maîtrisent les risques, dont ceux qu'induisent les biais sociaux. En collaboration avec IBM, BBVA investit donc dans la mise au point d'un protocole de test.

Pour être précis, les chercheurs du géant de l'informatique ont développé une première version en anglais (adaptée ensuite en japonais), tandis que ceux de la banque l'ont déclinée en espagnol, évidemment plus adaptée à ses propres besoins, en partant du constat que, l'essentiel des données ingurgitées par les modèles d'IA étant dans la langue de Shakespeare et les autres étant, à l'inverse, beaucoup moins représentées, ces dernières souffrent beaucoup plus de dérives problématiques.

L'approche retenue, qualifiée de « stress test » car elle se base sur une tentative de manipulation des résultats fournis par le système à évaluer, est finalement simple dans son principe. Elle consiste en une série de « prompts » (questions posées) contenant eux-mêmes une formulation stigmatisante (relative à un handicap, l'origine, le physique, la religion, une maladie…) destinée à orienter faussement la réponse (imposée entre oui, non et ne sait pas) et à vérifier si l'IA tombe dans le piège qui lui est ainsi tendu.

Via la combinaison d'une petite centaine de caractéristiques utilisées dans la vie courante pour dénigrer une catégorie de population (extraites de la littérature scientifique sur les discriminations) avec une quarantaine de situations hypothétiques dans lesquelles elles sont susceptibles de s'exprimer (négativement), ce sont plus de 10 000 interrogations prêtes à l'emploi qui sont générées au total, accompagnées de la réponse qui dénote effectivement un biais, afin d'automatiser l'analyse.

Le corpus de textes construit de la sorte, comprenant les « stigmates », les situations et l'assemblage final des deux est partagé en accès libre (ici pour son incarnation en espagnol). BBVA prend soin d'affirmer qu'il ne s'agit que d'une première itération qui nécessitera des améliorations, pour lesquelles elle fait justement appel à la communauté. Elle mentionne notamment de possibles ajouts de caractères discriminants, à partir de sources européennes. En outre, elle envisage, pour ses propres usages, des variantes dédiées spécifiquement au domaine bancaire.

Les expérimentations initiales menées avec le jeu de test ont tristement confirmé que les principaux modèles du commerce – GPT en tête, bien entendu – se révèlent très sensibles aux biais sociaux qui leur sont soumis et de manière encore plus prononcée dans une langue autre que l'anglais. Pour BBVA, il semble impératif de prendre conscience de ce phénomène et de l'éliminer avant de considérer un déploiement d'applications de l'intelligence artificielle générative. Malheureusement, aucune piste systématique n'est proposée pour l'instant pour corriger les errements observés.

KBC adopte la solution de Doconomy

En pleine saison des bonnes résolutions de nouvel an (si elles sont aussi populaires en Belgique), Doconomy annonce une nouvelle collaboration avec KBC, dont l'application bancaire intégrera le module d'assistance à l'épargne issu de son acquisition de Dreams Technology, désormais saupoudré d'incitations écologiques.

S'inscrivant dans une démarche globale de responsabilité sociétale et environnementale (RSE), l'institution financière propose donc à ses clients – en visant plus particulièrement les jeunes de moins de 25 ans – de mettre à profit les capacités de la jeune pousse d'origine suédoise afin de les accompagner dans la réalisation de leurs projets, petits et grands, autant que possible dans le respect des enjeux de développement durable.

Le fonctionnement de la nouvelle option est, dans ses grandes lignes, relativement classique : l'utilisateur décrit le ou les objectifs qu'il se fixe – avec descriptif, photo, échéance et montant total – puis il se voit prescrire différentes méthodes d'épargne en vue de les remplir. Outre le simple versement périodique, il peut choisir, entre autres, une variante « intelligente », qui détermine une somme optimale selon l'équilibre de son budget, ou encore la cagnotte surprise automatique, différente chaque semaine. Cette variété donne à chacun la faculté de trouver le système qui lui convient.

Le principe sous-jacent est connu et confirmé par les réactions des consommateurs. Le fait d'associer chaque euro mis de côté à une cible formelle constitue un encouragement à prolonger l'effort dans la durée mais également limite la tentation de dépenser la réserve avant le terme prévu. Les rêves les plus fréquents s'étalent du plus modeste – accumuler un fonds d'urgence pour d'éventuels mauvais jours – au plus ambitieux – acquérir un bien immobilier – en passant par l'achat d'une voiture.

Au-delà d'une mention explicite, la communication officielle ne fournit hélas aucune précision sur la manière dont les préoccupations environnementales – qui figuraient pourtant dans l'ADN initial de Doconomy – s'invitent dans l'équation. Ne s'agit-il que d'une assimilation superficielle – à base de contenus pédagogiques, peut-être – ou bien est-elle un peu plus profonde – par exemple sous la forme de suggestions d'ajustements sur les projets (voyage sans transport aérien, voiture plus « propre »…) ?

L'autre volet – sociétal – de la RSE est heureusement mieux pris en compte, avec un dispositif qui participe au bien-être financier des consommateurs, d'autant mieux que son insertion transparente au cœur de la banque mobile le rend plus accessible et plus facile à mettre en œuvre. Naturellement, il ne s'agit que d'une des dimensions du sujet (avec les dépenses du quotidien, l'endettement et la protection) mais, au milieu d'une industrie qui le néglige dans son ensemble, c'est un début prometteur pour KBC.

Les subtilités du bien-être financier par l'exemple

Le spécialiste de l'investissement en ligne Yomoni présentait il y a quelques semaines les résultats d'une enquête sur les comportements des français et, en particulier, les tensions qu'ils ressentent entre épargne et style de vie. Voilà une excellente occasion de souligner les paramètres individuels susceptibles d'affecter le bien-être financier.

Le principal enseignement de cette étude porte sur un sujet rarement mentionné quand il est question d'argent, alors qu'il paraît crucial pour la vie quotidienne des français (et autres terriens) : la pression sociale. Ils sont en effet plus de 7 sur 10 à avouer qu'ils dépensent au-dessus de leurs moyens (31% occasionnellement et 42% souvent) afin d'aligner leur niveau de vie sur celui de leurs proches. Et si une minorité l'accepte avec plaisir, ce sentiment d'obligation génère du stress chez 56% d'entre eux.

Le phénomène a (évidemment) de profondes conséquences sur la situation financière des intéressés, surtout quand, pour la moitié de ces derniers, il affecte plus de 10% de leur budget, voire plus de 30% ( dans 15% des cas) ! Le découvert bancaire constitue la première manifestation de la dérive, chez près de 9 personnes sur 10, jusqu'à devenir une règle permanente chez 21% des victimes de la contrainte d'image, qui sont dans le rouge tous les mois (un autre quart l'étant en moyenne une fois par trimestre).

Le paysage est presque aussi contrasté dans le registre de l'épargne. Ainsi, 16% des répondants déclarent ouvertement ne se préoccuper que de leur existence au jour le jour et 19% supplémentaires sont tentés d'adopter une telle attitude, les jeunes générations étant naturellement surreprésentées dans ces deux catégories. Et parmi ceux qui ne mettent rien de côté, presque 3 sur 10 en font un choix explicite, tandis que seulement 42% se disent limités par leur revenus (le reste n'y pense simplement pas).

Que nous apprennent donc ces grandes tendances ? D'abord que les individus expriment des états d'esprit très disparates vis-à-vis de l'argent, entre ceux qui se laissent influencer par leur cercle social et ceux qui s'en moquent, ceux qui s'inquiètent de trop dépenser et les insouciants, ceux qui pensent à préparer leur avenir et ceux qui vivent uniquement le moment présent… Face à une telle diversité, il est impossible de proposer un modèle d'accompagnement uniforme vers le bien-être financier.

Pour les uns, il faudra concocter un programme destiné à rassurer – sur la capacité à surmonter les difficultés, à anticiper les accidents de la vie, à réaliser les projets à moyen et long terme… Pour les autres, le défi consistera plutôt à faire prendre conscience des risques pris et de l'importance de penser à demain… Ce sont de la sorte, une multitude d'approches différentes qu'il est nécessaire d'envisager, de concevoir, de mettre en œuvre et de proposer à chacun selon son profil, une fois ceui-ci établi.

Au-delà de la vente de produits bancaires ou d'assurance et de la maîtrise des risques, par exemple de surendettement, l'enjeu est de fournir à chaque client, quels que soient son contexte et ses préférences, les moyens de profiter de la vie sereinement en exploitant au mieux les solutions financières disponibles afin de satisfaire ses besoins et ses envies, y compris ceux qui ne seraient pas immédiatement apparents. C'est un gage de confiance et de fidélité qui dépasse tout ce que le marketing peut inventer.

Le grand défi de 2025

Près d'un an et demi après la présentation du texte sur l'accès aux données financières (FiDA) concocté par la Commission Européenne, sa validation par le Conseil de l'UE au début du mois de décembre ouvre la voie à sa ratification prochaine au Parlement. Et le compte à rebours pour sa mise en œuvre effective sera alors déclenché.

Si l'annonce initiale avait suscité une large indifférence que je soulignais au tournant de 2024, le franchissement d'une étape supplémentaire dans le processus législatif a fini par réveiller les principales intéressées (par exemple le Crédit Mutuel), qui, sans surprise, se rebellent contre les nouvelles exigences susceptibles de peser sur leurs activités. Il paraît toutefois peu probable que cette vague de protestations pèsent sérieusement sur le vote final, auquel il va donc falloir se préparer sans tarder.

En effet, si la loi est adoptée dans les prochains mois et s'il devait se confirmer que son entrée en application interviendra dans les 18 mois – et même en intégrant quelques retards inévitables –, l'ampleur du chantier qu'elle représente imposera à la plupart des acteurs concernés de le lancer dans le courant de l'année. L'expérience précédente avec les données de paiement – dans le cadre de la DSP2 – peut en cela servir de référence, y compris en tenant compte des leçons apprises à cette occasion.

Pour se faire une idée de la complexité, il faudra, dans chaque ligne métier – dont celles qui n'ont aujourd'hui que peu de recul sur la mise en place d'interfaces publiques (API) sur leurs systèmes (dans l'assurance, par exemple) – identifier les données à partager, les mettre en forme afin de les aligner sur les spécifications réglementaires, déployer les moyens de leur ouverture sécurisée et leur administration, implémenter les mécanismes d'autorisation d'accès (qui restent toujours sous le contrôle du client)…

Réaliser un tel programme d'ici la fin 2026 (en prenant un peu de marge) sera impossible si les études ad hoc ne sont pas entamées rapidement, en particulier sur les possibilités et les modalités d'accès (en interne) aux sources d'information nécessaires, qui risquent de constituer le premier obstacle à surmonter dans un certain nombre de métiers (je pense entre autres à la gestion d'actifs). À défaut, les retardataires pourraient s'exposer à des sanctions… mais ce ne sera peut-être pas le plus grave.

Car, en filigrane, se profile la question des usages. La banque ouverte de première génération n'a certes guère tenu ses promesses de ce point de vue. Cependant, avec sa couverture étendue, exhaustive, et sa formalisation avancée (notamment sur les contrats d'interface), la finance ouverte qu'esquisse désormais FiDA pourrait créer de véritables opportunités de nouveaux produits et services, que les organisations les plus avancées seront en meilleure position de saisir. L'enjeu concurrentiel n'est pas négligeable !

Voilà pourquoi, entre pression réglementaire et catalyse de l'innovation, je pense que la FiDA devrait figurer au sommet des priorités du secteur financier européen en 2025.

JE VOUS SOUHAITE UNE EXCELLENTE ANNÉE 2025 !