Une erreur à 900 millions de dollars

La récente mésaventure de l'américaine Citi, embarquée dans une série d'actions légales embarrassantes afin de recouvrer un pactole de 900 millions de dollars transférés par erreur, fournit un nouvel exemple des dangers auxquels s'exposent les institutions financières qui persistent à maintenir en activité des systèmes informatiques obsolètes.

Pour mémoire, l'affaire concerne une entité du groupe bancaire dédiée à la gestion administrative du cycle de vie de crédits pour le compte de ses clients, au sein de laquelle un ajustement sur un emprunt du géant des cosmétiques Revlon, à la suite d'un rachat partiel, s'est transformé par mégarde en un remboursement total aux prêteurs. Le cas est particulièrement intéressant parce que, en dépit de son origine indiscutablement humaine, la bourde n'en révèle pas moins une faiblesse majeure au niveau logiciel.

Si la faute est effectivement due à une mauvaise saisie au sein de l'application idoine et à la défaillance des opérateurs en charge des contrôles, probablement renforcées par l'instauration d'une politique de travail à domicile (en raison de la pandémie) et, peut-être, par la période des congés d'été, les observateurs ne manquent pas de souligner que l'outil exploité par la banque est un vieux machin, conçu et développé en partie en interne au début des années 90 (et cédé quelques années plus tard à Oracle).

Personne n'insinue pourtant que la plate-forme en question comportait la moindre anomalie technique. Son seul tort est, fondamentalement, son ancienneté. Datant d'une époque à laquelle les usages étaient encore émergents, elle adopte vraisemblablement une ergonomie dépassée, elle laisse de côté des fonctions (de vérification, notamment) qui sont aujourd'hui considérées implicites et elle repose sur des interventions manuelles partout où l'expertise d'un collaborateur paraissait historiquement incontournable.

Trente ans après, les spécialistes d'avant l'automatisation ont quitté l'entreprise, leurs remplaçants ont été formés plus ou moins mécaniquement, sans nécessairement s'assurer qu'ils comprenaient combien leur rôle était critique, les interfaces homme-machine graphiques, interactives et réactives, intuitives, se sont démocratisées, créant des habitudes et des réflexes universels… et les reliquats du passé subsistant dans les systèmes d'information sont devenus autant de catastrophes en puissance.

Dans une certaine mesure, Citi a joué de malchance, puisque le successeur du composant incriminé est en cours de déploiement (hélas retardé du fait des contraintes engendrées par la crise actuelle). Mais il reste des milliers d'applications totalement dépassées – techniquement, fonctionnellement, humainement… – dans le patrimoine des banques et des compagnies d'assurance du monde entier, et l'importance de renforcer leur surveillance et de préparer leur abandon ne doit jamais être sous-estimée.

Visa couvre les indisponibilités des banques

Dans le monde moderne, le moindre incident affectant les moyens de paiement électroniques entraîne des conséquences majeures, sur l'activité des commerçants, sur les résultats des intermédiaires financiers et sur la satisfaction des consommateurs. Pour cette raison, Visa introduit une nouvelle solution afin de limiter ces impacts.

Avec la crise sanitaire, les paiements par carte ont connu ces derniers mois une croissance sans précédent, qui les rend de plus en plus critiques pour le fonctionnement des économies développées. Or il n'est hélas pas rare que les systèmes informatiques des émetteurs, qui portent la responsabilité de valider les opérations transitant par les réseaux spécialisés (Visa et Mastercard, notamment), subissent des pannes et laissent leurs clients sans accès à leur argent pendant des périodes plus ou moins longues.

En effet, lorsque la confirmation d'une transaction n'est pas reçue dans un délai raisonnable, elle est généralement déclinée, la seule exception étant la mise en œuvre de quelques règles génériques prédéfinies (par exemple pour de très faibles montants). Afin d'éviter ce genre de désagrément, Visa proposera donc à partir du mois d'octobre un dispositif beaucoup plus puissant, individualisé, quasiment capable de se substituer aux outils de contrôles des émetteurs lorsque ceux-ci sont défaillants.

Grâce à son moteur d'intelligence artificielle, à base d'apprentissage profond, ce « Smarter STIP » analyse l'historique des dépenses des porteurs et détermine de la sorte, pour chacun d'eux, le profil de décision qui lui est appliqué habituellement par son fournisseur. Le modèle résultant, que Visa estime conforme à l'original avec une précision moyenne de 95% et qui est, en outre, constamment ajusté au fil du temps et des règlements effectués, peut alors servir de secours dans les cas d'indisponibilité.

Dans une certaine mesure, la nouvelle option n'est qu'une évolution, ou une déclinaison, des mécanismes de lutte contre la fraude mis au point depuis plusieurs années : il ne s'agit, après tout, que de caractériser des comportements « normaux » des consommateurs et de filtrer les transactions enregistrées sur leurs cartes selon leur alignement avec ces références. L'objectif final aussi est en grande partie identique, puisque la priorité est toujours d'offrir un service fiable et sécurisé, sans frictions.

La création de « Smarter STIP » est d'abord un révélateur éloquent des exigences de résilience qui pèsent désormais sur les paiements électroniques. Mais, en arrière-plan, elle expose également les faiblesses structurelles des plates-formes des institutions financières : ce n'est que parce que leurs indisponibilités deviennent relativement fréquentes que le besoin d'un palliatif se fait ressentir, créant une opportunité pour Visa. Cependant, là encore, le problème de fond devra rapidement être traité à la racine.

Modernisation au rabais pour Nationwide

Dans la plupart des institutions financières, la pression que fait peser la croissance exponentielle des usages « digitaux » de leurs clients sur leurs systèmes d'information, historiquement conçus pour une utilisation réservée à leurs collaborateurs, atteint des limites dangereuses. Mais elles se résolvent encore rarement à la seule réponse viable.

Prenons l'exemple de la britannique Nationwide, qui révèle aujourd'hui l'introduction au sein de ses plates-formes informatiques d'un nouveau composant, opportunément baptisé « Speed Layer », dont la vocation serait d'améliorer la vitesse, la résilience et la sécurité des opérations en ligne. Or, même si, au premier abord, sa conception moderne et son déploiement sur le cloud lui permettent peut-être de remplir ces objectifs, ce ne sera qu'au prix d'une fragilisation supplémentaire de l'ensemble de son architecture.

Pour le comprendre, il faut expliquer que le dispositif en question est un « cache », à savoir, en le résumant simplement, un mécanisme (classique) par lequel une copie des données les plus utilisées d'une application est maintenue sur une infrastructure spécifique, offrant de meilleures performances d'accès que la source d'origine. Dans le cas de Nationwide, la première implémentation, sur l'étape de connexion aux services en ligne, enregistre ainsi un gain de 500% tout en supportant plus de sollicitations.

Durant toute ma carrière dans les DSI (oui, c'est une partie de mon parcours), j'ai toujours abordé avec les plus grandes précautions cette technique, qui, structurellement (par son principe de réplication), induit des risques de perte de synchronisation ou de cohérence potentiellement difficiles à maîtriser. Cependant, avec un peu de rigueur et la mise en place de quelques garde-fous (au prix d'une partie des gains espérés), il paraît raisonnable de profiter de ses avantages quand les circonstance s'y prêtent.

En revanche, quand une entreprise en fait un élément critique de sa stratégie IT, Nationwide ayant l'intention de l'étendre à la majorité des fonctions présentes dans ses applications web et mobiles, il y a matière à s'inquiéter, autant en raison de la propagation de ses possibles faiblesses que de l'augmentation mécanique de sa complexité, au fur et à mesure de sa déclinaison dans une multitude de contextes différents. Pourtant, là n'est probablement pas le plus grand danger de la « Speed Layer » pour la banque.

En effet, la faiblesse la plus sérieuse de l'initiative est l'addition d'une couche supplémentaire dans un édifice qui en comporte déjà beaucoup (trop). C'est un peu comme si vous aviez ajouté deux étages à un immeuble existant et que, le jour où vous réalisez que les fondations ne sont plus suffisantes, vous décidiez de le consolider en installant des étais sous les niveaux supplémentaires. Dans l'immédiat, le bâtiment semblera rigidifié et plus robuste… mais le vrai problème n'aura pas été traité.

Quelles que soient ses qualités, la « Speed Layer » amène automatiquement deux nouvelles zones de défaillance (le « cache » proprement dit et son circuit d'alimentation), avec leur quota de bogues (et leur incidence plus ou moins grave), mais aussi leurs inévitables trous de sécurité, dont ne manqueront pas de profiter les cybercriminels. L'ampleur du projet – ayant mobilisé une équipe entière, soutenue par un partenaire, pendant 18 mois – ne laisse aucun doute sur la probabilité de tels scénarios.

Face à l'évolution radicale des modèles de relation bancaire, la seule solution sensée consisterait à remettre à plat les systèmes qui en assurent le fonctionnement. Nationwide préfère opter pour la fuite en avant, investissant (lourdement) dans une approche qui continue à complexifier toujours plus son architecture informatique, interdisant sa compréhension globale (donc son contrôle), multipliant les dépendances inextricables, limitant sa flexibilité d'ensemble…, en résumé, hypothéquant gravement son avenir.

Crédit immobilier et habitat durable

Confrontées à la prise de conscience des enjeux environnementaux par le grand public, les entreprises s'emparent du sujet et développent de grands discours sur leurs engagements. Hélas, derrière les belles paroles, les actions concrètes restent rares. Parmi celles-ci, la nouvelle initiative d'ABN AMRO attire donc nécessairement l'attention.

L'habitation étant un des domaines de la vie quotidienne dans lesquels l'évolution des pratiques (notamment énergétiques) est potentiellement la plus porteuse d'impacts positifs pour la planète, tout en constituant, à travers le financement de son acquisition, un des grands moments de la relation entre la banque et son client, c'est assez naturellement qu'elle figure au centre du dispositif que vient de mettre en place la néerlandaise, à destination, précisément, des personnes qui la sollicitent pour un prêt hypothécaire.

Conçu en collaboration avec la startup (locale) spécialisée HomeQgo, le programme en question consiste à intégrer au parcours de recherche et de contractualisation de l'emprunt un plan de recommandations opérationnelles en vue de découvrir et implémenter, pas à pas, toutes les solutions permettant d'inscrire le logement dans une démarche de développement durable : isolation, système de chauffage, chauffe-eau et panneaux solaires… ainsi que les aides et autres avantages fiscaux disponibles.

Il faut signaler ici qu'ABN AMRO ne se contente pas de proposer à ses clients un accès à la plate-forme en ligne de son partenaire. La souscription d'un crédit immobilier restant une des rares transactions que, en raison de son importance, les consommateurs préfèrent négocier et conclure en face à face – ou, du moins, en période de pandémie, en interaction – avec un humain, ce sont les conseillers dédiés qui ont été formés afin de réaliser cet accompagnement vers l'amélioration de l'efficacité énergétique.

L'éveil des citoyens aux défis du changement climatique stimule leur adoption de gestes écologiques… mais il s'avère généralement difficile d'être guidé parmi les innombrables possibilités qui se présentent. Dans cette perspective, l'approche d'ABN AMRO est bienvenue et finalement plutôt cohérente avec son rôle de conseil lors de l'achat immobilier (et sur le financement des travaux et équipements), même si la banque n'est pas le premier interlocuteur auquel on penserait s'adresser sur ces thématiques.

Je préfère ce modèle, contextuel et pragmatique, résolument axé sur l'action directe, à la tendance qui semble se répandre progressivement de fournir dans les relevés de comptes une estimation des émissions de gaz à effet de serre correspondant aux dépenses enregistrées. Comme avec la gestion de finances personnelles (PFM), ces outils adoptent une orientation trop passive pour réellement inciter à un changement de comportement, y compris quand ils embarquent (comme celui de BNP Paribas) un module de recommandations, alors trop générique et mal ancré dans la situation de l'utilisateur.

L'imagerie satellite au service du crédit

Déjà régulièrement utilisée par quelques compagnies d'assurance, pour l'évaluation des risques à couvrir ou pour estimer les indemnisations, l'imagerie satellite commence maintenant à intéresser les banques. Ainsi, pour l'indienne ICICI, elle permettra dorénavant de faciliter, accélérer et optimiser l'accès des agriculteurs aux financements.

Jusqu'à présent, les lignes de crédit accordées à cette population exigeaient une vérification des exploitations, sur place, afin de déterminer au mieux le niveau de revenus du demandeur et, donc, sa capacité de remboursement. Historiquement, cette contrainte de visite d'un expert engendrait des délais (deux semaines en moyenne) dans l'obtention d'une réponse. Naturellement, la situation a encore empiré ces derniers mois avec la pandémie et les restrictions qu'elle impose sur les déplacements.

La solution mise en œuvre en collaboration avec un groupe de jeunes pousses spécialisées dans les technologies spatiales, météorologiques, de traitement de l'information… consiste à remplacer cette étape de contrôle humain par une analyse profonde de photographies issues de satellites. Plus de 40 paramètres différents, calculés à l'échelle du district, du village et de la propriété individuelle, sont pris en compte afin de mesurer précisément le profil de revenus (passé et futur) du fermier.

À partir des sources satellitaires, les algorithmes extraient des données telles que la pluviométrie et les températures moyennes, l'hygrométrie des sols, les surfaces d'eau environnantes, les limites des parcelles, la proximité de lieux de stockage et de marchés, les types de cultures, les périodes de semences et de récoltes… Celles-ci servent alors à établir non seulement l'équilibre financier global de l'exploitation mais également ses cycles saisonniers et sa sensibilité aux événements exceptionnels.

Expérimenté avec succès depuis plusieurs mois dans 500 localités rurales, le dispositif est désormais prêt à être déployé dans l'ensemble des presque 64 000 villages que compte le pays. Il s'adresse à la fois aux prospects, qui peuvent de la sorte obtenir un prêt dans des délais raisonnables (il faut toujours compter quelques jours, toutefois), et aux clients existants, qui, grâce aux informations collectées, peuvent espérer se voir octroyer de meilleures conditions (notamment des plafonds d'emprunt relevés).

En synthèse, la démocratisation de l'imagerie satellite autorise la consolidation de données géographiques et cartographiques d'une incroyable richesse et d'une incomparable précision, qui viennent compléter tant d'autres caractéristiques numérisées de notre environnement et de notre quotidien. Aujourd'hui disponibles pour toutes les entreprises, elles ouvrent la porte à des applications inimaginables il y a encore quelques années, en particulier chez les fournisseurs de services à destination des agriculteurs, des propriétaires immobiliers, des commerçants et distributeurs…

L'intrapreneuriat, agitateur de management ?

Comme tant d'autres grands groupes, de tous secteurs, BNP Paribas multiplie depuis plusieurs années les démarches d'intrapreneuriat au sein de ses différentes entités. Si leurs résultats directs semblent plutôt modestes, son point de situation sur le sujet permet d'identifier leur véritable potentiel de valeur… et il ne se situe pas où on l'imagine.

La promesse théorique est extraordinairement attractive pour les collaborateurs des structures traditionnelles : créez une startup interne sans renoncer à la sécurité de votre emploi salarié, développez en toute liberté (ou presque) un concept innovant en profitant des moyens importants de votre entreprise… Pour de multiples raisons, sur lesquelles je ne reviendrai pas ici, la réalité est moins idyllique et les produits vraiment innovants, viables, sortant de ces programmes se comptent sur les doigts d'une main.

Pourtant, ce constat d'échec ne suffit peut-être pas à discréditer entièrement le principe de l'intrapreneuriat… pourvu qu'on admette que son objectif fondamental n'est pas de créer de nouvelles solutions. En effet, s'il faut en croire une étude citée par BNP Paribas, les responsables impliqués dans ce genre d'aventures décrivent une gamme radicalement différente de bénéfices à en tirer : renforcement de l'esprit d'équipe et de la créativité, révélation des talents, expression des compétences hors fiche de poste…

À partir de ces observations, il paraitrait raisonnable de repositionner l'intrapreneuriat comme une technique d'innovation organisationnelle, et non plus de modèle ou de produit, en prenant en considération son déroulement, et non plus son aboutissement. Il s'agirait alors avant tout d'encourager les participants – et, surtout, leurs supérieurs hiérarchiques – à envisager leur activité sous un angle plus collaboratif, plus créatif et plus autonome, par l'intermédiaire d'un projet concret où ces qualités s'expriment.

S'il n'est pas question de transformer un mammouth de dizaines de milliers de personnes en startup ni de succomber aux sirènes de l'holacratie, les exigences de réactivité, d'agilité, de fluidité, d'interactivité, de connectivité… du monde moderne impose un changement dans les approches de management des acteurs historiques. Dans cette perspective, montrer, à l'occasion d'initiatives de grande ampleur, que l'entreprise accorde toute sa confiance à ses employés, en les accompagnant dans la concrétisation de leur idée, éventuellement jusqu'à l'échec, constituerait déjà un immense pas en avant.

CaixaBank se lance dans la vente de voitures

Poursuivant inlassablement sa stratégie d'intégration du e-commerce au cœur de ses activités bancaires, CaixaBank ajoute maintenant la vente de voitures à son catalogue. Dans un premier temps, ses clients peuvent d'ores et déjà acquérir une Seat Arona, en location de longue durée, directement depuis leur espace de services en ligne.

Grâce à un partenariat conclu (et récemment prolongé) avec Arval, la filiale spécialisée de BNP Paribas, l'établissement distribuait jusqu'à présent son offre de financement automobile au sein de ses (presque) 4 000 agences en Espagne. Afin de développer sa portée commerciale, la prochaine étape consistera donc à en décliner le principe entièrement à distance ou, pour les personnes qui continuent à préférer une relation en face à face, sous forme hybride, combinant interactions physiques et « digitales ».

Dans cette perspective, la plate-forme web (également adaptée aux usages mobiles) CaixaBankNow s'enrichit d'une nouvelle section Renting&Go. Celle-ci permet aux utilisateurs d'accéder en quatre clics aux véhicules disponibles, pour en consulter les fiches détaillées, découvrir les conditions qui leur sont réservées, obtenir une simulation financière et une estimation du loyer correspondant, indiquer le lieu de réception souhaité du modèle sélectionné et, enfin, signer le contrat, par voie électronique.

À ce stade, le choix est strictement limité à un seul produit, mais un deuxième – la Toyota Corolla – devrait compléter l'assortiment, dès le mois prochain. En tout état de cause, les dirigeants de CaixaBank confirment leur ambition de proposer à terme une gamme étendue de voitures à la vente en ligne, qui devrait contribuer à leur objectif global, partagé avec Arval, de conclure 150 000 locations de longue durée d'ici à 2025.

Bien qu'il soit difficile de percevoir en quoi il mériterait le qualificatif de mobilité durable que lui attribue CaixaBank, le modèle, longtemps réservé aux flottes d'entreprise, de la location de longue durée devient une tendance importante auprès du grand public. Avec son approche de forfait tout compris, elle s'inscrit dans la transition vers la consommation d'usage, au détriment de la propriété individuelle, et s'accorde parfaitement avec l'idée d'une immersion du service financier dans un parcours unifié.

Cependant, comme toujours avec les initiatives e-commerce de l'espagnole, se pose la question de la légitimité d'une banque à fournir cette expérience : les clients se laisseront-ils convaincre de rechercher leur prochaine voiture chez elle ? Sans même aborder la pauvreté – actuelle et dans l'avenir immédiat – de son catalogue, ni évoquer le déficit de conseil intrinsèque à la démarche (alors qu'il paraît essentiel dans le domaine automobile), le défi est ici encore renforcé par la réticence potentielle à l'achat d'un véhicule en ligne, qui ne séduit, à ce jour, qu'une petite minorité de la population.

IA et cybercriminalité

L'intelligence artificielle est désormais omniprésente dans notre environnement et nous en mesurons et en apprécions (en général) les bénéfices quotidiennement. Mais elle a également son côté obscur, dont Avivah Litan, vice-présidente et analyste chez Gartner, nous offre un panorama à l'occasion d'une interview pour Bank Info Security.

Les liaisons dangereuses entre cybercriminalité et intelligence artificielle s'expriment dans deux dimensions distinctes, illustrant la véritable course aux armements que se livrent en permanence « bons » et « mauvais » acteurs. Il s'agit, d'une part, de mettre au point des méthodes permettant de contourner ou dévoyer les solutions défensives déployées dans les entreprises et, d'autre part, d'exploiter directement les technologies disponibles afin d'optimiser les attaques, voire développer de nouvelles approches.

Sur le premier volet, Avivah explique par exemple que les fraudeurs s'organisent pour comprendre le fonctionnement des dispositifs de protection mis en place par leurs victimes : ils émettent des requêtes en grand nombre, l'analyse des réponses les aidant alors à déterminer les profils de détection d'anomalies et, bien sûr, les moyens de les éviter. Pour lutter contre ces pratiques, il faut, en amont, identifier les tentatives de sondage et, en aval, faire évoluer rapidement et dynamiquement les algorithmes.

Mais la fraude n'est pas le seul danger qui guette les entreprises : les risques juridiques et réputationnels, induits par des décisions automatiques incohérentes, sont tout aussi importants. Dans ce registre, il existe d'autres types de menaces à prendre en compte. Tel est le cas des manipulations de données, soit par empoisonnement des sources de référence (cf. l'affaire Tay de Microsoft), soit par déformation des informations transmises (une altération des images soumises à une assurance pour indemnisation…).

Sur le deuxième front, Avivah évoque plus particulièrement les usages de l'IA au service de l'ingénierie sociale. Elle cite notamment une escroquerie dans laquelle l'instigateur d'une fraude au président a eu recours à une imitation logicielle de la voix du dirigeant pour détourner des centaines de milliers de dollars. La sophistication croissante et la démocratisation des systèmes de falsification profonde de vidéo (« deep fake ») laissent entrevoir la multiplication de ces épisodes, surtout avec la généralisation du télétravail.

Face à ces mutations, les mesures de défense doivent elles-mêmes se transformer. Ainsi, aux côtés de la sécurisation des réseaux, de la surveillance des accès (et des comportements sous-jacents)…, il faut dorénavant ajouter de nouveaux remparts, dont, entre autres, les outils de validation de l'intégrité des modèles d'analyse et des bases de données. Ces mécanismes ont, par ailleurs, autant d'utilité dans la lutte contre les malveillances que contre les erreurs des collaborateurs… ou des clients.

Enfin, et dans le prolongement de ce dernier constat, le facteur humain reste une composante essentielle de toute stratégie. La première action à engager, toujours, en vue de réduire les risques et de limiter les conséquences des offensives réussies, consiste à sensibiliser et éduquer les parties prenantes – pas uniquement les équipes spécialisées, mais tous les employés, les partenaires, les clients… – et à maintenir leur vigilance et leurs connaissances à niveau, au fil des progrès des technologies.

IA et identité, les priorités pour demain

Chaque année, le cabinet Gartner nous gratifie d'une mise à jour de son « Hype Cycle » des technologies émergentes, destiné à éclairer les entreprises sur les grandes tendances à surveiller. Si je ne m'y attardais plus guère depuis 2017 parce qu'il paraissait stabilisé, l'édition 2020 révèle une concentration de sujets qui mérite plus d'attention.

Indépendamment de la répartition thématique en cinq volets qui accompagne sa présentation, l'analyse met en effet en lumière avec une acuité inédite la domination sans partage de l'intelligence artificielle et de l'identité numérique parmi les technologies à surveiller, puis à maîtriser, au cours de la décennie à venir. Quelles que soient les incarnations et les applications envisagées, il semblerait que ces deux-là soient appelées à s'immiscer et s'imposer au cœur de toutes les activités et tous les métiers.

Du côté de l'IA, tout d'abord, Gartner souligne d'abord les progrès de ses multiples variantes – embarquée, générative, composite, adaptative… – qui permettront son exploitation dans des contextes et des usages toujours plus nombreux. Il est également question de ses utilisations pour « augmenter » le développement logiciel, voire la conception de produits, lui donnant de la sorte un rôle de plus en plus stratégique (et menaçant pour l'emploi). Enfin, ses enjeux éthiques sont très présents, à travers les recherches sur l'explicabilité des modèles ou la notion d'algorithmes responsables.

Ces derniers tendent une passerelle vers le second domaine majeur, l'identité, qui s'élargira bientôt à la notion de jumeau numérique ainsi qu'aux problématiques connexes de cybersécurité et de protection de la vie privée. Dans l'univers hybride qui se dessine autour de nous, où physique et « digital » se fondent, les solutions de gestion partagée des données personnelles prennent une importance critique dans la vie quotidienne des citoyens, avec, naturellement, les mécanismes indispensables pour en garantir la confidentialité et, là encore, le respect inconditionnel de l'éthique.

Plus anecdotique, à ce stade, Gartner note l'apparition extrêmement soudaine et rapide, à la faveur de la crise sanitaire, des outils de distanciation physique et des passeports de santé (directement liés à l'identité, incidemment). Au-delà du seul cas d'espèce, qui devrait, en soi, interpeller les entreprises (et les administrations) sur leur faculté à fonctionner « normalement » durant la pandémie, le phénomène constitue aussi une alerte à la vigilance et la réactivité vis-à-vis d'événements imprévisibles.

En conclusion, ce « Hype Cycle » esquisse la vision d'un monde régi, dans toutes ses dimensions et dans ses moindres recoins (systématiquement équipés de capteurs – biodégradables – et de capacités de calcul), par l'intelligence artificielle et où chaque individu possède un alter ego virtuel afin d'y évoluer librement. Je ne suis pas convaincu que la perspective soit particulièrement réjouissante… mais les organisations qui veulent survivre demain doivent impérativement la prendre en compte.

La lutte contre la fraude passe par l'agence

Partout dans le monde, la pandémie a entraîné une hausse importante de la cybercriminalité et le phénomène d'isolation créé par les mesures de confinement en a lourdement aggravé le bilan sur les populations ainsi fragilisées. L'australienne Westpac répond à cette vague inquiétante avec un dispositif inédit, qui s'appuie sur son réseau.

De leur propre aveu, les consommateurs confirment ne pas se sentir capables d'identifier les tentatives de fraude ou d'escroquerie qui les menacent à tout moment et qui coûtent chacune, en moyenne, 12 000 dollars, sans parler de leurs conséquences indirectes, émotionnelles et psychologiques. La banque porte donc une immense responsabilité dans l'éducation de ses clients et dans la prévention des incidents. C'est dans ce cadre que Westpac introduit une nouvelle ligne de défense combinant l'humain et la technologie.

Premier acte, une série d'algorithmes d'intelligence artificielle analyse, en temps réel, tous les paiements exécutés – par carte ou par virement, en ligne, en boutique ou en agence – et repère parmi eux les transactions suspectes. Deuxième acte, une alerte est transmise instantanément au conseiller en charge du compte de la victime potentielle, afin de vérifier les caractéristiques de l'opération, et, s'il le juge utile, selon sa connaissance de l'individu et de ses habitudes, décider de la suspendre ou la rejeter.

Mais pourquoi le logiciel ne prend-il pas lui-même les décisions de blocage ou, à tout le moins, pourquoi ne pas interpeller directement le client ? Peut-être s'agit-il d'un simple manque de confiance en l'IA, mais il est surtout probable que la qualité de la détection est encore insuffisante et génère trop de signalements erronés, risquant de perturber les flux normaux ou d'inquiéter à tort, voire d'irriter, les personnes concernées. Espérons néanmoins que les actions entreprises par les conseillers à la réception des notifications seront collectées et exploitées de manière à enrichir et optimiser les modèles.

En pleine période de reflux des visites en agence, le choix de Westpac de recourir à ses collaborateurs partiellement désœuvrés pour renforcer ses capacités de lutte contre la fraude s'avère plutôt bien pensé. En revanche, il soulève aussi quelques interrogations, à commencer par la réactivité : comment, par exemple, seront traitées les alarmes déclenchées la nuit ou le week-end ? D'autre part, la banque aura certainement des difficultés à garantir un traitement homogène d'un conseiller à l'autre et les efforts de formation qu'elle met en œuvre ne suffiront pas à écarter toute subjectivité.

Malgré ses défauts potentiels, l'approche peut être considérée comme une étape importante sur le chemin vers le déploiement de protections entièrement automatiques, pilotées de bout en bout par l'IA, qui devrait impérativement constituer la cible ultime (jamais évoquée par Westpac, toutefois) pour un maximum d'efficacité et de performance. Dans cette perspective, elle présente l'énorme avantage de maintenir un contrôle humain rassurant sur les résultats produits, sans nuire à l'expérience client.