Un outil pour contrôler les agents IA

Depuis toujours, les institutions financières engagent des efforts considérables dans la protection de l'argent de leurs clients. Et soudain, avec l'irruption des agents propulsés à l'intelligence artificielle auxquels ils sont de plus en plus enclins à confier toutes sortes de tâches, ce travail est remis en question. Incognia promet une solution.

Les outils de lutte contre la fraude « digitale », en particulier, sont constamment enrichis, à grands frais, afin de prendre en compte les menaces émergentes au fur et à mesure de leur apparition et leur fonctionnement repose en grande partie sur la connaissance de l'utilisateur qui interagit avec les applications de l'entreprise à un moment donné, qu'il s'agisse de l'identifier et l'authentifier ou de s'assurer, par exemple, que les transactions qu'il cherche à exécuter sont légitimes et réellement délibérées.

Or quand un agent IA se substitue au client, les mécanismes existants ne peuvent plus œuvrer de la même manière. Des problématiques différentes surgissent, complémentaires de celles qui sont déjà prises en compte. Au premier plan, bien sûr, la priorité consiste à garantir que l'automatisme qui se connecte est effectivement mandaté par la personne qu'il déclare représenter. Mais, par la suite, il faut également vérifier que les opérations qu'il exécute correspondent bien à la demande de son « maître ».

La solution d'Incognia promet de répondre à ces multiples niveaux d'enjeu. Elle sait d'abord distinguer les robots en tout genre des humains lorsqu'ils naviguent dans les logiciels qui leur sont exposés. Deuxième étape, les intelligences artificielles repérées font l'objet d'un filtrage préliminaire afin d'écarter celles qui paraissent suspectes par essence. Puis vient le contrôle de la délégation, dans laquelle le lien avec l'individu finalement responsable du comportement de l'agent est établi et validé.

À ce stade, l'évaluation de l'utilisateur à l'origine de la session est terminée. Entre alors en jeu une couche supplémentaire, destinée cette fois à surveiller les actions engagées. Outre l'inspection du certificat d'intention – qui devrait s'imposer rapidement comme un standard – et son enregistrement (comme les autres éléments de preuve du processus), la plate-forme analyse les opérations initiées en regard des habitudes du client, de manière à prévenir des écarts indicatifs d'éventuelles dérives.

En parallèle de leurs propres projets d'IA, les institutions financières doivent appréhender en urgence les dangers qu'implique l'adoption d'agents plus ou moins autonomes par les consommateurs. Elles ne pourront se contenter longtemps des réflexions initiales sur la traçabilité des contrôles passifs qu'elles mettent en œuvre. Elles devront très vite investir dans des mécanismes de protection proactifs si elles ne veulent pas se voir reprocher un laxisme coupable relevant potentiellement d'un défaut de conseil. Dans ce contexte, l'approche d'Incognia mérite largement l'attention.

Cette drôle de relation entre finance et voyage

Il y avait, historiquement, cette habitude des cartes de crédit affinitaires distribuées avec les compagnies aériennes, qui ont dérivé vers une généralisation des avantages associés au paiement dans l'univers du voyage. Il y eut aussi le cas, assez différent, de Revolut. Et maintenant les entités « digitales » de BBVA se lancent dans l'aventure.

En dépit d'une promesse de synergies à long terme, le partenariat entre le groupe espagnol et le spécialiste eDreams ne changera pas la face du monde, au moins dans un premier temps. En effet, à ce stade, il s'agira d'offrir, pour un an, aux nouveaux clients des filiales allemandes et italiennes du premier l'abonnement aux services « premium » du second (sous la marque Opodo), leur octroyant l'accès à diverses promotions exclusives sur des vols, trajets en train, séjours à l'hôtel, locations de voiture…

La proposition de valeur à l'intention de l'audience ciblée n'est guère plus élaborée. Pour le versant bancaire, l'ambition consiste à étendre le périmètre de la relation au-delà des problématiques seulement financières (laissant entrevoir une ouverture future à d'autres domaines) tandis qu'eDreams vise avant tout une exposition de ses produits à une population additionnelle, dans une démarche 100% marketing. Je ne sens pas dans cette description une préoccupation profonde pour les attentes des clients.

La seule dimension périphérique de l'opération susceptible d'avoir du sens pour les détenteurs de comptes BBVA, dans une vision globale du voyage, concerne l'absence de frais sur les dépenses en devises étrangères. Non seulement cette caractéristique – parfois trompeuse quand les taux de change ne sont pas évoqués – tend-elle désormais à s'imposer progressivement comme un standard, elle est ici brandie essentiellement en argument justifiant une surreprésentation de voyageurs attractive pour Opodo.

Je suis toujours mystifié par la persistance des entreprises (en tout genre) à développer des programmes promotionnels basiques… et tout autant par la séduction qu'ils parviennent à exercer auprès des consommateurs (sinon, ils auraient disparu). Toujours est-il que plus la récompense est minime et de courte durée (en l'occurrence, une valeur de moins de 120 euros, sur un an), moins son effet sera durable, ce qui en rend automatiquement l'équilibre économique difficile, voire impossible, à atteindre.

À ce stade de l'analyse, il faut évidemment traiter le cas spécifique de Revolut. Pour le trublion aussi, le voyage est un vecteur de conquête, depuis sa naissance, en fait. En revanche, son approche est aux antipodes de ces méthodes traditionnelles puisqu'elle est entièrement conçue à partir des besoins des globe-trotters, dans l'optique de leur fournir non des gadgets qui peuvent les amuser un moment mais bien de leur offrir une solution complète qui s'adapte à leurs habitudes et à leurs pratiques.

Si les banques rêvent encore d'intégrer le voyage dans leur périmètre d'activité, elles doivent comprendre que leur procurer une expérience personnalisée représente aujourd'hui la seule manière d'en conquérir et d'en fidéliser durablement les adeptes.

La gouvernance de l'IA s'organise

Alors que les institutions financières se ruent sur les promesses de l'intelligence artificielle, elle en voient les coûts s'accumuler, parfois jusqu'à paraître hors de contrôle. Face au risque de dérive, la mise en place de règles concrètes d'utilisation devient impérative et Bank of America a créé une couche d'orchestration pour les implémenter.

Dans toutes les entreprises, la vague de fascination pour la nouvelle technologie à la mode a rapidement donné lieu à une dangereuse (mais classique) tendance à vouloir l'appliquer à tous les besoins et autres problèmes rencontrés. Le phénomène a désormais atteint un stade où il n'est plus tenable, ne serait-ce qu'en raison des factures qu'il engendre. Les entreprises les plus mûres commencent donc à définir une gouvernance rigoureuse afin de maîtriser la situation sans rater les opportunités.

Pour Bank of America, le premier principe relève du bon sens : avant de lancer un projet et de foncer sans plus réfléchir vers le recours à l'IA, les équipes doivent s'assurer de la pertinence de l'option envisagée. La démarche débute par une analyse soigneuse de la demande à traiter, qui permettra de trancher. Selon le directeur informatique de l'établissement, une approche traditionnelle – application mobile, logiciel déterministe… – est fréquemment reconnue comme la plus appropriée et sera donc développée.

Ensuite, dans le cas où l'intelligence artificielle est effectivement retenue, le dispositif impose le filtre d'une revue extensive, couvrant 16 piliers de risques (à éviter). Sont par exemple abordés, en amont des études, les enjeux de respect de la vie privée, de biais potentiels, d'impacts sur les collaborateurs, de propriété intellectuelle… Il est hors de question d'entamer la moindre exécution sans avoir au préalable vérifié que la solution proposée respectait les exigences communes dans ces différents domaines.

Enfin, au moment de sélectionner la plate-forme technique adéquate pour l'objectif visé, une couche d'orchestration (baptisée Orchestra) détermine le ou les modèles à privilégier en fonction des tâches à prendre en charge. De ce point de vue, la banque se veut agnostique des fournisseurs et des outils. Elle peut ainsi confier des besognes de classification à des modèles ouverts, implémentés sur ses propres infrastructures, et se tourner vers des solutions externes fermées pour des calculs sophistiqués.

Quand Bank of America dépense 400 millions de dollars pour quelques 140 applications d'IA et prévoit de doubler ce budget l'année prochaine, il ne peut plus être question de se cantonner à un mode expérimental dans lequel chacun serait libre de choisir ses méthodes de travail. Elle ne peut s'éviter l'instauration d'une gouvernance formelle… qui doit s'accompagner également, même si l'article en référence ne le détaille pas, d'une réflexion sur la rentabilité des initiatives et les indicateurs de mesure associés.

Bradesco organise un festival de l'innovation

Il y a quelques années, quand les exigences de « digitalisation » imposaient leur rythme effréné et les nouveaux entrants menaçaient les empires installés, le festival d'innovation que Bradesco Seguros organise régulièrement aurait paru banal. Aujourd'hui il fait figure d'exception et Qorus le distingue parmi ses prix dans l'assurance.

La dernière édition en date a eu lieu il y a un an, en adoptant un nouveau format, plus approprié pour les objectifs visés. Ainsi, plutôt que de se cantonner à des conférences et autres présentations passives, les participants, collaborateurs et personnes externes, étaient invités à s'immerger dans un certain nombre d'expériences concrètes, destinées à leur faire prendre profondément conscience des capacités des solutions, notamment technologiques, qui transforment les métiers de la compagnie.

Sur une durée de trois jours, organisés dans une progression logique depuis les compétences émergentes jusqu'à la mesure des impacts attendus dans la vie professionnelle et personnelle, en passant par l'écoute des signaux de rupture, l'ambition du dispositif était de faire appréhender à son audience le besoin de s'adapter aux changements qu'ils subissent, parfois avec un sentiment d'impuissance, et les qualités qu'ils doivent cultiver afin de maintenir la valeur de l'humain dans leurs activités.

Dans cette optique, l'événement mélangeait donc des employés de Bradesco Seguros avec, entre autres, des représentants de partenaires (dont des courtiers), de jeunes pousses de l'InsurTech… et proposait à cette population diversifiée un programme aux multiples facettes, composé d'interventions classiques, de séances de « pitch » de startups, d'animations interactives… et de la désignation de l'innovation (interne) de l'année. Le tout est conçu pour stimuler les échanges et promouvoir l'esprit de collaboration, qui représentent justement un des enjeux des mutations en cours.

Après une vague de popularité dans le sillage de la grande révolution numérique, ce genre d'événements dédiés à l'innovation – dont il faut avouer que certaines déclinaisons manquaient de focalisation claire – semble être désormais tombé en désuétude. Et pourtant, la période actuelle, avec ses mutations radicales (l'irruption soudaine de l'intelligence artificielle, partout, n'en est que la manifestation la plus visible) et les incertitudes qu'elles engendrent, mériterait bien de réhabiliter le principe.

Deux raisons au moins militent pour cette remise au goût du jour. D'une part, les firmes ont un devoir d'accompagnement de leurs salariés dans les évolutions qu'elles leur font subir. Elles ne peuvent pas les laisser dans le noir face aux nouveaux outils et aux nouvelles méthodes qu'elles imposent ou elles risquent de laisser s'installer des fantasmes qui mèneront à la démotivation et à la perte de productivité. Un effort de rationalisation, passant par la démystification des technologies, est indispensable.

D'autre part, dans une industrie qui en est toujours à rechercher comment profiter au mieux des dernières inventions à la mode, il est plus que jamais critique d'enrôler tous les employés dans cette exploration. Et là encore, il faut préparer le terrain, avec une dose d'éducation et d'aide à l'appropriation des concepts et des solutions émergentes afin de rendre la démarche d'innovation participative aussi efficace que possible.

IA et droits d'auteur dans la banque

L'irruption soudaine de l'intelligence artificielle générative dans les entreprises soulève une multitude de questions dans de nombreux domaines mais, hormis pour les principaux intéressés, celles qui concernent les droits des auteurs de contenus originaux figurent rarement en tête de liste. CommBank commence à rectifier cet oubli.

Bien entendu, le sujet engendre depuis des mois des débats passionnés sur la rémunération que mériterait l'exploitation que font les plates-formes des articles de presse, romans, et autres textes en tous genres (sans parler des images, vidéos, sons…) mais il est généralement cantonné aux géants technologiques et à la manière dont ils entraînent leurs modèles avec cette matière première indispensable à la performance de leurs produits. En quoi la banque serait-elle donc impliquée ?

Après tout, comme les autres firmes utilisatrices, elles adoptent des solutions dont les fournisseurs ont la responsabilité de s'assurer du respect des exigences légales relatives à la propriété intellectuelle et, lorsqu'elles développent leurs propres outils, elles les mettent au point avec leurs propres données… parce qu'elles visent à spécialiser les résultats sur leur expertise et leur culture internes. Il reste pourtant un cas à couvrir, quand les employés reprennent des extraits d'information dans leurs interrogations.

Alors, afin de ne laisser aucune place à la moindre lacune, CommBank choisit de compléter son accord avec l'agence australienne de gestion des droits d'auteur pour intégrer cette nouvelle possibilité. Sa licence existante, qui autorisait précédemment, moyennant rétribution, les collaborateurs de l'institution financière à copier et partager des éléments issus de l'actualité, de rapports de recherche, de livres…, admet désormais aussi leur usage dans les invites soumises aux plates-formes d'intelligence artificielle, par exemple en vue d'en obtenir un résumé ou en dériver une présentation.

L'initiative ne représentera évidemment qu'une goutte d'eau pour les ayant-droits, dont les principales demandes restent insatisfaites. Mais elle a le mérite de démontrer une volonté de la part de l'établissement d'appréhender l'IA dans une démarche responsable, sous tous ses aspects, que ce soit vis-à-vis de ses clients, de ses effectifs ou de la société. En arrière-plan, elle reflète également les efforts d'analyse conduits dans le but de comprendre et maîtriser à 360° les enjeux et les impacts de la technologie.

Santander se déleste des clients vulnérables ?

Après l'avoir accueillie, il y a deux ans, dans son concours de jeunes pousses, la filiale britannique de Santander entame maintenant une collaboration avec Sibstar, à travers laquelle elle renverra ses clients vulnérables (ou leurs proches) vers cette dernière, qui leur proposera une solution de banque du quotidien conçue pour leur protection.

Entre, notamment, les personnes atteintes de maladies neuro-dégénératives (presque un million au Royaume-Uni), dont la fréquence augmente au fur et à mesure du vieillissement de la population, celles qui rencontrent des difficultés d'apprentissage ou, plus simplement, celles que les dangers du monde numérique paralysent, le besoin de contrôle sur son argent et de certitudes quant à son immunité vis-à-vis des escroqueries qui font désormais partie de la vie courante concerne énormément de monde.

À ces consommateurs, Sibstar offre une réponse relativement classique qui prend la forme d'une carte de débit et d'une application mobile destinée à en piloter les caractéristiques. Elle permet ainsi de définir des plafonds d'utilisation sur différents critères, de spécifier des catégories de dépenses autorisées ou encore d'émettre des notifications, au porteur et/ou à un tiers, lors de chaque opération, selon les préférences de chacun. Le maître mot reste l'autonomie de l'usager, dans un espace de confiance.

Ce qui m'interpelle dans cette actualité est le choix de Santander de s'appuyer sur un partenaire pour combler une attente qui, de toute évidence, touche déjà une fraction notable de sa clientèle. Après tout, même si le principe de ne pas tout faire en interne est louable, le service de Sibstar ne représente rien de révolutionnaire et il pourrait être aisément répliqué par l'établissement… Ses options seraient d'ailleurs susceptibles d'être utiles à d'autres catégories d'individus (par exemple les plus jeunes).

En l'occurrence, la banque donne l'impression de dire à ses clients fragiles – dont bon nombre seront les plus anciens et les plus fidèles – qu'elle n'est plus en mesure d'assurer la sécurité de leurs comptes et qu'il vaut mieux, par précaution, qu'ils se tournent vers une entreprise dont il n'auront jamais entendu parler. J'ose espérer que ce n'est pas le fond de la pensée des porteurs du projet mais la communication paraît pour le moins un peu maladroite. N'aurait-il pas été envisageable, a minima, qu'elle d'intègre dans son catalogue une version en marque blanche de la solution de Sibstar ?

Un réseau de paiement pour l'assurance

En parallèle de ses solutions adaptées à l'indemnisation directe des sinistrés, la spécialiste One Inc dévoile une nouvelle version de ce qu'elle présente comme un réseau de paiement dédié à l'assurance, destiné, celui-ci, à simplifier les règlements auprès des partenaires et autres fournisseurs intervenant dans la réparation des dommages.

Au premier abord, le principe d'une infrastructure conçue pour les besoins particuliers d'un secteur peut surprendre, alors qu'il existe aujourd'hui des systèmes de paiements robustes, rapides et quasiment universels. Mais le périmètre de ces derniers se cantonne aux mouvements de fonds et ils laissent donc à la charge de leurs utilisateurs l'intégration dans leurs processus, fréquemment complexes et dépendant des interlocuteurs concernés, dont, surtout aux États-Unis, de leur localisation.

La mission que se donne One Inc, qui met déjà en relation 1,3 millions d'entreprises avec 320 assureurs, consiste donc à offrir une plate-forme unifiée qui permet aux premières de s'affranchir de toutes les spécificités auxquelles elles sont confrontées avec chaque nouvelle collaboration et de fluidifier et accélérer le traitement des transactions grâce à son absorption transparente, en arrière-plan, des contraintes techniques, réglementaires, fiscales et administratives propres à chaque opérateur.

Naturellement, XpressOne (c'est son nom) s'appuie sur les mécanismes de paiement existants afin d'exécuter les versements. Pour l'instant, elle comporte deux options – un mécanisme à base de carte configurée selon les conditions définies par l'assureur et un dispositif basique de virement bancaire – qui seront complétées prochainement avec les deux principaux services de transfert instantané disponibles dans le pays. L'objectif visé est de procurer le maximum de flexibilité à toutes les parties prenantes.

La promesse de valeur mise en avant par One Inc réside essentiellement dans la réduction des frictions pour les fournisseurs. Non seulement l'interface commune leur permet-elle de faciliter leur gestion (entre autres avec l'automatisation des réconciliations, un sujet toujours sensible), elle laisse en outre espérer une diminution des incidents, des demandes de ré-émission et, de manière générale, des sollicitations au support. Il en va donc d'enjeux d'efficacité opérationnelle et de réduction des coûts.

Aujourd'hui, les réseaux de paiement sont industrialisés et ne représentent plus guère d'opportunités majeures de différenciation. En revanche, leur « digitalisation » autorise la création de couches de services supplémentaires susceptibles de répondre à des besoins divers et variés, dans différents contextes et pour différentes industries. La démarche adoptée par One Inc, qui délivre un bénéfice tangible aux acteurs de l'assurance dommages, pourrait probablement se décliner dans d'autres domaines…