NatWest forme à l'éthique de l'IA

Depuis plusieurs mois, la déferlante de l'intelligence artificielle générative dans les institutions financières entraîne dans son sillage la mise en place de campagnes de formation à l'intention de leurs collaborateurs. NatWest en arrive maintenant à un deuxième niveau de sensibilisation, focalisé sur les considérations éthiques du sujet.

Après des débuts hésitants, les banques déploient désormais massivement des outils d'IA afin de renforcer l'efficacité et la productivité de leurs employés… et ces derniers s'en emparent sans réserves, pour la plupart. Mais, avec des usages concernant de plus en plus des domaines sensibles, notamment dans des interactions avec les clients, les risques s'accroissent et les protections technologiques mises en œuvre ne peuvent suffire à les contenir. Le facteur humain doit impérativement être pris en compte.

L'objectif du programme pédagogique de NatWest vise donc à ajouter aux compétences opérationnelles acquises avec les cursus initiaux (et l'expérience pratique) une indispensable dimension morale, afin de garantir une utilisation responsable des services déployés. Il s'agit en particulier d'éviter en toute circonstance des décisions inéquitables ou entachées de biais, susceptibles d'affecter la confiance, sans même évoquer les éventuelles conséquences juridiques de dérives incontrôlées.

Construit en collaboration avec l'université d'Edinburgh, le dispositif, d'abord expérimenté avec un petite centaine de cobayes, comportera huit modules (dont le développement va se poursuivre jusqu'au mois d'octobre). Il sera accessible à la totalité des 60 000 salariés de l'établissement sous la forme de cours en ligne complétés par une session d'une demie journée en groupe pour des exercices d'immersion avec des cas pratiques. Les élèves devront compter 2 à 3 mois afin de terminer le parcours.

Au-delà de l'IA, et de la gestion des données également comprise dans son périmètre, la formation étant alignée avec le code de conduite de l'entreprise, elle est en mesure d'offrir aux collaborateurs un aperçu sur les valeurs qu'ils sont censés défendre au quotidien : la transparence et la protection absolue de la vie privée, l'accompagnement éclairé des clients et la capacité à expliquer dans un langage compréhensible les choix présentés, le pouvoir humain sur la machine (au moins de contrôle) et la prise en compte des impacts sociaux et environnementaux des actions engagées…

Cet aspect est d'autant plus important que l'industrie a tendance à considérer les enjeux éthiques, entre autres en ce qu'ils s'appliquent à leurs employés, d'un point de vue essentiellement réglementaire. Avec l'intelligence artificielle, ce dernier introduit des contraintes spécifiques – la lutte contre les biais en fournit une illustration évidente – qui encouragent une déclinaison beaucoup plus pragmatique. La diffusion d'une culture de responsabilité vis-à-vis des clients et de la société pourrait ainsi en bénéficier…