Lloyds Bank teste une IA sans danger

La confiance limitée en leur fiabilité – alimentée, entre autres, par les multiples exemples d'hallucinations – constitue un des principaux freins à l'exploitation de l'intelligence artificielle générative dans des environnements sensibles, dont les applications bancaires destinées au grand public. Lloyds Bank expérimente une solution à ce défaut.

Fournie par UnlikelyAI, jeune pousse fondée par le créateur de l'assistant vocal qui fut à l'origine d'Alexa (par Amazon), celle-ci promet de corriger les faiblesses des plates-formes habituelles d'IA en ajoutant à des capacités désormais classiques de raisonnement statistique une couche de règles formelles dont la vocation est de contrôler la validité des réponses fournies. L'objectif est de garantir aux entreprises qui l'adoptent le respect de leurs propres contraintes et la conformité réglementaire.

Concrètement, la plate-forme, qualifiée de neurosymbolique (pour sa combinaison de réseaux de neurones et d'approche symbolique), met en œuvre plusieurs mécanismes pour atteindre son but. Tout d'abord, l'apprentissage de ses modèles ne s'appuient pas sur des données indifférenciées issues d'internet mais sur un corpus d'informations vérifiées, qu'il provienne de sources de référence, de connaissance générale et du domaine d'application, ou qu'il soit fourni par l'organisation qui souhaite la déployer.

Surtout, son moteur de raisonnement est conçu dans une logique de déduction établie à partir de règles et non sur des prédictions probabilistes. En raison de sa nature déterministe, qui induit la reproductibilité des réponses sur une même question, il est également capable d'exprimer son indécision, lorsque le savoir qu'il a accumulé ne lui permet pas d'aboutir à un résultat. Enfin, ces qualités s'accompagnent de la faculté d'expliquer le cheminement « intellectuel » suivi, pour plus de transparence.

Dans un premier temps, la collaboration de Lloyds Bank avec UnlikelyAI est restreinte à une période de tests, au sein de son bac à sable d'innovation, ce qui signifie que le produit ne sera éprouvé que sur des données synthétiques. La banque place néanmoins de grands espoirs dans la technologie – et on la comprend quand on voit les réticences de l'industrie à avancer sur un terrain miné de l'IA exposée au dérives – et elle espère fortement en retirer les bénéfices pour ses activités et pour ses clients.

L'offre paraît évidemment très attractive… mais sa présentation laisse (au moins) un sujet crucial dans l'ombre. En effet, le principe du recours à des règles explicites, s'il représente un excellent moyen de maîtriser le fonctionnement de l'intelligence artificielle, ne risque-t-il pas d'impliquer une charge élevée de mise au point et de maintenance ? La startup précise qu'il est possible à tout moment de vérifier – en anglais courant – ses apprentissages, de les compléter si nécessaire et de corriger les éventuelles erreurs détectées. Or ce travail peut rapidement devenir un goulet d'étranglement…