Forcément intéressée, ne serait-ce que pour répondre aux exigences réglementaires, à développer l'explicabilité et, plus généralement, la transparence des résultats des modèles d'intelligence artificielle qu'elle met en œuvre, BBVA soutient un travail de recherche formel sur la causalité dans les prédictions qu'ils sont susceptibles de formuler.
Pour beaucoup de monde, l'IA, comme la plus modeste science des données, constitue une sorte d'outil magique capable de détecter des liens subtils et dissimulés entre des données apparemment indépendantes, ce qui lui octroierait le pouvoir de prévoir des conséquences futures à partir d'observations du passé et du présent. Or cette perception est fausse et accepter les prédicats qu'elle produit sans comprendre le « raisonnement » sous-jacent revient à assumer une illusion potentiellement dangereuse.
Il faudra probablement le répéter encore et encore, mais la technologie actuelle est relativement bête, en dépit de sa dénomination. Elle ne suit pas, comme un humain le fait (ou, du moins, devrait toujours le faire), un processus logique pour analyser un problème et aboutir à une conclusion. Elle opère par voie de statistiques et peut de la sorte identifier des corrélations entre des informations qui lui sont soumises, puis, sur cette base, projeter des déclinaisons ultérieures. Mais corrélation n'est pas raison.
De multiples facteurs, y compris le pur hasard, peuvent entrer en jeu dans ces relations apparentes et les exploiter sans s'inquiéter de leur fiabilité rationnelle induit un risque de malentendus. Naturellement, les institutions financières, entre autres, ne peuvent se permettre de prendre de tels risques. Voilà pourquoi BBVA se penche sérieusement sur les possibilités de restituer les paramètres d'entrée et les étapes de « réflexion » conduisant l'IA à un résultat, de manière à les valider ou les questionner.
Pour peu qu'elle soit soumise ensuite au discernement d'un expert humain, l'approche a plusieurs mérites, au-delà de sa première utilité pour la détection de prémisses erronées et la prévention de dérives qu'elles peuvent engendrer ou encore afin d'établir une preuve auditable de la fiabilité des algorithmes. Tout d'abord, elle favorise la compréhension de mécanismes précédemment ignorés, reflétés par les données étudiées, qu'il sera alors possible de mettre à l'épreuve dans d'autres applications.
Autre opportunité, la connaissance des éléments entrant en ligne de compte dans un « raisonnement » artificiel sera certainement utile au raffinement des modèles déployés, par exemple en les encourageant à s'appuyer sur des connexions confirmées, tandis que, à l'inverse, les dépendances abusives pourront être écartées au plus tôt. En prolongeant un peu les hypothèses, ces défauts offriraient peut-être également des moyens de repérer (et éradiquer) des biais dans les jeux de données sources.
Mais le plus important n'est-il pas ailleurs ? Les banques sont avides d'IA mais se trouvent fréquemment freinées dans leurs initiatives par manque de confiance dans le fonctionnement au long cours de leurs applications. Dans cette perspective, la visibilité sur ce qui passe au cœur des logiciels représente aussi un levier de réassurance susceptible d'aider à mieux accepter les usages, jusque dans des contextes sensibles.
Aucun commentaire:
Enregistrer un commentaire
Afin de lutter contre le spam, les commentaires ne sont ouverts qu'aux personnes identifiées et sont soumis à modération (je suis sincèrement désolé pour le désagrément causé…)