Des données bancaires à Minority Report…

Face au problème endémique des tueries de masse aux États-Unis, la dirigeante d'une petite banque réputée pour son engagement en matière de responsabilité sociale et environnementale évoque l'hypothèse de détecter les personnes susceptibles de passer à l'acte par l'analyse de leurs transactions. Proposition sérieuse ou provocation calculée ?

Priscilla Sims Brown – qui depuis deux ans a pris la tête de l'Amalgamated Bank, la plus importante institution financière américaine appartenant à un syndicat – était déjà à l'initiative de la proposition (tristement) controversée, qui a toutefois abouti cet été, de créer un code marchand spécifique pour les boutiques d'armement, permettant d'identifier ce type d'achat sur les relevés d'opérations de cartes de crédit. Il s'agit évidemment d'une composante clé dans l'élaboration de son nouveau plan de bataille.

Le projet est pour l'instant dans un état embryonnaire, bien que la communication laisse entendre que des expérimentations soient en cours, mais il consisterait à concevoir des modèles d'apprentissage automatique capable de repérer les comportements suspects correspondant à un motif typique précédant un massacre. Dans le scénario envisagé, les cas retenus seraient ensuite transmis aux autorités de contrôle de la criminalité financière… dont on ne peut alors que se demander ce qu'elles en feraient…

Comme le met en lumière la nouvelle « The Minority Report » de Philip K. Dick (et son adaptation cinématographique par Steven Spielberg), la prise de mesures policières à l'encontre de crimes avant qu'ils ne soient commis est difficilement concevable, juridiquement et moralement. Par ailleurs, si l'application de méthodes prédictives à des faits particulièrement graves peut sembler justifiée, il ne faudra pas longtemps avant qu'elle soit déclinée sur toutes sortes de délits et soulève toujours plus de questions.

Pour ces raisons (et d'autres encore), j'ose espérer que la suggestion de madame Sims Brown tient avant tout d'un appel à agir concrètement dans la lutte contre une forme extrême de criminalité plus que d'un désir de la voir effectivement mise en œuvre un jour. J'y vois toutefois une certaine maladresse car toute allusion aux opportunités de traitement de données bancaires portant à la polémique contribue à la méfiance généralisée des citoyens vis-à-vis des technologies sous-jacentes et de leurs usages.

La bourde est d'autant plus regrettable qu'elle émane d'un établissement qui se veut en pointe de l'équité, de la justice et de l'inclusion. Ces valeurs positives pourraient faire l'objet d'une autre bataille importante dans la société américaine, sur laquelle les mêmes solutions d'analyse de l'information et d'intelligence artificielle ont tellement de potentiel à exprimer. Et celle-ci ressort directement de la responsabilité du secteur bancaire, alors que le débat sur les ventes d'armes appartient aux politiques.