Un comité éthique de l'IA pour CNP

Alors que le secteur de l'assurance s'éveille aux opportunités de l'intelligence artificielle dans l'ensemble de ses activités et que les expérimentations devraient bientôt laisser place à des applications de production, ses enjeux éthiques exigent des réponses concrètes. En France, CNP Assurances s'empare du sujet dès maintenant.

Pour la compagnie de service public, les progrès de l'IA devraient lui permettre de s'infiltrer rapidement dans la conception de produits, dans le pilotage marketing, dans les processus de souscription, dans le traitement des sinistres et des prestations, dans la lutte contre la fraude…, afin d'alléger et accélérer les opérations, réduire les risques, améliorer l'expérience client… Encore faut-il que les parties prenantes – clients, collaborateurs, partenaires… – accepte son introduction et lui accorde leur confiance.

Une clé essentielle pour atteindre cette objectif consiste à instaurer une démarche responsable, ouverte et transparente. CNP Assurances prend donc les devants : elle nomme un représentant « Éthique de l'IA » et lui adjoint un comité dédié, aux compétences variées (conformité, risques, juridique, RSE, expérience client, informatique… assistées d'éventuels chercheurs et experts externes), chargés ensemble de placer l'éthique et l'humain au cœur des projets impliquant l'intelligence artificielle.

Cinq principes fondamentaux fixeront le cap de la nouvelle structure dans sa mission, devenant de fait les critères selon lesquels seront évalués et jugés toutes les futures initiatives : veiller à la transparence des algorithmes, garantir l'équité en identifiant et luttant contre les biais et les discriminations, contrôler la fiabilité des systèmes et surveiller leurs impacts, protéger les données personnelles et respecter la vie privée des citoyens, et, enfin, mettre systématiquement l'humain au centre des outils et des processus.

La généralisation prévisible de l'intelligence artificielle dans les organisations, avec toutes les zones d'ombre qu'elle comporte, impose une vigilance renforcée. L'approche de CNP Assurances s'inscrit parfaitement dans cette nécessité émergente et il est plutôt rassurant de la voir ainsi déployée en avance de phase. Elle soulève toutefois quelques questions, en particulier en ce qui concerne ses modalités pratiques de fonctionnement.

La première porte sur le périmètre retenu. En effet, s'il est clair que l'intelligence artificielle présente des défis inédits en la matière, il est tout aussi évident que l'éthique devrait être un thème universel dans une compagnie d'assurances (comme dans toute entreprise) : les biais et discriminations, par exemple, doivent être combattus autant dans les logiciels que dans la communication, dans les relations avec les clients, dans la gestion des ressources humaines… et les solutions à mettre en œuvre sont souvent identiques.

Dans un autre registre, l'ajout d'un comité supplémentaire peut également constituer un motif d'inquiétude. Il ne faudrait pas qu'il devienne un « machin », comme il en existe déjà tellement dans les grands groupes, dont la lourdeur sert plus à ralentir, voire bloquer, les projets qu'à remplir son vrai rôle. Ce serait le plus sûr moyen de tuer le potentiel d'innovation des technologies. Pour éviter ce danger, l'équipe devra principalement s'attacher à insinuer une culture de l'éthique dans tous les pores de l'organisation.

Espérons que CNP Assurances parviendra à surmonter ces possibles obstacles. Il lui restera alors encore à démontrer et valoriser ses efforts : au-delà des mesures qui pourront être prises et de leur efficacité réelle, ce qui compte le plus pour l'acceptation de l'intelligence artificielle est que les personnes qui en subissent les impacts ou qui profitent de ses avantages soient convaincues que sa mise en œuvre est respectueuse de leurs droits individuels et, à l'échelle de la société, d'une éthique irréprochable.