L'IA fantôme envahit les institutions financières

À l'occasion d'une enquête auprès de quelques 1 500 professionnels du secteur financier en Allemagne, en France et au Royaume-Uni, DeepL, spécialiste de la traduction propulsée par l'intelligence artificielle, dévoile que près des deux tiers de l'échantillon admettent que les employés recourent aujourd'hui à des outils d'IA non validés par leur organisation pour leurs interactions avec la clientèle.

Le constat, qui peut certainement être étendu à d'autres contextes, est alarmant mais il ne doit pas surprendre. Quand les entreprises mettent à la disposition de leurs collaborateurs des solutions qui ne répondent pas parfaitement à leurs besoins, alors qu'ils voient bien, notamment à travers leurs usages privés, qu'il existe des alternatives plus efficaces, le réflexe naturel penche toujours vers le choix de l'option la plus performante. Par ailleurs, les tentatives de blocage des plates-formes non validées officiellement sont futiles, puisqu'elles sont accessibles sur les appareils personnels.

Les risques sont évidemment considérables. Dans le cas, le plus préoccupant, des communications avec la clientèle (dont les besoins de traduction qui intéressent particulièrement DeepL), les erreurs commises par l'IA, les biais susceptibles d'être introduits dans les échanges, les inventions et contre-vérités résultant d'hallucinations incontrôlées… ne constituent qu'une partie du problème. Les fuites d'information vers les fournisseurs des technologies exploitées sont aussi extrêmement dangereuses.

Pour un vendeur tel que DeepL, la parade consiste à offrir aux salariés, dans un cadre sécurisé et certifié, les produits leur permettant de satisfaire au mieux leurs besoins. Cependant, imaginer que cette stratégie suffise à faire entièrement disparaître la tentation d'utiliser d'autres outils est illusoire. Comme avec les questions de cybersécurité, l'ignorance est l'ennemie numéro 1 et une approche pédagogique du sujet devient donc urgente afin d'éviter des catastrophes, probables à court terme.

Avant même de former les effectifs à l'utilisation des plates-formes autorisées, dont la mode se répand à grande vitesse dans l'industrie, il faut impérativement sensibiliser l'ensemble du personnel au fonctionnement réel de l'intelligence artificielle, aux apparences trompeuses d'un assistant virtuel omniscient (mais qui absorbe tout ce qui lui est transmis), aux limites de sa fiabilité, aux conséquences possibles des mauvaises manipulations… en s'assurant que les messages sont bien compris et absorbés.