L'IA de l'ombre devient impossible à stopper

Alors que Google déploie depuis peu en France l'« Aperçu IA » au sein de son moteur de recherche, un article d'ITRmanager me procure une occasion de prendre un peu de recul sur les stratégies de protection mises en place dans les entreprises afin d'éviter les fuites de données et autres risques de sécurité engendrés par l'intelligence artificielle.

Après le lancement de ChatGPT puis des autres plates-formes d'intelligence artificielle générative destinées au grand public, les responsables informatiques des grands groupes, notamment du secteur financier, particulièrement sensibles, ont rapidement commencé à instaurer des blocages en vue d'interdire leur accès aux collaborateurs, par crainte (souvent justifiée) de divulgation de données confidentielles lors de leur utilisation ou de confiance excessive accordée aux résultats qu'elles produisent.

Naturellement, il n'était rien de plus simple jusqu'à présent que de créer des règles de filtrage sur les réseaux internes verrouillant toute tentative de consultation des sites bien connus, comme il en existe depuis très longtemps pour d'autres catégories de services en ligne (par exemple de divertissement). Hélas, l'initiative de Google vient rappeler aux gardiens du temple que l'IA n'existe déjà plus seulement sous la forme d'outils indépendants, faciles à identifier, mais que, de plus en plus, elle va s'infiltrer partout.

Avec la dernière version en date de son moteur de recherche, ce que redoutait les spécialistes de la sécurité fait désormais partie intégrante d'une des fonctions les plus utilisées d'internet. Tout en continuant à pouvoir l'exploiter comme ils l'ont toujours fait, avec une requête à base de mots-clés, ils ont maintenant aussi la possibilité d'exécuter des demandes complexes, partager le contexte de leur navigation, copier-coller des informations de leur poste de travail… pour obtenir des réponses élaborées.

Sauf à mettre entièrement Google (et ses pairs suivant la même évolution) sur liste noire, il est difficile d'empêcher les employés de profiter de cet ajout pour contourner les contraintes qui leur ont été imposées auparavant. Outre le renforcement nécessaire des messages pédagogiques sur les dangers de l'IA et les précautions plus ou moins élémentaires à prendre dans sa prise en main, l'auteur de l'article en référence propose sa propre solution, fournissant essentiellement un audit des requêtes effectuées.

Mais ce ne peut être qu'une réponse temporaire car, bientôt, l'intelligence artificielle sera intégrée dans tous les recoins du web et les risques associés seront alors omniprésents, à des degrés variables. Plus que jamais, l'éducation du personnel aux « bons » usages (y compris dans le registre éthique, incidemment), la sensibilisation récurrente aux principes de sécurité…, et le recours à des solutions de surveillance intelligentes à portée très large deviennent primordiales dans les organisations.