La promesse des agents intelligents de réaliser les actions de la vie quotidienne pour le compte de leurs utilisateurs humains commence à se matérialiser dans quelques navigateurs web. Hélas, quand les experts de la sécurité « digitale » de Guardio évaluent leur capacité à résister aux tentatives de fraude, leur échec est retentissant.
L'intelligence artificielle agentique n'est pas tout à fait mûre mais elle progresse à grands pas et ses démonstrations régulières la rendent déjà éminemment attractive pour les consommateurs qui rêvent de se faciliter leurs interactions en ligne en demandant simplement à leur compagnon internet d'exécuter une tâche, en toute autonomie, aussi complexe soit-elle. La question de leur protection contre les arnaques risque donc de devenir rapidement critique, justifiant l'expérimentation conduite par Guardio.
En l'occurrence, alors que plusieurs logiciels du marché intègrent depuis quelques temps leur propre moteur d'IA, les chercheurs ont sélectionné le premier vrai navigateur agentique, à savoir Comet de Perplexity, pour leur test. Ils ont ensuite élaboré trois scénarios d'attaque reflétant des techniques largement connues et auxquelles une majorité d'internautes sont dorénavant sensibilisés (et immunisés) : faux site d'e-commerce, courriel de hameçonnage et page web infectée par du code malicieux.
Première étape, présenté avec une imitation de boutique Walmart, l'agent n'hésite pas à satisfaire à plusieurs reprises – parfois, il lève une alerte – la requête qui lui est soumise d'acheter une Apple Watch, allant jusqu'à fournir l'adresse de livraison et les informations de paiement conservées pour auto-remplissage. Avec le message prétendument en provenance d'une banque, il suit le lien inclus et sollicite la saisie des identifiants de connexion, sans laisser à l'utilisateur l'opportunité de détecter les indices qui émaillent le parcours suivi automatiquement. Le dernier cas montre enfin comment il est possible de manipuler l'IA en glissant des instructions spécifiques à son intention au sein du contenu qui lui est transmis. Là encore, elle se laisse berner comme une débutante.
La conclusion est aussi triviale qu'inquiétante : à ce stade de leur développement, ces systèmes sont conçus exclusivement pour aboutir au résultat exprimé par la demande qui leur est faite, sans aucune précaution par rapport aux dangers les plus fréquents de la toile, y compris ceux que les citoyens ont appris à repérer. Ils comptent sur les mécanismes internes des socles techniques sur lesquels ils s'appuient (par exemple les signalements de sites de Google), qui sont évidemment très insuffisants.
Pour les auteurs, la solution consistera pour les éditeurs de ces dispositifs à leur inculquer les règles de prévention qui leur éviteront de tomber dans les pièges qui leur seront tendus. Mais ils soulignent également l'inévitable escalade de moyens qui va probablement s'enclencher, par laquelle les escrocs exploiteront eux-mêmes l'intelligence artificielle afin de peaufiner leurs offensives et de s'assurer qu'elles restent efficaces, au fur et à mesure que des parades seront adoptées par leurs victimes…
Les conséquences pour les acteurs de la finance – qui seront comme toujours, avec les e-commerçants, les cibles privilégiées des fraudeurs – pourraient s'avérer dramatiques. En effet, avec les méthodes illustrées par Guardio et leurs dérivées, le point faible visé par une attaque n'est plus un groupe d'individus, chacun représentant une victime (potentielle) isolée, mais une IA et ses millions (à terme) d'adeptes : à une telle échelle, c'est la confiance dans l'institution qui pourrait se trouvée menacée.
Aucun commentaire:
Enregistrer un commentaire
Afin de lutter contre le spam, les commentaires ne sont ouverts qu'aux personnes identifiées et sont soumis à modération (je suis sincèrement désolé pour le désagrément causé…)