Introduction
Une étude récente a révélé que certains routeurs injectent du code malveillant, extraient des identifiants tels que des clés privées et des jetons cloud, et accèdent à des données en texte clair en terminant les connexions TLS entre les utilisateurs et des fournisseurs tels qu’OpenAI, Anthropic et Google. Les tests ont mis en évidence des cas d’accès non autorisé aux identifiants, ainsi qu’au moins une instance d’Ether drainé d’un portefeuille de test utilisant une clé compromise.
Risques de sécurité dans l’écosystème de l’IA
Des chercheurs de l’Université de Californie ont identifié un risque de sécurité critique dans l’écosystème de l’intelligence artificielle, avertissant que certains routeurs de modèles de langage de grande taille (LLM) tiers pourraient exposer les utilisateurs à de graves vulnérabilités, y compris le vol de cryptomonnaie. Leurs résultats soulignent une préoccupation croissante concernant les risques cachés dans la chaîne d’approvisionnement de l’IA, surtout alors que les développeurs s’appuient sur des services intermédiaires pour se connecter aux principaux fournisseurs d’IA.
Découvertes alarmantes
L’étude a examiné les attaques intermédiaires malveillantes et a identifié plusieurs vecteurs d’attaque pouvant compromettre des informations sensibles. Parmi les découvertes les plus alarmantes, certains routeurs injectaient activement des appels d’outils malveillants dans les flux de travail de l’IA, tandis que d’autres étaient capables d’extraire des identifiants tels que des clés privées et des jetons d’accès cloud. Selon le co-auteur Chaofan Shou, un grand nombre de ces routeurs s’engagent discrètement dans le vol d’identifiants sans que les utilisateurs en aient conscience.
Fonctionnement des routeurs
Au cœur du problème se trouve le fonctionnement de ces routeurs. Agissant comme des intermédiaires entre les utilisateurs et les principaux fournisseurs d’IA comme OpenAI, Anthropic et Google, ils terminent les connexions Transport Layer Security (TLS). Ce processus leur permet d’accéder à toutes les données transmises en texte clair, les plaçant ainsi dans une position de visibilité complète sur les interactions sensibles. Pour les développeurs travaillant avec des agents de codage IA, notamment dans des domaines comme les contrats intelligents ou les portefeuilles de cryptomonnaie, cela crée un scénario dangereux où les clés privées, les phrases de récupération et les identifiants pourraient être exposés involontairement.
Évaluation des risques
Pour évaluer ces risques, les chercheurs ont testé des dizaines de routeurs payants et des centaines de routeurs gratuits provenant de communautés publiques. Les résultats étaient frappants : plusieurs routeurs ont été trouvés injectant du code malveillant, tandis que d’autres accédaient à des identifiants cloud confidentiels. Dans un cas, un routeur a réussi à utiliser une clé privée compromise pour drainer de l’Ether d’un portefeuille de test. Bien que la perte financière dans cette expérience contrôlée ait été minimale, les implications pour les applications réelles sont préoccupantes.
Problèmes de sécurité persistants
L’étude a également révélé que même les routeurs qui semblent sûrs peuvent devenir dangereux avec le temps. Grâce à ce que les chercheurs ont décrit comme un « empoisonnement », des systèmes auparavant bénins peuvent réutiliser des identifiants divulgués, amplifiant ainsi la menace à travers le réseau. Rendre les choses encore plus difficiles est la difficulté à détecter un comportement malveillant, car les routeurs sont censés gérer des données sensibles dans le cadre de leur fonction normale, rendant la frontière entre le traitement légitime et le vol presque invisible.
Conclusion et recommandations
Un autre facteur de risque est la montée des fonctionnalités d’automatisation, comme le « mode YOLO », où les agents IA exécutent des commandes sans confirmation de l’utilisateur. Dans de tels environnements, des instructions malveillantes peuvent être exécutées instantanément, augmentant la probabilité d’exploitation. Les chercheurs avertissent que certains routeurs pourraient être silencieusement compromis sans que les opérateurs ne s’en rendent compte, tandis que des services gratuits pourraient délibérément attirer les utilisateurs avec un accès à faible coût tout en récoltant des données précieuses.
Ces résultats soulignent clairement la nécessité urgente de protections plus solides. Les développeurs sont conseillés d’éviter de transmettre des informations sensibles via des systèmes d’IA et de mettre en œuvre des protections client plus strictes.
