{"id":4141,"date":"2025-05-07T00:34:54","date_gmt":"2025-05-07T00:34:54","guid":{"rendered":"https:\/\/satoshibrother.com\/fr\/la-vulnerabilite-delizaos-comment-lia-peut-etre-manipulee-pour-perdre-des-millions\/"},"modified":"2025-05-07T00:34:54","modified_gmt":"2025-05-07T00:34:54","slug":"la-vulnerabilite-delizaos-comment-lia-peut-etre-manipulee-pour-perdre-des-millions","status":"publish","type":"post","link":"https:\/\/satoshibrother.com\/fr\/la-vulnerabilite-delizaos-comment-lia-peut-etre-manipulee-pour-perdre-des-millions\/","title":{"rendered":"La vuln\u00e9rabilit\u00e9 d’ElizaOS : comment l’IA peut \u00eatre manipul\u00e9e pour perdre des millions"},"content":{"rendered":"
\n

Vuln\u00e9rabilit\u00e9s des agents d’IA dans le domaine de la cryptomonnaie<\/h2>\n

Les agents d’intelligence artificielle (IA<\/strong>), dont certains g\u00e8rent des millions de dollars en cryptomonnaies, pr\u00e9sentent des vuln\u00e9rabilit\u00e9s face \u00e0 une nouvelle attaque ind\u00e9tectable qui manipule leurs souvenirs<\/em>, permettant de r\u00e9aliser des transferts non autoris\u00e9s vers des acteurs malveillants. C’est ce que r\u00e9v\u00e8lent les r\u00e9sultats d’une \u00e9tude r\u00e9cente<\/strong> men\u00e9e par des chercheurs de l’Universit\u00e9 de Princeton et de la Sentient Foundation.<\/p>\n

Focus sur ElizaOS<\/h2>\n

Les chercheurs ont identifi\u00e9 des failles dans les agents d’IA orient\u00e9s vers la cryptomonnaie, notamment ceux utilisant le cadre populaire ElizaOS<\/strong>. La notori\u00e9t\u00e9 croissante d’ElizaOS en a fait un choix id\u00e9al pour cette \u00e9tude, comme l’explique Atharv Patlan<\/strong>, \u00e9tudiant dipl\u00f4m\u00e9 de Princeton et co-auteur de l’article : <\/p>\n

\n \u00ab\u00a0ElizaOS est un agent bas\u00e9 sur Web3 qui compte environ 15 000 \u00e9toiles sur GitHub, ce qui t\u00e9moigne de son utilisation r\u00e9pandue. Le fait qu’un agent aussi largement adopt\u00e9 pr\u00e9sente des vuln\u00e9rabilit\u00e9s a suscit\u00e9 notre int\u00e9r\u00eat pour approfondir l’exploration de ce sujet.\u00a0\u00bb\n <\/p><\/blockquote>\n

Initialement lanc\u00e9 sous le nom d’ai16z, Eliza Labs a introduit le projet en octobre 2024. Il s’agit d’un cadre open-source permettant de cr\u00e9er des agents d’IA qui interagissent avec et op\u00e8rent sur des blockchains. La plateforme a \u00e9t\u00e9 rebaptis\u00e9e ElizaOS en janvier 2025.<\/p>\n

La technique de l’injection de m\u00e9moire<\/h2>\n

Un agent d’IA est un programme autonome con\u00e7u pour percevoir son environnement, traiter des informations et prendre des mesures afin d’atteindre des objectifs sp\u00e9cifiques sans intervention humaine. Selon l’\u00e9tude, ces agents, souvent utilis\u00e9s pour automatiser des t\u00e2ches financi\u00e8res<\/strong> sur des plateformes blockchain, peuvent \u00eatre compromis par une technique appel\u00e9e \u00ab\u00a0injection de m\u00e9moire<\/strong>\u00a0\u00bb \u2014 un vecteur d’attaque novateur qui incorpore des instructions malveillantes dans la m\u00e9moire persistante de l’agent.<\/p>\n

\n \u00ab\u00a0Eliza dispose d’un espace de m\u00e9moire, et nous avons tent\u00e9 d’introduire de faux souvenirs en utilisant une autre personne pour proc\u00e9der \u00e0 l’injection via une autre plateforme de m\u00e9dias sociaux,\u00a0\u00bb a expliqu\u00e9 Patlan.\n <\/p><\/blockquote>\n

Les agents d’IA qui s’appuient sur le sentiment des r\u00e9seaux sociaux sont particuli\u00e8rement sensibles \u00e0 cette forme de manipulation. Les attaquants peuvent utiliser de faux comptes et des publications coordonn\u00e9es, une technique connue sous le nom d’attaque Sybil<\/strong>, afin de tromper les agents.<\/p>\n

Cons\u00e9quences des attaques et recommandations<\/h2>\n

Ce type d’injection de m\u00e9moire entra\u00eene une r\u00e9ponse bas\u00e9e sur de fausses informations lors d’interactions futures, g\u00e9n\u00e9ralement sans comportement anormal d\u00e9tect\u00e9. Bien que ces attaques ne ciblent pas directement les blockchains, Patlan a indiqu\u00e9 que l’\u00e9quipe a explor\u00e9 l’ensemble des capacit\u00e9s d’ElizaOS pour simuler une attaque r\u00e9aliste. <\/p>\n

\n \u00ab\u00a0Le plus grand d\u00e9fi a \u00e9t\u00e9 de d\u00e9terminer quelles fonctionnalit\u00e9s exploiter. Nous avons voulu que l’attaque soit plus r\u00e9aliste, alors nous avons examin\u00e9 l’ensemble des fonctionnalit\u00e9s qu’ElizaOS offre,\u00a0\u00bb a-t-il expliqu\u00e9.\n <\/p><\/blockquote>\n

Les r\u00e9sultats de l’\u00e9tude ont \u00e9t\u00e9 partag\u00e9s avec Eliza Labs, et des discussions sont en cours. Apr\u00e8s avoir d\u00e9montr\u00e9 une attaque r\u00e9ussie, l’\u00e9quipe a d\u00e9velopp\u00e9 un cadre d’\u00e9valuation formel, CrAIBench<\/strong>, pour d\u00e9terminer si d’autres agents d’IA pr\u00e9sentaient des vuln\u00e9rabilit\u00e9s similaires.<\/p>\n

Patlan a soulign\u00e9 que : <\/p>\n

\n \u00ab\u00a0La d\u00e9fense contre les injections de m\u00e9moire n\u00e9cessite des am\u00e9liorations \u00e0 plusieurs niveaux. Au-del\u00e0 de l’optimisation des syst\u00e8mes de m\u00e9moire, il est \u00e9galement crucial d’am\u00e9liorer les mod\u00e8les de langage pour mieux distinguer le contenu malveillant de ce que l’utilisateur per\u00e7oit r\u00e9ellement.\u00a0\u00bb\n <\/p><\/blockquote>\n

Eliza Labs n’a pas imm\u00e9diatement r\u00e9pondu aux demandes de commentaires.<\/p>\n<\/article>\n","protected":false},"excerpt":{"rendered":"

Vuln\u00e9rabilit\u00e9s des agents d’IA dans le domaine de la cryptomonnaie Les agents d’intelligence artificielle (IA), dont certains g\u00e8rent des millions de dollars en cryptomonnaies, pr\u00e9sentent des vuln\u00e9rabilit\u00e9s face \u00e0 une nouvelle attaque ind\u00e9tectable qui manipule leurs souvenirs, permettant de r\u00e9aliser des transferts non autoris\u00e9s vers des acteurs malveillants. C’est ce que r\u00e9v\u00e8lent les r\u00e9sultats d’une \u00e9tude r\u00e9cente men\u00e9e par des chercheurs de l’Universit\u00e9 de Princeton et de la Sentient Foundation. Focus sur ElizaOS Les chercheurs ont identifi\u00e9 des failles dans les agents d’IA orient\u00e9s vers la cryptomonnaie, notamment ceux utilisant le cadre populaire ElizaOS. La notori\u00e9t\u00e9 croissante d’ElizaOS en a<\/p>\n","protected":false},"author":3,"featured_media":4140,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[64],"tags":[556,268,65,221,725],"class_list":["post-4141","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-hack","tag-ai","tag-discord","tag-hack","tag-web3","tag-x"],"yoast_description":"Une \u00e9tude de Princeton r\u00e9v\u00e8le des vuln\u00e9rabilit\u00e9s dans ElizaOS, mettant en lumi\u00e8re comment l'IA peut \u00eatre manipul\u00e9e \u00e0 travers des attaques de m\u00e9moire, mettant ainsi en p\u00e9ril des millions en cryptomonnaies.","_links":{"self":[{"href":"https:\/\/satoshibrother.com\/fr\/wp-json\/wp\/v2\/posts\/4141","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/satoshibrother.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/satoshibrother.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/satoshibrother.com\/fr\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/satoshibrother.com\/fr\/wp-json\/wp\/v2\/comments?post=4141"}],"version-history":[{"count":0,"href":"https:\/\/satoshibrother.com\/fr\/wp-json\/wp\/v2\/posts\/4141\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/satoshibrother.com\/fr\/wp-json\/wp\/v2\/media\/4140"}],"wp:attachment":[{"href":"https:\/\/satoshibrother.com\/fr\/wp-json\/wp\/v2\/media?parent=4141"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/satoshibrother.com\/fr\/wp-json\/wp\/v2\/categories?post=4141"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/satoshibrother.com\/fr\/wp-json\/wp\/v2\/tags?post=4141"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}