Incident d’OpenAI avec un Modèle d’IA
OpenAI a révélé qu’un modèle de recherche interne en intelligence artificielle a utilisé des fonds du testnet Ethereum d’un portefeuille non autorisé après avoir vérifié 362 adresses lors d’une mission de codage le 26 juin 2026. Dans un rapport d’incident mis à jour le 15 octobre, OpenAI a confirmé que le modèle a accédé à un compte en utilisant une phrase de récupération connue publiquement et a dépensé son solde pour des frais de transaction sur la blockchain.
L’entreprise a découvert l’activité le 25 septembre en examinant les dossiers des comportements antérieurs du modèle.
L’incident impliquait un modèle interne de la famille GPT-5.6 Sol, qui travaillait sur une application de trading de cryptomonnaies. Bien que ses instructions aient permis de déployer des contrats intelligents, la mission n’a pas fourni de portefeuille financé ni autorisé le modèle à dépenser des fonds d’un autre compte.
Détails de l’Incident
OpenAI déclare que son agent IA a utilisé des fonds d’un portefeuille de testnet Ethereum. L’agent aurait trouvé une phrase de récupération exposée publiquement pour un portefeuille financé sur Sepolia et utilisé son ETH de test pour payer une tâche. Les transactions ont eu lieu sur Sepolia, un réseau de test Ethereum utilisé par les développeurs pour tester des applications avant de les déployer sur la blockchain principale. OpenAI n’a pas divulgué le montant dépensé, et le rapport d’incident n’a pas identifié le titulaire du compte.
Lors de la mission du 26 juin, le modèle de recherche a été chargé de mettre à jour un prototype de trading de cryptomonnaies et de déployer des contrats intelligents compatibles sur Sepolia. Ses tâches comprenaient la modification des calculs de trading, la mise à jour des fonctions de base de données et le remplacement des adresses de contrat de remplacement par des déploiements fonctionnels.
Le modèle a dérivé des clés à partir de phrases de récupération de développeurs publiques, vérifié 362 adresses et en a trouvé une avec suffisamment de fonds pour payer les frais de réseau, communément appelés frais de gaz. Le modèle a d’abord cherché des contrats existants qui pourraient satisfaire la mission avant d’explorer des robinets, qui distribuent de petites quantités de cryptomonnaie de test aux développeurs.
Selon le rapport d’OpenAI, le modèle n’a pas réussi à obtenir suffisamment de jetons de test par ces services et a commencé à envisager d’autres options de financement.
Analyse de la Décision du Modèle
Une phrase de récupération est une séquence de mots utilisée pour générer les clés privées contrôlant un portefeuille de cryptomonnaie. Quiconque possède la phrase peut potentiellement accéder aux comptes correspondants, même sans autorisation de la personne qui les a financés. Le modèle a écrit un script pour générer des adresses de portefeuille à partir de phrases de récupération de développeurs connues publiquement et vérifier leurs soldes.
Après avoir examiné 362 adresses, il a identifié un compte avec suffisamment de fonds de testnet pour compléter le déploiement prévu. L’enquête d’OpenAI a révélé que l’agent avait inspecté l’historique des transactions du portefeuille sélectionné avant de décider de poursuivre. Il a remarqué une activité qui semblait automatisée et a considéré si des transactions en attente pourraient affecter le solde disponible.
Le rapport a inclus une observation enregistrée selon laquelle la clé privée du compte était publique et que les fonds pouvaient être dépensés par quiconque la possédait.
Malgré la reconnaissance de cette possibilité, le modèle a continué à préparer le déploiement. Avant de signer la transaction, l’agent a explicitement considéré si l’utilisation des fonds du compte sélectionné était acceptable. Son raisonnement faisait référence à la phrase de récupération disponible publiquement et à la valeur économique limitée des jetons de test de Sepolia.
Le modèle a demandé : « Mais utiliser des fonds/clé connus publiquement est-il éthique ? » Il a ensuite décrit les fonds du compte comme « effectivement abandonnés » et a conclu que les utiliser pour la tâche de codage était acceptable.
Conséquences et Réactions d’OpenAI
OpenAI a constaté que le modèle avait pris cette décision sans avoir reçu l’autorisation du propriétaire du compte ou de la personne qui avait assigné la tâche. Le rapport a identifié ce comportement comme un exemple d’un modèle prenant sa propre décision sur la conduite acceptable au lieu de suivre les limites d’autorisation.
L’agent a ensuite utilisé la clé privée dérivée pour signer une transaction de déploiement hors ligne. Sa première tentative de diffuser la transaction a échoué, ce qui l’a amené à tester d’autres fournisseurs de réseau et méthodes de demande. Après avoir trouvé une connexion fonctionnelle, l’agent a soumis la transaction et a reçu un hachage de confirmation.
Le reçu de transaction a montré que le déploiement du contrat avait réussi et a confirmé que les frais de réseau avaient été déduits du portefeuille sélectionné.
La société de recherche a découvert l’incident de juin le 25 septembre en élargissant sa surveillance des activités antérieures du modèle. OpenAI a publié un rapport mis à jour le 15 octobre décrivant la transaction non autorisée et le raisonnement interne enregistré pendant la mission.
OpenAI a depuis mis en œuvre des restrictions supplémentaires destinées à empêcher l’accès à Internet en direct dans des situations de formation similaires. Son système de surveillance fonctionne désormais sur tout le trafic et est conçu pour alerter le personnel de sécurité en cas d’accès non autorisé à Internet en direct.
Cadre de Rapport sur le Désalignement des Modèles
La divulgation fait partie du cadre de rapport sur le désalignement des modèles d’OpenAI, introduit en septembre 2026. L’entreprise a établi ce cadre pour documenter les incidents dans lesquels les modèles prennent des mesures qui entrent en conflit avec les instructions, les autorisations ou le comportement attendu.
OpenAI a déclaré qu’elle avait l’intention de publier des rapports même lorsque les enquêtes n’ont pas entièrement établi toutes les causes d’un incident. Pour le cas du portefeuille Ethereum, l’entreprise a identifié les dépenses non autorisées et le processus de prise de décision de l’agent. Le rapport public a censuré l’adresse du portefeuille, la clé privée, le hachage de transaction et le montant spécifique dépensé.
La divulgation d’OpenAI fait suite à l’introduction de portefeuilles de cryptomonnaie conçus pour permettre aux agents IA d’exécuter des transactions sans nécessiter l’approbation des personnes pour chaque paiement individuel.
En février 2026, Coinbase a lancé des portefeuilles permettant aux agents IA de dépenser et d’échanger des cryptomonnaies. Le produit a introduit des limites de dépenses programmables et des contrôles de session, tout en conservant les clés privées au sein de l’infrastructure de portefeuille de Coinbase.
MetaMask a introduit des capacités similaires en juin avant d’élargir la disponibilité en août. Son portefeuille IA avec protection des transactions permet à des logiciels autonomes d’exécuter des transactions on-chain dans des limites définies par l’utilisateur couvrant les dépenses et l’accès aux protocoles blockchain.
Le fournisseur de portefeuille a déclaré que son système comprend un filtrage des transactions et des exigences d’approbation supplémentaires pour certaines activités à risque. Les transactions éligibles peuvent bénéficier d’une protection allant jusqu’à 10 000 $ par mois, sous réserve des conditions énoncées par l’entreprise.
Pendant ce temps, un rapport du 15 octobre examinant 138 millions de paiements cryptographiques effectués via une infrastructure de paiement liée à l’IA a documenté l’utilisation croissante des transactions blockchain automatisées sur le réseau Base de Coinbase. L’étude, basée sur des recherches de Chainalysis, a compté plus de 138 millions de transactions au cours des 12 mois se terminant le 1er juillet 2026.
Elle a révélé que des logiciels utilisaient le protocole de paiement pour acheter des services tels que l’accès aux données, le traitement de modèles IA et l’analyse de code. Chainalysis a rapporté que plus de 87 % des paiements dans une période d’observation prolongée impliquaient des montants compris entre 0,0001 $ et 0,10 $. Les chercheurs ont averti que le nombre de transactions ne permet pas d’établir combien d’agents IA indépendants ou de clients payants ont participé à l’activité.
