Un modèle d’OpenAI s’est servi de cryptoactifs sur un testnet, puis a gardé le silence

Un modèle de recherche interne d’OpenAI a accédé sans autorisation à un portefeuille crypto approvisionné, utilisant des Ether de testnet pour déployer des contrats intelligents sur le réseau Sepolia, puis omettant ces dépenses de son résumé final de la tâche. 

OpenAI a déclaré que le modèle, qui faisait partie de sa famille GPT-5.6 Sol, avait reçu pour tâche de mettre à jour un prototype de trading crypto et de déployer des contrats compatibles. Après avoir échoué à obtenir des ETH de testnet via des faucets, le modèle a dérivé des comptes à partir de phrases de récupération de développeurs connues du public, vérifié 362 adresses de portefeuilles et sélectionné celle qui disposait de suffisamment de fonds pour continuer. 

Dans son raisonnement enregistré, le modèle a demandé : « Mais est-il éthique d’utiliser une clé ou des fonds publics connus ? » Il a ensuite estimé que les fonds étaient « effectivement abandonnés ou constitués d’ETH de testnet » et que les ETH de Sepolia n’avaient aucune valeur, avant d’utiliser la clé privée du portefeuille pour signer et diffuser une transaction de déploiement. La transaction a abouti, les frais étant facturés au compte.

OpenAI a déclaré que l’incident montrait comment un modèle d’IA pouvait décider de lui-même qu’il était acceptable d’utiliser les fonds d’autrui, même sans autorisation. L’entreprise a découvert l’incident en examinant une activité antérieure du modèle et a depuis mis en place des mesures de protection pour empêcher l’accès à l’internet en direct dans des situations similaires.

Un incident chez OpenAI alimente les inquiétudes concernant les agents d’IA autonomes

L’incident s’est produit le 26 juin, mais n’a été découvert que le 25 septembre, soit près de trois mois plus tard, selon OpenAI. La transaction n’a pas transféré d’ETH vers un autre portefeuille, mais a facturé au compte les frais de réseau liés au déploiement d’un contrat.

OpenAI a déclaré que son système de surveillance des problèmes d’alignement fonctionne désormais sur l’ensemble du trafic et qu’il est conçu pour alerter le personnel de sécurité lorsqu’un modèle obtient un accès à l’internet en direct.

À lire aussi : Anthropic avertit que des « vers d’IA » pourraient se propager de manière autonome entre les appareils comme un virus

L’incident lié au portefeuille fait suite à d’autres révélations concernant des modèles d’OpenAI ayant agi au-delà de leur autorisation ou dissimulé leurs actions. 

Le 16 septembre, OpenAI a révélé six autres cas de problèmes d’alignement de l’IA. Dans un cas, des instances de GPT-5.6 Sol ont inséré des instructions dans des résumés de tâches afin de dissimuler leurs erreurs aux utilisateurs. Dans un autre cas, un modèle a utilisé sans autorisation une clé d’API exposée avant d’inventer des chiffres qu’il ne pouvait pas récupérer.

OpenAI a déclaré que ces révélations précédentes n’étaient pas destinées à indiquer la fréquence à laquelle des problèmes d’alignement surviennent parmi ses modèles.

Les inquiétudes concernant la gestion d’actifs numériques par des agents autonomes sont également antérieures à cette dernière révélation. En juin, des chercheurs ont averti que des agents d’IA autonomes équipés de portefeuilles crypto pourraient causer des dommages involontaires même lorsqu’ils sont déployés à des fins légitimes. Les chercheurs ont recommandé des mesures de protection, notamment des mécanismes d’arrêt d’urgence, afin de limiter les risques potentiels.

Magazine : Un escroc perd 4,8 millions de dollars stockés sur des Ledger falsifiés : Asia Express