Anthropic avertit que des « vers IA » pourraient se propager de manière autonome entre les appareils comme un virus

L’entreprise d’intelligence artificielle (IA) Anthropic a averti que des systèmes d’IA autonomes capables de s’autorépliquer pourraient commencer à se propager entre les appareils des utilisateurs sans intervention humaine, à l’instar des virus informatiques. 

Selon un rapport publié lundi par les chercheurs William Zhou et Daniel Freeman pour la Frontier Red Team d’Anthropic, des « vers IA » malveillants pourraient commencer à cibler de manière autonome des appareils du quotidien, notamment des téléviseurs Android, des appareils intelligents, des caméras et d’autres dispositifs connectés à Internet disposant d’une puissance de calcul élémentaire et d’une sécurité faible.

Les auteurs ont déclaré que de petits modèles d’IA pourraient être « à quelques mois de disposer de capacités suffisantes pour s’autorépliquer sur des dispositifs commerciaux de l’Internet des objets (IoT) », ce qui constituerait une menace difficile à contrer, puisqu’elle n’aurait « aucun point central permettant de la désactiver ». 

Cet avertissement fait suite au regain d’inquiétudes concernant les capacités mathématiques croissantes des modèles d’IA, qui pourraient à terme casser les signatures cryptographiques utilisées dans les portefeuilles crypto, menaçant environ un tiers de l’offre de Bitcoin. 

Près d’un tiers de l’offre mondiale de Bitcoin, soit 6,26 millions de BTC, se trouve actuellement sur des adresses susceptibles d’être compromises par des modèles d’IA ou des ordinateurs quantiques. Cependant, 4,33 millions de BTC sont exposés en raison de la réutilisation des adresses, ce qui signifie que déplacer ces BTC vers de nouveaux portefeuilles mettrait fin à l’exposition, a écrit le cofondateur de Glassnode, Rafael Schultze-Kraft, dans une publication publiée jeudi sur X. 

Un jour plus tôt, le chercheur spécialisé dans Ethereum Justin Drake avait averti que les progrès rapides de l’IA pourraient compromettre plus tôt que prévu l’algorithme de signature numérique à courbe elliptique (ECDSA) qui sécurise les portefeuilles de cryptomonnaies, et avait exhorté les utilisateurs à migrer vers de nouveaux portefeuilles.

Haseeb Qureshi, associé directeur de Dragonfly, a qualifié l’ avertissement de « catastrophisme cryptographique » et déclaré que migrer les tokens vers de nouvelles adresses ne constituait pas une véritable solution face à la menace.

À lire aussi : L’IA n’a pas déclenché de « hackpocalypse » de la DeFi, affirme un associé de Dragonfly