Anthropic affirme que Claude a été utilisé pour des cyberattaques et de la surveillance

Des opérateurs russophones et sinophones ont utilisé Claude, le modèle d’Anthropic, pour automatiser des cyberattaques, a déclaré l’entreprise dans un rapport publié jeudi.

L’opérateur russophone « JackPoterz » a utilisé des flux de travail personnalisés pilotés par l’IA pour automatiser une grande partie de la chaîne d’attaque, en ciblant plus de 20 organisations, dont des ministères et des organismes de renseignement. L’acteur a également ciblé des ambassades et des missions diplomatiques en Ukraine et en Europe.

Des opérateurs sinophones ont également utilisé Claude comme couche d’ingénierie et d’orchestration pour la recherche de vulnérabilités. Un flux de travail a produit en un mois plus d’une douzaine de découvertes potentielles de vulnérabilités zero-day dans le micrologiciel d’équipements réseau.

Anthropic a déclaré que l’IA modifiait l’économie des cyberattaques, permettant à des opérateurs individuels de mener à bien des compromissions en deux à trois heures et de gérer des dizaines de victimes en parallèle.

Par ailleurs, un consultant indépendant probablement basé à Bamako et travaillant avec le service de renseignement d’État du Mali a utilisé Claude comme principal outil technique pour créer un système national de surveillance intérieure à l’échelle de la population, qui surveille environ 25 millions de cartes SIM auprès des trois opérateurs mobiles nationaux du pays.

La plateforme déployée fonctionnait sur site avec des modèles locaux, Claude fournissant une assistance en matière de conception logicielle et d’ingénierie. Elle était conçue pour générer des dossiers de renseignement sur des numéros de téléphone sans nécessiter d’ordonnance judiciaire.

À lire aussi : L’IA n’a pas déclenché d’« hackpocalypse » dans la DeFi, affirme un associé de Dragonfly