Anthropic va réactiver Fable 5 après la levée des contrôles à l'exportation par les États-Unis

L'entreprise d'intelligence artificielle Anthropic s'apprête à rétablir l'accès public à ses modèles d'IA les plus puissants, Claude Fable 5 et Mythos 5, plusieurs semaines après leur retrait sous l'effet d'une directive du gouvernement américain.

Les deux derniers modèles d'Anthropic étaient interdits d'accès public depuis le 12 juin, date à laquelle le gouvernement avait appliqué des contrôles à l'exportation à la suite d'un rapport dans lequel des chercheurs avaient contourné les garde-fous de Fable 5. Anthropic avait alors été contraint de couper immédiatement tout accès aux modèles. Le gouvernement a levé ces restrictions mercredi, a indiqué Anthropic.

« Après une série d'échanges constructifs avec le gouvernement américain, nous redéployons le modèle avec un nouveau jeu de classificateurs pour cibler et bloquer davantage de tâches liées à la cybersécurité », a déclaré Anthropic.

La suspension des modèles avait soulevé des inquiétudes quant au contrôle étatique sur la technologie IA de pointe et créé un précédent dangereux, selon des experts et des technologues. Les contrôles à l'exportation avaient également mis en lumière les préoccupations de la Maison Blanche face à une menace potentielle pour la cybersécurité nationale si ces modèles puissants venaient à être contournés et utilisés à des fins malveillantes.

Le déploiement rapide de la meilleure technologie reste la priorité

Le secrétaire américain au Commerce Howard Lutnick a déclaré sur X mercredi : « Au cours des deux dernières semaines, nous avons travaillé en étroite collaboration avec Anthropic pour analyser et approuver Fable 5 afin d'assurer l'alignement au sein du gouvernement américain et de renforcer le leadership des États-Unis en matière d'IA. »

De son côté, la cheffe de cabinet de la Maison Blanche Susie Wiles a indiqué sur X que la priorité du gouvernement reste de « déployer la meilleure technologie [IA] le plus rapidement et le plus sûrement possible ».

À lire aussi : Un chercheur en IA affirme avoir déjà contourné les garde-fous de Fable 5 d'Anthropic

Les restrictions avaient fait suite à la prise de connaissance par le gouvernement d'un rapport dans lequel des chercheurs d'Amazon avaient trouvé une méthode pour contourner les garde-fous de Fable 5, ce qui avait conduit le modèle à identifier plusieurs vulnérabilités logicielles.

Dans un billet de blog, Anthropic a fait valoir que ce risque n'était pas propre à Fable 5, des modèles moins puissants étant également capables d'identifier les mêmes vulnérabilités et de produire les mêmes exploits.

Une classification des jailbreaks IA proposée

Anthropic a également commencé à rédiger un cadre consensuel avec Amazon, Microsoft, Google et d'autres partenaires au sein de son Project Glasswing — une collaboration annoncée en avril pour se prémunir contre les menaces de cybersécurité liées à l'IA — afin d'« évaluer la gravité des jailbreaks d'IA ».

Les classificateurs de sécurité en cybersécurité d'Anthropic et la façon dont les jailbreaks interagissent avec eux. Source : Anthropic

L'entreprise renforce également sa collaboration avec le gouvernement américain sur les tests et les garde-fous des modèles d'IA. « Cela inclura un accès pré-lancement aux modèles et aux garde-fous à des fins d'évaluation, un partage d'informations sur les jailbreaks et les usages abusifs, ainsi que des ressources dédiées à la recherche conjointe », a-t-elle précisé.

Un chercheur en IA réputé avait affirmé avoir contourné les garde-fous de Fable 5 dans les 48 heures suivant son lancement en juin, avant les restrictions gouvernementales, et avait partagé des captures d'écran montrant comment il avait déjoué les dispositifs de sécurité du modèle.

Magazine : L'IA bancarise les non-bancarisés en Afrique... plus vite que la crypto