La responsable technologique de l’UE affirme que le bloc peut faire face au risque d’une IA incontrôlable : rapport

Alors que les incidents récents chez OpenAI et Anthropic alimentent les craintes que des agents d’IA renégats puissent échapper au contrôle humain, la responsable des technologies de l’Union européenne a déclaré que les règles du bloc sur l’utilisation de l’IA étaient largement capables de relever ces défis.

« Nous constatons que la sûreté et la sécurité des modèles très performants sont un sujet brûlant à l’échelle internationale, et nous sommes bien équipés en Europe pour y faire face », a déclaré la responsable des technologies de l’UE, Henna Virkkunen, à Reuters dans une interview publiée vendredi.

Elle a rejeté les critiques affirmant que les règles du bloc sur l’IA étaient dépassées. Si l’AI Act de l’UE, qui réglemente l’IA en fonction du niveau de risque, figure parmi les réglementations les plus strictes au monde, il a été adopté il y a deux ans.

À lire aussi : Le dirigeant d’Anthropic appelle à ralentir le développement de l’IA pour parvenir à un rythme plus sûr

« Nous avons mis en place notre AI Act, qui couvre l’ensemble du cycle de vie de ces modèles », a-t-elle déclaré, ajoutant que les régulateurs fournissaient aux entreprises des orientations sur la manière d’évaluer leurs modèles, en tenant compte des recommandations de 60 experts de l’IA.

La Commission européenne a demandé fin août des informations à plus de 30 entreprises d’IA non identifiées, leur demandant des détails sur leurs mesures de sûreté et de sécurité.

Virkkunen a déclaré qu’elle évaluait actuellement les réponses.

Cointelegraph a rapporté le 13 septembre que le PDG d’Anthropic, Dario Amodei, avait déclaré dans un article de blog que le rythme du développement de l’IA était trop rapide et que, s’il n’était pas contrôlé, il pourrait « dépasser notre capacité à comprendre et à contrôler ces systèmes ».

Il a déclaré que les progrès fulgurants de l’IA étaient alimentés par sa capacité croissante à construire la prochaine génération d’IA, ou à s’améliorer elle-même de manière récursive.

Magazine : Trop importante pour être mise sur pause : un ralentissement de l’IA pourrait-il faire s’effondrer l’économie ?