Le cabinet d’avocats de Wall Street Sullivan & Cromwell a présenté ses excuses à un juge fédéral après avoir soumis un document judiciaire contenant une quarantaine de citations erronées et d’autres erreurs causées par des hallucinations d’intelligence artificielle.
« Nous regrettons profondément que cela se soit produit », a écrit Andrew Dietderich, co-responsable de l’équipe mondiale de restructuration de Sullivan & Cromwell, vendredi dans une lettre adressée au juge en chef Martin Glenn du tribunal des faillites des États-Unis pour le district sud de New York.
« Le cabinet et moi-même sommes pleinement conscients de notre responsabilité d’assurer l’exactitude de toutes nos soumissions, notamment au regard de la règle locale de faillite 9011-1(d), et j’assume la responsabilité de ce manquement », a-t-il déclaré à propos d’une requête d’urgence déposée neuf jours plus tôt.
Cet incident met en lumière les risques que les outils d’IA peuvent représenter dans des travaux professionnels à forts enjeux en l’absence de supervision adéquate. Une base de données gérée par le spécialiste des technologies juridiques Damien Charlotin recense 1 334 cas d’hallucinations d’IA dans des documents judiciaires à travers le monde, dont plus de 900 aux États-Unis.
Charlotin souligne que la majorité de ces hallucinations concernent des citations inventées, bien que des arguments juridiques générés par IA aient également été identifiés à l’occasion.
Dietderich a précisé que Sullivan & Cromwell dispose de politiques encadrant l’utilisation des outils d’IA, incluant une vérification des citations, mais que ces règles n’avaient pas été suivies.
« Malheureusement, ce processus de vérification n’a pas permis d’identifier les citations inexactes générées par l’IA, ni d’autres erreurs qui semblent résulter en tout ou en partie d’erreurs humaines. »
Sullivan & Cromwell est l’un des plus grands cabinets d’avocats aux États-Unis en termes de chiffre d’affaires, classé 30e dans le classement AmLaw Global 200. Le cabinet a également représenté la plateforme crypto FTX dans sa procédure de faillite.
Sullivan & Cromwell ouvre une enquête interne
Dietderich a indiqué que le cabinet avait pris des « mesures correctives immédiates », notamment une révision complète des circonstances ayant conduit aux erreurs.
À lire aussi : Le protocole de paiement IA x402 de Coinbase lance une boutique d’applications pour agents IA
Le cabinet « évalue également la nécessité de renforcer ses processus internes de formation et de contrôle », a ajouté Dietderich.
Dietderich a également précisé que les erreurs avaient été détectées par un cabinet concurrent.
« J’ai également contacté Boies Schiller Flexner LLP vendredi pour les remercier d’avoir porté cette affaire à notre attention et pour leur présenter mes excuses directement », a-t-il déclaré.
Magazine : IronClaw rivalise avec OpenClaw, Olas lance des bots pour Polymarket — AI Eye
