Sullivan & Cromwell se disculpa por alucinaciones de IA en un escrito judicial con 40 citas erróneas

Mensaje de Gate News, 23 de abril — Sullivan & Cromwell, un importante despacho de abogados de Wall Street, se disculpó ante un juez federal después de presentar un escrito judicial que contenía aproximadamente 40 citas incorrectas y otros errores provocados por alucinaciones de IA. Andrew Dietderich, codirector del equipo global de reestructuración del despacho, escribió el viernes al juez principal Martin Glenn del Tribunal de Quiebras de EE. UU. para el Distrito Sur de Nueva York, afirmando “Lamentamos profundamente que esto haya ocurrido” y asumiendo la responsabilidad por el fallo en garantizar la exactitud.

Según una base de datos gestionada por el tecnólogo legal Damien Charlotin, ha habido 1,334 incidentes registrados de alucinaciones de IA en escritos judiciales en todo el mundo, con más de 900 ocurridos en EE. UU. La mayoría de estas alucinaciones implican citas inventadas, aunque también se han identificado argumentos legales generados por IA en algunos casos.

Dietderich señaló que Sullivan & Cromwell tiene políticas vigentes para el uso de herramientas de IA, incluidos procesos de revisión de citas, pero no se siguieron en esta ocasión. Dijo: “Lamentablemente, este proceso de revisión no identificó las citas inexactas generadas por IA, ni identificó otros errores que parecen haber resultado total o parcialmente de un error manual.” El despacho está llevando a cabo una investigación interna y evaluando mejoras en sus procesos de capacitación y revisión.

Los errores fueron descubiertos por el despacho rival Boies Schiller Flexner. Sullivan & Cromwell, clasificado en el puesto 30 del AmLaw Global 200, anteriormente representó a la bolsa de criptomonedas FTX en su caso de quiebra.