📂 Categoría: AI,Law,ai,hallucinations,law-firm | 📅 Fecha: 1776809758
🔍 En este artículo:
Un socio del bufete de abogados de élite de Wall Street, Sullivan & Cromwell, escribió una carta de disculpa a un juez federal de quiebras por un expediente judicial que contenía alucinaciones de IA.
Andrew Dietderich, codirector de Finanzas Globales y Reestructuración de la empresa, dijo en la nota del 18 de abril que una presentación anterior contenía citas inexactas y otros errores, incluidas alucinaciones de IA.
«Las ‘alucinaciones’ son casos en los que las herramientas de inteligencia artificial fabrican citas de casos, citan erróneamente a las autoridades o generan fuentes legales inexistentes», afirma la carta de Dietderich. «Lamentamos profundamente que esto haya sucedido».
Un cuadro adjunto a la carta mostraba que la petición contenía nombres y números de casos incorrectos y citas aparentemente inventadas.
Dietderich dijo que los errores cometidos por Sullivan & Cromwell, que representaba a la quebrada Prince Global Holdings, fueron detectados por el bufete de abogados Boies Schiller Flexner, que representaba a los acreedores, y que les agradecería y pediría disculpas.
Dijo que Sullivan & Cromwell, una firma de 140 años con más de 1.000 abogados, tenía políticas integrales sobre el uso de la IA y había salvaguardas para evitar este escenario exacto. No se siguieron las políticas de la empresa y los errores también fueron más allá del proceso de revisión de citaciones de la empresa, dijo.
Dietderich escribió al presidente del Tribunal Supremo, Martin Glenn, con sede en Manhattan, que él y la firma estaban «muy conscientes de nuestra responsabilidad de garantizar la exactitud de todas las presentaciones».
“Asumo la responsabilidad de no hacerlo”, dijo y agregó que enviarían una versión corregida del expediente.
Un representante de la empresa y Dietderich no respondieron a las preguntas de Business Insider. Un representante del juez tampoco respondió.
Cuando se trata de alucinaciones de IA en el trabajo legal, Sullivan & Cromwell tiene compañía.
Las citaciones legales falsas se han vuelto más comunes desde 2023, según el investigador jurídico Damien Charlotin, que mantiene una base de datos pública de alucinaciones de IA en casos legales.
