📂 Categoría: Tech,AI,Law,legal-tech,legal-ai,hallucinations,anthropic,louisiana,court-filings,beacon-industries-big-bet,limited-synd | 📅 Fecha: 1777578745
🔍 En este artículo:
Los abogados siguen agotados por la inteligencia artificial que inventa expedientes y elabora presupuestos. Hoy en día, algunos abogados nombran el software que utilizaron.
El mes pasado, un abogado de lesiones personales de Luisiana se disculpó después de presentar escritos citando una decisión judicial real pero citando pasajes que no existían. Los errores aparecieron en dos casos presentados en el Tribunal del Distrito Judicial 19 de Baton Rouge y fueron señalados por el abogado contrario.
“Estoy tratando de entender cómo cometí este error”, escribió Ross LeBlanc, socio de Dudley DeBosier, en una carta privada al juez William Jorden el 27 de marzo. A principios de este año, dijo, comenzó a utilizar un programa de inteligencia artificial llamado Eve para escribir alegatos. Al principio, revisaba a menudo las cotizaciones. «Siempre estaban en lo correcto cuando los revisé», escribió.
Esa constancia le dio confianza y finalmente dejó de controlarse, dijo.
«Nunca pensé que esto podría pasarme a mí», escribió LeBlanc, y agregó que no podía estar seguro de si el error involucraba al software de Eve o si había copiado y pegado algo demasiado apresuradamente.
Jay Madheswaranm, director ejecutivo de Eve, dijo a Business Insider el jueves que después de una auditoría exhaustiva del caso con Dudley DeBosier, la compañía confirmó que Eve «no alucinó ninguna citación en este caso», incluidas citas inventadas.
Los tribunales han impuesto sanciones a los abogados que presentaron escritos que contenían errores creados por inteligencia artificial, a menudo llamados “alucinaciones”. La semana pasada, Sullivan & Cromwell, una de las firmas de abogados más antiguas y de élite del país, se disculpó ante un juez federal por un error similar.
Lo nuevo aquí es el juego de la culpa. Cuando un abogado menciona las herramientas involucradas, las empresas detrás del software quedan en el centro de atención y podrían enfrentar repercusiones en su reputación.
Compañías de software legal como Harvey, Legora y Eve han recaudado miles de millones de dólares prometiendo hacer que los abogados sean más rápidos y dar a las empresas un nivel de confiabilidad que las herramientas de uso general no pueden igualar. Si su software comienza a avergonzar a los clientes en los tribunales, esa confianza se erosiona.
Damien Charlotin, un investigador francés que rastrea las alucinaciones en casos judiciales, estima que menos del 10% de los casos identifican el software utilizado. Sospecha que muchos abogados mantienen esta parte en privado porque dependen de chatbots gratuitos como ChatGPT u otras herramientas disponibles comercialmente que pueden no tener licencia para trabajar con clientes.
El año pasado, un abogado de Latham & Watkins que defendió a Anthropic en una demanda por derechos de autor apareció en los titulares después de citar un artículo que no existe. El abogado dijo que el error se debió al uso del propio chatbot de Anthropic, Claude, que fabricó el titular y los autores del artículo.
Los cofundadores de Eve, David Zeng, Jay Madheswaran y Matt Noe. dia anterior
Eve crea software para los abogados de los demandantes utilizando modelos de lenguaje grandes, ayudándolos a redactar documentos, rastrear sus historiales médicos y enviar y responder a solicitudes de descubrimiento. La empresa fue valorada en mil millones de dólares después de recaudar 103 millones de dólares en financiación hace aproximadamente un año. Madheswaranm dice que Eve ahora procesa más de 200.000 documentos y otros resultados por mes, aproximadamente 100 veces más que hace un año.
LeBlanc le dijo al juez que desconfiaba de la tecnología en general debido a las «historias de terror» sobre jurisprudencia descabellada. Dijo que se convenció después de que Eve presentó la herramienta a su firma y aseguró a los abogados que tenía salvaguardias para reducir los errores. Creía que el riesgo era limitado siempre que realizara su propia investigación legal e indicara al software que confiara únicamente en fuentes aprobadas.
Luego, el abogado de la parte contraria en el caso de lesiones personales señaló sus errores.
La disculpa de LeBlanc surgió este mes en un caso separado que involucró un tropiezo y una caída en una tienda Lowe’s. El abogado contrario encontró alucinaciones en un escrito presentado por Dudley DeBosier e incluyó la carta de LeBlanc en una solicitud instando al tribunal a ampliar su investigación sobre posibles sanciones.
Dudley DeBosier presentó una moción para anular el reclamo del abogado contrario porque afirma que los casos no están relacionados. La firma también dijo que un abogado contrató a Claude para ayudar a redactar el escrito en el caso Lowe’s.
Las empresas de software y los bufetes de abogados creen que la inteligencia artificial puede ayudar con la investigación y la redacción, pero que la responsabilidad del producto final recae en el ser humano que firma el informe.
Madheswaran dijo que Eve lo hace explícito en sus contratos y en la incorporación de nuevos clientes. El software también incluye funciones diseñadas para detectar errores antes de que lleguen a la sala del tribunal, aunque no siempre funcionan. Algunos errores son más difíciles de detectar que otros, afirmó. Es más fácil confirmar la existencia de un expediente que verificar la exactitud de una cotización.
A medida que la profesión jurídica se apresura a adoptar la inteligencia artificial, es más probable que se detecten errores. Los tribunales se están volviendo más conscientes de la tecnología y los abogados de la parte contraria están ajustando sus tácticas. En lugar de abordar argumentos legales solos, los abogados analizan los expedientes en busca de errores que podrían dañar la credibilidad de la otra parte.
Chad Dudley, socio fundador de Dudley DeBosier, una firma con alrededor de 40 abogados, dijo que capacita a sus abogados para revisar cuidadosamente los resultados generados y les pide que acepten utilizar la tecnología de manera responsable.
Por su parte, LeBlanc dijo que espera que otros abogados aprendan de sus errores. Le dijo a Business Insider el jueves que Eve lo ayudó a moverse más rápido bajo presión de tiempo, pero después de que surgieron los errores, se sintió «enfermo del estómago» y no podía dormir.
«Soy responsable de comprobar todo, independientemente de la tecnología», dijo.
No culpa a Eve por este error. Aún así, dejó la herramienta por el momento.
«Siento que, dado lo que pasó», dijo, «es correcto tener un período de reflexión, ya sabes, para empezar».
¿Tiene algún consejo? Póngase en contacto con este periodista por correo electrónico a mrussell@businessinsider.com o Señale a @MeliaRussell.01. Utilice una dirección de correo electrónico personal y un dispositivo que no sea de trabajo; aquí está nuestra guía para compartir información de forma segura.
