En mayo de 2025, Latham & Watkins presentó ante un tribunal federal una declaración en el caso Concord Music Group v. Anthropic que contenía citas con metadatos erróneos: el título y los autores de una fuente estaban equivocados. Esos metadatos fueron generados por Claude, el modelo de IA defendido por Anthropic en el litigio; el error no se detectó hasta que la parte contraria lo localizó y lo llevó ante la corte.
La secuencia fue la siguiente: un colega del despacho encontró una fuente usando Google Search y Dukanovic solicitó a Claude que formateara la cita entregándole la URL correcta. Claude devolvió un formato con el año y el enlace correctos, pero con título y autores equivocados. La verificación manual que se realizó validó únicamente que la URL resolvía y que el documento existía, no que los metadatos coincidieran con el contenido, y la declaración con esos errores fue archivada.
Técnicamente, Claude no inventó una fuente inexistente sino que describió mal una fuente real, un tipo de fallo que complica la detección porque la URL funciona y el documento asociado existe. Ese fenómeno suele denominarse “alucinación de metadatos”: el modelo produce datos atribuidos (título, autor) que no coinciden con el recurso enlazado. El incidente se inscribe en una tendencia reciente de litigios sobre uso de IA en documentos procesales. En Gauthier v. Goodyear Tire & Rubber Co. (Eastern District of Texas, fines de 2024) una presentación con citas y citas textuales fabricadas, atribuidas a Claude, motivó sanciones a la parte responsable, incluida una multa de $2,000 y la obligación de realizar capacitación sobre IA.
Ante el error en el expediente de Latham, el tribunal ordenó la divulgación explícita del uso de IA y fijó requisitos de verificación humana para futuros escritos. El juez trató la falla como un incumplimiento profesional, conectándola con la Regla 11 de las Federal Rules of Civil Procedure, que obliga a los abogados a certificar la veracidad de los hechos alegados y la investigación razonable previa a la presentación.
Para desarrolladores y abogados, las lecciones son prácticas: las alucinaciones de metadatos requieren controles más profundos que la mera resolución de URL. Entre las medidas recomendadas están registrar la procedencia de las consultas, comparar automáticamente título y autor con el contenido recuperado, exigir revisión humana antes de cualquier presentación judicial y añadir advertencias y flujos de verificación en herramientas que integren modelos como Claude.
Fuentes
Respuestas (0)
Aún no hay respuestas en este tema.
