Ошибка модели Claude в декларации Latham & Watkins привела к суду по делу Concord Music Group v. Anthropic

В мае 2025 года юридическая фирма Latham & Watkins подала в федеральный суд по делу Concord Music Group v. Anthropic декларацию, содержащую несколько юридических ссылок с неверными авторскими данными и названиями публикаций. Сторона ответчика обнаружила расхождения и обратила на них внимание суда, после чего дело получило активное судебное рассмотрение. По описанию инцидента, сотрудник фирмы нашёл релевантный академический источник через поисковик, после чего Dukanovic передал Claude корректный URL и попросил оформить правовую ссылку. Модель вернула цитату с правильным годом и рабочей ссылкой, однако указала других авторов и некорректное название документа. Поскольку ссылка разрешалась на существующий ресурс, эти ошибки не были замечены при ручной проверке.

Технически важен момент: модель не сгенерировала вымышленный документ, а неправильно описала реальный материал на уровне метаданных. Совпадение URL и года сделало погрешность труднее для обнаружения, чем полностью фиктивная ссылка — по сути это похоже на оформление цитаты реального закона, но под указанием неверной юрисдикции или авторства. подчеркивает практическую значимость происшествия: Latham & Watkins — крупная фирма, у партнёров которой обычные ставки превышают $2,000 в час, и фирма ранее числила Anthropic среди своих клиентов. Ранее, в конце 2024 года, в деле Gauthier v. Goodyear Tire & Rubber Co. суд Восточного округа Техаса выявил поданные цитаты, сгенерированные Claude, и наложил санкции — штраф в $2,000 и обязательное прохождение CLE (обучения по использованию ИИ).

Суд по делу Concord отреагировал жёстко: судья потребовал явного раскрытия использования ИИ в подготовке документов и установил конкретные требования к человеческой верификации для будущих подач. Суд при этом охарактеризовал инцидент не как простую техническую неисправность, а как профессиональную ошибку, усилив практические риски применений моделей при составлении судебных материалов. Широкое значение инцидента связано с Rule 11 Федеральных правил гражданского судопроизводства: подпись адвоката остаётся декларацией о тщательной проверке фактов, но эти правила изначально ориентированы на умышленную фальсификацию или грубую небрежность. Проблема, выявленная в работе Claude, — выдача убедительно оформленных, но неверных метаданных — ставит под сомнение традиционные подходы к стандарту достаточной осмотрительности и требует дополнительных процедур верификации при использовании ИИ в юридической практике.