3‑миллиардная модель DharmaOCR превзошла фронтирные API по качеству и обошлась в ~50 раз дешевле

Dharma в апреле представила DharmaOCR — набор из двух специализированных небольших языковых моделей для задач структурированного OCR. В публикации команды от 22 мая 2026 года сообщается, что 3‑миллиардная модель, дообученная по целевой задаче, превзошла все протестированные коммерческие фронтирные API по ключевому корпоративному метрику и при этом стоила примерно в 50 раз меньше в эксплуатации. Это меняет экономику закупок для компаний, которые обрабатывают большие объёмы документов с помощью OCR. В репозитории, сопутствующем выпуску, Dharma опубликовала сами модели, бенчмарк и сопроводительную научную работу, позволяя другим воспроизвести измерения и проверить выводы на собственных данных. Релиз включает два специализированных LLM, тестовую среду для оценки и подробное описание pipeline дообучения.

Авторы подчёркивают методологию: модель получена через последовательность этапов fine‑tuning, при которой одновременно оценивались качество вывода, стоимость инференса и стабильность в продакшене. По их словам, используемый pipeline доступен для реализации любой хорошо оснащённой корпоративной команды, что делает результаты воспроизводимыми и проверяемыми в прикладных условиях. Исследование выделяет стратегическую переменную, часто упускаемую при закупках ИИ: распределительная согласованность обучения с задачей (distributional alignment) и степень специализации модели. В последние три года рыночным дефолтом был выбор самых крупных фронтирных моделей, поскольку GPT‑4, затем Claude 3, Gemini 1.5 и поколения 2025 демонстрировали корреляцию возможностей с размером и объёмом вычислений тренировки в духе scaling laws (Kaplan et al., 2020).

Ключевой момент результатов Dharma — сравнение включало специально дообученную модель, а не только уменьшенные варианты фронтирных систем. В тестах модель с лучшим скором также оказалась и самым дешёвым вариантом в эксплуатации, то есть выгодный по качеству результат сочетался с низкой стоимостью инференса в масштабах корпоративных нагрузок. Команда называет описанный случай самым строго измеренным примером более широкой закономерности, отмечаемой и в других доменах (в публикации ссылаются на Subramanian et al., 2025 и Pecher et al., 2026). Практический вывод для инженеров и закупщиков прост: при проектировании и выборе моделей следует включать специализированные дообученные решения в сравнительные испытания и одновременно оценивать стоимость инференса и стабильность продакшена, а не опираться исключительно на размер исходной модели.