Amazon Lex запустил Assisted NLU на базе LLM для повышения точности диалоговых ботов

Amazon Lex представил Assisted NLU-функцию, которая объединяет большие языковые модели (LLM) с традиционным NLU для улучшения распознавания намерений и заполнения слотов;

Amazon Lex объявил о запуске Assisted NLU-функции, использующей большие языковые модели (LLM) для повышения точности распознавания намерений и извлечения слотов в диалоговых ботах. Это важно для разработчиков и компаний, потому что Assisted NLU снижает число нераспознанных запросов и уменьшает потребность в ручной настройке множества вариаций пользовательских высказываний, что ускоряет развертывание и поддержку ботов. Технологически Assisted NLU комбинирует традиционные ML‑модели Lex с LLM: модель учитывает названия и описания intents и slots для интерпретации вводимых фраз. Среди возможностей — исправление опечаток, извлечение нескольких слотов из одного сложного предложения и лучшая работа со «шумными» вводами, что сокращает зависимость от правил‑ориентированных сценариев и ручного покрытия всех вариантов формулировок.

Функция поддерживает два режима работы. В Primary mode LLM обрабатывает каждый ввод пользователя; в Fallback mode сначала применяется традиционное NLU Lex, а LLM вызывается лишь при низкой уверенности модели или при маршрутизации в FallbackIntent. Включение доступно в настройках локали бота в консоли — достаточно переключить Assisted NLU, выбрать режим и перестроить бота; для программной настройки предусмотрен NluImprovementSpecification API.

В документе приводятся количественные результаты и отзывы: средняя точность классификации намерений достигает 92%, точность разрешения слотов — 84%. Авторы указывают, что сотни клиентов уже активировали Assisted NLU; ранние пользователи сообщают об увеличении точности классификации на 11 — 15%, снижении числа ответов‑fallback на 23,5% и улучшении обработки шумных вводов примерно на 30%. Текст также иллюстрирует ограничение правил‑ориентированных систем на примерах бронирований, где LLM помогает интерпретировать более свободную речь.

Для перехода на Assisted NLU пост рекомендует практики: выбирать режим в зависимости от ожидаемой нагрузки и требований к задержке, писать информативные описания intent и slot, оптимизировать определения слотов и настраивать логику разъяснения намерений. Проверять поведение через Test Workbench и планировать миграцию как для новых, так и для уже развернутых ботов, чтобы сохранить стабильность пользовательского опыта. Assisted NLU включена без дополнительной платы в рамках стандартной цены Amazon Lex.