AWS внедряет корпоративную память в Amazon Bedrock через Amazon Neptune и Mem0

AWS представила новое решение для Amazon Bedrock, позволяющее внедрять корпоративную память с использованием Amazon Neptune и Mem0.

Amazon Web Services (AWS) представила решение по внедрению корпоративной памяти в сервис Amazon Bedrock, используя Amazon Neptune и Mem0. Эта интеграция призвана обеспечить AI-агентов устойчивым и специфичным для каждой компании контекстом, позволяя им обучаться и адаптироваться в ходе множества взаимодействий. Одним из первых, кто применил эту технологию, стала компания TrendMicro, интегрировавшая ее в свой чат-бот Trend’s Companion. Это дало клиентам возможность взаимодействовать с информацией через естественные, разговорные диалоги.

В основе новой архитектуры лежит комбинация ключевых сервисов AWS. Amazon Neptune служит для хранения графа корпоративных знаний, содержащего информацию о внутренних связях, процессах и данных, что обеспечивает точный и структурированный поиск. Mem0 управляет как краткосрочной памятью для текущих диалогов, так и долгосрочной памятью, сохраняющей постоянные знания между сессиями. Amazon Bedrock координирует работу AI-агентов, интегрируясь с Neptune и Mem0 для извлечения и использования контекстуальных знаний в процессе генерации ответов.

Данное решение нацелено на устранение ключевых проблем корпоративных AI-чат-ботов: необходимость сохранения истории разговоров для непрерывности, масштабируемого доступа к корпоративным знаниям, а также обеспечения актуальности, безопасности и точности памяти. Оно призвано предоставлять персонализированную и контекстно — ориентированную поддержку. Основная задача заключалась в интеграции долгосрочной памяти для организационных знаний с краткосрочной памятью для текущих бесед, что способствует обмену знаниями в масштабах всей компании. Такой подход значительно улучшает пользовательский опыт, позволяя чат-ботам восстанавливать релевантную историю, извлекать структурированные корпоративные знания и формировать точные, насыщенные контекстом ответы. Архитектура также задействует Amazon OpenSearch Service для семантической гибкости и Amazon Neptune для структурной точности, что позволяет чат-боту генерировать высокорелевантные ответы.

Процесс создания и обновления памяти начинается с захвата пользовательских сообщений и извлечения сущностей, связей и потенциальных воспоминаний с помощью модели Claude в Amazon Bedrock. Затем эти данные встраиваются через Amazon Bedrock Titan Text Embed и используются для поиска в Amazon OpenSearch Service и Amazon Neptune. Выявленные сущности и воспоминания извлекаются, обновляются с помощью соответствующей модели, а затем повторно встраиваются и индексируются обратно в OpenSearch и Neptune. Это обеспечивает непрерывное обновление и актуальность базы знаний.

Система также интегрирует механизм обратной связи с участием человека (human — in-the-loop). Для каждого сгенерированного AI ответа система сопоставляет предложения с используемыми воспоминаниями, формируя отчет об их оценке. Пользователи имеют возможность одобрять или отклонять эти сопоставления. Одобренные воспоминания остаются в базе знаний, тогда как отклоненные удаляются из OpenSearch Service и Neptune. Такой подход гарантирует сохранение только проверенных и надежных знаний, постоянно повышая точность памяти и предоставляя корпоративным клиентам прямое влияние на уточнение знаний их AI-cictem.