Amazon Bedrock AgentCore Code Interpreter и Strands Agents SDK демонстрируют реализацию RLM для анализа документов

В техническом материале изложена методика реализации Recursive Language Models (RLM) на базе Amazon Bedrock AgentCore Code Interpreter и Strands Agents SDK, ориентированная на сценарии, где входные данные не помещаются в контекстное окно модели. Документ описывает, как декомпозировать задачу через кодовую оркестрацию корневого LLM и направленные вызовы под‑LLM для поэтапного извлечения и агрегации информации. Ключевой компонент — AgentCore Code Interpreter: песочница с Python‑рантаймом и постоянным состоянием между запусками. В сессии загрузку полного документа выполняют как Python‑переменную, внутрь среды внедряют функцию llm_query(), которая из песочницы вызывает Amazon Bedrock для выполнения под‑LLM задач, а промежуточные результаты хранятся в переменных вместо возвращения в контекст корневого агента.

Авторы объясняют, почему традиционные контекстные окна не справляются: при анализе большого корпуса — например, годовые отчёты по 300 — 500 страниц и сопутствующие документы — суммарный объём может достигать миллионов символов. При прямой подаче таких данных запрос либо превышает лимит контекста и падает, либо модель «теряет» информацию в середине длинного ввода — известная проблема «lost in the middle». RLM рассматривается как итеративная архитектура среды: корневой LLM получает только запрос и описание окружения, пишет код для поиска и нарезки документов, делегирует семантический разбор выбранных сегментов под‑LLM и аккумулирует результаты в рабочей памяти. Метод основан на идеях, изложенных в Zhang et al., arXiv:2512.24601, и строит рекурсивную петлю оркестрации и анализа.

Практические последствия для разработчиков: подход декоррелирует размер входа от размера контекстного окна, позволяя строить рабочие процессы для итеративного, постоянного анализа многомиллионных корпусов. Песочница в PUBLIC‑режиме обеспечивает исходящие API‑вызовы к Bedrock, что даёт возможность инициировать под‑LLM задачи изнутри среды, при этом промежуточные результаты остаются в переменных Python и не расходуют контекст корневого агента.