Amazon Web Services (AWS) ha anunciado el lanzamiento de una innovadora arquitectura automatizada diseñada para resolver un desafío operativo clave en la gestión de aplicaciones de inteligencia artificial generativa a nivel corporativo. La nueva solución se centra en la sincronización continua y en tiempo real de las bases de conocimiento de Amazon Bedrock. Anteriormente, estas bases requerían un proceso manual cada vez que se agregaban, modificaban o eliminaban documentos, incluidos los archivos de metadatos, en Amazon Simple Storage Service (Amazon S3).
Para abordar esta problemática operativa, la compañía ha publicado un mecanismo integral totalmente sin servidor y basado en eventos, desplegado a través del modelo de aplicación sin servidor de AWS (AWS SAM). Esta arquitectura automatiza por completo el flujo de datos desde el almacenamiento hasta los modelos fundacionales, eliminando la necesidad de gestionar infraestructura subyacente. Al remover los procesos manuales que son propensos a demoras o descuidos, la herramienta mejora significativamente la eficiencia operativa. La solución detecta eventos en Amazon S3 y activa trabajos de ingesta de manera automática, garantizando que los modelos de lenguaje posean el contexto adecuado proveniente de fuentes de datos privadas de la organización.
Un aspecto fundamental de esta innovación es el manejo riguroso de las restricciones protectoras y cuotas de servicio de Amazon Bedrock. AWS impone estos límites para prevenir el agotamiento de recursos, restringiendo los trabajos de ingesta simultáneos a un máximo de cinco por cuenta de AWS, uno por base de conocimientos y uno por fuente de datos. Adicionalmente, la interfaz de programación StartIngestionJob tiene un límite estricto de velocidad de 0,1 solicitudes por segundo, lo que equivale a una petición cada diez segundos por región. Sin una coordinación automatizada, los equipos de contenido que actualizan múltiples archivos durante un lanzamiento verían sus solicitudes bloqueadas en colas, exigiendo una tediosa supervisión humana.
El flujo de trabajo técnico de esta arquitectura orquestada se activa automáticamente en el preciso momento en que ocurren cambios en un depósito de almacenamiento. Amazon EventBridge captura las modificaciones de Amazon S3 en tiempo real y activa el procesamiento secuencial mediante funciones de AWS Lambda. Estas funciones asumen el rol de extraer detalles específicos del documento, como la ruta del archivo, el tipo de cambio y la marca de tiempo de la modificación. Inmediatamente después, envían solicitudes a Amazon Simple Queue Service (Amazon SQS), un componente que actúa como un sistema de cola para amortiguar las peticiones, gestionando los límites de velocidad para facilitar un procesamiento fluido sin abrumar el sistema.
Para completar el diseño del ecosistema, la arquitectura incorpora herramientas avanzadas para la orquestación y el seguimiento detallado de las operaciones. AWS Step Functions se encarga de dirigir el flujo de trabajo completo de sincronización, mientras que Amazon DynamoDB rastrea las alteraciones de los documentos creando entradas de seguimiento con fines de auditoría. Aunque la publicación original incluye una mención incidental sobre el uso de Amazon EKS y vCluster por parte de la firma Deloitte para infraestructura de pruebas, los detalles técnicos del artículo se enfocan enteramente en cómo los cinco componentes sin servidor mencionados interactúan para mantener el conocimiento actualizado en Amazon Bedrock sin requerir intervención manual.
Fuentes
Respuestas (0)
Aún no hay respuestas en este tema.
