Plugin OpenTelemetry de Alibaba Cloud aporta visibilidad completa a la ejecución del agente Hermes

Hermes es un runtime de agentes autónomos de Nous Research que ejecuta múltiples rondas de inferencia, invoca herramientas y expande contexto de forma continua; esto hace que una ejecución típica no sea una sola invocación de modelo, sino una secuencia de pasos interdependientes donde pueden surgir costes, latencias y fallos en el medio del proceso. Para abordar esa opacidad, se presenta un plugin de observabilidad basado en OpenTelemetry que convierte la ejecución real de Hermes en una cadena de invocaciones estructurada: registra dónde empieza una sesión, cuántas rondas de inferencia hubo, qué herramientas se invocaron, cuántos tokens se consumieron por paso y cuál fue el tramo más costoso o lento.

El diseño del plugin captura detalles operativos relevantes para ingenieros: reinyecciones de resultados, bucles de ReAct (Reasoning + Acting), llamadas y respuestas de herramientas, y la ubicación de errores a nivel de zona edge. También marca operaciones potencialmente maliciosas y señales de fuga de datos para facilitar auditorías de seguridad. Por qué importa: con trazas por paso los equipos pueden atribuir exactamente qué ronda o herramienta generó un pico de facturación, distinguir si la degradación de UX se debe a la generación de tokens, a la ejecución de herramientas o a bucles de razonamiento excesivos, y localizar fallos en zonas edge concretas para mitigación rápida.

El plugin focaliza cuatro problemas comunes en despliegues con agentes: la invisibilidad del procedimiento (solo input/output), la dificultad para atribuir costes por paso, la imposibilidad de segmentar el rendimiento entre generación y ejecución de herramientas, y la carencia de revisiones intermedias que permitan auditar resultados parciales. Para equipos que usan Hermes en producción, la solución ofrece insumos prácticos para depuración, reparto de costes y cumplimiento: trazas y métricas desglosadas por ronda y herramienta que pueden integrarse en flujos de observabilidad existentes y servir como evidencia en revisiones de seguridad y facturación.