MemTensor (Shanghai), HONOR Device y Tongji University proponen MemPrivacy, un método diseñado para reducir la exposición de datos sensibles en despliegues edge‑cloud de agentes LLM. La propuesta evita enviar valores concretos — como condiciones de salud, correos o cifras financieras — al servidor mediante una pseudonimización reversible que preserva la semántica del texto almacenado en la nube. Esto apunta a equilibrar privacidad y utilidad en memorias de IA sin sacrificar la capacidad de razonamiento en el servidor.
El mecanismo opera con un modelo ligero en el dispositivo: detecta tramos sensibles del texto, los clasifica por tipo y sustituye cada valor por marcadores tipados antes de la subida. El servidor procesa y almacena el texto con esos marcadores, manteniendo la integridad semántica necesaria para razonar; cuando el agente genera una respuesta, el dispositivo remapea localmente los marcadores a los valores originales desde una base segura, restaurando la personalización sin revelar los datos al servidor.
Los autores citan estudios que evidencian la vulnerabilidad de memorias externas: ataques multi‑turn con tasas de éxito de hasta 69% y filtraciones de sistemas de memoria cercanas al 75%. Señalan además que técnicas sencillas como el enmascaramiento dañan la semántica, mientras que enfoques más fuertes — privacidad diferencial o criptografía aplicada — resultan difíciles de integrar sin degradar la calidad de las respuestas.
El flujo propuesto consta de tres etapas, incluida una fase de desensibilización en el uplink, que permite que la nube razone sobre memorias sin ver valores reales y que el usuario reciba respuestas personalizadas al restaurar localmente los datos. El trabajo está disponible en arXiv bajo el identificador arXiv:2605.09530v2, y constituye una propuesta de investigación para mitigar compromisos de privacidad en memorias de agentes LLM manteniendo la utilidad del servicio.
Fuentes
Respuestas (0)
Aún no hay respuestas en este tema.
