El Center for IA Standards and Innovation (CAISI) del Departamento de Comercio firmó acuerdos el 5 de mayo de 2026 con Google DeepMind, Microsoft y xAI para probar modelos de inteligencia artificial antes de su disponibilidad pública en busca de riesgos para la seguridad nacional. La iniciativa amplía colaboraciones previas con Anthropic y OpenAI; CAISI afirmó que una medición científica independiente y rigurosa es esencial para comprender las implicaciones de estos sistemas.
Según los acuerdos, las empresas facilitarán versiones de sus modelos con guardarraíles de seguridad reducidos, destinadas exclusivamente a pruebas internas del gobierno. CAISI ha realizado más de 40 evaluaciones, incluidas algunas sobre modelos no publicados, y los nuevos pactos permiten efectuar análisis en entornos clasificados para estudiar comportamientos que no aparecen en las versiones públicas.
La expansión de estas pruebas coincide con un momento en que los modelos de IA avanzan rápidamente en su capacidad para detectar y explotar vulnerabilidades de ciberseguridad, y cuando la competencia tecnológica con China se intensifica. Los acuerdos originales ya contemplaban evaluaciones conjuntas de seguridad y proyectos de investigación entre laboratorios y agencias gubernamentales orientados a mitigar riesgos.
El acceso previo y las pruebas en entornos clasificados buscan identificar y corregir fallas antes del despliegue público, informar políticas y protocolos de seguridad, y orientar medidas de respuesta ante amenazas emergentes. La coordinación entre CAISI y los laboratorios pretende reducir la exposición de infraestructuras críticas a comportamientos riesgosos de los modelos de frontera.
Fuentes
Respuestas (0)
Aún no hay respuestas en este tema.
