CAISI расширил программу тестирования ИИ: к ней присоединились Google DeepMind, Microsoft и xAI

Центр стандартов и инноваций в области ИИ (CAISI) при Министерстве торговли США расширил программу независимых оценок: к ранее заключённым соглашениям с Anthropic и OpenAI добавились сделки с Google DeepMind, Microsoft и xAI.

Центр стандартов и инноваций в области ИИ (CAISI) при Министерстве торговли США объявил о новых соглашениях с Google DeepMind, Microsoft и xAI, сообщили представители агентства. Документ от 5 мая 2026 года указывает, что расширение программы направлено на проведение независимых оценок возможностей и рисков моделей до их широкого релиза. По условиям новых сделок лаборатории предоставляют CAISI предвыпускные версии своих систем, включая варианты с уменьшенными встроенными ограничениями безопасности (reduced safety guardrails). Эти сборки будут исследоваться в контролируемых и классифицированных средах, где специалисты моделируют эксплуатацию уязвимостей и проверяют возможные векторы атак.

Расширение следует за ранними соглашениями CAISI с Anthropic и OpenAI и происходит на фоне ускоренного совершенствования ИИ‑систем, которые становятся лучше в выявлении и использовании уязвимостей. В документе также подчёркивается, что нарастание технологического соперничества с Китаем служит фактором, стимулирующим усиление контроля и тестирования. Директор CAISI Крис Фолл подчеркнул: «независимая, строгая наука измерений необходима для понимания передового ИИ и его последствий для национальной безопасности». Агентство уже провело более 40 оценок, некоторые из них — на невыпущенных моделях, говорится в заявлении. Первичные соглашения включали совместные оценки безопасности и исследования по смягчению рисков; новые договорённости расширяют пул поставщиков и формально предоставляют доступ к тестовым версиям крупнейших коммерческих разработчиков ИИ.

Практический вывод для разработчиков и инженеров заключается в том, что государственные проверки на моделях с ослабленными защитами и в классифицированных условиях способны выявлять реальные эксплуатационные риски и методы их нейтрализации ещё до релиза. Результаты этих тестов, по оценке CAISI, вероятно лягут в основу рекомендаций по контрмерам и стандартов измерений безопасности ИИ.