Databricks представила фреймворк для управления рисками ИИ

Databricks опубликовала современный фреймворк для управления рисками искусственного интеллекта, предлагающий структурированный подход к выявлению, измерению и снижению потенциальных угроз на всех этапах жизненного цикла ИИ.

Компания Databricks объявила о выпуске нового фреймворка, предназначенного для эффективного управления рисками, связанными с использованием искусственного интеллекта. Этот комплексный подход разработан для помощи организациям в систематическом выявлении, измерении и снижении потенциальных угроз, возникающих на протяжении всего жизненного цикла ИИ-от начальных операций с данными и разработки моделей до их окончательного развертывания и обеспечения безопасности всей платформы.

Основой представленного фреймворка служат четыре ключевые функции, определенные в NIST AI RMF (Национальном институте стандартов и технологий США по управлению рисками ИИ): Govern (Управление), Map (Картирование), Measure (Измерение) и Manage (Контроль). Они призваны обеспечить командам по комплаенсу, специалистам по данным и владельцам рисков необходимые инструменты для создания надежных систем ИИ, которые соответствуют как внутренним стандартам, так и внешним регуляторным требованиям.