OpenAI представила новый план безопасности для борьбы с ростом сексуальной эксплуатации детей

OpenAI представила план безопасности для повышения защиты детей в США на фоне роста эксплуатации с использованием ИИ.

План включает более быструю детекцию, улучшение отчетности и эффективное расследование случаев эксплуатации детей.

Число случаев сексуального насилия с использованием ИИ увеличилось на 14% по сравнению с предыдущим годом.

План разработан в ответ на опасения по поводу безопасности детей в интернете и росту внимания со стороны властей и общественности.

Сложные случаи с суицидами среди молодежи после взаимодействия с ИИ? чатами подчеркивают необходимость таких мер.

План направлен на обновление законодательства и улучшение механизмов отчетности для правоохранительных органов.

Согласно отчету Internet Watch Foundation, в первой половине 2025 года было зарегистрировано более 8000 случаев сексуального насилия с использованием ИИ.

План безопасности стал результатом сотрудничества с Центром нераспознанных и эксплуатируемых детей и другими организатциями.

OpenAI ранее обновила свои рекомендации для взаимодействия с пользователями младше 18 лет и ограничила создание неподобающего контента.

Ожидается, что новый план поможет более эффективно выявлять и предотвращать случаи эксплуатации детей.

OpenAI продолжит сотрудничество с властями и организациями для улучшения механизмов защиты.

Наблюдение за эффективностью плана позволит в дальнейшем настроить его под меняющиеся условия и угрозы.