Семь угроз безопасности ИИ и что должны сделать разработчики и ИТ

Джессика Лау в материале от 18 мая 2026 описывает семь основных рисков безопасности, связанных с использованием ИИ в рабочих процессах, и предлагает практические шаги для их снижения. ИИ уже внедрён «в каждый уголок» рабочего дня — в браузеры, почту и автоматизации — поэтому отсутствие чётких правил повышает вероятность утечек данных и неправильного использования инструментов. Это напрямую влияет на уровень контроля ИТ‑команд и риск несоответствия требованиям безопасности в организациях.

Одной из центральных проблем автор называет «теневой ИИ» (Shadow AI): по данным статьи, 70% сотрудников сообщают об отсутствии корпоративных политик или руководства по ИИ, из‑за чего люди экспериментируют с инструментами вне одобренных процессов. Каждый неучтённый инструмент становится потенциальной точкой утечки данных или нарушением требований, и при сотнях сотрудников и десятках приложений такая поверхность риска быстро масштабируется. В ответ Лау советует вводить понятные политики, ускорять процессы утверждения и предлагать сотрудникам одобренные альтернативы.

Исследование, на которое ссылается автор, проанализировало более 1 000 000 AI‑запросов и 20 000 загруженных файлов в 300 генеративных инструментах и обнаружило чувствительные корпоративные данные в более чем 4% запросов и в свыше 20% загруженных файлов. Ключевой вывод: как только конфиденциальная информация попадает в стороннюю ИИ‑систему, организация теряет контроль над хранением, доступом и возможностью использования этих данных для дальнейшей тренировки моделей. В материале подчёркивается необходимость технических мер, прежде всего анонимизации данных и внедрения систем предотвращения утечек данных (DLP).

Чтобы одновременно дать сотрудникам нужные возможности и сохранить контроль, автор предлагает централизовать доступ к ИИ через управляемую инфраструктуру: предоставить агентам ИИ доступ к приложениям по единому пути, который контролирует ИТ. В качестве точек интеграции указаны возможности подключения агентов через MCP в чат‑средах, SDK для кодинг‑агентов и CLI для терминалов. Главное требование к таким решениям — полная видимость и управляемость путей доступа и действий агентов.

Практическое значение для разработчиков и ИТ‑команд заключается в трёх приоритетах: проектировать инфраструктуру так, чтобы маршрутизировать взаимодействия ИИ через управляемые и логируемые каналы; внедрять DLP и процедуры анонимизации до передачи данных во внешние модели; и выстраивать быстрый и понятный процесс сертификации новых инструментов. Без этих мер организации рискуют получить скрытую поверхность атак, проблемы с соответствием требованиям и реальную угрозу утраты контроля над конфиденциальной информацией.