COO Google Cloud требует встроенной платформной безопасности AI из‑за угроз «shadow AI» и агентных атак

Франсис де Соуза, операционный директор Google Cloud, заявил на бэкстейдже в Лос‑Анджелесе, что безопасность нужно делать частью платформной архитектуры AI с самого начала, а не откладывать «на потом». Он подчеркнул ключевой тезис: «нет AI‑стратегии без стратегии данных и стратегии безопасности» — эти три направления должны развиваться синхронно. Это важно потому, что новые угрозы ускоряют цикл атак и расширяют поверхность риска, затрагивая и технологических лидеров, и их клиентов.

Де Соуза предупредил о проблеме «shadow AI» — когда сотрудники используют потребительские инструменты без корпоративного надзора — и настаивает, что организации должны требовать от платформ встроенных средств безопасности, управления и аудита. Он также отметил мультиоблачную реальность: даже компании, формально привязанные к одному провайдеру, зависят от SaaS‑приложений и партнёров на других облаках, поэтому необходима согласованная политика безопасности между облаками и моделями. Параллельно сообщалось о волне разработчиков Google Cloud, получивших пятизначные счета после несанкционированных вызовов API к моделям Gemini — услугам, которые многие из них не подключали намеренно. Этот инцидент иллюстрирует, как простые вызовы API могут привести к финансовым и операционным рискам, если контроля и видимости недостаточно.

По словам де Соузы, ландшафт угроз изменился кардинально: время между первоначальным взломом и следующей стадией атаки сократилось примерно с восьми часов до 22 секунд, а поверхность атаки вышла за пределы традиционной сети. Теперь нужно защищать не только сеть и инфраструктуру, но и сами модели, конвейеры данных для их обучения, автономных агентов и даже подсказки — всё это стало частью ударной поверхности атак.

Особенно опасны автономные агенты, которые «бродят» по внутренним системам и могут обнаруживать забытые хранилища данных, например старые SharePoint‑серверы с неактуальными правами доступа. В ответ де Соуза предлагает «встретить машинную скорость машинной скоростью»: разворачивать AI‑нативную, полностью агентную оборону, где агенты выполняют защитные действия, а люди обеспечивают надзор и управление. Он подчёркивает, что это уже вопрос на уровне совета директоров и исполнительной команды.

Кадровый дефицит усугубляет ситуацию: квалифицированных специалистов по безопасности ИИ недостаточно, уязвимости появляются быстрее, чем команды успевают их закрывать. В этой же плоскости Lea Kissner, CISO LinkedIn, предупреждала о надвигающейся «bug‑pocalypse» и прогнозировала, что индустрия не будет в устойчивом состоянии понимания AI‑безопасности ещё несколько лет. Итоговой задачей де Соузы видится требование к платформам поставлять встроенные механизмы защиты и управления, чтобы организации могли снизить скорость распространения угроз и повысить видимость инцидентов.