Aivizor
Aivizor
СкиныКреативыСообщество
Назад
  1. Сообщество
  2. /
  3. Other AI

White Circle привлекла $11 млн на API для мониторинга поведения ИИ‑моделей

Новость
Д
Дарья Лебедева
Редактор аналитических материалов

5/16/2026, 2:07:43 PM

White Circle привлекла $11 млн на API для мониторинга поведения ИИ‑моделей

Основатель Денис Шилов, получивший широкую известность в 2024 году после демонстрации обхода защит ИИ‑моделей одним промптом, запустил Pumpkin Intelligence Inc. под брендом White Circle как сервис правил и мониторинга взаимодействий с моделями.

12 мая 2026 года White Circle объявила о посевном раунде на $11 млн для развития единого API, который в реальном времени отслеживает входящие запросы и ответы ИИ‑моделей. Инвестиция направлена на сокращение операционных и регуляторных рисков при внедрении моделей и позволяет компаниям обнаруживать и блокировать нежелательные или опасные сценарии использования до их масштабирования.

Инициатором проекта стал Денис Шилов, прославившийся в 2024 году демонстрацией того, что единичный промпт может обойти защиты многих коммерческих моделей и раскрывать инструкции по созданию опасных веществ, доступ к закрытой информации и системным подсказкам. На фоне этой демонстрации Шилов основал Pumpkin Intelligence Inc., работающую под брендом White Circle, чтобы предложить практические механизмы защиты. Технологически White Circle использует собственные специализированные модели для мониторинга входов и выходов: система предназначена для выявления вредоносного контента и галлюцинаций, предотвращения prompt‑injection и jailbreak‑атак, отслеживания дрейфа модели и активности злоумышленников. Собранные данные помогают командам выбирать и корректировать используемые модели, а также улучшать правила фильтрации и реагирования.

В посевном раунде участвовали известные фигуры индустрии: Ромен Уэ (Romain Huet, OpenAI Group PBC, Head of Developer Experience), Дирк Кингма (Dirk Kingma, сооснователь OpenAI, сейчас в Anthropic), Мехди Гиссаси (Mehdi Ghissassi, ранее DeepMind) и Оливье Помель (Olivier Pomel, сооснователь и CEO DataDog). Ранее такие компании, как Anthropic, OpenAI и Hugging Face, уже обращали внимание на исследования Шилова.

White Circle позиционирует своё решение как инструмент для уменьшения рисков: API может обнаружить и остановить утечку чувствительных данных в финтех‑моделях или помешать атаке, которая меняет поведение сервиса. По словам Шилова, защитные модели обучаются под надзором на «нормальном» поведении и со временем становятся точнее, что позволяет безопаснее разворачивать ИИ‑продукты в критичных отраслях.

Источники

  1. SiliconANGLE AI · 5/12/2026
0
0
0

Ответы (0)

Пока нет ответов в этой теме.

9:41