Google запустила превью Content Detection API в Gemini Enterprise и расширила внедрение SynthID

Google представила превью Content Detection API на платформе Gemini Enterprise Agent в Google Cloud и расширила применение SynthID у партнёров, включая NVIDIA, OpenAI, Kakao и ElevenLabs.

Google начала превью Content Detection API как часть платформы Gemini Enterprise Agent на Google Cloud — инструмент, рассчитанный на раннее тестирование у партнёров и разработчиков и призванный помогать автоматически определять источник и свойства изображений. Компания приглашает выбранные организации регистрироваться на ранний доступ, чтобы предоставить обратную связь и помочь доработать API перед широким релизом. Это важно для операторов платформ и сервисов модерации, поскольку API даёт новый механизм принятия решений о показе контента и автоматизации рабочих процессов.

На этапе превью с Google работают Shutterstock, Snap, Fox Sports и Canva; эти компании участвуют в раннем тестировании и оценке работы API в реальных продуктах и процессах. Организации, подключающиеся к раннему доступу, смогут сообщать о проблемах, точности детекции и интеграции, что должно ускорить доводку сервиса перед массовым внедрением. Content Detection API принимает изображения в форматах JPEG, PNG и WebP через REST‑вызовы и возвращает аналитические результаты в ответе API. По описанию, сервис использует модели машинного обучения для анализа пиксель‑уровневых артефактов, паттернов шума и спектральных аномалий и при этом не хранит и не сохраняет обработанные изображения. API ориентирован на выявление контента, сгенерированного как в моделях Google, так и в сторонних генеративных системах.

Параллельно Google расширяет применение технологии идентификации SynthID: её внедрение уже отмечено у NVIDIA, OpenAI, Kakao и ElevenLabs. NVIDIA планирует интегрировать SynthID в свои фундаментальные модели Cosmos, а OpenAI заявила о многоуровневом подходе, совмещающем C2PA‑метаданные и SynthID‑водяные знаки — комбинацию, где одна система может компенсировать уязвимости другой при преобразованиях контента. Google приводит примеры практического использования API: бэкенд‑операции вроде сортировки лент и предотвращения страхового мошенничества, а также пользовательские сценарии — маркировка, факт‑чекинг и управление синтетическими медиа. Для разработчиков это инструмент, позволяющий основывать решения о модерации и автоматизации на свойствах и происхождении медиаконтента.

Кроме API, SynthID уже добавлен в приложение Gemini для проверки аудио, видео и изображений, и Google планирует развернуть проверку в Поиске и Chrome. Компания также намерена внедрить C2PA Content Credentials в камерах смартфонов Pixel серий 8, 9 и 10, чтобы прикреплять метаданные к снимкам и видео и маркировать контент как не сгенерированный ИИ. По данным компании, SynthID использовался для водяных знаков более чем в 100 миллиардах изображений и видео и в объёме, эквивалентном 60 000 годам аудиозаписей, что указывает на движение отрасли к многоуровневым методам верификации синтетического контента.