NVIDIA и Google Cloud углубляют сотрудничество для развития агентного и физического ИИ

Компании NVIDIA и Google Cloud объявили на конференции Google Cloud Next в Лас-Вегасе о новом этапе своего десятилетнего партнерства. Цель сотрудничества — ускорить развитие агентного и физического искусственного интеллекта, расширяя возможности платформы Google Cloud AI Hypercomputer для фабрик ИИ. Это позволит перевести лабораторные разработки в производственные решения, внедряя ИИ-агентов для управления сложными процессами, а также роботов и цифровых двойников на производстве.

Одним из ключевых анонсов стали новые бессерверные инстансы A5X, построенные на архитектуре NVIDIA Vera Rubin. Они значительно повышают эффективность, обеспечивая до 10 раз меньшую стоимость инференса на токен и в 10 раз более высокую пропускную способность токенов на мегаватт по сравнению с решениями предыдущего поколения. Эти системы интегрируют NVIDIA ConnectX-9 SuperNICs и сетевую технологию Google Virgo, что позволяет масштабировать их до 80 000 GPU NVIDIA Rubin в одном кластере и до 960 000 GPU в мультисайтовом кластере.

Кроме того, представлены предварительные версии моделей Google Gemini для Google Distributed Cloud, которые будут работать на GPU NVIDIA Blackwell и NVIDIA Blackwell Ultra. Это нововведение позволяет клиентам безопасно использовать передовые ИИ-модели Google в собственных средах, где обрабатываются наиболее конфиденциальные данные. Платформа также поддерживает агентный ИИ на базе Gemini Enterprise Agent Platform, используя открытые модели NVIDIA Nemotron и фреймворк NVIDIA NeMo.

Портфолио Google Cloud теперь включает расширенный спектр решений на базе NVIDIA Blackwell. Среди них — виртуальные машины A4 с системами NVIDIA HGX B200, стоечные виртуальные машины A4X с NVIDIA GB200 NVL72, A4X Max с NVIDIA GB300 NVL72, а также дробные виртуальные машины G4 с GPU NVIDIA RTX PRO 6000 Blackwell Server Edition. Эта гибкость позволяет клиентам масштабировать вычислительные ресурсы от одной восьмой части GPU до тысяч графических процессоров Blackwell в кластерах с технологией NVIDIA NVLink 5, адаптируя их под различные нужды.

Новая комплексная платформа оптимизирована для широкого круга рабочих нагрузок: от рассуждений с применением Mixture — of-Experts и мультимодального вывода до обработки данных и сложных симуляций для физического ИИ и робототехники. Ведущие ИИ-лаборатории, включая Thinking Machines Lab и OpenAI, уже используют эту инфраструктуру для масштабирования приложений, обучения моделей и выполнения крупномасштабного инференса, в том числе для ChatGPT. Особое внимание уделено конфиденциальности данных. Благодаря NVIDIA Confidential Computing на платформе NVIDIA Blackwell, модели Gemini могут функционировать в защищенной среде. Это гарантирует шифрование запросов и данных для тонкой настройки, делая их недоступными для неавторизованных сторон, включая операторов инфраструктуры. Защиту данных в публичном облаке также обеспечивает предварительная версия конфиденциальных G4 VM с NVIDIA RTX PRO 6000.

Марк Лохмейер, вице-президент Google Cloud, отметил: "Следующее десятилетие в сфере ИИ будет определяться способностью клиентов запускать самые требовательные рабочие нагрузки на интегрированном и оптимизированном для ИИ стеке инфраструктуры". Это партнерство предоставляет клиентам беспрецедентную гибкость в обучении, настройке и обслуживании моделей, значительно повышая производительность, сокращая затраты и обеспечивая устойчивость решений.