В марте 2025 года на конференции NVIDIA GTC компания ASUS представила свою новейшую разработку в области инфраструктуры для искусственного интеллекта — ASUS AI POD, основанную на платформе NVIDIA GB300 NVL72. Это решение представляет собой значительный шаг вперёд в области высокопроизводительных вычислений, предназначенных для обучения и инференса моделей с триллионами параметров.​

Технические характеристики

ASUS AI POD объединяет в себе 72 графических процессора NVIDIA Blackwell Ultra и 36 процессоров NVIDIA Grace, размещённых в 18 вычислительных модулях. Каждый модуль оснащён четырьмя GPU и двумя CPU, что обеспечивает высокую плотность вычислительных ресурсов в одном стойковом решении. Система поддерживает до 40 ТБ высокоскоростной памяти, что делает её идеальной для работы с крупномасштабными ИИ-моделями. ​

Для обеспечения эффективной связи между компонентами используется 5-е поколение технологии NVIDIA NVLink, обеспечивающее пропускную способность до 130 ТБ/с. Сетевая инфраструктура включает NVIDIA Quantum-X800 InfiniBand и Spectrum-X Ethernet, а также сетевые адаптеры ConnectX-8 SuperNIC, предоставляющие до 800 Гбит/с сетевой пропускной способности на GPU.

Система охлаждения и энергоэффективность

ASUS AI POD полностью использует жидкостное охлаждение, что позволяет эффективно отводить тепло от высокопроизводительных компонентов и поддерживать стабильную работу системы. Это решение не только повышает надёжность, но и способствует снижению энергопотребления, обеспечивая до 25 раз большую энергоэффективность по сравнению с предыдущими поколениями, такими как NVIDIA H100. ​

🚀 Область применения и производительность

Благодаря своей архитектуре ASUS AI POD обеспечивает:​

• 30-кратное ускорение инференса моделей с триллионами параметров по сравнению с предыдущими решениями.
• 4-кратное ускорение обучения крупных языковых моделей.​
• 18-кратное увеличение скорости обработки данных по сравнению с традиционными CPU. ​

Такие характеристики делают ASUS AI POD идеальным решением для задач, требующих высокой вычислительной мощности, включая обучение и инференс больших языковых моделей, генеративный ИИ, а также обработку и анализ больших данных.​

Кроме того, ASUS предоставляет комплексные решения для развёртывания и управления AI POD, включая:​

• ASUS Infrastructure Deployment Center (AIDC): обеспечивает упрощённое развертывание и настройку инфраструктуры.​
• ASUS Control Center (ACC): предоставляет инструменты для мониторинга, обновления прошивок и обеспечения безопасности.​

Дочерняя компания ASUS — Taiwan Web Service Corporation (TWSC) — предлагает облачные сервисы и поддержку для клиентов, стремящихся интегрировать ASUS AI POD в свои вычислительные среды.

Перспективы

Поставки ASUS AI POD с платформой NVIDIA GB300 NVL72 начались в марте 2025 года. Это решение уже привлекло внимание крупных корпоративных клиентов и исследовательских организаций, заинтересованных в передовых ИИ-инфраструктурах. С учётом стремительного роста потребностей в высокопроизводительных вычислениях для ИИ-приложений, ASUS AI POD представляет собой важный шаг в направлении создания масштабируемых и эффективных решений для будущих задач в области искусственного интеллекта. На данный момент, в Россию данные решения не поставляются.