NVIDIA DGX A100 — это первая в мире универсальная система для всех нагрузок ИИ с производительностью 5 петафлопс, которая обеспечивает высочайшую плотность вычислений и гибкость. NVIDIA DGX A100 оснащена самым мощным в мире графическим ускорителем NVIDIA A100 с тензорными ядрами, который позволяет компаниям объединить анализ данных, тренировку и инференс в унифицированной и простой в развертывании инфраструктуре ИИ с поддержкой экспертов NVIDIA в области ИИ.
Универсальная система для любых задач ИИ
NVIDIA DGX A100 — это универсальная система для всей инфраструктуры ИИ: от анализа данных до тренировки и инференса. Платформа устанавливает новый стандарт плотности вычислений и заключает производительность 5 петафлопс для задач ИИ в форм-факторе 6U, заменяя устаревшие архитектурные решения единой платформой для любых задач ИИ.
Быстрые результаты
NVIDIA DGX A100 — это первая в мире система на базе GPU NVIDIA A100 с тензорными ядрами. DGX A100 объединяет в себе 8 ускорителей A100 и обеспечивает непревзойденное масштабируемое ускорение, будучи полностью оптимизированной для ПО NVIDIA CUDA-X™ и комплексного стека решений NVIDIA для дата-центра.
Исключительная масштабируемость дата-центра
NVIDIA DGX A100 оснащена коммутатором Mellanox с максимальной пропускной способностью 225 Гбит/с. Это одно из многих преимуществ, которые делают DGX A100 ключевым компонентом крупных кластеров ИИ, таких как референсная архитектура для масштабируемых инфраструктур ИИ NVIDIA DGX SuperPOD™.
Multi-Instance GPU (MIG)
Технология MIG позволяет разделить 8 ускорителей в DGX A100 на 56 полностью изолированных инстансов, оснащенных памятью с высокой пропускной способностью, кэшем и вычислительными ядрами. Теперь администраторы могут предложить оптимальный размер GPU с гарантированным качеством обслуживания (QoS) для различных задач.
Mellanox ConnectX-6 VPI HDR InfiniBand
DGX A100 включает в себя новые адаптеры Mellanox ConnectX-6 VPI HDR InfiniBand/Ethernet с пропускной способностью 200 Гбит/с, которые обеспечивают высокоскоростное соединение для задач ИИ.
Технические характеристки
Спецификация системы
| GPU | 8x NVIDIA A100 Tensor Core GPUs |
| Объем видеопамяти GPU |
320 GB total |
| Производительность | 5 petaFLOPS AI 10 petaOPS INT8 |
| Ядра NVIDIA CUDA | 81920 |
| Ядра NVIDIA Tensor | 10240 |
| NVIDIA NVSwitches | 6 |
| Максимальные уровень энергопотребления |
6.5kW |
| Процессор | Два 24-ядерных CPU Intel Xeon Platinum 8168 с тактовой частотой 2,7 ГГц |
| Объём оперативной памяти CPU |
1TB Dual AMD Rome 7742, 128 cores total, 2.25 GHz (base), 3.4 GHz (max boost) |
| Сеть | 8x Single-Port Mellanox ConnectX-6 VPI 200Gb/s HDR InfiniBand 1x Dual-Port Mellanox ConnectX-6 VPI 10/25/50/100/200Gb/s Ethernet |
| Жесткий диск | OS: 2x 1.92TB M.2 NVME drives Внутренняя память: 15TB (4x 3.84TB) U.2 NVME drives |
| Программное обеспечение |
Ubuntu Linux OS |
| Вес | 123 кг |
| Габариты системы | Высота: 264.0 мм Ширина: 482.3 мм Длина: 897.1 мм |
| Рабочая температура | Температура: от 5 до 30° C (от 41 до 86° F) |