Корпорация Microsoft открыла доступ к инстансам ND H100 v5 в облаке Azure. Эти масштабируемые виртуальные машины предназначены для решения сложных задач, связанных с ИИ и большими языковыми моделями.
В основу ND H100 v5 положены NVIDIA H100: восемь таких ускорителей объединены посредством NVSwitch и NVLink 4.0. Возможно масштабирование до тысяч ускорителей при помощи сети на базе NVIDIA Quantum-2 InfiniBand с пропускной способностью до 400 Гбит/с в расчёте на ускоритель (до 3,2 Тбит/с на виртуальную машину). В составе ND H100 v5 применяются процессоры Intel Xeon Sapphire Rapids, обеспечивающие поддержку PCIe 5.0 и DDR5-4800.
Источник изображения: Microsoft
Отмечается, что инстансы ND H100 v5 являются одними из самых мощных вычислительных решений, которые Microsoft предлагала до сих пор. Они доступны в регионах Azure на востоке и западе США. Заказы на ND H100 v5 принимаются уже сейчас, а к началу 2024 года Microsoft обещает сделать доступными для клиентов «сотни тысяч» ускорителей NVIDIA H100.
Источник:
