Государственное объединение научных и прикладных исследований Австралии (CSIRO) сообщило о вводе в эксплуатацию высокопроизводительного вычислительного комплекса Virga. Система, предназначенная для ИИ-задач, ускорит научные открытия, а также поможет развитию промышленности и экономики страны.

Суперкомпьютер располагается в дата-центре Hume компании CDC в Канберре. Его созданием занималась компания Dell: в основу положены серверы PowerEdge XE9640, оснащённые двумя процессорами Intel Xeon Sapphire Rapids 8452Y (36C/72T, 2,0/3,2 ГГц, 300 Вт), до 512 Гбайт RAM и четырьмя 61,44-Тбайт NVMe SSD. Задействованы ИИ-ускорители NVIDIA H100 с 96 Гбайт памяти HBM3 — всего 448 шт. Система занимает 14 стоек, а в качестве интерконнекта используется Infiniband NDR.

Dell заключила контракт на создание Virga в 2023 году: сумма изначально составляла $9,65 млн, однако фактическое строительство комплекса обошлось в $10,85 млн. Новый суперкомпьютер придёт на смену НРС-системе CSIRO предыдущего поколения под названием Bracewell, но унаследует от неё BeeGFS-хранилище, также построенное на оборудовании Dell. В нынешнем рейтинге TOP500 машина занимает 72 место с пиковой и практической FP64-производительностью 18,46 Пфлопс и 14,94 Пфлопс соответственно.

Комплекс Virga получил своё имя в честь метеорологического эффекта «вирга» — это дождь, который испаряется, не достигая земли: видеть его можно в виде полос, выходящих из-под облаков. Систему Virga планируется использовать для таких задач, как прогнозирование пожаров, разработка вакцин нового поколения, проектирование гибких солнечных панелей, анализ медицинских изображений и пр.

Источник изображения: CSIRO

Пока подробные технические характеристики Virga и показатели быстродействия не раскрываются. Отмечается лишь, что в составе комплекса применена гибридная система прямого жидкостного охлаждения. Говорится также, что CDC оперирует двумя кампусами дата-центров Hume. Площадка Hume Campus One объединяет три ЦОД и имеет мощность 21 МВт, тогда как в состав Hume Campus Two входят два объекта суммарной мощностью 51 МВт.

На Computex 2024 AMD анонсировала новое поколение серверных процессоров EPYC Turin на базе архитектуры Zen 5. При этом компания продемонстрировала слайды, из которых следует, что новые решения серьёзно опережают процессоры Intel Xeon. Так, 128-ядерный Turin сравнивается с 64-ядерным Xeon Platinum 8592+ (Emerald Rapids). AMD говорит о 2,5–5,4-кратном превосходстве, однако Intel опровергает полученные результаты и достаточно подробно разбирает вопрос тестирования в своём блоге.

Конечно, превосходство AMD в чисто количественных показателях очевидно, но в сложных вычислительных задачах, к которым относятся HPC- и ИИ-сценарии, не меньшую, а то и большую роль может играть оптимизация ПО. Intel отмечает, что AMD не привела в своём анонсе конкретных сведений о версиях и настройках ПО, и, вероятнее всего, отказалась от различных расширений. Но, например, Intel Extension for PyTorch (IPEX) позволяет добиться более чем пятикратного прироста производительности по сравнению с «чистой» версией PyTorch.

Для системы с двумя Xeon Platinum 8592+ применение IPEX позволяет поднять производительность инференса в режиме INT4 с чат-ботом на базе Llama2-7B со 127 до 686 запросов в секунду при заданной задержке не более 50 мс. Для своей 256-ядерной платформы на базе Turin AMD говорит про 671 запрос — как видно, с оптимизацией результаты получаются вполне сопоставимыми.

Источник: AMD

И потенциал для дальнейшего роста у Xeon есть: Intel сообщает, что при отключении функции Sub-NUMA Clustering результат может достигать 740 запросов. К сожалению, для других тестов компания диаграмм не опубликовала, хотя и там оптимизация позволяет добиться увеличения производительности в 1,2–2,3 раза. Этого уже не хватает, чтобы бороться с платформой Turin, которая, помимо превосходства в числе ядер, использует и более мощную 12-канальную подсистему памяти.

Источник: Intel

Следует отметить, что Intel не сказала последнего слова: Xeon Platinum 8592+ уже не нов, а в ближайшем будущем AMD Turin придётся столкнуться с Xeon 6 с большим числом ядер. Пока эти чипы доступны лишь в исполнении с энергоэффективными ядрами, но уже в III квартале появятся и 128-ядерные Granite Rapids с производительными P-ядрами и 12-канальной памятью.

Источник: Intel

Тем не менее, тема затронута достаточно фундаментальная: свои плюсы имеет как чисто количественный подход, которого придерживается AMD, так и подход Intel, позволяющий добиться высоких результатов при тщательной оптимизации под более комплексную архитектуру. Нельзя сказать, что результаты AMD являются мошенничеством, хотя случай и не первый — согласно тестам компании, ускоритель Instinct MI300X серьёзно опередил NVIDIA H100, но при этом AMD точно так же «забыла» про оптимизированный фреймворк TensorRT-LLM. Правда, в тот раз «честь мундира» отстоять удалось и с оптимизациями NVIDIA.

Облачная платформа Amazon Web Services (AWS) сообщила о доступности инстансов Elastic Compute Cloud (EC2) U7i, оптимизированных для резидентных (in-memory) баз данных. В основу положены кастомизированные процессоры Intel Xeon поколения Sapphire Rapids.

Утверждается, что по сравнению с инстансами EC2 High Memory предыдущего поколения экземпляры U7i обеспечивают на 135 % более высокую вычислительную производительность и на 115 % большую производительность памяти. При этом пропускная способность EBS-томов увеличена в 2,5 раза.

Инстансы поддерживают подключение до 128 томов EBS gp2/gp3 или io1/io2. Каждый том io2 Block Express может иметь размер до 64 ТиБ и обеспечивать производительность до 256 тыс. IOPS со скоростью до 32 Гбит/с. Все конфигурации включают 896 vCPU, а объём оперативной памяти варьируется от 12 288 до 32 768 ГиБ. Благодаря системе AWS Nitro вся память доступна для использования. Пропускная способность EBS составляет 60 Гбит/с у младшей версии и 100 Гбит/с у всех остальных. Пропускная способность сети — соответственно 100 и 200 Гбит/с.

Источник изображения: AWS

Среди поддерживаемых ОС названы Amazon Linux, Red Hat Enterprise Linux, SUSE Linux Enterprise Server, Ubuntu и Windows Server. Говорится о возможности работы с крупными СУБД, в частности, SAP HANA, Oracle и SQL Server.

Инстансы EC2 U7i были представлены в качестве предварительной версии в ноябре 2023 года. Теперь они доступны для клиентов в американских регионах AWS US East (Северная Вирджиния) и US West (Орегон), а также в Азиатско-Тихоокеанском регионе (Сеул, Сидней). Позднее в текущем году будут запущены более мощные инстансы с увеличенной вычислительной производительностью.

Компания Supermicro анонсировала серверы нового поколения X14 на аппаратной платформе Intel Xeon 6. Дебютировало большое количество стоечных систем разного класса для облачных приложений, периферийных вычислений, телекоммуникационных сервисов и пр.

Как и ожидалось, в серию X14 вошли модели SuperBlade для НРС-задач и аналитики данных, высокопроизводительные серверы Hyper для масштабируемых облачных рабочих нагрузок, решения CloudDC для дата-центров, системы Hyper-E для периферийных задач, а также устройства WIO, BigTwin, GrandTwin и Edge/Telco.

Кроме того, дебютировали серверы хранения Petascale Storage, которые, по заявлениям Supermicro, обеспечивают лучшие в отрасли показатели плотности и производительности. Эти решения в формате 1U или 2U поддерживают работу с накопителями EDSFF E1.S и E3.S.

Новые серверы комплектуются процессорами Intel Xeon 6, ранее известными под кодовым именем Sierra Forest. Чипы могут содержать до 144 энергоэффективных E-ядер. В дальнейшем Supermicro выпустит серверы с процессорами Xeon 6 с производительными P-ядрами (ранее — Granite Rapids). Готовятся GPU-системы для ИИ-нагрузок, обучения больших языковых моделей (LLM) и ресурсоёмких приложений НРС. Кроме того, будут представлены многоузловые платформы. Для некоторых новинок предусмотрено использование СЖО.

На выставке Computex 2024 компания Supermicro также демонстрирует ИИ-системы SuperCluster на базе NVIDIA Blackwell и NVIDIA HGX H100/H200. Эти мощные комплексы могут оснащаться воздушным или жидкостным охлаждением.

Компания ASUS анонсировала серверы хранения семейства VS320D, предназначенные для использования в составе инфраструктур SAN (Storage Area Network). Устройства подходят для работы с базами данных, системами виртуализации и пр.

В серию вошли модели VS320-RS12 и VS320D-RS26 с двумя контроллерами, работающими в режиме «активный — активный». Каждый из узлов оснащён неназванным процессором Intel Xeon. Есть четыре слота для модулей DDR4. Устройства выполнены в форм-факторе 2U.

Источник изображений: ASUS

Модель VS320-RS12 рассчитана на установку 12 накопителей LFF с интерфейсом SAS-3. Возможно формирование массивов RAID 0/1/3/5/6/10/30/50/60. Максимальная внутренняя вместимость составляет 264 Тбайт при использовании HDD на 22 Тбайт каждый. В свою очередь, сервер VS320D-RS26 рассчитан на 26 накопителей SFF с интерфейсом SAS-3. Упомянута поддержка массивов RAID 0/1/3/5/6/10/30/50/60. Внутренняя ёмкость — до 798 Тбайт при использовании SSD вместимостью по 30,72 Тбайт.

У обеих новинок питание обеспечивают два блока мощностью 850 Вт с сертификатом 80 PLUS Platinum или 80 PLUS Titanium. Предусмотрены два слота PCIe 3.0 x8. Каждый из контроллеров располагает четырьмя портами 10GbE SFP+ и выделенным сетевым портом управления 1GbE RJ-45. Перечень опций включает четыре разъёма 10GbE RJ-45, два или четыре порта 25GbE SFP28, два или четыре порта 16Gb SFP+ Fibre Channel, два порта 32Gb SFP28 Fibre Channel.

Габариты серверов составляют 88 × 438 × 515 мм, вес — около 16,3–16,4 кг. Заявленная производительность достигает 12,8 Гбайт/с и 1,3 млн IOPS.

Компания Giga Computing, серверное подразделение Gigabyte, анонсировала серверы и материнские платы с поддержкой процессоров Intel Xeon 6, ранее известных под кодовым именем Sierra Forest. Дебютировали модели с возможностью установки одного или двух чипов для широкого спектра задач.

Отмечается, что в ассортимент Giga Computing на базе Xeon 6 входят мощные GPU-модели, решения с прямым жидкостным охлаждением (DLC), многоузловые серверы, материнские платы и серверы общего назначения, а также серверы для периферийных вычислений.

В частности, дебютировали GPU-системы G494 и G294 в форм-факторе соответственно 4U и 2U. Первый из этих серверов поддерживает до десяти ускорителей и имеет дополнительные слоты PCIe для сетевых карт и пр. Доступны отсеки для LFF/SFF-накопителей NVMe/SATA/SAS. Вторая модель предлагает до восьми SFF-отсеков SATA/SAS-4 с возможностью горячей замены и до восьми слотов FHFL PCIe 5.0 x16.

В свою очередь, серверы H-серии высокой плотности могут комплектоваться СЖО. В это семейство, в частности, входит модель H274 с четырьмя узлами, которая в максимальной конфигурации предлагает до 1152 энергоэффективных E-ядер. Многоузловые серверы подходят для облачных задач и микросервисов.

Кроме того, анонсированы серверы общего назначения (R164, R264, R184 и R284) и материнские платы (MS74, MS04 и MS34), которые предлагают гибкие варианты использования. Дебютировали модификации с одним и двумя сокетами, несколькими слотами расширения PCIe, поддержкой накопителей U.2/U.3 или E1.S/E3.S. Для периферийных задач предназначены серверы серии E (E164 и E264) с небольшой глубиной — всего 520 мм.

Компания Lenovo представила серверы семейства ThinkSystem V4 на новейшей аппаратной платформе Intel Xeon 6. Дебютировали системы ThinkSystem SR630 V4 и ThinkSystem SD520 V4 в форм-факторе 1U и 2U соответственно.

Модель ThinkSystem SR630 V4 поддерживает установку двух чипов Xeon 6 (Sierra Forest), насчитывающих до 144 энергоэффективных E-ядер, и 32 модулей оперативной памяти TruDDR5-6400. Система может нести на борту до 12 накопителей SFF NVMe или до 16 устройств EDSFF E3.S. Кроме того, есть два коннектора для SSD типоразмера M.2.

Источник изображений: Lenovo

Сервер располагает пятью слотами PCIe 5.0 и двумя разъёмами OCP 3.0. Могут быть установлены до трёх ускорителей на основе GPU одинарной ширины с показателем TDP до 75 Вт. Возможно использование двух блоков питания мощностью до 2000 Вт с сертификатом Platinum или Titanium. Возможно применение жидкостного охлаждения Lenovo Neptune. Упомянуты сетевой порт управления 1GbE, два порта USB 3.0 и аналоговый разъём D-Sub.

В свою очередь, ThinkSystem SD520 V4 — четырёхузловой сервер, предназначенный для ресурсоёмких рабочих нагрузок. Каждый узел может нести на борту один чип Xeon 6 со 144 Е-ядрами и показателем TDP до 350 Вт, восемь модулей TruDDR5-5600, до шести SFF-накопителей NVMe/SAS/SATA или до двух устройств E3.S 1T (NVMe), а также два SSD формата М.2. Есть по одному слоту OCP 3.0 (PCIe 5.0) и PCIe 5.0 x16 HHHL, сетевой порт управления 1GbE. Может быть добавлен GPU-ускоритель с TDP до 75 Вт. Шасси допускает монтаж трёх блоков питания мощностью до 2700 Вт каждый.

Компания MSI представила серверы на новейшей аппаратной платформе Intel Xeon 6 с процессорами Xeon, оснащёнными энергоэффективными ядрами E-core (Sierra Forest).

В частности, дебютировали модели CX170-S5062 и CX270-S5062 в форм-факторе 1U и 2U соответственно. Они оснащены материнской платой стандарта DC-MHS. Серверы имеют двухсокетное исполнение, располагают 32 слотами DDR5-DIMM и одним разъёмом PCIe 5.0 x16 OCP NIC 3.0.

Модель CX170-S5062 будет предлагаться в модификациях с поддержкой 8 или 12 накопителей SFF U.2 NVMe с интерфейсом PCIe 5.0. Предусмотрены два слота расширения для карт PCIe 5.0. В свою очередь, решение CX270-S5062 может нести на борту до 24 накопителей SFF U.2 NVMe (PCIe 5.0). Доступны шесть разъёмов PCIe 5.0, два из которых рассчитаны на двухслотовые ускорители на базе GPU.

Источник изображения: MSI

Кроме того, MSI анонсировала односокетный сервер CX271-S3066 формата 2U c 24 отсеками для SFF-накопителей U.2 NVMe. Система поддерживает 16 модулей оперативной памяти DDR5. Есть три слота PCIe 5.0 x16, два разъёма OCP NIC 3.0 и два коннектора M.2 NVMe. Сервер предназначен прежде всего для рабочих нагрузок общего назначения.

Все новинки поддерживают модуль управления DC-SCM2 Server Management Module с контроллером Aspeed AST2600 BMC. Отсеки для накопителей располагаются во фронтальной части.

Корпорация Intel представила процессоры Xeon 6, предназначенные для решения различных задач — от поддержания облачных приложений до нагрузок, связанных с ИИ и НРС. Процессоры Xeon 6 E-core стали доступны с сегодняшнего дня. Поставки Xeon 6 P-core будут организованы в III квартале текущего года.

Напомним, схему обозначения чипов Xeon компания Intel изменила в апреле нынешнего года, отказавшись от бренда Scalable в пользу более простой нумерации — в данном случае Xeon 6. В это семейство вошли изделия на основе исключительно энергоэффективных ядер E-core (Sierra Forest) и на базе производительных ядер P-core (Granite Rapids).

Источник изображений: Intel

Intel обещает увеличение производительности на Вт в 2,6 раза по сравнению с Cascade Lake-SP при выполнении задач, связанных с транскодированием мультимедийных материалов. Прирост производительности на уровне стойки достигает 4,2 раза благодаря высокой плотности размещения вычислительных ядер. Чипы ориентированы прежде всего на облачные приложения, сети доставки контента, сетевые микросервисы и потребительские цифровые сервисы.

Процессоры Xeon 6 разделены на серии 6700 и 6900. В обоих случаях обеспечивается поддержка CXL 2.0 (Type 1, Type 2 и Type 3). Для изделий 6700 Series заявлено 1,4-кратное увеличение пропускной способности памяти и 1,1-кратное повышение I/O-производительности по сравнению с Xeon Emerald Rapids. В свою очередь, решения 6900 Series обеспечивают увеличение пропускной способности между сокетами до 1,8 раза по сравнению с Xeon Emerald Rapids. Благодаря этому существенно повышается производительность при выполнении наиболее ресурсоёмких задач.

На сегодняшний день в семействе Xeon 6700 Sierra Forest представлены семь чипов в исполнении LGA 4710: это модели Xeon 6710E, Xeon 6731E, Xeon 6740E, Xeon 6746E, Xeon 6756E, Xeon 6766E и Xeon 6780E. Они насчитывают от 64 до 144 E-ядер без поддержки многопоточности, так что по количеству ядер и потоков они заведомо отстают от AMD EPYC Turin. Поддерживается оперативная память DDR5-5600/6400. Количество линий PCIe 5.0 / CXL 2.0 равно 88. Объём кеша L3 — 96 или 108 Мбайт. Показатель TDP варьируется от 205 до 330 Вт.

Компания ASRock Rack анонсировала серверы с возможностью установки новейших процессоров Intel Xeon 6. Эти системы, обеспечивающие высокую энергетическую эффективность, ориентированы на поддержание облачных рабочих нагрузок.

В частности, ASRock Rack демонстрирует серверы с чипами Intel Xeon 6700, ранее известными под кодовым названием Xeon Sierra Forest. Эти изделия оснащаются исключительно энергоэффективными E-ядрами, количество которых достигает 288. Утверждается, что процессоры обеспечивают до 1,17 раз более высокую среднюю производительность и в 1,46 раза более высокое среднее быстродействие в расчёте на Вт при различных рабочих нагрузках по сравнению с изделиями Intel Xeon Emerald Rapids.

Источник изображений: ASRock Rack

На мероприятии Computex 2024 дебютировал сервер хранения 1U16E3S-SRF с возможностью установки одного процессора Xeon 6700. Эта система поддерживает до 16 накопителей E3.S (PCIe 5.0 x4). Кроме того, готовятся материнские платы GNRD8-2L2T и GNR2D16-2T с поддержкой соответственно одного и двух процессоров. Эти модели наделены слотами PCIe 5.0 и CXL 2.0.

Плюс к этому будут выпущены решения GNRD16QM3-NL (один сокет) и GNR2D32G-2L (два сокета), а также GPU-серверы 4U8G-GNR2 и 4UMGX-GNR2 типоразмера 4U с возможностью монтажа до восьми двухслотовых ускорителей.

«Intel сумела создать единую уникальную платформу для удовлетворения всего спектра потребностей клиентов при решении современных вычислительных задач. Мы рады представить множество серверных материнских плат и систем с возможностью установки процессоров Intel Xeon 6», — сказал Хантер Чен (Hunter Chen), старший вице-президент ASRock Rack.