Немецкая компания Northern Data Group, поставщик решений в области ИИ и НРС, объявила о том, что её система Njoerd вошла в июньский рейтинг мощнейших суперкомпьютеров мира TOP500. Этот вычислительный комплекс, расположенный в Великобритании, построен на платформе HPE Cray XD670.

Машина Njoerd попала на 26-е место списка TOP500. Она объединяет 244 узла, каждый из которых содержит восемь ускорителей NVIDIA H100. В общей сложности задействованы примерно 28,5 млн ядер CUDA. Кроме того, в составе системы используются процессоры Intel Xeon Platinum 8462Y+ (32C/64C, 2,8–4,1 ГГц, 300 Вт). Применён интерконнект Infiniband NDR400.

FP64-производительность Njoerd достигает 78,2 Пфлопс, а теоретическое пиковое быстродействие составляет 106,28 Пфлопс. При рабочих нагрузках ИИ суперкомпьютер демонстрирует производительность 3,86 Эфлопс в режиме FP8 и 1,93 Эфлопс в режиме FP16.

Заявленный показатель MFU (Model FLOPs Utilization) при предварительном обучении современных больших языковых моделей (LLM) находится на уровне 50–60 %. Таким образом, как утверждается, система Njoerd на сегодняшний день представляет собой наиболее эффективный кластер H100 подобного размера, оптимизированный для ресурсоёмких рабочих нагрузок ИИ и HPC.

Суперкомпьютер входит в состав Taiga Cloud — одной из крупнейших в Европе облачных платформ, ориентированных на задачи генеративного ИИ. Эта вычислительная инфраструктура использует на 100 % безуглеродную энергию. Показатель PUE варьируется от 1,15 до 1,06. Доступ к ресурсам предоставляется посредством API или через портал самообслуживания. Одним из преимуществ Taiga Cloud компания Northern Data Group называет суверенитет данных.

Источник изображения: Northern Data Group

Успехи AMD в разработке серверных процессоров EPYC на фоне проблем Intel с запуском некоторых поколений Xeon привели к постоянному росту в последние годы доли рынка серверных процессоров AMD, причём как по количеству единиц, так и по выручке, пишет ресурс HardwareLuxx. Впрочем, и AMD, и Intel уже угрожает Arm.

В последнем отчёте Bank of America отмечается, что если в 2017 году доля рынка Intel составляла почти 100 %, в то время как процессоры AMD и Arm на нём практически, то в 2024 году доля AMD на рынке серверных процессоров составила около 33 % (и продолжает расти), а доля рынка Intel сократилась почти до 63 %. Переломный момент наступил после появления архитектуры AMD Zen и проблем Intel с переводом Xeon на более тонкие техпроцессы. К концу 2022 года доля рынка AMD превысила отметку в 20 %, в то время как доля Intel впервые упала ниже 75 %.

Согласно оценкам Bank of America, основанным на данных IDC и Mercury Research, доля AMD на рынке серверных процессоров вырастет в 2025 году примерно до 36 %, в то время как доля Intel снизится примерно до 55 %. Также растёт конкуренция со стороны серверных процессоров с архитектурой Arm, поскольку поставщики облачных услуг ищут более энергоэффективные и экономичные варианты, а совокупная стоимость владения (TCO) в ЦОД становится все более важным фактором. Прогнозируется, что в следующем году на них будет приходиться примерно 9 % рынка серверных процессоров.

Источник изображения: BofA Global Research

В 2027 году, как ожидается доля рынка AMD может достичь 40 %, а доля Intel упадет ниже 50 %. Доля процессоров с Arm-архитектурой может составить от 10 до 12 %. Сама Arm Holdings намерена уже до конца этого занять половину рынка чипов для ЦОД, куда, впрочем, входят не только CPU. SoftBank, владеющая крупнейшей долей в Arm Holdings, решила приобрести разработчики серверных Arm-процессоров Ampere Computing.

С 2028 года ожидается, что AMD и Intel будут в равных условиях. Следует отметить, что речь идёт о доле рынка исходя из выручки, то есть о продажах в денежном выражении, а не в количественном. Доход AMD в основном приносят высокопроизводительные многоядерные процессоры, в то время как Intel по-прежнему выпускает различные недорогие чипы. Как полагают аналитики, эта тенденция вряд ли изменится. AMD демонстрирует устойчивое развитие в серверном сегменте и готовит процессоры Venice, в то время как Intel пытается переломить ситуацию с помощью серии Xeon 6.

Компания AAEON анонсировала одноплатный компьютер de next-RAP8: это, как утверждается, самое компактное в мире изделие с процессором Intel Core 13-го поколения (Raptor Lake). Размеры новинки составляют 86 × 55 мм. Плата предназначена для использования в беспилотных летательных аппаратах, роботизированных системах и пр.

В зависимости от модификации используется процессор Core i7-1365UE (10 ядер, 12 потоков, 1,7–4,9 ГГц, графика Intel Iris Xe), Core i5-1335UE (10 ядер, 12 потоков, 1,3–4,5 ГГц, графика Intel Iris Xe) или Core i3-1315UE (6 ядер, 8 потоков, 1,2–4,5 ГГц, графика Intel UHD). У всех этих чипов показатель TDP равен 15 Вт. Объём оперативной памяти LPDDR5X может достигать 16 Гбайт.

Источник изображений: AAEON

Одноплатный компьютер располагает портом SATA-3 для накопителя, разъёмом M.2 2280 M-Key (PCIe x2) для адаптера Wi-Fi или модема 4G, а также FPC-коннектором (PCIe 3.0 x4), который позволяет подключать ИИ-ускорители, SSD и пр. В оснащение входят сетевые контроллеры 1GbE (Intel I219-LM) и 2.5GbE (Intel I226-LM) с разъёмами RJ45 для подсоединения кабелей. Есть два порта USB 3.2 Gen2 Type-A и интерфейс HDMI 1.4b. Через 40-контактную колодку можно задействовать четыре порта USB 2.0 и два последовательных порта RS-232/422/285. Упоминается 4-контактный коннектор для подсоединения вентилятора охлаждения.

Питание (12 В) подаётся через DC-разъём. Диапазон рабочих температур простирается от 0 до +60 °C. Заявлена совместимость с Windows 10 и Ubuntu 22.04.3 (Kernel 6.2). Приём заказов на одноплатный компьютер de next-RAP8 уже начался: цена варьируется от $750 до $1267 в зависимости от установленного процессора.

Компания HPE анонсировала высокопроизводительный сервер Compute XD690, предназначенный для решения таких ресурсоёмких задач, как обучение ИИ-моделей, инференс и пр. В основу новинки положены процессоры Intel и ускорители NVIDIA на архитектуре Blackwell. Поставки новинки компания планирует организовать в октябре нынешнего года.

Система Compute XD690 выполнена в форм-факторе 10U с воздушным охлаждением. Полностью технические характеристики не раскрываются, но известно, что конфигурация включает два чипа Intel Xeon 6. Задействована платформа NVIDIA HGX B300 с восемью модулями Blackwell Ultra SXM. Заявленная производительность на операциях FP64 достигает 10 Тфлопс, на операциях FP4 — 144 Пфлопс. Суммарный объём памяти HBM3e составляет около 2,3 Тбайт. Применяется интерконнект NVLink пятого поколения с общей пропускной способностью 14,4 Тбайт/с. Говорится о поддержке XDR InfiniBand и Spectrum-X Ethernet.

Источник изображения: HPE

Как отмечает HPE, ускорители Blackwell Ultra обеспечивают на 50 % более высокую производительность FP4 и удвоенную пропускную способность GPU↔CPU по сравнению с решениями на архитектуре Blackwell предыдущего поколения. Благодаря этому возможна работа со сложными ИИ-моделями, агентами ИИ, рассуждающими системами и пр. Среди других вариантов использования названы генерация фотореалистичных видеоматериалов и симуляция детализированного 3D-окружения для робототехнических сред и самоуправляемых транспортных средств.

Компания Lenovo анонсировала новые гибридные платформы, оптимизированные для решения ресурсоёмких ИИ-задач в дата-центрах. Представлены системы различного уровня, созданные в партнёрстве с NVIDIA, Cisco и IBM.

В частности, дебютировала модель ThinkSystem SR680a V4 на аппаратной платформе Intel. Полностью характеристики платформы не раскрываются. Известно, что применены процессоры семейства Xeon 6, в которое входят изделия на основе энергоэффективных E-ядер (Sierra Forest) и производительных P-ядер (Granite Rapids). Система несёт на борту восемь ускорителей NVIDIA Blackwell B200, а также восемь карт NVIDIA SuperNIC и NVIDIA BlueField-3 DPU. Утверждается, что по сравнению с серверами предыдущего поколения модель ThinkSystem SR680a V4 обеспечивает семикратный рост вычислительной производительности, тогда как объём памяти увеличился в четыре раза. Скорость инференса при работе с большими языковыми моделями (LLM) поднялась приблизительно в 11 раз.

Lenovo ThinkSystem SR675. Источник изображения: Lenovo.

Кроме того, Lenovo представила ИИ-систему Hybrid AI на платформе IBM watsonx. В основу этого решения положены серверы Lenovo ThinkSystem SR675 (V3), оснащённые системой жидкостного охлаждения Neptune.

Ещё одна система Lenovo Hybrid AI создана в партнёрстве с Cisco: она объединяет коммутаторы Cisco Nexus с технологией NVIDIA Spectrum-X для ускорения развёртывания ИИ-фабрик на предприятиях. Задействован сервер ThinkSystem SR675 V3, который может содержать до восьми ускорителей NVIDIA RTX Pro 6000 Blackwell Server Edition. Говорится о поддержке карт NVIDIA SuperNIC и NVIDIA BlueField-3 DPU. Платформа призвана ускорить переход организаций от ИИ-вычислений на базе CPU к средам на основе GPU.

Компания AAEON пополнила ассортимент одноплатных компьютеров моделями UP TWL и UP TWLS, предназначенными для промышленной автоматизации, периферийных вычислений, IoT-платформ и пр. Устройства выполнены на аппаратной платформе Intel Twin Lake.

Обе новинки доступны в модификациях с чипом Intel Processor N150 (четыре ядра; до 3,6 ГГц; 6 Вт), Intel Processor N250 (четыре ядра; до 3,8 ГГц; 6 Вт) и Core i3-N355 (восемь ядер; до 3,9 ГГц; 15 Вт). В состав перечисленных изделий входит ускоритель Intel UHD Graphics. Объём оперативной памяти LPDDR5 может достигать 8 Гбайт.

Источник изображений: AAEON

Модель UP TWL располагает разъёмом HDMI 1.4b, тремя портами USB 3.2 Gen2 Type-A, а также сетевым портом 1GbE RJ45 на основе контроллера Realtek RTL8111H CG. Есть 40-контактная колодка GPIO (совместима с Raspberry Pi). Предусмотрен флеш-чип eMMC вместимостью до 64 Гбайт.

В свою очередь, версия UP TWLS также оснащена интерфейсом HDMI 1.4b, тремя портами USB 3.2 Gen2 Type-A и гнездом RJ45 (1GbE), но 40-контактная колодка GPIO отсутствует. Вместо этого применяются 8-контактный коннектор I2C, 10-контактный коннектор SPI, 10-контактный коннектор GPIO, а также 10-контактный коннектор RS-232/422/485 (последовательный порт). Предусмотрен также разъём M.2 E-Key для адаптера Wi-Fi. Вместимость eMMC-памяти достигает 128 Гбайт.

Питание (12 В / 5 А) устройства получают через DC-разъём. Платы имеют размеры 85 × 56 мм. Диапазон рабочих температур простирается от -20 до +70 °C (при использовании активного кулера). Заявлена совместимость с программными платформами Ubuntu 22.04 LTS, Yocto и Windows 10/11. В оснащение входит модель TPM 2.0.

Компания HPE пополнила семейство отказоустойчивых решений Nonstop Compute двумя новинками — системой начального уровня NS5 X5 и флагманской моделью NS9 X5. Архитектура платформ объединяет вычислительные мощности, ресурсы хранения, сетевые функции и сопутствующее ПО.

Решение Nonstop Compute NS5 X5 ориентировано на сравнительно небольших корпоративных заказчиков. Система формата 36U/42U может нести на борту до четырёх процессоров Intel Xeon Bronze 3400 поколения Sapphire Rapids. Объём оперативной памяти достигает 128 Гбайт в расчёте на CPU, что в сумме даёт до 512 Гбайт. Возможна установка до 100 SAS SSD вместимостью 1,6 Тбайт каждый. Допускается также подключение внешних массивов хранения HPE XP8. В общей сложности могут использоваться до 20 сетевых портов, в том числе 10GbE.

Источник изображения: HPE

В свою очередь, модель Nonstop Compute NS9 X5 ориентирована на ресурсоёмкие нагрузки, такие как обработка транзакций в реальном времени в больших масштабах и интенсивная работа с данными. Максимальная конфигурация включает 16 процессоров Xeon Gold 6400 семейства Sapphire Rapids с 512 Гбайт памяти в расчёте на CPU, что в сумме обеспечивает до 8 Тбайт ОЗУ. Система может быть оборудована 2700 SAS SSD ёмкостью до 1,6 Тбайт каждый. Предусмотрена возможность использования до 270 сетевых портов на систему, в том числе 25GbE.

В целом, решения Nonstop Compute ориентированы на сегмент рынка, где требуется менее высокая стоимость по сравнению с традиционными мейнфреймами, но при этом предъявляются более высокие требования в плане надёжности и масштабируемости, чем к стандартным серверам.

IDC относит продукты Nonstop Compute к системам с доступностью класса Availability Level 4 (AL4): это означает, что показатель безотказной работы составляет от 99,999 % до 99,9999 %. Таким образом, системы подходят для применения в том числе в финансовом секторе. HPE утверждает, что шесть из десяти крупнейших мировых банков используют устройства Nonstop Compute.

Компания AAEON анонсировала одноплатные компьютеры UP Squared TWL и UP Squared Pro TWL для индустриальных приложений и выполнения задач на периферии. Изделия могут функционировать в широком температурном диапазоне — от -20 до +70 °C. Говорится о совместимости с Windows 11, Ubuntu 22.04 и Yocto 5.1.

Новинки выполнены на аппаратной платформе Intel Twin Lake. В зависимости от модификации устанавливается чип Intel Processor N150 (четыре ядра; до 3,6 ГГц; 6 Вт), Intel Processor N250 (четыре ядра; до 3,8 ГГц; 6 Вт) и Core i3-N355 (восемь ядер; до 3,9 ГГц; 15 Вт). Все эти процессоры оборудованы графическим ускорителем Intel UHD Graphics. Объём оперативной памяти LPDDR5 у одноплатных компьютеров достигает 16 Гбайт.

Источник изображений: AAEON

Модель UP Squared TWL оснащена флеш-модулем eMMC вместимостью до 128 Гбайт, двумя сетевыми портами 1GbE, коннекторами M.2 2280 M-Key (PCIe x2) для SSD и M.2 2230 E-Key (PCIe x1, USB 2.0) для адаптера Wi-Fi. Есть 40-контактная колодка GPIO, три порта USB 3.2 Gen2 Type-A, два гнезда RJ45 для сетевых кабелей и DC-разъём для подачи питания (12 В). Возможен вывод изображения одновременно на три монитора через интерфейсы HDMI 2.0b, DP 1.2 и eDP 1.3. Размеры составляют 85,6 × 90 мм.

AAEON UP Squared Pro TWL

В свою очередь, вариант UP Squared Pro TWL располагает модулем eMMC ёмкостью до 64 Гбайт, двухпортовым сетевым адаптером 2.5GbE (Intel I226-IT), портом SATA-3, слотами M.2 2230 E-Key (CNVI, PCIe 3.0 x1, USB 2.0), M.2 2280 M-Key (PCIe 3.0 x2) и M.2 3052 B-Key (USB 3.2 Gen2 плюс Nano SIM; возможна установка сотового модема 4G/5G), а также 40-контактной колодкой GPIO. Мониторы могут быть подключены через интерфейсы HDMI 2.0b, DP 1.2 и DP 1.4a (USB Type-C). В набор разъёмов входят два порта USB 3.2 Gen2 Type-A и порт USB 3.2 Gen2 Type-C, два гнезда RJ45 и DC-коннектор (12 В). Дополнительно реализован интерфейс MIPI-CSI для подключения камеры. Габариты изделия — 101,6 × 101,6 мм. Обе новинки укомплектованы модулем TPM 2.0.

Компания AAEON анонсировала одноплатный компьютер EPIC-RPS7 на аппаратной платформе Intel. Устройство предназначено для применения в промышленной сфере: оно может использоваться для дистанционного мониторинга оборудования, автоматизации, индустриального контроля и пр.

Изделие имеет размеры 115 × 165 мм. Применён набор системной логики Intel H610E. В зависимости от модификации устанавливается процессор Core 12-, 13- или 14-го поколения (TDP до 65 Вт) с интегрированным графическим ускорителем. Объём оперативной памяти DDR5-4800/5200 может достигать 64 Гбайт в виде двух модулей SO-DIMM.

Для подключения накопителей могут быть задействованы два порта SATA-3. Есть коннектор M.2 2280 M-Key для SSD с интерфейсом PCIe 3.0 x4, разъём M.2 2230 E-Key (PCIe 3.0 x1 + USB 2.0) для адаптера Wi-Fi, слоты Mini Card/mSATA и Nano SIM (возможно подключение сотового модема). В оснащение входят сетевые контроллеры Intel I226 стандарта 2.5GbE и Intel I219 с поддержкой 1GbE.

Источник изображений: AAEON

Одноплатный компьютер располагает двумя портами USB 3.2 Gen2 Type-A и двумя портами USB 3.2 Gen1 Type-A, а также двумя гнёздами RJ45 для сетевых кабелей. Возможен вывод изображения одновременно на три дисплея через интерфейсы DisplayPort 1.2 (3840 × 2160 пикселей; 60 Гц), D-Sub (1920 × 1080 точек) и LVDS. Доступны четыре последовательных (COM) порта (по два RS-232/422/285 и RS-232).

Диапазон рабочих температур простирается от 0 до +60 °C. Питание (19–24 В или 12 В) подаётся через 8-контактный коннектор. Возможно подключение вентилятора охлаждения. Говорится о совместимости с Windows 10 и Ubuntu 22.04.2 (ядро 5.19.0). Опционально может быть установлен модуль TPM 2.0.

Intel представила три новых процессора семейства Intel Xeon 6 Granite Rapids-SP/AP — 6962P, 6774P и 6776P, разработанные для управления «самыми передовыми ИИ-системами ускорителей». Новые процессоры с P-ядрами используют технологию Intel Priority Core Turbo (PCT), а также технологию Intel Speed Select Turbo Frequency (Intel SST-TF), которые позволяют настраивать частоты ядер процессора для повышения производительности ускорителя при обработке требовательных рабочих ИИ-нагрузок.

Новые процессоры Xeon 6 уже доступны для заказчиков. В частности, Intel Xeon 6776P используется в ИИ-системе NVIDIA DGX B300, где «играет важную роль в управлении, оркестрации и поддержке ИИ-системы». «Новые чипы демонстрируют непревзойдённую производительность Xeon 6, что делает их идеальными процессорам для ИИ-систем с ускорением на GPU следующего поколения», — отметила Карин Айбшиц Сигал (Karin Eibschitz Segal), корпоративный вице-президент и временный генеральный директор Intel Data Center Group.

Источник изображения: Intel

Как сообщила Intel, внедрение PCT в сочетании с Intel SST-TF обеспечивает значительный скачок производительности ИИ-систем. PCT позволяет динамически формировать пул высокоприоритетных ядер, которые работают на более высоких турбочастотах, в то время как остальные ядра работают на базовой частоте, обеспечивая оптимальное распределение ресурсов процессора. Эта функция имеет решающее значение для рабочих ИИ-нагрузок, требующих последовательной и пакетной обработки, более быстрой отправки данных к ускорителям и повышения общей эффективности системы. Впрочем, в случае 6776P лишь до восьми ядер могут работать на повышенной турбочастоте.

Источник изображения: Phoronix

Процессоры Xeon 6 с P-ядрами, по словам Intel обеспечивают ведущие в отрасли характеристики для ИИ-систем, включая:

• Большое количество ядер и исключительную однопоточную производительность: благодаря наличию до 128 P-ядер эти процессоры обеспечивают сбалансированное распределение рабочей нагрузки для интенсивных ИИ-задач.
• Более высокую (на 30 %) скорость работы памяти: чипы Intel Xeon 6 поддерживают высокоскоростную RAM в конфигурациях с большой ёмкостью, а также предлагают поддержку памяти MRDIMM и CXL с высокой пропускной способностью.
• Повышенную производительность I/O: благодаря на 20 % большему количеству линий PCIe, чем у предыдущих моделей Xeon, эти ЦП обеспечивают более быструю передачу данных для рабочих нагрузок с интенсивным I/O.

Новые процессоры отличаются высокой надёжности и удобством обслуживания, что сводит к минимуму перебои в работе. Как сообщается, новинки поддерживают AMX-вычисления с точностью FP16, что обеспечивает эффективную предобработку данных и выполнение критических задач ЦП в рабочих ИИ-нагрузках.