Компания Liqid в партнёрстве с Dell Technologies анонсировала эталонную архитектуру UltraStack L40S для формирования систем с высокой плотностью компоновки GPU и иных ускорителей — до 16 шт. на один сервер. Такие платформы могут использоваться для ИИ-приложений, работы с большими языковыми моделями (LLM), задач НРС и пр.

Новинка доступна в конфигурациях UltraStack x8 и UltraStack x16. В качестве хост-сервера в составе решения выступает Dell PowerEdge R760xa на базе Intel Xeon Sapphire Rapids: применены два процессора Xeon Gold 6430 (32 ядра; 64 потока; 1,9 ГГц). Объём оперативной памяти в первом случае составляет 1 Тбайт, во втором — 2 Тбайт.

К серверу подключаются модули Liqid PCIe Chassis. Версия UltraStack x8 использует два таких модуля: задействованы восемь ускорителей NVIDIA L40S с 48 Гбайт памяти GDDR6 и SSD-хранилище вместимостью 30 Тбайт (NVMe). Вариант UltraStack x16 комплектуется тремя модулями Liqid PCIe Chassis: объединены 16 карт NVIDIA L40S, а ёмкость хранилища составляет 60 Тбайт.

Источник изображения: Liqid

Платформа UltraStack L40S предполагает применение восьми двухпортовых сетевых адаптеров NVIDIA ConnectX-7 (16 × 200 Гбит/с), DPU BlueField-3, двух хост-адаптеров Liqid Gen 4.0 x16 HBA, а также коммутатора PCIe 4.0 на 24/48 портов. Среднее энергопотребление UltraStack x8 заявлено на уровне 4,5 кВт, UltraStack x16 — 7,5 кВт.

Система базируется на ПО Liqid Matrix. Компания Liqid утверждает, что по сравнению с четырьмя серверами формата 2U, каждый из которых содержит четыре ускорителя NVIDIA L40S, её система UltraStack с 16 такими картами обеспечивает на 35 % более высокую производительность, сокращение энергопотребления на 35 % и снижение общей стоимости владения на 25 %.

Компания NeuReality на конференции по высокопроизводительным вычислениям SC23 представила полностью интегрированное решение NR1 AI Inference, предназначенное для ИИ-платформ. Изделие спроектировано специально для ускорения инференса и снижения нагрузки на аппаратные ресурсы.

Утверждается, что благодаря использованию технологий NeuReality операторы крупных дата-центров могут на 90 % сократить затраты на выполнение операций ИИ. При этом производительность по сравнению с традиционными системами на основе CPU больше на порядок. Впрочем, конкретные цифры не приводятся.

Источник изображений: NeuReality

В продуктовое семейство NeuReality входит решение NR1, которое разработчик называет «сервером на чипе» со встроенным нейросетевым движком. По заявлениям NeuReality, это первый в мире «сетевой адресуемый процессор» — NAPU (Network Addressable Processing Unit). Этот специализированный чип, ориентированный на задачи инференса, обладает возможностями виртуализации и сетевыми функциями.

Изделие NR1 является основой вычислительного модуля NR1-M AI Inference Module, выполненного в виде полноразмерной двухслотовой карты расширения PCIe. Модуль может подключаться к внешнему ускорителю глубокого обучения (DLA). Наконец, анонсирован сервер NR1-S AI Inference Appliance, который оснащается картами NR1-M AI Inference Module. NeuReality отмечает, что данная система позволяет снизить стоимость и энергопотребление почти в 50 раз на операциях инференса по сравнению со стандартными платформами.

Компания One Stop Systems (OSS) на конференции по высокопроизводительным вычислениям SC23 представила сервер Gen 5 AI Transportable, предназначенный для решения задач ИИ и машинного обучения на периферии. Устройство, рассчитанное на монтаж в стойку, выполнено в корпусе уменьшенной глубины.

Новинка соответствует американским военным стандартам в плане устойчивости к ударам, вибрации, диапазону рабочих температур и пр. Сервер может применяться в составе мобильных дата-центров, на борту грузовиков, самолётов и подводных лодок.

Возможна установка четырёх ускорителей NVIDIA H100 и до 16 NVMe SSD суммарной вместимостью до 1 Пбайт. Говорится о поддержке до 35 одновременных ИИ-нагрузок. Кроме того, могут применяться сетевые решения стандарта 400 Гбит/с. При необходимости можно подключить NAS-хранилище в усиленном исполнении.

Источник изображения: OSS

Для сервера доступны различные варианты охлаждения: воздушное, автономное жидкостное или внешний теплообменник с жидкостным контуром. Поддерживаются различные варианты организации питания с переменным и постоянным током для использования на суше, в воздухе и море.

При использовании СЖО ускорители H100, по всей видимости, комплектуются водоблоком EK-Pro NVIDIA H100 GPU WB. Реализована фирменная архитектура Open Split-Flow: она обеспечивает высокую эффективность охлаждения даже при небольшой скорости потока жидкости, что позволяет применять не слишком мощные помпы или помпы, работающие с невысокой скоростью. Микроканалы, фрезерованные на станке с ЧПУ, обладают минимальным гидравлическим сопротивлением потоку. Водоблок имеет однослотовое исполнение.

Источник изображения: EKWB

Предусмотрено проприетарное ПО U-BMC (Unified Baseboard Management Controller) для динамического управления скоростью вентиляторов, мониторинга системы и пр. Сервер подходит для монтажа в большинство 19″ стоек.

«Яндекс» и группа компаний «Ланит» объявили о выходе из совместного с Gigabyte предприятия по производству серверов под торговой маркой OpenYard: свои доли они продадут частным инвесторам. Информации об ориентировочной сумме сделки на данный момент нет.

Напомним, «Яндекс», «Ланит», ВТБ и тайваньская Gigabyte летом 2021 года сообщили о намерении построить в Рязани завод по выпуску серверов и другого оборудования корпоративного класса. На нём планировалось производить технику под маркой OpenYard. Первоначальные инвестиции составили 1 млрд руб.

Весной нынешнего года появилась информация, что строительство предприятия завершено — оно располагается на территории индустриального парка «Рязанский». При этом пусконаладочные работы на тот момент сделаны не были. Летом же стало известно, что планы в отношении завода поменялись в связи со сложившейся геополитической обстановкой. Тогда говорилось, что «Яндекс» и «Ланит» решили выйти из проекта.

Теперь компании подтвердили эти сведения, заявив о продаже своих долей. После осуществления сделки «Яндекс» сосредоточится на развитии своих ключевых технологий и бизнесов. «Ланит» продолжит заниматься интеграторским бизнесом, разработкой и внедрением ПО, дистрибуцией и развитием собственных продуктов.

Источник изображения: OpenYard

До объявления об этой сделке «Яндексу» и ООО «Ланит Венчурс» принадлежали по 50 % структуры ООО «Центр открытых разработок». По данным ЕГРЮЛ, с 25 октября 2023 года доля «Ланит Венчурс» перешла компании «Цифровые Технологии» Дмитрия Казанского. Предприятие под Рязанью сохранит за собой производство, права на технологические разработки, команду сотрудников и бренд OpenYard.

Компания Supermicro сообщила о начале поставок первых в отрасли серверов на базе суперчипа NVIDIA GH200 Grace Hopper, предназначенных для поддержания ресурсоёмких нагрузок ИИ. Дебютировали стоечные решения в форм-факторах 1U и 2U с воздушным и жидкостным охлаждением.

Серверы используют модульную платформу NVIDIA MGX, которая специально разработана для упрощения создания ИИ-систем. Разработчики на этапе проектирования выбирают базовую архитектуру для шасси, после чего добавляются CPU, GPU и DPU в той или иной конфигурации для решения определённых задач.

В общей сложности выпущены шесть систем (см. характеристики в таблицах ниже). Все они допускают установку накопителей стандарта E1.S с возможностью горячей замены и SSD формата M.2. Есть слоты PCIe 5.0 x16 с поддержкой NVIDIA BlueField-3 и ConnectX-7. Питание обеспечивают два или три блока мощностью 2000 или 2700 Вт.

Источник изображений: Supermicro

В список анонсированных серверов входят:

• ARS-111GL-NHR — 1U, 1 × GH200 Grace Hopper, воздушное охлаждение;
• ARS-111GL-NHR-LCC — 1U, 1 × GH200 Grace Hopper, жидкостное охлаждение;
• ARS-111GL-DHNR-LCC — 1U, 2 × GH200 Grace Hopper, 2 узла, жидкостное охлаждение;
• ARS-121L-DNR — 1U, 2 × Grace CPU в каждом из двух узлов, воздушное охлаждение;
• ARS-221GL-NR — 2U, 1 × Grace CPU, воздушное охлаждение;
• SYS-221GE-NR — 2U, 2 × Intel Xeon Sapphire Rapids, до 4 × NVIDIA H100, воздушное охлаждение.

Supermicro отмечает, что заказчики могут использовать новые серверы в комплексе с софтом NVIDIA, включая NVIDIA AI Enterprise, для решения разнообразных задач в области генеративного ИИ, компьютерного зрения, речевых приложений и машинного обучения. А набор NVIDIA HPC SDK содержит компиляторы, библиотеки и программные инструменты, необходимые для организации высокопроизводительных вычислений.

Компания Giga Computing, подразделение корпоративных продуктов Gigabyte Technology, анонсировала серверы семейства R-Series, оснащённые процессорами AmpereOne с архитектурой Arm (до 192 ядер Arm с частотой до 3,0 ГГц, 8 каналов DDR5, 128 линий PCIe 5.0, TDP до 400 Вт).

Дебютировали четыре сервера: R163-P32 и R183-P92 в форм-факторе 1U, а также R263-P33 и R283-P93 типоразмера 2U. Все они поддерживают работу с ОС RHEL 9.0, Fedora 36, Oracle 9.0, Ubuntu 22.04 и Debian 11.

Источник изображений: Giga Computing

Модель R163-P32 рассчитана на установку одного чипа AmpereOne в исполнении LGA 5964. Есть 16 слотов для модулей оперативной памяти DDR5-4800 ёмкостью до 512 Гбайт каждый, 12 отсеков для SFF-накопителей NVMe/SATA/SAS, коннектор M.2 (PCIe 5.0 x4), два разъёма PCIe 5.0 x16 для карт FHHL, слот OCP 3.0 (PCIe 5.0 x16), сетевой контроллер 1GbE (Intel I210-AT) и выделенный сетевой порт управления 1GbE. Питание обеспечивают два блока мощностью 1300 Вт с сертификатом 80 Plus Platinum.

Версия R183-P92, в свою очередь, поддерживает два процессора AmpereOne. Этот сервер располагает 32 слотами для модулей DDR5-4800, двумя слотами OCP 3.0 (PCIe 5.0 x16) и двумя сетевыми портами 1GbE на базе Intel I350-AM2. Применены два блока питания на 2000 Вт с сертификатом 80 Plus Platinum. Прочие характеристики унаследованы у предыдущей версии.

Решение R263-P33 под один чип AmpereOne снабжено 16 слотами для модулей оперативной памяти DDR5-4800, четырьмя отсеками для SFF/LFF-накопителей NVMe/SATA/SAS, восемью отсеками для SFF/LFF-устройств SATA/SAS, коннектором M.2 (PCIe 5.0 x4), тремя разъёмами PCIe 5.0 x16 для карт FHHL, одним слотом PCIe 5.0 x8, двумя слотами OCP 3.0 (PCIe 5.0 x16), сетевым контроллером 1GbE (Intel I210-AT) и выделенным сетевым портом управления 1GbE. Установлены два блока мощностью 2400 Вт с сертификатом 80 Plus Platinum.

Сервер R283-P93 позволяет задействовать два процессора AmpereOne и 32 модуля DDR5-4800. Есть четыре слота PCIe 5.0 x16 для карт FHHL и два слота PCIe 5.0 x16 для карт LP, а также два порта 1GbE на базе Intel I350-AM2. Мощность каждого из двух блоков питания с сертификатом 80 Plus Platinum — 2700 Вт. Другие характеристики аналогичны модели R263-P33.

Dell Technologies на мероприятии для инвесторов сообщила о том, что её приоритетным направлением развития бизнеса является продажа оборудования для дата-центров. Компания ожидает, что серверы, а не ПК, станут основным драйвером роста в обозримом будущем, что объясняется бумом ИИ-технологий.

Dell прогнозирует, что рынок ПК выйдет из кризиса, а продажи в данном сегменте будут увеличиваться приблизительно на 2,5 % в год в течение нескольких следующих лет. Вместе с тем в серверном сегменте ожидается рост выручки на 7 % в год — это практически в два раза превышает прогноз, сделанный в 2021-м.

Источник изображения: Dell

Как отметил главный операционный директор Dell Джефф Кларк (Jeff Clarke), стремительное развитие ИИ-рынка приведёт к увеличению общих расходов на технологии. Наряду с серверами, оснащёнными ИИ-ускорителями, растёт потребность в хранилищах данных большой вместимости. Ещё в августе Dell заявляла, что у неё имеются заказы на поставку серверного оборудования на общую сумму около $2 млрд. Однако компания, как и другие участники рынка, сталкивается с нехваткой определённых компонентов. По словам Кларка, спрос опережает предложение.

Dell не отказывается от продажи ПК — это по-прежнему бизнес с оборотом примерно $58 млрд в год, приносящий более половины выручки компании. Но потенциал роста в данном сегменте не столь высок, как на серверном рынке. В компании также сообщили, что скорректированная прибыль на акцию, согласно прогнозам, будет увеличиваться как минимум на 8 % в год, а более 80 % свободного денежного потока планируется использовать для выкупа акций или выплаты дивидендов.

Для заказа, по сообщению ресурса CNX-Software, доступно устройство Palmshell NeXT H2: это микросервер на платформе AMD, который также предлагается в виде одноплатного компьютера для разработчиков. Цена начинается приблизительно с $200.

В основу положен процессор Ryzen Embedded R1505G (два ядра; четыре потока; 2,4–3,3 ГГц; 25 Вт). Для модулей оперативной памяти DDR4-2400 предусмотрены два слота SO-DIMM: опционально предлагаются модификации с 8 и 16 Гбайт ОЗУ.

Источник изображений: CNX-Software

Система может быть укомплектована SSD типоразмера M.2 2280 с интерфейсом PCIe 3.0 (NVMe) вместимостью 256 или 512 Гбайт. Есть два порта SATA-3 и слот для карты microSD. В арсенале новинки — два сетевых порта 10GbE SFP+ и порт 2.5GbE RJ45, а также коннектор M.2 B-key 3042 для модема 4G/5G. Дополнительно может быть добавлен комбинированный адаптер Intel AX210NGW (Wi-Fi 6E / Bluetooth 5.2) в виде модуля M.2 E-Key 2230.

Предусмотрены два разъёма HDMI с поддержкой видео 4Kp60, интерфейс eDP (только у одноплатного компьютера), по два порта USB 3.1 Gen2 и USB 2.0. Система охлаждения включает медный радиатор и PWM-вентилятор со скоростью вращения до 3000 об/мин. Питание подаётся через DC-разъём (12–19 В).

В тыльной части сервера предусмотрены гнёзда для шести внешних антенн. Говорится о совместимости с широким набором ОС, включая Ubuntu, Arch Linux, Fedora, Debian, OpenWrt, Windows, pfSense и ROS.

Компания TYAN, подразделение MiTAC Computing Technology Corporation, представила новые продукты с поддержкой процессоров AMD EPYC 8004 Siena. В частности, дебютировали односокетная материнская плата Tomcat CX S8040 и сервер Transport CX GC73A B8046 типоразмера 1U.

Плата Tomcat CX S8040 выполнена в формате ATX с размерами 305 × 243,8 мм. Допускается установка процессоров в исполнении Socket SP6 с показателем TDP до 225 Вт. Есть восемь слотов для модулей оперативной памяти DDR5-4800/3600 и четыре порта SATA-3.

Новинка располагает четырьмя слотами PCIe 5.0 x16 и двумя разъёмами M.2 22110/2280 (NVMe). Кроме того, предусмотрены по два коннектора MCIO 8x и MCIO 4x, по два сетевых порта 10GbE и 1GbE, порт управления 1GbE, коннектор D-Sub и последовательный порт. Диапазон рабочих температур простирается от +10 до +35 °C.

В свою очередь, сервер Transport CX GC73A B8046 имеет габариты 730 × 438,5 × 43,6 мм. Он несёт на борту материнскую плату S8046GM с возможностью установки одного чипа в исполнении Socket SP6 (до 225 Вт). Доступны 12 слотов для модулей RDIMM DDR5-4800. Во фронтальной части расположены 12 отсеков для SFF-накопителей.

Есть слоты расширения FH/HL и FH/FL с поддержкой PCIe 5.0 x16, сетевой адаптер Realtek RTL8211F стандарта 1GbE, контроллер Aspeed AST2600, два порта USB 3.2 Gen.1 и порт USB 2.0. Питание обеспечивают два блока мощностью 1300 Вт с сертификатом 80 Plus Titanium.

Компания Giga Computing, серверное подразделение Gigabyte, анонсировала серверы и материнские платы с поддержкой процессоров AMD EPYC 8004 Siena, которые впервые были представлены ещё в июне 2022 года.

Чипы Siena оптимизированы с точки зрения энергоэффективности. Они насчитывают до 64 ядер Zen 4 с возможностью одновременного выполнения двух потоков инструкций. Реализована поддержка оперативной памяти DDR5-4800 и 96 линий PCIe 5.0. Показатель TDP варьируется от 80 до 200 Вт.

В семейство серверов Giga Computing с поддержкой EPYC Siena вошли модели R143-EG0 (rev. AAC1), R143-EG0 (rev. AAC2), R143-EG2 (rev. AAC2), R243-EG0 (rev. AAF1) и R243-EG0 (rev. AAL1). Первые три устройства выполнены в формате 1U, два других — 2U. Говорится о поддержке накопителей SATA и SAS, тогда как R143-EG0 (rev. AAC2) и R143-EG2 (rev. AAC2) также допускают установку NVMe-устройств.

Источник изображений: Giga Computing

Модели R143-EG0 (rev. AAC1) и R143-EG0 (rev. AAC2) снабжены четырьмя посадочными местами для накопителей LFF/SFF, а версия R143-EG2 (rev. AAC2) — 12 отсеками для SFF-изделий. Серверы располагают разъёмом для двухслотовой карты расширения и коннектором OCP 3.0. Питание обеспечивают два блока мощностью 1300 Вт с сертификатом 80 Plus Platinum.

В свою очередь, серверы R243-EG0 (rev. AAF1) и R243-EG0 (rev. AAL1) наделены 12 отсеками для накопителей LFF/SFF, а также четырьмя разъёмами для двухслотовых ускорителей. Есть разъём OCP 3.0. Первое из этих устройств оснащено двумя блоками питания мощностью 2400 Вт с сертификатом 80 Plus Platinum, второе — двумя блоками на 2700 Вт с сертификатом 80 Plus Titanium.

Анонсированы также материнские платы ME33-AR0, ME03-CE0, ME03-CE1 и ME03-PE0. Первая имеет формат E-ATX, три других — ATX. Поддерживается работа с памятью DDR5, накопителями NVMe и SATA. Задействован BMC-контроллер Aspeed AST2600. Предусмотрены слоты PCIe 5.0 и 4.0.