Компания LG AI Research (ИИ-подразделение LG Group) из Южной Кореи заключила соглашение с южнокорейским стартапом FuriosaAI о выпуске серверов с ИИ-ускорителями RNGD для работы с собственным семейством LLM Exaone, сообщил The Register. Как сообщил генеральный директор FuriosaAI Джун Пайк (June Paik) изданию EE Times, серверы LG с чипами RNGD будут ориентированы на предприятия, использующие модели ExaOne в сфере электроники, финансов, телекоммуникаций и биотехнологий. Серверы поступят в продажу в конце этого года.

«После тщательного тестирования широкого спектра опций мы пришли к выводу, что RNGD — высокоэффективное решение для развёртывания моделей Exaone», — заявил Киджонг Чон (Kijeong Jeon), руководитель подразделения продуктов LG AI Research. «RNGD обеспечивает убедительное сочетание преимуществ: превосходную производительность в реальных условиях, значительное снижение совокупной стоимости владения и удивительно простую интеграцию», — добавил он.

Подобно системам на базе NVIDIA RTX Pro Blackwell, серверы LG RNGD будут включить до восьми ускорителей с интерфейсом PCIe 5.0. Эти системы будут работать на базе того, что FuriosaAI описывает как высокоразвитый программный стек, включающий библиотеку vLLM. LG также предложит собственную платформу агентского ИИ ChatExaone, которая адаптирована для корпоративных сценариев использования. Она объединяет ряд фреймворков для анализа документов, глубоких исследований, анализа данных и RAG.

Источник изображений: FuriosaAI

LG AI Research протестировала работу модели ExaOne-32B на восьмичиповом 4U-сервере c воздушным охлаждением, который был разработан совместно с Supermicro. В 15-кВт стойке можно разместить пять таких серверов. По словам Пайка, LG AI Research протестировала оборудование от нескольких поставщиков оборудования из Южной Кореи и других стран, взяв за основу ускорители NVIDIA A100. «LG AI Research также тестировала облачные решения, но, по их словам, наше решение на данный момент оказалось единственным, отвечающим их требованиям», — сказал Пайк.

Как полагает The Register, выбор для сравнения ускорителя NVIDIA A100, дебютировавшего в 2020 году, а не более свежих моделей, вызван тем, что LG AI Research больше интересует энергоэффективность оборудования, чем производительность. И, как отметил Джун Пайк, хотя за пять лет с момента появления A100 ускорители NVIDIA, безусловно, стали мощнее, но произошло это за счёт увеличения энергопотребления и площади кристалла.

Сообщается, что LG AI фактически использовала четыре PCIe-ускорителя RNGD, задействовав тензорный параллелизм для запуска модели Exaone 32B с 16-бит точностью. По словам Пайка, у LG были очень чёткие целевые показатели производительности, которые она стремилась достичь при валидации чипа. В частности, ограничения включали время до отдачи первого токена (TTFT) — примерно 0,3 с для небольших запросов на 3 тыс. токенов или 4,5 с для более крупных запросов на 30 тыс. токенов. Результат в 60 токенов/с достигается для контекстного окна размером 4 тыс. токенов или 50 токенов/с для контекстного окна размером 32 тыс. токенов.

По словам Пайка, тесты проводились в режиме BF16, поскольку сравниваемые A100 не имеет встроенной поддержки FP8, так что использование RNGD в FP8-режиме позволит удвоить эффективность инференса и снизить TTFT. Кроме того, сервер продемонстрировал в 2,25 раза более высокую производительность инференса LLM на Ватт по сравнению с A100, а полная стойка сможет генерировать в 3,75 раза больше токенов, чем стойка с A100 при том же энергопотреблении. Чип FuriosaAI RNGD обеспечивает производительность 512 Тфлопс (FP8) при TDP 180 Вт.

В отличие от ускорителей NVIDIA, оснащённых высокоскоростным интерконнектом NVLink (600 Гбайт/с), FuriosaAI использует интерфейс PCIe 5.0 (128 Гбайт/с). По словам FuriosaAI, чтобы избежать узких мест и накладных расходов, связанных с интерконнектом, компилятор компании помогает оптимизировать процесс обмена данными и собственно вычисления.

Компания Supermicro представила модель SYS-822GS-NB3RT на аппаратной платформе NVIDIA HGX B300 (Blackwell Ultra) для ресурсоёмких ИИ-нагрузок. Устройство выполнено в форм-факторе 8U и . Допускается установка двух процессоров Intel Xeon 6500P или 6700P поколения Granite Rapids с высокопроизводительными Р-ядрами. Доступны 32 слота для модулей оперативной памяти DDR5 с поддержкой MRDIMM-8000. Система имеет архитектуру 8-GPU.

Во фронтальной части располагаются отсеки для восьми накопителей E1.S (NVMe) с возможностью горячей замены. Кроме того, есть два внутренних слота М.2 для NVMe SSD. Сервер оснащён двумя разъёмами PCIe 5.0 х16 FHHL для DPU NVIDIA BlueField-3. Упомянуты сетевые адаптеры NVIDIA ConnectX-8 SuperNIC. Supermicro позиционирует модель SYS-822GS-NB3RT в качестве передового «строительного блока» для формирования масштабных ИИ-кластеров с воздушным охлаждением.

Компания Supermicro также сообщила о том, что в её ассортименте для заказа доступны более 20 систем, поддерживающих установку ускорителей NVIDIA RTX PRO 6000 Blackwell Server Edition с 96 Гбайт памяти GDDR7. Это, в частности, многоузловые серверы SuperBlade, компактные edge-решения, серверы типоразмера 5U с поддержкой до восьми GPU-карт, системы на модульной архитектуре NVIDIA MGX для ИИ-приложений и задач НРС, а также мощные рабочие станции.

Компания Supermicro представила сервер MicroCloud A+ Server AS-3015MR-H5TNR типоразмера 3U. Эта пятиузловая система (3U5N) ориентирована на организацию облачных вычислений и CDN, поддержание работы потоковых видеосервисов, веб-приложений и пр.

Каждый узел рассчитан на установку одного процессора AMD EPYC 4005 Grado в исполнении Socket AM5 (LGA1718) с показателем TDP до 175 Вт (воздушное охлаждение). Кроме того, могут применяться чипы EPYC 4004 и Ryzen 7000/9000, насчитывающие до 16 вычислительных ядер с поддержкой многопоточности. Доступны четыре слота для модулей DDR5-5600 суммарным объёмом до 192 Гбайт.

Каждый узел располагает одним слотом PCIe 5.0 x16 FHFL и одним разъёмом PCIe 5.0 x4 Micro-LP или двумя слотами PCIe 5.0 x8 LP. Возможна установка ускорителя NVIDIA L40(S), L4, A16, A2 и A10 или AMD Instinct MI210. Предусмотрены по два посадочных места для накопителей SFF NVMe (PCIe 5.0) и SFF SATA-3. Кроме того, имеется коннектор M.2 M-key для SSD типоразмера 2280/22110 (NVMe). Доступны два порта USB 2.0.

Вся система AS-3015MR-H5TNR в целом оборудована четырьмя блоками питания с резервированием мощностью 2000 Вт с сертификатом 80+ Titanium. Задействованы пять вентиляторов охлаждения диаметром 80 мм. Габариты составляют 449 × 775 × 131 мм, масса — 48,76 кг. Диапазон рабочих температур простирается от +10 до +35 °C. Упомянут встроенный модуль TPM 2.0 для обеспечения безопасности.

Поскольку внедрение ИИ и HPC увеличивает потребность операторов ЦОД в мощной инфраструктуре, необходимы и более экоустойчивые, эффективные и масштабируемые решения для охлаждения оборудования. Компания Intel совместно с Shell Global Solutions предложили сертифицированное комплексное решение для иммерсионного охлаждения серверов с процессорами Intel Xeon Emerald Rapids или Sapphire Rapids, сообщает пресс-служба Intel.

По информации Dell’Oro Group, системы жидкостного охлаждения становятся всё популярнее и к 2028 году на них будет приходиться 36 % выручки от общих продаж систем терморегуляции дата-центров. Однако внедрение высокоэффективного погружного охлаждения до недавнего времени тормозилось из-за отсутствия сертифицированных, прошедших проверки и готовых к развёртыванию продуктов.

Intel и Shel провели валидацию полной системы иммерсионного охлаждения для ЦОД на основе оборудования Supermicro и Submer. Решение Intel Data Center Certified for Immersion Cooling называется первым в своём роде и задаёт новый отраслевой стандарт по эффективности и надёжности в долгосрочной перспективе. Масштабное тестирование и строгая валидация в лабораториях Intel позволяет операторам ЦОД внедрять проверенную инфраструктуру, будучи уверенными в её готовности к современным рабочим нагрузкам ИИ и HPC, говорится в пресс-релизе.

Источник изображения: Intel

В рамках процесса сертификации Intel предлагает дополнительную гарантию на использование процессоров Xeon с однофазным иммерсионным охлаждением Xeon Processor Single-Phase Immersion Warranty Rider, подтверждающей надёжность и эффективность инфраструктуры, а также её совместимость с охлаждающими жидкостями Shell. Дополнительно исследуется возможность будущего сотрудничества для сертификации новейших поколений процессоров компании с жидкостями Shell.

Источник изображения: Intel

Как заявил представитель Intel, по мере роста потребностей ЦОД, сертифицированные Intel решения для погружного охлаждения станут играть ключевую роль в обеспечении работы энергоэффективной и масштабируемой вычислительной инфраструктуры — ЦОД получили доступ к проверенным, готовым к внедрению технологиям охлаждения.

Другими словами, операторы ЦОД смогут получить доступ к решениям с повышенной производительностью, минуя этап пилотного проекта — можно сразу переходить к внедрению предварительно проверенных вариантов с высокой энергоэффективностью и малым воздействием на окружающую среду. При этом такие решения обеспечены первыми в отрасли сертификатами и гарантиями Intel.

Ведущий саудовский оператор ЦОД DataVolt объявил о подписании сделки о многолетнем партнёрстве с Supermicro. Новое сотрудничество ускорит поставку ИИ-решений высокой плотности и стоечных систем с СЖО для кампусов DataVolt гиперскейл-уровня в Саудовской Аравии и США, сообщает пресс-служба DataVolt. Отмечается, что участие американских властей и стратегический подход наследного принца и премьер-министра Мухаммеда ибн Салмана ибн Абдул-Азиза Аль Сауда (Mohammed bin Salman Al Saud) позволили создать благоприятную бизнес-среду в стране.

В DataVolt заявили, что очень рады сотрудничеству с Supermicro. DataVolt намерена объединить водородную энергетику гигаваттного уровня с нулевыми выбросами и самые передовые в индустрии серверные технологии, что обеспечит экоустойчивость и возможность беспрецедентного масштабирования нагрузок. В Supermicro тоже рады сотрудничеству с DataVolt и продолжению расширения производства на территории США. В компании уверены, что работая вместе, партнёры смогут создать передовую вычислительную ИИ-инфраструктуру, что будет способствовать реализации саудовских планов по превращению в международный инновационный и технологический хаб.

Сделка, оценённая в $20 млрд, укрепляет стратегические связи между компаниями и знаменует важную веху в их совместной работе, демонстрируя серьёзные намерения в развитии решений для ИИ и дата-центров.

Источник изображения: DataVolt

DataVolt не только выступает оператором ЦОД, но и активно интегрирует всевозможные инфраструктурные решения, связанные с возобновляемой энергетикой. Штаб-квартира компании находится в Саудовской Аравии, но филиалы также имеются в США, Узбекистане, Индии и ОАЭ. Также компания ведёт дела в Южной Корее и Южной Африке, мечтая распространить влияние на весь Ближний Восток, Африку и Азию. В первую очередь компания занимается обеспечением потребностей гиперскейлеров, крупных бизнесов и правительственных организаций.

Новое сотрудничество, возможно, станет едва ли не спасительным импульсом для Supermicro. В конце апреля компания объявила предварительные неаудированные финансовые результаты за III квартал 2025 финансового года (закончился 31 марта). Они оказались значительно ниже оценок аналитиков, в связи с чем её акции упали на 19 %.

Supermicro объявила предварительные неаудированные финансовые результаты за III квартал 2025 финансового года, закончившийся 31 марта, которые оказались значительно ниже оценок аналитиков, в связи с чем её акции упали во вторник на 19 %, пишет CNBC. Ожидаемые показатели продаж в пределах $4,5–$4,6 млрд оказались горазда ниже предыдущего прогноза в размере $5–$6 млрд при консенсус-прогнозе аналитиков, опрошенных LSEG, в $5,5 млрд.

Разводнённая чистая прибыль на обыкновенную акцию (GAAP) также значительно ниже предыдущего прогноза — 16–17 центов на акцию по сравнению с объявленными ранее 36–53 цента на акцию при прогнозе Уолл-стрит в 46 центов за акцию (согласно данным SiliconANGLE). Также оказалась ниже скорректированная разводнённая чистая прибыль на обыкновенную акцию (Non-GAAP) — $0,29 – $0,31 против прежнего прогнозного диапазона $0,46 – $0,62 при консенсус-прогнозе аналитиков, опрошенных LSEG, в размере $0,54 на акцию.

Supermicro сообщила, что из-за некоторых отложенных решений клиентов продажи переместились в IV финансовый квартал. Также компания отметила, что валовая прибыль (по GAAP и Non-GAAP) за отчётный квартал была на 220 базисных пунктов ниже, чем во II квартале, в основном из-за более высоких запасов продуктов старого поколения и ускорения роста затрат, что было необходимо для обеспечения сроков вывода на рынок новых продуктов. В частности, убыстрившийся темп создания новых продуктов NVIDIA поставил в неудобное положение многих производителей серверов.

До объявления результатов во вторник акции Supermicro выросли на 18 % с начала 2025 года, демонстрируя рост на фоне спада на рынке технологий в целом. Как отметил The Register, ссылку Supermicro на отложенные покупки и медленное движение старых продуктов можно было бы расценивать как признак охлаждения рынка. Аналитики SiliconANGLE полагают, что падение акций Supermicro оказало опосредованное воздействие на других крупных игроков на рынке серверов. Так, акции Dell упали в цене почти на 5 % в ходе расширенных торгов, а у HPE и NVIDIA — примерно на 2 %.

Fujitsu, Supermicro и Nidec объявили об объединении усилий с целью снижения энергопотребления ЦОД. Речь идёт о создании платформы, которая поможет операторам дата-центров повысить коэффициент эффективности использования энергии (PUE).

Отмечается, что стремительное внедрение ИИ приводит к быстрому росту нагрузки на ЦОД. Это, в свою очередь, провоцирует увеличение энергопотребления, что объясняется установкой мощных серверов с ускорителями на базе GPU. Тем не менее, многие дата-центры продолжают использовать воздушное охлаждение. Хотя жидкостное охлаждение обеспечивает значительно более высокую эффективность, проектирование, строительство и эксплуатация таких систем требуют высокого уровня технических знаний и навыков.

В рамках нового проекта партнёры объединят ПО для мониторинга и управления жидкостным охлаждением Fujitsu, высокопроизводительные GPU-серверы Supermicro и высокоэффективную систему жидкостного охлаждения Nidec. В частности, Fujitsu намерена использовать свой 40-летний опыт в области СЖО, которые применяются в суперкомпьютерах. Supermicro предоставит высокопроизводительные серверные комплексы высокой плотности, оптимизированные для жидкостного охлаждения: такие устройства позволят сократить энергопотребление и снизить уровень шума благодаря отсутствию вентиляторов.

Источник изображения: Nidec

Nidec будет отвечать за поставки компонентов СЖО, включая блоки распределения охлаждающей жидкости (CDU), насосы и пр. Система охлаждения Nidec, как ожидается, улучшит управление температурой и снизит энергопотребление.

В целом, как заявляют партнёры, новая инициатива поможет повысить общую энергоэффективность ЦОД до 40 % по сравнению с традиционными методами воздушного охлаждения. Fujitsu оценит преимущества решения в своем центре обработки данных Tatebayashi.

Компания Supermicro анонсировала большое количество однопроцессорных серверов на аппаратной платформе Intel Xeon 6 для различных рабочих нагрузок, включая ИИ-инференс, приложения НРС, аналитику данных и пр. Утверждается, что новинки способны справляться со многими задачами, которым традиционно требуются двухсокетные машины.

В зависимости от серии и модификации серверы комплектуются чипами Xeon 6500P/6700P Granite Rapids с производительными Р-ядрами или изделиями Xeon 6700E Sierra Forest с энергоэффективными Е-ядрами. Используя односокетные системы, предприятия и операторы ЦОД, как отмечает Supermicro, могут сократить первоначальные затраты на закупку оборудования и эксплуатационные расходы, включая оплату электроэнергии.

Ассортимент серверов Supermicro на платформе Intel Xeon 6 включает флагманские устройства SuperBlade с максимальной производительностью для ИИ, НРС, облачных и корпоративных нагрузок. Эти системы доступны в конфигурациях с воздушным или жидкостным охлаждением. В корпусе 8U может быть размещено до 20 узлов, в шасси 6U — до десяти. Серверы допускают установку до четырёх GPU-ускорителей двойной ширины.

Кроме того, представлены стоечные серверы Hyper для масштабируемых облачных рабочих нагрузок, оптимизированные для инференса. На облачные дата-центры также ориентированы устройства CloudDC. Серверы серии WIO предлагают гибкие возможности в плане конфигурации подсистемы ввода-вывода, а модели Edge предназначены для использования на периферии. Вышли также обновлённые решения GrandTwin с возможностью горячей замены узлов и серверы хранения Top-loading Storage.

В отличие от других крупных технологических компаний, которые активно инвестируют в развёртывание ИИ ЦОД, Apple долгое время избегала резкого увеличения капитальных вложений в это направление. Но, похоже, ситуация изменилась, и Apple тоже начала наращивать инвестиции в это направление, пишет ресурс Investor's Business Daily (IBD).

Аналитик Loop Capital Ананда Баруа (Ananda Baruah) сообщил в понедельник в записке для инвесторов, что Apple размещает заказы на поставку систем NVIDIA GB300 NVL72 на сумму около $1 млрд. Речь идёт о приблизительно 250 системах стоимостью $3,7– $4 млн каждая, пояснил аналитик.

Баруа также сообщил, что Apple привлекла Dell и Supermicro к работе над собственным большим серверным кластером для поддержки приложений генеративного ИИ. Аналитик рассказал, что на текущий момент об этом проекте мало данных, но, похоже, Apple намерена использовать кластер для работы с большими языковыми моделями (LLM). Ранее компания сотрудничала с Google Cloud и использовала TPU для обучения своих ИИ-моделей. Для безопасного инференса компания использует серверы на базе собственных чипов серии M. По слухам, компания также работает над собственными серверными ИИ-ускорителями при поддержке Broadcom.

Источник изображения: Laurenz Heymann/unsplash.com

Ананда Баруа считает, что резкая смена стратегии Apple связана с проблемами с выводом на рынок своего обновленного цифрового помощника Siri с поддержкой ИИ, который был анонсирован в прошлом году на конференции WWDC 2024. Компания планировала запустить новые функции Siri в начале этого года, но, похоже, что это произойдёт только в 2026 году.

Один из топ-менеджеров Apple назвал задержки и промахи с запуском функций ИИ-платформы Apple Intelligence «отвратительными» и «позорными», поскольку компания продвигала возможности ИИ в телевизионной рекламе, сообщил ранее Bloomberg. В связи с этим на компанию уже подали в суд. В итоге новым руководителем направления ИИ вместо Джона Джаннандреа (John Giannandrea) был назначен Майк Роквелл (Mike Rockwell), глава отдела разработки Vision Pro.

Компания Supermicro представила сервер ARS-121L-NE316R в форм-факторе 1U, на базе которого могут формироваться системы хранения данных петабайтной вместимости. В основу новинки положен суперчип NVIDIA Grace со 144 ядрами Arm Neoverse V2 и 960 Гбайт памяти LPDDR5x.

Устройство оборудовано 16 фронтальными отсеками для NVMe-накопителей E3.S 1T. При использовании SSD ёмкостью 61,44 Тбайт суммарная вместимость может достигать 983 Тбайт. При этом до 40 серверов могут быть установлены в одну стойку, что обеспечит 39,3 Пбайт «сырой» ёмкости.

Новинка располагает двумя внутренними посадочными местами для M.2 NVMe SSD и двумя слотами PCIe 5.0 x16 для карт типоразмера FHHL. Присутствуют сетевой порт управления 1GbE (RJ45), порт USB 3.0 Type-A и разъём mini-DP. Габариты сервера составляют 772,15 × 438,4 × 43,6 мм, масса — 19,8 кг без установленных накопителей.

Источник изображения: Supermicro

Питание обеспечивают два блока мощностью 1600 Вт с сертификатом 80 Plus Titanium. Применена система воздушного охлаждения с восемью съёмными вентиляторами диаметром 40 мм. Диапазон рабочих температур — от +10 до +35 °C.

При необходимости сервер может быть оснащён двумя DPU NVIDIA BlueField-3 или двумя адаптерами ConnectX-8. Система подходит для поддержания рабочих нагрузок с интенсивным обменом данными, таких как ИИ-инференс, аналитика и пр. Отмечается, что при создании новинки Supermicro тесно сотрудничала с NVIDIA и WEKA (разработчик платформ хранения данных).