Компания ASUS анонсировала материнскую плату Pro WS 665-ACE, предназначенную для построения рабочих станций, рассчитанных на работу с приложениями ИИ. Новинка, выполненная в форм-факторе АТХ, допускает установку одного процессора AMD EPYC 4004 в исполнении AM5.

Плата располагает четырьмя разъёмами для модулей оперативной памяти DDR5. Реализована фирменная технология OptiMem II: оптимизированная разводка слотов способствует снижению перекрёстных наводок и улучшает целостность сигнала, что обеспечивает стабильную работу даже при использовании памяти с высокой частотой.

Для подключения накопителей доступны четыре порта SATA-3. Предусмотрены два разъёма OCuLink (PCIe 4.0 x4), а также три слота PCIe 4.0 x16. Применён сетевой контроллер Intel I225-LM с поддержкой 2.5GbE.

Источник изображения: ASUS

Плата поставляется с программным обеспечением ASUS Control Center Express, которое предназначено для эффективного централизованного управления компьютерной инфраструктурой на базе корпоративных и коммерческих продуктов через удобный пользовательский интерфейс. У модели Pro WS 665-ACE процессорный разъём развёрнут на 90°. Отмечается, что новинку можно применять в серверах начального уровня для дата-центров и облачных платформ.

Компания ASUS также представила ряд других продуктов с поддержкой чипов AMD EPYC 4004. В их число вошли сервер Pro ER100A B6 формата 1U, рабочая станция ExpertCenter Pro ET500A B6 с поддержкой памяти DDR5-5200 и двумя коннекторами для накопителей M.2, компактная материнская плата Pro WS 600M-CL.

Компания Micron Technology объявила о доступности серии NVMe-накопители Micron 9550, которые позиционируются как самые быстрые в мире PCIe 5.0 SSD для ЦОД с лучшими в отрасли показателями энергоэффективности и производительности для ресурсоёмких рабочих нагрузок, таких как ИИ. Новинки используют 232-слойную флеш-память TLC NAND, предлагаются в форм-факторах U.2 (15 мм), E3.S (1T) и E1.S (15 мм), а их ёмкость составляет от 3,2 до 30,72 Тбайт.

Micron 9550 обеспечивает скорость последовательного чтения до 14,0 Гбайт/с и последовательной записи до 10,0 Гбайт/с, что превышает на 67 % показатели твердотельных накопителей аналогичного класса от конкурентов, говорит компания, подразумевая решения Kioxia и Samsung. Производительность накопителя на операциях случайного чтения и записи составляет 3,3 млн IOPS и 400 тыс. IOPS соответственно, что до 35 % и до 33 % выше, чем у предложений конкурентов.

Источник изображения: Micron

Накопители Micron 9550 поддерживают TCG Opal 2.01, SPDM 1.2, телеметрию по стандарту OCP 2.5, шифрование данных (SED), сквозную поддержку целостности данных, подписанное встроенное ПО, изолированный анклав Micron Secure Execution Environment, защиту от потери питания, а также соответствуют стандартам NVMe v2.0b и OCP 2.0 (r21). Доступны и варианты с сертификацией FIPS 140-3 Level 2 и TAA.

Компания предлагает две версии Micron 9550: 9550 PRO для интенсивного чтения с 1 DWPD (допустимое количество перезаписей всего объёма накопителя в день) в течение пятилетнего гарантийного периода и 9550 MAX для смешанных нагрузок с надёжностью 3 DWPD. E1.S-вариант есть только 9550 PRO. Доступная ёмкость 9550 PRO составляет 3,84/7,68/15,36/30,72 Тбайт. Версия накопителя 9550 MAX предлагает меньшую ёмкость — 3,2/6,4/12,8/25,6 Тбайт.

Как отметила Micron, ИИ-нагрузки требуют высокопроизводительных решений для хранения данных. Показатели последовательного и случайного чтения и записи SSD 9550 позволяет использовать его именно в таких в сценариях. Накопители поддерживают архитектуры Big Accelerator Memory (BaM) и GPU-Initiated Direct Storage (GIDS).

Например, большие языковые модели (LLM) требуют высокой скорости последовательного чтения, а графовые сети (GNN) требуют высокой производительности случайного чтения. Компания заявила, что Micron 9550 превосходит предложения конкурентов в работе с ИИ-нагрузками: время выполнения сокращается до 33 %, агрегация в BaM происходит до 60 % быстрее, обеспечивается до 34 % более высокая пропускная способность при использовании Magnum IO GPUDirect Storage (GDS).

Согласно пресс-релизу, Micron 9550 обеспечивает лучшую в отрасли энергоэффективность для поддержки различных рабочих ИИ-нагрузок, в том числе:

• Обучение графовых сетей с помощью BaM: снижение среднего энергопотребления SSD до 43 % и снижение общего энергопотребления сервера до 29 %.
• NVIDIA Magnum IO GPUDirect Storage: до 81 % меньше потребление энергии на каждый переданный 1 Тбайт.
• MLPerf: до 35 % меньше потребление энергии накопителем и до 13 % меньше использование энергии системой.
• Тюнинг Llama LLM с помощью Microsoft DeepSpeed: энергопотребление SSD до 21 % меньше.

Micron 9550 имеет вертикально интегрированную архитектуру с использованием технологий, разработанных Micron, обеспечивающую гибкий выбор конструкции и расширенные возможности безопасности, говорит компания. Кроме того, Micron сотрудничает с NVIDIA и разработчиками решений с открытым исходным кодом, чтобы гарантировать соответствие решений потребностям самых требовательных ИИ-нагрузок.

Криптомайнинговая компания Hive Digital Technologies построит дата-центр для добычи криптовалют в Парагвае. Как сообщает Datacenter Dynamics, канадская компания претендует на звание оператора «зелёных» ЦОД — новый экобезопасный проект получит 100 МВт чистой энергии.

По словам представителя Hive (ранее Hive Blockchain), «зелёная» энергия будет поступать от гидроэлектростанции Itaipu. Возможность такого подключения обеспечит бизнесу дополнительные 6,5 экзахэшей в секунду (Эх/с) при майнинге биткоинов, в итоге общий показатель для Hive сможет вырасти до 12,1 Эх/с.

Гидроэлектростанция Itaipu Dam на реке Парана расположена на границе Парагвая и Бразилии. Запущенная в 1984 год, она считается третьей по величине ГЭС в мире, с возможностью генерации до 14 ГВт.

Источник изображения: Michael Förtsch/unsplash.com

В Hive заявляют, что проект позволит государственной энергоснабжающей компании получить $100 млн выручки в следующие три года. Сама компания готова поделиться опытом организации баланса и реакции на спрос в сети для поддержки промышленного развития в Парагвае. В то же время она рассчитывает «монетизировать излишки» или «недостаточно монетизированные» энергетические активы.

Стратегия компании предполагает диверсификацию источников роста. Hive расширяет присутствие в Канаде, Швеции, Исландии и, теперь, Парагвае — заодно стимулируя экономический рост в регионах. В Канаде компания управляет 30-МВт ЦОД в Квебеке и 70-МВт объектом в Нью-Брансуике. В Квебеке, по слухам, тепло ЦОД используется для обогрева предприятия, выпускающего плавательные бассейны.

Также Hive управляет 32-МВт объектом в Швеции и скоро этот ЦОД поможет обогревать тепличное хозяйство площадью более 8 тыс. м², где выращиваются огурцы и помидоры. Также криптокомпания управляет ЦОД ёмкостью более 10 МВт в Исландии, ранее она планировала запустить проект в Норвегии, но в 2021 году отказалась от этой идеи.

Компания основана в 2017 году и управляет около 38 тыс. ускорителей NVIDIA, а также тысячами ASIC-модулей для майнинга биткоинов. По последним данным, HPC-мощности Hive обеспечивали ей $3,4 млн выручки за финансовый год, криптооперации приносили $111 млн. В этом году Hive, как и многие конкуренты, намерена запустить собственный облачный сервис Hive Cloud.

HPE выбрала компанию QScale в качестве партнёра для размещения своего ИИ-облака в Северной Америке. Инфраструктура, поддерживающая обучение, оптимизацию и развёртывание масштабных ИИ-моделей, базируется в дата-центре QScale Q01 в Квебеке (Канада).

Фирма QScale основана в 2018 году Винсентом Тибо (Vincent Thibault), Дэни Перроном (Dany Perron) и Мартином Бушаром (Martin Bouchard) с целью предоставления ресурсов для задач ИИ и НРС. В прошлом году компания привлекла инвестиции от американского оператора Aligned Data Centers.

Создание площадки QScale Q01 началось в 2021 году. Комплекс соответствует уровню Tier III. Для питания на 100 % используется энергия из возобновляемых источников. Заявленный коэффициент PUE составляет менее 1,2. Доступны полностью кастомизируемые системы воздушного и жидкостного охлаждения. Во втором случае мощность может превышать 300 кВт на стойку. Кроме того, задействовано естественное охлаждение, поддерживаемое холодным климатом Квебека.

Источник изображения: QScale

HPE является якорным арендатором дата-центра QScale Q01 с 2023 года. Ожидается, что после завершения строительства суммарная мощность этого кампуса составит 142 МВт. Отмечается, что современная инфраструктура QScale позволила HPE минимизировать воздействие своего ИИ-облака на окружающую среду. Энергопотребление удалось снизить приблизительно на 20 % по сравнению с традиционными ЦОД.

«Технический опыт QScale и приверженность устойчивому развитию позволили нам в сжатые сроки ввести облачную ИИ-платформу в эксплуатацию», — отметил Майк Вангсмо (Mike Wangsmo), директор направления облачных дата-центров HPE.

Компания MSI анонсировала компактный компьютер MS-C907, ориентированный на промышленный и коммерческий секторы. Устройство может применяться для создания систем автоматизации и контроля, построения информационных терминалов, транспортных ПК, ретейл-платформ и пр.

Новинка заключена в корпус с габаритами 200 × 150 × 55 мм, а масса составляет 1,38 кг. Ребристая внешняя поверхность выполняет функции радиатора для отвода тепла. Диапазон рабочих температур простирается от -10 до +40 °C. Возможен монтаж на DIN-рейку или крепление VESA.

Источник изображения: MSI

Установлен чип поколения Intel Alder Lake-N. Это может быть изделие Core i3-N305 (8C/8T; до 3,8 ГГц; 15 Вт) или Processor N97 (4C/4T; до 3,6 ГГц; 12 Вт). Применено пассивное охлаждение. Объём оперативной памяти DDR5-4800 достигает 16 Гбайт (один слот SO-DIMM). Предусмотрено посадочное место для одного SFF-накопителя (SSD/HDD) с интерфейсом SATA 3.0.

В оснащение входят два сетевых контроллера Intel I225-V стандарта 2.5GbE, звуковой кодек Realtek ALC897 HD Audio, TPM-контроллер Infineon SLB9672VU2.0, а также коннекторы M.2 B key 2242/3042/2280 (SATA/PCIe x1) и M.2 E key 2230 (PCIe x1, USB 2.0), что позволяет добавить модуль беспроводной связи и (или) сотовый модем. Поддерживается вывод изображения одновременно на два монитора через интерфейсы HDMI (3840 × 2160 пикселей; 30 Гц) и DisplayPort (4096 × 2304 точки; 60 Гц).

В набор разъёмов входят два гнезда RJ-45 для сетевых кабелей, шесть портов USB 2.0, по два порта USB 3.2 Gen2 и USB 3.2 Gen1, два последовательных порта, аудиовход и аудиовыход на 3,5 мм. Возможно подключение четырёх антенн беспроводной связи. Питание (9–36 В) подаётся через DC-разъём. Заявлена совместимость с Windows 10 IoT Enterprise 2021 LTSC, Windows 11 IoT Enterprise и Linux.

Илон Маск объявил в соцсети X (ранее Twitter) о запуске стартапом xAI в дата-центре в Мемфисе «самого мощного в мире кластера для обучения ИИ», который будет использоваться для создания «самого мощного в мире по всем показателям искусственного интеллекта к декабрю этого года», пишет Tom's Hardware. Однако, судя по всему, на практике сейчас работает лишь очень небольшая часть кластера.

«Отличная работа команды @xAI, команды @X, @Nvidia и компаний поддержки, которые начали обучение с кластером Memphis Supercluster примерно в 4:20 утра по местному времени. 100 тыс. H100 с жидкостным охлаждением в единой RDMA-фабрике — это самый мощный кластер обучения ИИ в мире!», — сообщил миллиардер в своём аккаунте.

Как указали в xAI, новая вычислительная система будет использоваться для обучения новой версии @grok, которая будет доступна премиум-подписчикам @x. Ранее появились сообщения о том, что оборудование для ИИ-кластера будут поставлять Dell и Supermicro. Комментируя нынешнее заявление Маска, гендиректор Supermicro Чарльз Лян (Charles Liang) подтвердил, что большая часть оборудования для ИИ-кластера была поставлена его компанией.

Источник изображений: xAI

В мае этого года Маск поделился планами построить гигантский суперкомпьютер для xAI для работы над следующей версией чат-бота Grok, который будет включать 100 тыс. ускорителей Nvidia H100. А в следующем году Илон Маск планирует запустить ещё один кластер, который будет содержать 300 тыс. ускорителей NVIDIA B200. Для его создания Маск намеревался привлечь Oracle, планируя выделить $10 млрд на аренду ИИ-серверов компании, но затем отказался от этой идеи, так как его не устроили предложенные Oracle сроки реализации проекта.

Как отметил ресурс Tom's Hardware, новый ИИ-кластер стартапа xAI превосходит все суперкомпьютеры из TOP500 с точки зрения количества ускорителей. Самые мощные в мире суперкомпьютеры, такие как Frontier (37 888 ускорителей AMD), Aurora (60 000 ускорителей Intel) и Microsoft Eagle (14 400 ускорителей NVIDIA), похоже, значительно уступают кластеру xAI. Впрочем, технические детали о сетевой фабрике нового кластера пока не предоставлены.

Но, как выясняется, не всё в заявлении Маска соответствует действительности. Аналитик Dylan Patel (Дилан Пател) из SemiAnalysis обвинил Маска во лжи, поскольку в настоящее время кластеру доступно 7 МВт мощности, чего хватит для работы примерно 4 тыс. ускорителей. С 1 августа будет доступно 50 МВт, если xAI наконец подпишет соглашение с властями Теннесси. А подстанция мощностью 150 МВт все ещё находится в стадии строительства, которое завершится в IV квартале 2024 года.

Как отмечает местное издание commercial appeal, поскольку речь идёт об объекте мощностью более 100 МВт, для его подключения требуется разрешение коммунальных компаний Memphis Light, Gas and Water (MLGW) и Tennessee Valley Authority (TVA). Контракт на подключение ЦОД к энергосети с TVA не был подписан. Более того, для охлаждения ЦОД, по оценкам MLGW, потребуется порядка 4,9 тыс. м³ воды ежедневно.

UPD: Дилан Пател удалил исходный твит, но уточнил текущее положение дел. От энергосети кластер сейчас потребляет 8 МВт, однако рядом с площадкой установлены мобильные генераторы (14 × 2,5 МВт), так что сейчас в кластере активны около 32 тыс. ускорителей, а в полную силу он зарабатает в IV квартале. Если контракт с TVA будет подписан, то к 1 августу кампус получит ещё 50 МВт от сети, а к концу году будет подведено 200 МВт. Для работы 100 тыс. H100 требуется порядка 155 МВт.

NVIDIA уже готовилась начать продажи систем на базе новейших ИИ-суперускорителей GB200, однако столкнулась с непредвиденной проблемой — TweakTown сообщает, что в системах жидкостного охлаждения этих серверов начали появляться протечки.

Судя по всему, серверы на основе GB200 использовали дефектные компоненты систем СЖО охлаждения, поставляемые сторонними производителями: разветвители, быстросъёмные соединители и шланги. Некорректная работа любого из этих компонентов может привести к утечке охлаждающей жидкости. В случае с моделью GB200 NVL72 стоимостью в $3 млн это может перерасти в большую проблему.

К счастью, нарушения в работе новых систем NVIDIA GB200 NVL36 и NVL72 обнаружили до начала массового производства в преддверии запуска поставок ключевым покупателям ИИ-решений. Предполагается, что на сроках поставок проблема не скажется, поскольку её успеют устранить. Впрочем, по данным источников, теперь крупные провайдеры облачных сервисов «нервничают».

Источник изображения: NVIDIA

NVIDIA предлагают свою продукцию всё больше тайваньских производителей, способных заменить бракованные компоненты для серверных систем с GB200. Однако сертификация компонентов — процесс довольно сложный, поскольку многие тайваньские компании не специализировались на их выпуске ещё в недавнем прошлом. Тем не менее, когда NVIDIA объявила, что ускорители следующего поколения получат жидкостное охлаждение, многие производители решили попробовать себя в этой сфере.

Тайваньские Shuanghong и Qihong уже имеют хороший опыт в выпуске водоблоков, а теперь расширили спектр разрабатываемых товаров, предлагая разветвители, быстросъемные соединители и шланги. Именно эти компании по некоторым данным сейчас предоставляют необходимые комплектующие для замены бракованных в новых суперускорителях NVIDIA GB200 NVL36 и NVL72. Лидером на рынке серверных СЖО остаётся CoolIT, но её услугами NVIDIA, видимо, решила не пользоваться.

NVIDIA работает над новым вариантом представленного весной флагманского ИИ-ускорителя серии Blackwell — теперь для китайского рынка, находящегося под давлением американских санкций. По данным Reuters, вендор работает над тем, чтобы привести оборудование в соответствие с техническими требованиями властей США к поставляемым в Китай полупроводникам.

Серию Blackwell компания представила в марте 2024 года. Массовое производство планируется позже в текущем году. Выпускаемый в рамках нового семейства ускоритель B200 до 30 раз производительнее своего предшественника при выполнении некоторых задач.

Над выпуском и поставками упрощённого для Китая чипа B20 вендор будет работать совместно с одним из своих крупнейших дистрибьюторов в Китае — компанией Inspur. Источники Reuters пожелали остаться неизвестными, в самой NVIDIA новость пока не комментируют, предпочитают молчать и в Inspur.

Источник изображения: NVIDIA

Вашингтон в очередной раз ужесточил контроль над поставками передовых чипов в Китай в 2023 году, пытаясь предотвратить развитие в Поднебесной собственных суперкомпьютеров. С тех пор NVIDIA разработала три чипа, специально оптимизированных для китайского рынка. Примечательно, что американские санкции помогли компаниям вроде китайского техногиганта Huawei и стартапам вроде Enflame добиться некоторых успехов на китайском рынке ИИ-ускорителей. Появление версии чипа серии Blackwell для Китая, вероятно, поможет NVIDIA избавиться от конкуренции на одном из ключевых рынков.

Из-за санкций США за год, закончившийся в январе, выручка NVIDIA в Китае составила 17 % от общемировой, для сравнения, двумя годами ранее на страну приходилось 26 % всех продаж компании. Изначально предназначенный для Китая чип H20, продажи которого начались в этом году, раскупался довольно слабо, поэтому вендору пришлось снизить цену, чтобы сделать его дешевле конкурирующего решения Huawei. Теперь, по данным источников, продажи растут быстрыми темпами. По оценкам экспертов SemiAnalysis, в этом году NVIDIA намерена продать в Китае более 1 млн чипов H20 на сумму свыше $12 млрд.

При этом высока вероятность, что американские власти и дальше продолжат ужесточать экспортный контроль, ограничивая поставки передовых ускорителей в КНР. Более того, США хотят, чтобы Нидерланды и Япония всё активнее включались в санкционный процесс, ограничивая с Китаем сотрудничество в области оборудования для производства полупроводников. Также, как сообщают источники, имеются предварительные планы ограничить доступ к наиболее передовым ИИ-моделям. Акции полупроводниковых компаний упали на прошлой неделе на фоне новостей о том, что США оценивают целесообразность введения правила, позволяющего просто запрещать продажи продуктов, выпущенных с помощью американских технологий.

UPD: Inspur отрицает совместную работу с NVIDIA над ускорителями B20.

Гиперскейлеры вместе с Digital Realty и Schneider Electric подписали открытое письмо к своим поставщикам, прося их детальнее отчитываться о выбросах. Datacenter Dynamics сообщает, что таким образом участники рынка могут эффективнее снизить углеродные выбросы.

Amazon (AWS), Google, Meta✴ и Microsoft входят в руководство коалиции iMasons Climate Accord и подчёркивают важность отчётности в форме т.н. Environmental Product Declarations (EPD).

Источник изображения: Weichao Deng/unsplash.com

EPD представляют собой стандартизированные документы, фактически «экологические паспорта» продуктов, в которых независимой организацией оценивается, за какой объём выбросов отвечает продукт за весь свой жизненный цикл. В том числе учитывается, сколько парниковых газов выделяется на этапах добычи сырья, производства, транспортировки, использования продукта и утилизации.

Компании утверждают, что выбросы класса Scope 3, непосредственно не связанные с их деятельностью, могут составлять 38–69 % от всех выбросов, за которые ответственны ЦОД. По словам представителя iMasons Climate Accord, EPD критически важны для трансформации цифровой инфраструктуры, чтобы в будущем она стала более надёжной и климатически безопасной.

Утверждается, что повсеместное принятие EPD-отчётности мировой цепочкой поставщиков способствует достижению устойчивых и подотчётных результатов. Стандартизированные и проверенные сведения обеспечат прозрачность — в рамках инициативы поддерживается коллективный подход к сокращению углеродных выбросов и уменьшению влияния на окружающую среду в целом.

В AWS добавляют, что компания намерена добиться нулевых углеродных выбросов в своих операциях к 2040 году, инвестируя в безуглеродную энергетику, масштабируя решения, а также сотрудничая с партнёрами для расширения влияния в этой плоскости. В AWS поддерживают призыв iMasons к поставщикам использовать EPD-декларации. Это должно обеспечить большую прозрачность выбросов Scope 3, «привязанных» к оборудованию. Также это поможет IT-индустрии снизить углеродные выбросы в целом.

Компания Radxa анонсировала одноплатные компьютеры Rock 2A и Rock 2F, построенные на аппаратной платформе Rockchip. Новинки подходят для создания различных устройств под управлением Radxa OS (на основе Debian Linux) и Android.

В обеих моделях применён процессор RK3528A, объединяющий четыре ядра Arm Cortex-A53 и графический ускоритель Mali-450. Возможно декодирование видео H.264, H.265 и AVS2 в формате 4K × 2K (60 кадров в секунду) и кодирование материалов H.264/H.265 с разрешением 1920 × 1080 пикселей (60 к/с).

Источник изображений: Radxa

Новинка поддерживают оперативную память LPDDR4. Есть слот для карты microSD; кроме того, может быть установлен флеш-модуль eMMC. Предусмотрен коннектор FPC с поддержкой PCIe 2.0 х1. В оснащение входят адаптеры Wi-Fi 6 и Bluetooth 5.4.

Модель Rock 2A имеет размеры 85 × 56 мм. Набор разъёмов включает порт USB 3.0 Type-A OTG, три порта USB 2.0 Type-A, коннектор HDMI 2.0, гнездо RJ-45 для сетевого кабеля (контроллер 1GbE; опциональная поддержка PoE) и 3,5-мм аудиогнездо. Размеры версии Rock 2F составляют 65 × 56 мм. Это изделие располагает только двумя портами USB 2.0 Type-A, интерфейсом HDMI 2.0 и аудиогнездом.

Оба одноплатных компьютера получают питание через разъём USB Type-C (5 В). Доступна 40-контактная колодка GPIO в стиле Raspberry Pi. Платы расширения HAT позволяют добавить до четырёх коннекторов M.2 для SSD, до шести портов SATA или до двух сетевых портов 2.5 GbE.