Компания AMD анонсировала специализированный ускоритель Alveo UL3524 на базе FPGA, ориентированный на финтех-сферу. Решение, как утверждается, позволяет трейдерам, хедж-фондам, брокерским конторам и биржам совершать операции с задержками наносекундного уровня.

В основу новинки положен чип FPGA Virtex UltraScale+, выполненный по 16-нм технологии. Конфигурация включает 64 трансивера с ультранизкой задержкой, 780 тыс. LUT и 1680 DSP.

Отмечается, что Alveo UL3524 обеспечивает в семь раз меньшую задержку по сравнению с FPGA предыдущего поколения. В частности, инновационная архитектура трансиверов с оптимизированными сетевыми ядрами позволяет добиться показателя менее 3 нс.

Источник изображения: AMD

Ускоритель может использоваться в комплексе с платформой разработки Vivado Design Suite. AMD также предоставляет разработчикам среду FINN с открытым исходным кодом, что позволяет внедрять в высокопроизводительные трейдинговые системы модели ИИ с низкими задержками.

Ускоритель выполнен в виде однослотовой карты расширения с интерфейсом PCIe 4.0 x16. Задействован система пассивного охлаждения, а показатель TDP заявлен на отметке 125 Вт. Предусмотрены четыре сетевых порта QSFP-DD. Карта несёт на борту 16 Гбайт памяти DDR4-2666 и 72 Мбайт памяти QDR II+. Весит ускоритель 832 г.

Компания LiquidStack, специализирующаяся на разработке систем погружного (иммерсионного) жидкостного охлаждения, анонсировала модульные решения MicroModular и MegaModular для периферийных приложений.

В состав MicroModular входит один модуль DataTank 48U, тогда как MegaModular может содержать до шести DataTank 48U. Данное изделие обеспечивает в 28 раз лучший теплоотвод, чем системы воздушного охлаждения, потребляя при этом на 41 % меньше электроэнергии.

Новые системы проектировались в сотрудничестве с Trane Technologies. Модульные решения обеспечивают ёмкость от 250 кВт до 1,5 МВт и резервирование до уровня Tier III, что гарантирует высокую отказоустойчивость и надёжность работы. Для систем заявлен ультранизкий коэффициент PUE — 1,02.

Источник изображения: LiquidStack

LiquidStack отмечает, что на развёртывание MicroModular и MegaModular требуется всего несколько недель, тогда как при использовании традиционных подходов на это могут уходить месяцы и даже годы. Допускается повторное использование тепла. В стандартное оснащение входят средства обнаружения пожара и освещение, а дополнительно можно заказать инструменты обеспечения безопасности и пожаротушения.

Решения могут применяться в различных отраслях, включая телекоммуникации, колокейшн, НРС, гибридное облако и пр. Модульные продукты также хорошо подходят для модернизации существующей инфраструктуры ЦОД.

Для заказа, по сообщению ресурса CNX-Software, доступно устройство Palmshell NeXT H2: это микросервер на платформе AMD, который также предлагается в виде одноплатного компьютера для разработчиков. Цена начинается приблизительно с $200.

В основу положен процессор Ryzen Embedded R1505G (два ядра; четыре потока; 2,4–3,3 ГГц; 25 Вт). Для модулей оперативной памяти DDR4-2400 предусмотрены два слота SO-DIMM: опционально предлагаются модификации с 8 и 16 Гбайт ОЗУ.

Источник изображений: CNX-Software

Система может быть укомплектована SSD типоразмера M.2 2280 с интерфейсом PCIe 3.0 (NVMe) вместимостью 256 или 512 Гбайт. Есть два порта SATA-3 и слот для карты microSD. В арсенале новинки — два сетевых порта 10GbE SFP+ и порт 2.5GbE RJ45, а также коннектор M.2 B-key 3042 для модема 4G/5G. Дополнительно может быть добавлен комбинированный адаптер Intel AX210NGW (Wi-Fi 6E / Bluetooth 5.2) в виде модуля M.2 E-Key 2230.

Предусмотрены два разъёма HDMI с поддержкой видео 4Kp60, интерфейс eDP (только у одноплатного компьютера), по два порта USB 3.1 Gen2 и USB 2.0. Система охлаждения включает медный радиатор и PWM-вентилятор со скоростью вращения до 3000 об/мин. Питание подаётся через DC-разъём (12–19 В).

В тыльной части сервера предусмотрены гнёзда для шести внешних антенн. Говорится о совместимости с широким набором ОС, включая Ubuntu, Arch Linux, Fedora, Debian, OpenWrt, Windows, pfSense и ROS.

Одним из столпов своей ИИ-платформы Intel сделала разработки поглощённой когда-то Habana Labs. Но если ускорители Gaudi2 оказались конкурентоспособными, то ветку инференс-решений Goya/Greco было решено свернуть.

Любопытно, что на мероприятии Intel Innovation 2023 имя Habana Labs не упоминалось, а использовалось исключительно название Intel Gaudi. Дела у данной платформы, базирующейся на ускорителе Gaudi2, обстоят неплохо. Так, в частности, она имеет поддержку FP8-вычислений и, согласно данным Intel, не только серьёзно опережает NVIDIA A100, но успешно соперничает с H100. Фактически в тестах MLPerf только Intel смогла составить хоть какую-то серьёзную конкуренцию NVIDIA.

Изображение: Intel

Однако не все разработки Habana имеют счастливую судьбу. В 2022 году одновременно с Gaudi2 был анонсирован и инференс-ускоритель Greco, поставки которого должны были начаться во II полугодии 2023 года. Но сейчас, похоже, данная платформа признана бесперспективной. Intel не только убрала все упоминания Greco со своего сайта и ни словом не обмолвилась о них на мероприятии, но и подчистила Linux-драйвер несколько дней назад. А вот появление Gaudi3 уже не за горами.

Microsoft ведёт эксперименты с использованием в строительстве ЦОД в штате Вашингтон низкоуглеродных бетонных смесей. По данным пресс-службы компании, применяются материалы с включением компонентов, полученных из микроводорослей, а также летучей золы и шлака. Основной целью является снижение уровня выбросов связанного с производством бетона углекислого газа на 50 %.

Обычно цемент для бетона изготавливается из известняка, нагреваемого вместе с глиной с попутным выделением углекислоты. Кроме того, сами печи для обжига обычно топятся углём или природным газом, что способствует дополнительному выделению CO₂. Поскольку Microsoft намерена стать «углеродно-отрицательной» к 2030 году, такой подход она считает не слишком экологичным. Компания уже экспериментирует со строительством объектов с применением дерева, земли, пеньки и даже грибов.

Сейчас компания проводит тесты альтернативных бетонных смесей, одна из которых предусматривает использование «биогенного» известняка из микроводорослей и прочих добавок, вторая — летучей золы и шлака. Ну а третья сочетает компоненты двух предыдущих смесей. Предполагается, что можно будет снизить уровень т.н. «воплощённого углерода» более чем вдвое. При этом, как признают в самой Microsoft, технология создания подобных бетонных смесей весьма сложна.

Источник изображения: Microsoft

Известняк компания получает от Minus Materials, занимающейся коммерциализацией процесса добычи известняка из морских водорослей, разработанного Университетом Колорадо в Боулдере. Принадлежащая Microsoft структура Climate Innovation Fund поддерживает Prometheus Materials, тоже создающую биоцемент из водорослей, но с помощью другого процесса. Тот же фонд инвестирует в компанию Boston Metal, работающую над обработкой руды электролизом с помощью возобновляемой электроэнергии — это помогает хотя бы частично устранить выбросы CO₂ из процесса производства стали.

Ранее Microsoft тестировала обычный бетон с добавлением CO₂, что позволяло укрепить материал — компания инвестировала в производителя соответствующего продукта CarbonCure. Впрочем, добавление углекислого газа в бетон лишь очень в малой степени способствует сокращению выбросов — большая часть углекислоты всё равно уходит в атмосферу.

Тем не менее, игнорировать вопрос в свете всеобщей «зелёной» повестки не получится. Только на производство бетона приходится 8 % мировых углеродных выбросов, а ещё 7 % — на производство стали, активно применяемой в строительстве. Например, в индустрии ЦОД наибольшая часть выбросов приходится на выбросы класса Scope III, за который отвечают цепочки поставок. Ранее Meta✴ также сообщала об экспериментах с «зелёным» бетоном, созданным с помощью ИИ.

Американская компания Cloudflare, предоставляющая услуги CDN, по сообщению Datacenter Dynamics, будет использовать ускорители NVIDIA в своей глобальной edge-сети для обработки ресурсоёмких нагрузок ИИ, в частности, больших языковых моделей (LLM). Как отмечает ресурс NetworkWorld, инициатива носит название Workers AI. Заказчики смогут получать доступ к мощностям устройств NVIDIA для реализации своих ИИ-проектов.

Cloudflare также задействует коммутаторы NVIDIA Ethernet и полный набор софта NVIDIA для инференса, включая TensorRT-LLM и Triton Inference. Поначалу не планируется поддержка пользовательских ИИ-моделей: клиентам будет предоставляться доступ только к Meta✴ Llama 2 7B и M2m100-1.2, OpenAI Whisper, Hugging Face Distilbert-sst-2-int8, Microsoft Resnet-50 и Baai bge-base-en-v1.5. В будущем этот перечень планируется расширять.

О моделях ускорителей, которые возьмёт на вооружение Cloudflare, ничего не говорится. Но отмечается, что к концу 2023 года решения NVIDIA будут внедрены более чем в 100 городах, а в течение 2024-го они появятся почти во всех зонах присутствия Cloudflare. Глобальная edge-сеть компании использует ЦОД более чем в 300 городах по всему миру.

Источник изображения: NVIDIA

Ещё одной новой инициативой Cloudflare в области ИИ является Vectorize — векторная база данных. Она поможет разработчикам создавать приложения на основе ИИ полностью на платформе Cloudflare. Говорится, что Vectorize получит интеграцию с Workers AI. Наконец, готовится AI Gateway — система оптимизации и управления производительностью, предназначенная для работы с ИИ-приложениями, развёрнутыми в сети Cloudflare.

Китайский разработчик ИИ-решений Enflame Technology Co., по сообщению ресурса SiliconAngle, провёл крупный раунд финансирования Series D, в рамках которого на развитие привлечено ¥2 млрд (приблизительно $274,2 млн). Стартап Enflame был основан в 2018 году. Он проектирует специализированные «облачные ИИ-чипы для глубокого обучения». Основателем и генеральным директором Enflame является Чжао Лидун (Zhao Lidong).

В январе 2021 года компания Enflame получила инвестиции в размере ¥1,8 млрд (около $246,8 млн). В раунде приняли участие Primavera Capital Group, CITIC Private Equity и CICC Capital. В июне 2022-го последовал расширенный раунд Series C, возглавляемый Китайским инвестиционным фондом промышленности интегральных микросхем II.

Изображение: Enflame

Программу финансирования Series D, как сообщается, возглавила структура Shanghai International Group Co. Кроме того, средства предоставили Tencent Holdings, SummitView Capital, YTI Capital, Hundreds Capital, Redpoint China Ventures и GF Qianhe Investment.

По словам Лидуна, полученные деньги позволят компании создавать более конкурентоспособные ИИ-решения благодаря сотрудничеству с лидерами отрасли. Отмечается, что Лидун имеет большой опыт работы в индустрии производства компьютерных чипов: ранее он занимал руководящие должности в китайском государственном полупроводниковом конгломерате Tsinghua Unigroup Ltd.

Компания Solid State Storage Technology Corporation (SSSTC), дочерняя структура Kioxia, анонсировала SSD серии ER3 для дата-центров. Это, как утверждается, первые в мире изделия в своём классе, на которые предоставляется 5-летняя гарантия по использованию в системах с погружным охлаждением.

Благодаря полному погружению комплектующих в теплопроводящую жидкость тепло отводится более эффективно. Это обеспечивает стабильную и надёжную работу при высоких и продолжительных нагрузках. Все компоненты решений тщательно отбираются и тестируются.

Устройства предлагаются в двух вариантах исполнения — SFF и М.2 2280. В обоих случаях применены микрочипы 3D TLC NAND, а для подключения служит интерфейс SATA-3. Значение DWPD (полных перезаписей в сутки) ≥ 1. Поддерживаются шифрование по алгоритму AES-256 и функция защиты от потери питания Power Loss Data Protection. Показатель MTBF (средняя наработка на отказ) заявлен на отметке 3 млн часов. Диапазон рабочих температур простирается от 0 до +70 °C.

Источник изображения: SSSTC

Накопители типоразмера SFF доступны в модификациях вместимостью от 240 Гбайт до 1,92 Тбайт. Скорость последовательного чтения у всех версий достигает 520 Мбайт/с, а скорость последовательной записи — 280 Мбайт/с у младшего варианта и 520 Мбайт/с у всех других. Значение IOPS на операциях случайного чтения — 90 тыс., на операциях записи — от 10 до 45 тыс. в зависимости от ёмкости.

Изделия формата М.2 представлены в вариантах ёмкостью 240 и 480 Гбайт. У них показатели последовательного чтения/записи равны соответственно 520/280 Мбайт/с и 520/520 Мбайт/с. Величина IOPS при случайном чтении одинакова — до 90 тыс., при записи — 10 тыс. и 15 тыс. соответственно.

Французская ГК iliad Group заявила о приобретении системы NVIDIA DGX SuperPOD для предоставления участникам европейского рынка IT «самого мощного» в регионе облачного ИИ-суперкомпьютера, включающего 1016 ускорителей H100 (127 систем DGX последнего поколения). За покупку отвечал облачный провайдер Scaleway, а сама машина разместилась в ЦОД Datacenter 5 в окрестностях Парижа.

Фото: iliad Group

Это только первый шаг компании на пути к достижению краткосрочной цели по предоставлению новых вычислительных мощностей клиентам. Для того, чтобы удовлетворить любые запросы клиентов, Scaleway обеспечила предоставление вычислительных мощностей небольшими блоками, по паре связанных серверов DGX H100 в каждом. В ближайшие месяцы Scaleway продолжит наращивать вычислительные способности платформы.

Кроме того, iliad анонсировала создание в Париже ИИ-лаборатории, в которую уже инвестировано более €100 млн. Её главой стал миллиардер Ксавье Ниль (Xavier Niel), фактически контролирующий iliad Group. Лаборатория, как сообщается, привлекла известных исследователей из крупнейших международных компаний. Основной целью лаборатории станет помощь в создании универсального ИИ, а результаты исследований в этом направлении будут доступны публично.

Российский IT-производитель С3 Solutions представил блоки распределения питания (PDU), построенные на процессоре «Байкал». Это, как утверждается, первые полностью отечественные устройства данного типа, появления которых актуально в условиях импортозамещения.

Заказчики могут выбрать модель с необходимым количеством разъёмов из четырёх различных серий: с мониторингом по группам (семейство «Мониторинг»); с индивидуальным мониторингом по каждой розетке («Мониторинг+»); с индивидуальным управлением по каждой розетке и групповым мониторингом («Управление»); с индивидуальным мониторингом и управлением по каждой розетке («Управление+»).

Источник изображения: С3 Solutions

В основу анонсированных БРП положен чип Baikal-T (BE-T1000), который содержит два MIPS-ядра с тактовой частотой до 1,2 ГГц. Его ресурсов, как отмечает С3 Solutions, достаточно для мониторинга блока распределения питания, а небольшое тепловыделение позволяет обойтись пассивным охлаждением. Новинки выполнены на модульной платформе, что позволяет конфигурировать количество и тип выходных разъёмов, выбирая сменные блоки розеток. Поддерживаются варианты с С13, С19 и Schuko, причём разъёмы С13 и С19 оснащены механизмом фиксации вилки силового шнура.

В свою очередь, модуль мониторинга располагает цветным дисплеем с возможностью поворота экрана на 180°. Поддерживается веб-интерфейс и подключение по протоколам SNMP, Modbus и MQTT с возможностью управления группой PDU. Можно отслеживать параметры электропотребления как по фазам и группам, так и по каждой розетке. Также есть возможность подключить датчики температуры, влажности, протечек воды, задымления и открытия дверей шкафа.