Европейская организация по ядерным исследованиям (CERN) сообщила о том, что суммарная вместимость накопителей в её дата-центрах превысила знаковую отметку в 1 Эбайт. Ёмкость хранилища стабильно наращивалась с 2010 года.

В нынешнем виде система хранения CERN объединяет около 110 тыс. стандартных накопителей. В основном это HDD, но количество SSD неуклонно растёт. Хранилище использует различные методы резервирования и восстановления информации, что гарантирует сохранность ценных данных.

Источник изображения: CERN

Для управления применяется ПО CERN с открытым исходным кодом EOS. Система хранит прежде всего физические данные Большого адронного коллайдера (БАК). Она также используется для записи результатов экспериментов, моделирования и пр.

Источник изображения: CERN

«Это не просто праздник ёмкости — это также очередное достижение в области производительности. Скорость чтения объединённого хранилища данных впервые превысила порог в 1 Тбайт/с», — отметил Андреас Петерс (Andreas Peters), руководитель проекта EOS.

Как заявил недавно на конференции Code Conference технический директор Microsoft Кевин Скотт (Kevin Scott), приобрести ускорители компании NVIDIA для ИИ и HPC-вычислений уже не так сложно, как ещё несколько месяцев назад. По данным портала Tom’s Hardware, проблема доступности и поставок активно решается производителем.

По словам того же Скотта, ещё не так давно спрос намного превышал предложение всех производителей ускорителей. Хотя дефицит ещё не исчез, ситуация улучшается буквально с каждой неделей. В последнее время драйвером огромного спроса на ускорители были техногиганты, включая Microsoft, активно осваивающие рынок ИИ-продуктов, в том числе для сторонних клиентов. Для тренировки больших языковых моделей (LLM), обычно используются ускорители именно NVIDIA, в результате чего спрос на них в 2023 году стремительно взлетел, а рост стоимости акций «зелёных» с начала года составил 190 %.

Источник изображения: NVIDIA

В ходе недавнего отчёта о доходах NVIDIA сообщила о намерении повысить объёмы поставок в следующем году. Параллельно появилась информация о том, что трафик одного из самых популярных чат-ботов, ChatGPT от OpenAI, существенно падал в течение трёх месяцев подряд. OpenAI использует облачную платформу Microsoft Azure, так что нагрузка на неё в последнее время не столь велика. По словам Скотта, занимающегося в числе прочего и распределением ресурсов, эта задача в последние кварталы была чрезвычайно трудной, но теперь выполнять свои обязанности стало намного легче.

Скотт не стал комментировать слухи о том, что Microsoft якобы разрабатывает собственные ИИ-чипы, но подтвердил, что компания прилагает немалые усилия в работе над полупроводниковыми проектами и инвестировала в них немало средств. При этом он признал, что в последние годы NVIDIA остаётся ведущим партнёром Microsoft в ИИ-секторе, но подчеркнул, что компания будет выбирать наилучшие решения для своих систем, какое бы происхождение они ни имели.

Компания AAEON, принадлежащая ASUS, анонсировала компактный компьютер UP Squared i12 Edge, специально спроектированный для решения задач промышленной автоматизации. В основу положена платформа Intel Alder Lake-P с процессором Core 12-го поколения.

Максимальная конфигурация включает чип Core i7-1270PE (4Р + 8Е; 16 потоков; до 4,5 ГГц; 28 Вт). Применена система пассивного охлаждения. Устройство заключено в корпус с размерами 130 × 94 × 68 мм, ребристая поверхность которого выполняет функции радиатора для отвода тепла.

Источник изображения: AAEON

Допускается использование до 16 Гбайт оперативной памяти LPDDR5. В оснащение входит флеш-модуль вместимостью до 128 Гбайт. Дополнительно можно подключить SSD формата M.2 2280 (PCIe 4.0 x4; NVMe) и накопитель с интерфейсом SATA-3. Есть двухпортовый сетевой контроллер 1GbE (Realtek 8111H CG); опционально можно установить комбинированный адаптер Wi-Fi/Bluetooth в виде модуля M.2 2230 E-Key.

В набор разъёмов включены два порта USB 3.2 Gen2 Type-A и порт USB 3.2 Gen2 Type-C, два гнезда RJ-45 для сетевых кабелей, интерфейсы HDMI 1.4b и DP 1.2, аудиогнёзда. Питание подаётся через DC-разъём (12 В). Диапазон рабочих температур — от 0 до +60 °C. Возможен монтаж посредством крепления VESA. В списке совместимых ОС значатся Windows 10 IoT Enterprise, Ubuntu 22.04 LTS и Yocto 4.

Компания Swissbit анонсировала SSD серии N5200, предназначенные для использования в дата-центрах и корпоративных серверах. Изделия выполнены с применением чипов флеш-памяти 3D NAND eTLC, а для подключения применяется интерфейс PCIe 4.0 х4 (спецификация NVMe 1.4).

Устройства предлагаются в двух вариантах исполнения: в SFF-формате с коннектором SFF-8639 U.2 и в версии EDSFF E1.S с коннектором SFF-TA-1006 E1.S. Причём во втором случае доступны модификации толщиной 5,5; 9,5 и 15 мм.

Вместимость, вне зависимости от типоразмера, составляет 1,92; 3,84 и 7,68 Тбайт. Скорость последовательного чтения информации достигает 7000 Мбайт/с (6900 Мбайт/с у изделий E1.S), скорость последовательной записи — 4200 Мбайт/с. Показатель IOPS на операциях произвольного чтения — до 1 350 000, на операциях произвольной записи — до 450 000 (190 000 у решений E1.S).

Источник изображений: Swissbit

Конструкция включает буфер DDR4 DRAM. Устройства могут выдерживать более одной полной перезаписи в сутки (показатель DWPD) на протяжении пяти лет. Диапазон рабочих температур простирается от 0 до +70 °C. Величина MTBF превышает 2,5 млн часов. Среднее заявленное энергопотребление — 14,5 Вт.

Среди прочего упомянута поддержка TCG OPAL 2.01 / AES-256, функций Secure Boot и Crypto Erase, средств защиты от сбоев электропитания. Поставки SSD серии N5200 уже начались.

Компания AMD анонсировала специализированный ускоритель Alveo UL3524 на базе FPGA, ориентированный на финтех-сферу. Решение, как утверждается, позволяет трейдерам, хедж-фондам, брокерским конторам и биржам совершать операции с задержками наносекундного уровня.

В основу новинки положен чип FPGA Virtex UltraScale+, выполненный по 16-нм технологии. Конфигурация включает 64 трансивера с ультранизкой задержкой, 780 тыс. LUT и 1680 DSP.

Отмечается, что Alveo UL3524 обеспечивает в семь раз меньшую задержку по сравнению с FPGA предыдущего поколения. В частности, инновационная архитектура трансиверов с оптимизированными сетевыми ядрами позволяет добиться показателя менее 3 нс.

Источник изображения: AMD

Ускоритель может использоваться в комплексе с платформой разработки Vivado Design Suite. AMD также предоставляет разработчикам среду FINN с открытым исходным кодом, что позволяет внедрять в высокопроизводительные трейдинговые системы модели ИИ с низкими задержками.

Ускоритель выполнен в виде однослотовой карты расширения с интерфейсом PCIe 4.0 x16. Задействован система пассивного охлаждения, а показатель TDP заявлен на отметке 125 Вт. Предусмотрены четыре сетевых порта QSFP-DD. Карта несёт на борту 16 Гбайт памяти DDR4-2666 и 72 Мбайт памяти QDR II+. Весит ускоритель 832 г.

Компания LiquidStack, специализирующаяся на разработке систем погружного (иммерсионного) жидкостного охлаждения, анонсировала модульные решения MicroModular и MegaModular для периферийных приложений.

В состав MicroModular входит один модуль DataTank 48U, тогда как MegaModular может содержать до шести DataTank 48U. Данное изделие обеспечивает в 28 раз лучший теплоотвод, чем системы воздушного охлаждения, потребляя при этом на 41 % меньше электроэнергии.

Новые системы проектировались в сотрудничестве с Trane Technologies. Модульные решения обеспечивают ёмкость от 250 кВт до 1,5 МВт и резервирование до уровня Tier III, что гарантирует высокую отказоустойчивость и надёжность работы. Для систем заявлен ультранизкий коэффициент PUE — 1,02.

Источник изображения: LiquidStack

LiquidStack отмечает, что на развёртывание MicroModular и MegaModular требуется всего несколько недель, тогда как при использовании традиционных подходов на это могут уходить месяцы и даже годы. Допускается повторное использование тепла. В стандартное оснащение входят средства обнаружения пожара и освещение, а дополнительно можно заказать инструменты обеспечения безопасности и пожаротушения.

Решения могут применяться в различных отраслях, включая телекоммуникации, колокейшн, НРС, гибридное облако и пр. Модульные продукты также хорошо подходят для модернизации существующей инфраструктуры ЦОД.

Для заказа, по сообщению ресурса CNX-Software, доступно устройство Palmshell NeXT H2: это микросервер на платформе AMD, который также предлагается в виде одноплатного компьютера для разработчиков. Цена начинается приблизительно с $200.

В основу положен процессор Ryzen Embedded R1505G (два ядра; четыре потока; 2,4–3,3 ГГц; 25 Вт). Для модулей оперативной памяти DDR4-2400 предусмотрены два слота SO-DIMM: опционально предлагаются модификации с 8 и 16 Гбайт ОЗУ.

Источник изображений: CNX-Software

Система может быть укомплектована SSD типоразмера M.2 2280 с интерфейсом PCIe 3.0 (NVMe) вместимостью 256 или 512 Гбайт. Есть два порта SATA-3 и слот для карты microSD. В арсенале новинки — два сетевых порта 10GbE SFP+ и порт 2.5GbE RJ45, а также коннектор M.2 B-key 3042 для модема 4G/5G. Дополнительно может быть добавлен комбинированный адаптер Intel AX210NGW (Wi-Fi 6E / Bluetooth 5.2) в виде модуля M.2 E-Key 2230.

Предусмотрены два разъёма HDMI с поддержкой видео 4Kp60, интерфейс eDP (только у одноплатного компьютера), по два порта USB 3.1 Gen2 и USB 2.0. Система охлаждения включает медный радиатор и PWM-вентилятор со скоростью вращения до 3000 об/мин. Питание подаётся через DC-разъём (12–19 В).

В тыльной части сервера предусмотрены гнёзда для шести внешних антенн. Говорится о совместимости с широким набором ОС, включая Ubuntu, Arch Linux, Fedora, Debian, OpenWrt, Windows, pfSense и ROS.

Одним из столпов своей ИИ-платформы Intel сделала разработки поглощённой когда-то Habana Labs. Но если ускорители Gaudi2 оказались конкурентоспособными, то ветку инференс-решений Goya/Greco было решено свернуть.

Любопытно, что на мероприятии Intel Innovation 2023 имя Habana Labs не упоминалось, а использовалось исключительно название Intel Gaudi. Дела у данной платформы, базирующейся на ускорителе Gaudi2, обстоят неплохо. Так, в частности, она имеет поддержку FP8-вычислений и, согласно данным Intel, не только серьёзно опережает NVIDIA A100, но успешно соперничает с H100. Фактически в тестах MLPerf только Intel смогла составить хоть какую-то серьёзную конкуренцию NVIDIA.

Изображение: Intel

Однако не все разработки Habana имеют счастливую судьбу. В 2022 году одновременно с Gaudi2 был анонсирован и инференс-ускоритель Greco, поставки которого должны были начаться во II полугодии 2023 года. Но сейчас, похоже, данная платформа признана бесперспективной. Intel не только убрала все упоминания Greco со своего сайта и ни словом не обмолвилась о них на мероприятии, но и подчистила Linux-драйвер несколько дней назад. А вот появление Gaudi3 уже не за горами.

Microsoft ведёт эксперименты с использованием в строительстве ЦОД в штате Вашингтон низкоуглеродных бетонных смесей. По данным пресс-службы компании, применяются материалы с включением компонентов, полученных из микроводорослей, а также летучей золы и шлака. Основной целью является снижение уровня выбросов связанного с производством бетона углекислого газа на 50 %.

Обычно цемент для бетона изготавливается из известняка, нагреваемого вместе с глиной с попутным выделением углекислоты. Кроме того, сами печи для обжига обычно топятся углём или природным газом, что способствует дополнительному выделению CO₂. Поскольку Microsoft намерена стать «углеродно-отрицательной» к 2030 году, такой подход она считает не слишком экологичным. Компания уже экспериментирует со строительством объектов с применением дерева, земли, пеньки и даже грибов.

Сейчас компания проводит тесты альтернативных бетонных смесей, одна из которых предусматривает использование «биогенного» известняка из микроводорослей и прочих добавок, вторая — летучей золы и шлака. Ну а третья сочетает компоненты двух предыдущих смесей. Предполагается, что можно будет снизить уровень т.н. «воплощённого углерода» более чем вдвое. При этом, как признают в самой Microsoft, технология создания подобных бетонных смесей весьма сложна.

Источник изображения: Microsoft

Известняк компания получает от Minus Materials, занимающейся коммерциализацией процесса добычи известняка из морских водорослей, разработанного Университетом Колорадо в Боулдере. Принадлежащая Microsoft структура Climate Innovation Fund поддерживает Prometheus Materials, тоже создающую биоцемент из водорослей, но с помощью другого процесса. Тот же фонд инвестирует в компанию Boston Metal, работающую над обработкой руды электролизом с помощью возобновляемой электроэнергии — это помогает хотя бы частично устранить выбросы CO₂ из процесса производства стали.

Ранее Microsoft тестировала обычный бетон с добавлением CO₂, что позволяло укрепить материал — компания инвестировала в производителя соответствующего продукта CarbonCure. Впрочем, добавление углекислого газа в бетон лишь очень в малой степени способствует сокращению выбросов — большая часть углекислоты всё равно уходит в атмосферу.

Тем не менее, игнорировать вопрос в свете всеобщей «зелёной» повестки не получится. Только на производство бетона приходится 8 % мировых углеродных выбросов, а ещё 7 % — на производство стали, активно применяемой в строительстве. Например, в индустрии ЦОД наибольшая часть выбросов приходится на выбросы класса Scope III, за который отвечают цепочки поставок. Ранее Meta✴ также сообщала об экспериментах с «зелёным» бетоном, созданным с помощью ИИ.

Американская компания Cloudflare, предоставляющая услуги CDN, по сообщению Datacenter Dynamics, будет использовать ускорители NVIDIA в своей глобальной edge-сети для обработки ресурсоёмких нагрузок ИИ, в частности, больших языковых моделей (LLM). Как отмечает ресурс NetworkWorld, инициатива носит название Workers AI. Заказчики смогут получать доступ к мощностям устройств NVIDIA для реализации своих ИИ-проектов.

Cloudflare также задействует коммутаторы NVIDIA Ethernet и полный набор софта NVIDIA для инференса, включая TensorRT-LLM и Triton Inference. Поначалу не планируется поддержка пользовательских ИИ-моделей: клиентам будет предоставляться доступ только к Meta✴ Llama 2 7B и M2m100-1.2, OpenAI Whisper, Hugging Face Distilbert-sst-2-int8, Microsoft Resnet-50 и Baai bge-base-en-v1.5. В будущем этот перечень планируется расширять.

О моделях ускорителей, которые возьмёт на вооружение Cloudflare, ничего не говорится. Но отмечается, что к концу 2023 года решения NVIDIA будут внедрены более чем в 100 городах, а в течение 2024-го они появятся почти во всех зонах присутствия Cloudflare. Глобальная edge-сеть компании использует ЦОД более чем в 300 городах по всему миру.

Источник изображения: NVIDIA

Ещё одной новой инициативой Cloudflare в области ИИ является Vectorize — векторная база данных. Она поможет разработчикам создавать приложения на основе ИИ полностью на платформе Cloudflare. Говорится, что Vectorize получит интеграцию с Workers AI. Наконец, готовится AI Gateway — система оптимизации и управления производительностью, предназначенная для работы с ИИ-приложениями, развёрнутыми в сети Cloudflare.