Samsung SDS, подразделение IT-сервисов и облачных услуг южнокорейского гиганта, по сообщению ресурса Datacenter Dynamics, открыло в Южной Корее новый ЦОД для организации HPC-вычислений. Планируется, что платформа Samsung Cloud Platform (SCP) станет доступна более широкому кругу клиентов. В глобальном масштабе Samsung SDS оперирует 17 дата-центрами.

В рамках программы по расширению облачных услуг Samsung запустила свой третий южнокорейский дата-центр: он расположен в Донтане в провинции Кёнгидо (Gyeonggi-do). Это, как утверждается, первый в стране специализированный ЦОД для HPC-задач, спроектированный с прицелом на ИИ-приложения и анализ больших данных. Площадка получила название Dongtan IDC.

Источник изображения: Samsung SDS

Дата-центр сейчас включает четыре зала. Коэффициент энергоэффективности PUE равен 1,1 — используется естественное охлаждение благодаря ветрам и прохладному климату. Введя этот ЦОД в эксплуатацию, компания рассчитывает сократить выбросы парниковых газов на 21 443 т к 2035 году. Показатели мощности ЦОД не раскрываются. Отмечается, что Dongtan IDC — это единственный кампус в Южной Корее, который предлагает взаимное резервирование между тремя дата-центрами, что обеспечивает ему дополнительную избыточность.

Хотя дисплей Stallion Техасского университета в Остине и без того имел одно из самых высоких разрешений в мире, университетская лаборатория TACC POB Visualization Laboratory обновила оборудование, позволяющее в мельчайших деталях рассматривать важные для учёных изображения. Речь идёт, например, как о снимках звёздного неба, сделанных космическими телескопами, так и о новых вариантах вируса COVID-19.

Новый Stallion, пришедший на замену системе, установленной ещё в 2008 году, работает в паре с кластером, предлагающим пользователям более 74 Гбайт графической памяти (ускорители NVIDIA Quadro K5000), 1,28 Тбайт оперативной памяти и 19 Тбайт постоянной памяти, а также 232 ядра CPU. За вывод изображения и управление «распределённым» дисплеем отвечает ПО DisplayCluster и MostPixelsEver. Обновлённый дисплей, состоит из восемнадцати (6×3) 65″ QLED-панелей Samsung, каждая — с разрешением 8К. После обновления суммарное разрешение дисплея увеличилось со 328 до 597 МПикс, а его яркость выросла.

Источник изображения: TACC

По мнению учёных, даже старый Stallion уже «менял правила игры», а его новая версия стала ещё лучше — теперь, к примеру, можно в мельчайших деталях рассматривать объекты вроде развалин древнего камбоджийского мегаполиса Ангкора. Исследователи способны будут разглядеть даже те детали, которые раньше остались бы незамеченными. В частности, активно пользуется новой технологией команда Cosmic Evolution Early Release Science Survey (CEERS), изучающая данные, снятые телескопом «Джеймс Уэбб» — даже на небольшом фрагменте можно разглядеть огромное количество незаметных ранее галактик, включая самые отдалённые из известных сегодня.

Концепция вычислений в памяти (in-memory computing) имеет ряд преимуществ при построении HPC-систем, и компания Samsung сделала в этой области важный шаг. Впервые на практике южнокорейский гигант совместил в экспериментальном суперкомпьютере свои чипы in-memory с ускорителями AMD Instinct. Согласно заявлениям Samsung, такое сочетание даёт существенный прирост производительности при обучении «тяжёлых» ИИ-моделей. При этом улучшаются и показатели энергоэффективности.

Новая система насчитывает 96 ускорителей AMD Instinct MI100, каждый из которых дополнен фирменной памятью HBM-PIM с функциями processing-in-memory. В состав системы входит 12 вычислительных узлов с 8 ускорителями в каждом. Шестёрка узлов связана с другой посредством коммутаторов InfiniBand. Используется 16 линков со скоростью 200 Гбит/с.

Здесь и далее источник изображений: Samsung

Кластер Samsung нельзя назвать рекордсменом, но результаты получены весьма обнадёживающие: в задаче обучения языковой модели Text-to-Test Transfer Transformer (T5), разработанной Google, использование вычислительной памяти позволило снизить время обучения в 2,5 раза, а потребление энергии при этом сократилось в 2,7 раза.

Технология весьма дружественна к экологии: по словам Samsung, такой кластер с памятью HBM-PIM способен сэкономить 2100 ГВт·час в год, что в пересчёте на «углеродный след» означает снижение выбросов на 960 тыс. т за тот же период. Для поглощения аналогичных объёмов углекислого газа потребовалось бы 10 лет и 16 млн. деревьев.

Компания уверена в своей технологии вычислений в памяти и посредством SYCL уже подготовила спецификации, позволяющие разработчикам ПО использовать все преимущества HBM-PIM. Также Samsung активно работает над похожей концепцией PNM (processing-near-memory), которая найдёт своё применение в модулях памяти CXL.

Устройство Samsung HBM-PIM

Работы по внедрению PIM и PNM Samsung ведёт давно, ещё на конференции Hot Chips 33 в прошлом году она объявила, что намерена оснастить вычислительными ускорителями все типы памяти — не только HBM2/3, но и DDR4/5. Тогда же впервые был продемонстрирован рабочий образец HBM-PIM, где каждый чип был оснащён ускорителем с FP16-производительностью 1,2 Тфлопс.

Таким образом, первая HPC-система с технологией PIM полностью доказала работоспособность концепции вычислений в памяти. Samsung намеревается активно продвигать технологии PIM и PNM как в ИТ-индустрии, так и в академической среде, главном потребителе ресурсов суперкомпьютеров и кластерных систем.

На ежегодной конференции Samsung Tech Day 2022 компания раскрыла свои планы относительно новинок в сфере памяти NAND и DRAM. Новые чипы по классификации Samsung относятся к поколению 1b — пятому поколению DRAM-устройств, использующих технологические процессы класса 10 нм. Корпорация намеревается развернуть массовое производство таких микросхем уже в 2023 году. Одновременно ведётся разработка новых технологий и материалов (в частности, диэлектриков класса High-K), позволяющих выйти за рамки 10-нм техпроцессов для чипов DRAM.

Глава подразделения Memory Business в Samsung Electronics Чжун Бэй Ли. Источник изображения: news.samsung.com

В будущий спектр решений памяти нового поколения войдут кристаллы DDR5 ёмкостью 32 Гбит, экономичные чипы LPDDR5X с производительностью 8,5 Гбит/с на контакт и сверхскоростные микросхемы GDDR7 с невиданной ранее для этого типа памяти скоростью 36 Гбит/с на контакт. Для сравнения, GDDR6X на борту новейших ускорителей NVIDIA GeForce GTX 4090 работают на скорости всего 21 Гбит/с.

Столь быстрая память будет востребована в ЦОД нового поколения, суперкомпьютерах и кластерных системах, а также в игровой индустрии как видеопамять графических ускорителей и консолей следующих поколений. Экономичные и вместе с тем ёмкие решения, созданные с использованием новых техпроцессов, найдут своё место в мобильных устройствах и на рынке автономных транспортных средств.

Модули Samsung AXDIMM. Источник изображения: news.samsung.com

Но Samsung уделяет пристальное внимание и другим, более специализированным типам памяти, в частности, вычислительной памяти HBM-PIM (Processing-in-Memory) и AXDIMM с ускорителями на борту, а также продвижению стандарта CXL, который позволит достичь нового уровня дезагрегации инфраструктуры. За прошедшие 40 лет работы в области выпуска микросхем памяти общий их объём, произведенный компанией, достиг 1 трлн Гбайт, причем половина этого объёма выпущена за последние 3 года.

Также Samsung рассказала о восьмом и девятом поколении флеш-памяти V-NAND. В текущем восьмом поколении компания достигла наивысшей плотности упаковки ячеек среди всех TLC-устройств с ёмкостью чипа 512 Гбит, а к концу года будут доступны и микросхемы ёмкостью 1 Тбит. Девятое поколение запланировано на 2024 год, а к 2030 году компания надеется выпустить флеш-память с более чем тысячью слоёв. В связи с ростом популярности машинного обучения и возрастанием объёма ИИ-моделей Samsung ускорит процесс перехода от TLC к более ёмкой QLC NAND.