Чем активнее внедряются ИИ-системы, тем важнее становится роль памяти HBM и DDR5, а в особенности её энергоэффективность. Так, в крупномасштабных системах на базе NVIDIA A100 на долю памяти может приходиться до 40 % потребляемой энергии. Неудивительно, что крупные производители памяти объединяют свои усилия с академическими кругами, чтобы разработать более экономичную память нового поколения.

В частности, Samsung на базе CXL и 12-нм техпроцесса уже разработала чипы DDR5 ёмкостью 16 Гбайт, который на 23 % экономичнее в сравнении с аналогичными чипами предыдущего поколения. В содействии с Сеульским национальным университетом (Seoul National University) Samsung продолжает вести работы по дальнейшему снижению энергопотребления. Сам университет также ведёт исследования в этом направлении и уже разработал новую технологию DRAM Translation Layer. Ожидается, что её внедрение поможет снизить энергопотребление DRAM ещё на 31,6 %.

Источник: SK Hynix

Не отстаёт от Samsung и другой крупный производитель устройств памяти, компания SK Hynix. Она представила новое поколение LPDDR5X, в котором применен техпроцесс High-K Metal Gate (HKMG). Благодаря материалу с оптимизированной диэлектрической проницаемостью удалось впятеро повысить заряд в ячейке, снизив при этом токи утечки. В итоге новая память LPDDR5X от SK Hynix может похвастаться на 33 % более высокой производительностью при 20 % экономии в энергопотреблении, в сравнении с предыдущим поколением.

Компания Micron Technology объявила о начале массовых поставок модулей оперативной памяти DDR5-4800 RDIMM объёмом 96 Гбайт. Изделия ориентированы на ИИ-серверы, платформы НРС, системы глубокого обучения и высоконагруженные аппаратные комплексы. По заявлениям разработчика, новые модули обеспечивают вдвое более высокую пропускную способность по сравнению с DDR4-3200 — 378 Гбайт/с против 189 Гбайт/с.

Память Micron DDR5-4800 RDIMM полностью совместима с процессорами AMD EPYC Genoa. Новые модули уже применяются в сервере Supermicro 8125GS. В дальнейшем изделия возьмут на вооружение и другие поставщики серверных систем. Ранее отмечалось, что «небинарные» чипы и модули DDR5 позволят сократить расходы на память, давая возможность подобрать оптимальные количество и ёмкость DIMM и не переплачивать за избыточный объём RAM.

Источник изображения: Micron Technology

«Модуль Micron DDR5 DRAM ёмкостью 96 Гбайт представляет собой новое решение, разработанное с прицелом на оптимизацию совокупной стоимости владения для наших клиентов», — заявил Правин Вайдьянатан (Praveen Vaidyanathan), вице-президент и генеральный менеджер подразделения Compute Products Group компании Micron.

Корпорация Intel, по сообщению ресурса Businesskorea, планирует открыть в Сеуле (Южная Корея) специализированную лабораторию для тестирования компонентов для дата-центров. Ожидается, что новая исследовательская площадка начнёт функционировать до конца текущего года.

Информации о размере лаборатории и планируемой численности персонала пока нет. Но известно, что Intel в рамках данной инициативы намерена взаимодействовать с южнокорейскими поставщиками серверных компонентов — прежде всего с Samsung и SK hynix. Речь идёт о тестировании передовых типов памяти, в том числе DRAM с поддержкой стандарта Compute Express Link (CXL) и DDR5.

«ЦОД-лаборатория в Сеуле будет играть важную роль в проверке и сертификации памяти DRAM для использования в оборудовании с процессорами Intel. Ожидается, что Intel в рамках новой исследовательской площадки начнёт более тесно сотрудничать с Samsung Electronics и SK hynix», — заявили осведомлённые лица.

Источник изображения: Intel

Отмечается также, что Intel намерена открыть в общей сложности шесть новых лабораторий. Помимо Южной Кореи, такие структуры появятся в США, Мексике, Китае, Тайване и Индии. Все они сосредоточатся на работах, связанных с полупроводниковыми и другими компонентами для серверов. Вместе с тем компания отказалась от проекта огромной лаборатории по разработке систем охлаждения для ЦОД будущего, который оценивался в $700 млн.

Для Intel важно укрепление позиций на рынке ЦОД. Дело в том, что выручка корпорации в соответствующем сегменте сокращается. По итогам I четверти 2023 финансового года группа Datacenter and AI Group (DCAI) показала снижение продаж в годовом исчислении на 39 % — с $6,1 млрд до $3,7 млрд. Операционные убытки составили $518 млн против $1,4 млрд прибыли годом ранее.

На ежегодной выставке Computex 2023 компания ADATA продемонстрировала свои первые модули памяти нового поколения, которые будут использоваться в современных вычислительных системах: CAMM, CXL и MR-DIMM.

Для серверных систем компания продемонстрировала решение на базе стандарта CXL 1.1 с интерфейсом PCI Express 5.0 x4, выполненное в форм-факторе E3.S. Модуль несёт на борту контроллер Montage Technology и предназначен для расширения основного объёма оперативной памяти, подобно решениям DCPMM. При этом у Samsung, например, уже есть DRAM с поддержкой CXL 2.0.

Интересно выглядит также другое серверное решение — MR-DIMM (multi-ranked buffered DIMM). Это новое поколение буферизированной памяти, поддержка которой появится в следующих поколениях процессоров AMD и Intel. По сути, такой модуль объединяет два RDIMM в одном, что позволяет поднять ёмкость и производительность «малой кровью».

Скорость этих последних новинок стартует с отметки 8400 Мт/с, максимальное значение пока составляет 17600 Мт/с. Модули MR-DIMM Adata будут поставляться в объёмах 16, 32, 64, 128 и 192 Гбайт. Одним из инициаторов создания стандарта MR-DIMM (или MRDIMM) стала AMD. Intel, Renesas и SK hynix работают над похожим решением — MCR DIMM.

Наконец, у компании уже есть готовый дизайн модуля CAMM в форм-факторе, который призван заменить SO-DIMM в компактных, сверхкомпактных и переносных системах. Интересно, что каждый модуль CAMM на базе LPDDR5 изначально будет поддерживать работу в двухканальном режиме. Правда, спецификации CAMM будут завершены только во второй половине этого года, так что некоторые характеристики могут измениться.

Компания MemVerge на суперкомпьютерной конференции ISC 2023 представила, как утверждается, первую в отрасли технологию общей мультисерверной памяти на основе стандарта Compute Express Link (CXL). Проект, получивший название Gismo (Global IO-Free Shared Memory Objects), призван повысить производительность серверных платформ.

Отмечается, что сетевые операции ввода-вывода и системы хранения являются узкими местами платформ распределённых приложений, интенсивно использующих данные. Решение Gismo как раз и призвано устранить данные проблемы. Речь идёт о концепции «бесконечной памяти».

Применены технология CXL 2.0 (PCIe 5.0), программные компоненты службы MemVerge Elastic Memory и аппаратные решения SK hynix (Niagara Pooled Memory System). Платформа позволяет хост-серверам динамически перераспределять память по мере необходимости, чтобы избежать дефицита DRAM. Иными словами, если приложению требуется больше памяти, нежели доступно физически, сервер может использовать ПО MemVerge для получения доступа к дополнительным объёмам DRAM на других серверах посредством CXL.

Источник: SK hynix

Утверждается, что революционная технология MemVerge призвана изменить ландшафт распределённых вычислений, давая компаниям возможность масштабировать свои операции и максимизировать производительность. Одним из первых участников проекта Gismo стала компания Timeplus — разработчик потоковой базы данных следующего поколения. Применение технологии позволило Timeplus значительно улучшить отказоустойчивость своей системы и повысить скорость обработки запросов.

Компания Samsung Electronics объявила о создании первой в отрасли памяти DRAM ёмкостью 128 Гбайт с поддержкой стандарта Compute Express Link (CXL) 2.0. Массовое производство изделий планируется организовать до конца текущего года. Напомним, CXL — это высокоскоростной интерконнект, обеспечивающий взаимодействие хост-процессора с акселераторами, буферами памяти, устройствами ввода/вывода и пр. Финальные спецификации CXL 2.0 были обнародованы в конце 2020 года.

Память Samsung DRAM на базе CXL 2.0 использует PCle 5.0 x8 и обеспечивает пропускную способность до 35 Гбайт/с. В разработке изделия принимали участие специалисты Intel. Отмечается, что с целью создания технологий интерфейсов следующего поколения Samsung сотрудничает с рядом ЦОД, а также с производителями серверов и чипов с момента создания консорциума CXL в 2019 году.

Источник изображения: Samsung

Одним из партнёров является Montage Technology: эта компания планирует организовать массовое производство контроллеров с поддержкой CXL 2.0. Стандарт CXL 2.0 позволяет формировать пулы памяти и хостам динамически выделять память по мере необходимости. Новая технология позволит клиентам повысить эффективность использования ресурсов при одновременном снижении эксплуатационных расходов.

Несмотря на тотальное торжество 3D-подхода в сфере NAND, классическая DRAM продолжает использовать лишь планарные структуры, что мешает и росту объёмов, и снижению удельной стоимости хранения оперативной памяти. Однако NEO Semiconductor обещает положить конец «плоскостной эпохе» с помощью анонсированной на днях технологии 3D X-DRAM.

Источник изображений здесь и далее: NEO Semiconductor

Компания известна своими наработками в области энергонезависимой памяти: разработанная ей технология X-NAND позволяет обойти недостатки, свойственные TLC и QLC — относительно невысокий ресурс и низкую скорость записи. Правда, массового продукта на базе данного решения до сих пор нет. А вот при создании 3D X-DRAM главное внимание было уделено повышению объёмов. Разработчики обещают, что данная технология позволит создать 230-слойные микросхемы объёмом 128 Гбит, что в 8 раз больше, чем у традиционных DRAM-чипов.

Структурно 3D X-DRAM напоминает 3D NAND и базируется на технологии беcконденсаторных ячеек памяти FBC (floating body cell), при которой для хранения заряда достаточно одного транзистора. Она достаточно проста с точки зрения технологического процесса и требует лишь одной маски для формирования вертикальной структуры. Сходство с 3D NAND, позволяющее задействовать уже освоенные технологические процессы, обеспечивает сниженную стоимость и высокую скорость внедрения 3D X-DRAM в сравнении с вариантами 3D DRAM, предлагаемыми другими разработчиками.

Первое поколение чипов DRAM нового типа может увидеть свет уже в районе 2025 года, причём компания-разработчик обещает и быстрые темпы масштабирования: стартовав с отметки 128 Гбит, к 2035 году ёмкость чипа 3D X-DRAM может достигнуть 1 Тбит. В настоящее время технология уже запатентована, а сама NEO Semiconductor планирует начать поиски лицензионных производителей, в числе которых ожидаются крупные поставщики DRAM- и NAND-решений, включая Micron, Samsung, SK Hynix, а также Kioxia с Western Digital.

Компания Weebit Nano, по сообщению ресурса Storage Newsletter, привлекла на развитие $40 млн. Деньги получены путём размещения 12 млн новых акций среди международных инвесторов. Деньги пойдут на дальнейшую разработку и вывод на коммерческий рынок технологии резистивной памяти с произвольным доступом (ReRAM). О наработках Weebit Nano в соответствующей сфере можно узнать в нашем материале.

Продвигать ReRAM компания Weebit Nano намерена в различных сегментах. Поначалу память будет производиться по 130-нм техпроцессу фирмы SkyWater Technology. Такие изделия найдут применение в IoT-сегменте, медицинской и аэрокосмической отраслях.

Источник изображения: Weebit Nano

«Наша технология ReRAM уже продемонстрировала, что она способна масштабироваться до меньших производственных норм для сложных продуктов и обладает значительными конкурентными преимуществами по сравнению с другими существующими и появляющимися технологиями памяти», — сказал генеральный директор Weebit Nano Коби Ханох (Coby Hanoch).

Компания AMD и ассоциация JEDEC, по сообщению ресурса HotHardware, проектируют модули оперативной памяти DDR5 RAM нового типа — MRDIMM, или Multi-Ranked Buffered DIMM. Речь идёт об изделиях с многоранговой буферизацией, ориентированных на серверное оборудование. Модули обеспечат высочайшую скорость передачи данных — до 17 600 МТ/с.

По задумке разработчиков, решения MRDIMM будут объединять два модуля DDR5 с возможностью одновременного использования двух рангов. Таким образом, в случае, например, пары модулей DDR5 со скоростью работы 4400 МТ/с можно будет получить эквивалентную производительность до 8800 МТ/с.

Источник изображения: Robert Hormuth / LinkedIn

Для использования такой схемы потребуется специальный мультиплексор между оперативной памятью и CPU. Он позволит направлять в сторону процессора вдвое больше информации по сравнению с традиционными архитектурами. Аналогичный подход применяет SK hynix в своей памяти DDR5 MCR DIMM. Такой подход обеспечивает удвоение скорости работы подсистемы ОЗУ без увеличения быстродействия самих чипов памяти. По всей видимости, буферизация с применением мультиплексора добавит некоторую задержку при передаче информации, но она будет компенсироваться более высокой скоростью работы сдвоенных модулей.

Память MRDIMM первого поколения сможет функционировать с показателем 8800 МТ/с, второго — 12 800 МТ/с. А после 2030 года ожидается появление решений со скоростью до 17 600 МТ/с. Новая память может стать альтернативой дорогостоящим продуктам HBM, которые масштабируются только до определённого значения ёмкости. При этом объединение двух модулей DDR5 избавит от необходимости добавлять дополнительные ОЗУ-слоты на серверные материнские платы. Как в случае MCR, подход MRDIMM всё так же напоминает DDIMM/OMI и FB-DIMM.

Компания Intrinsic Semiconductor Technologies, по сообщению The Register, привлекла на развитие без малого $10 млн. Средства будут направлены на разработку и вывод на коммерческий рынок резистивной памяти с произвольным доступом — Resistive RAM (ReRAM или RRAM), которая, как утверждается, приведёт к появлению интеллектуальных устройств нового поколения.

Британский стартап Intrinsic был основан в 2017 году исследователями из Университетского колледжа Лондона (UCL). Компания специализируется на создании ReRAM-памяти, принцип работы которой заключается в изменении сопротивления ячейки под действием электрического тока. Технология Intrinsic основана на более чем десятилетних исследованиях специалистов UCL.

Изображение: Intrinsic

Как сообщается, главное преимущество решения Intrinsic по сравнению с другими реализациями ReRAM заключается в том, что память компании использует стандартные полупроводниковые материалы, а именно диоксид кремния. Это делает память совместимой с КМОП-продуктами, а следовательно, позволяет применять существующие производственные мощности с целью снижения себестоимости.

Кроме того, реализуемая технология упрощает интеграцию с логическими схемами, используемыми для создания процессоров. Компания заявляет, что её память ReRAM способна считывать данные в 10–100 раз быстрее и записывать их в 1000 раз быстрее, чем существующие решения.

Сообщается, что Intrinsic получила £7 млн (около $8,5 млн) финансирования под руководством Octopus Ventures вместе с существующими инвесторами IP Group и UCL Technology Fund. Кроме того, ещё £1 млн ($1,22 млн) привлечён в виде грантов от государственного агентства по инновациям Innovate UK. «Это финансирование сыграет решающую роль в привлечении высококвалифицированных специалистов для развития коммерческого потенциала Intrinsic», — сказал генеральный директор компании Марк Дикинсон (Mark Dickinson).