Компания Micron Technology сообщила о начале пробных поставок 12-ярусных (12-Hi) чипов памяти HBM3E, предназначенных для высокопроизводительных ИИ-ускорителей. Изделия проходят квалификацию в экосистеме отраслевых партнёров, после чего начнутся их массовые отгрузки.

Новые чипы имеют ёмкость 36 Гбайт, что на 50 % больше по сравнению с существующими 8-слойными вариантами HBM3E (24 Гбайт). При этом, как утверждает Micron, достигается значительно более низкое энергопотребление. Благодаря применению 12-ярусных чипов HBM3E крупные модели ИИ, такие как Llama 2 с 70 млрд параметров, могут запускаться на одном ускорителе.

Источник изображений: Micron

Заявленная пропускная способность превышает 9,2 Гбит/с на контакт, что в сумме обеспечивает свыше 1,2 Тбайт/с. Появление новой памяти поможет гиперскейлерам и крупным операторам дата-центров масштабировать растущие рабочие нагрузки ИИ в соответствии с запросами клиентов.

Реализована полностью программируемая функция MBIST (Memory Built-In Self Test), которая способна работать на скоростях, соответствующих системному трафику. Это повышает эффективность тестирования, что позволяет сократить время вывода продукции на рынок и повысить надёжность оборудования. При изготовлении памяти HBM3E компания Micron применяет современные методики упаковки чипов, включая усовершенствованную технологию сквозных соединений TSV (Through-Silicon Via).

Нужно отметить, что о разработке 12-слойных чипов HBM3E ёмкостью 36 Гбайт в начале 2024 года объявила компания Samsung. Эти решения обеспечивают пропускную способность до 1,28 Тбайт/с. По данному показателю, как утверждается, чипы более чем на 50 % превосходят доступные на рынке 8-слойные стеки HBM3. Наконец, старт массового производства 12-Hi модулей HBM3E от SK hynix с ПСП 1,15 Тбайт/с намечен на октябрь.

Компания Micron Technology объявила о доступности серии NVMe-накопители Micron 9550, которые позиционируются как самые быстрые в мире PCIe 5.0 SSD для ЦОД с лучшими в отрасли показателями энергоэффективности и производительности для ресурсоёмких рабочих нагрузок, таких как ИИ. Новинки используют 232-слойную флеш-память TLC NAND, предлагаются в форм-факторах U.2 (15 мм), E3.S (1T) и E1.S (15 мм), а их ёмкость составляет от 3,2 до 30,72 Тбайт.

Micron 9550 обеспечивает скорость последовательного чтения до 14,0 Гбайт/с и последовательной записи до 10,0 Гбайт/с, что превышает на 67 % показатели твердотельных накопителей аналогичного класса от конкурентов, говорит компания, подразумевая решения Kioxia и Samsung. Производительность накопителя на операциях случайного чтения и записи составляет 3,3 млн IOPS и 400 тыс. IOPS соответственно, что до 35 % и до 33 % выше, чем у предложений конкурентов.

Источник изображения: Micron

Накопители Micron 9550 поддерживают TCG Opal 2.01, SPDM 1.2, телеметрию по стандарту OCP 2.5, шифрование данных (SED), сквозную поддержку целостности данных, подписанное встроенное ПО, изолированный анклав Micron Secure Execution Environment, защиту от потери питания, а также соответствуют стандартам NVMe v2.0b и OCP 2.0 (r21). Доступны и варианты с сертификацией FIPS 140-3 Level 2 и TAA.

Компания предлагает две версии Micron 9550: 9550 PRO для интенсивного чтения с 1 DWPD (допустимое количество перезаписей всего объёма накопителя в день) в течение пятилетнего гарантийного периода и 9550 MAX для смешанных нагрузок с надёжностью 3 DWPD. E1.S-вариант есть только 9550 PRO. Доступная ёмкость 9550 PRO составляет 3,84/7,68/15,36/30,72 Тбайт. Версия накопителя 9550 MAX предлагает меньшую ёмкость — 3,2/6,4/12,8/25,6 Тбайт.

Как отметила Micron, ИИ-нагрузки требуют высокопроизводительных решений для хранения данных. Показатели последовательного и случайного чтения и записи SSD 9550 позволяет использовать его именно в таких в сценариях. Накопители поддерживают архитектуры Big Accelerator Memory (BaM) и GPU-Initiated Direct Storage (GIDS).

Например, большие языковые модели (LLM) требуют высокой скорости последовательного чтения, а графовые сети (GNN) требуют высокой производительности случайного чтения. Компания заявила, что Micron 9550 превосходит предложения конкурентов в работе с ИИ-нагрузками: время выполнения сокращается до 33 %, агрегация в BaM происходит до 60 % быстрее, обеспечивается до 34 % более высокая пропускная способность при использовании Magnum IO GPUDirect Storage (GDS).

Согласно пресс-релизу, Micron 9550 обеспечивает лучшую в отрасли энергоэффективность для поддержки различных рабочих ИИ-нагрузок, в том числе:

• Обучение графовых сетей с помощью BaM: снижение среднего энергопотребления SSD до 43 % и снижение общего энергопотребления сервера до 29 %.
• NVIDIA Magnum IO GPUDirect Storage: до 81 % меньше потребление энергии на каждый переданный 1 Тбайт.
• MLPerf: до 35 % меньше потребление энергии накопителем и до 13 % меньше использование энергии системой.
• Тюнинг Llama LLM с помощью Microsoft DeepSpeed: энергопотребление SSD до 21 % меньше.

Micron 9550 имеет вертикально интегрированную архитектуру с использованием технологий, разработанных Micron, обеспечивающую гибкий выбор конструкции и расширенные возможности безопасности, говорит компания. Кроме того, Micron сотрудничает с NVIDIA и разработчиками решений с открытым исходным кодом, чтобы гарантировать соответствие решений потребностям самых требовательных ИИ-нагрузок.

Компания Micron Technology объявила о старте рассылки образцов модулей памяти DDR5 MRDIMM (Multiplexed Rank Dual Inline Memory Module), специально разработанной для приложений ИИ и HPC. По сравнению с обычными RDIMM у модулей MRDIMM до 39 % выше пропускная способность памяти, на 15 % выше эффективность работы шины и до 40 % ниже задержка. MRDIMM-модули будут иметь ёмкость 32, 64, 96, 128 и 256 Гбайт.

Модули памяти обеспечивают скорость передачи данных 8800 МТ/с и выпускаются в двух форматах: стандартной и увеличенной (TFF, Tall Form Factor) высоты, которые подходят для серверов высотой 1U и 2U. Благодаря улучшенной конструкции модулей TFF температура DRAM снижается до 20 °С при той же мощности и потоке воздуха, обеспечивая более эффективное охлаждение в ЦОД и оптимизируя общее энергопотребление системы для рабочих нагрузок с интенсивным использованием памяти.

Источник изображения: Micron Technology

Сообщается, что новое предложение представляет собой первое поколение семейства Micron MRDIMM и будет совместимо только с процессорами Intel Xeon 6, поскольку стандарт JEDEC для памяти MRDIMM официально ещё не выпущен. Массовые поставки Micron MRDIMM начнутся во II половине 2024 года. Компания сообщила, что последующие поколения MRDIMM будут по-прежнему обеспечивать до 45 % лучшую пропускную способность памяти на канал по сравнению с RDIMM аналогичного поколения.

Ранее образцы MRDIMM (или MR-DIMM) показала ADATA. А SK hynix совместно с Intel и Renesas ещё в конце 2022 года объявила о создании похожего типа памяти — DDR5 MCR (Multiplexer Combined Ranks) DIMM. Весной этого года Micron также показала образцы DDR5-8800 MCR DIMM.

Micron Technology сообщила финансовые результаты III квартала 2024 финансового года, завершившегося 30 мая. Несмотря на значительный рост выручки по сравнению с прошлым годом, а также то, что показатели за квартал превысили прогноз аналитиков, акции Micron упали в минувшую среду в цене на 8 %, поскольку прогноз компании на текущий квартал оказался ниже ожиданий инвесторов, отметил ресурс MarketWatch.

Выручка Micron в III финансовом квартале составила $6,81 млрд, что на 17 % больше, чем в предыдущем квартале, и на 82 % больше показателя аналогичного периода годом ранее. Также был превышен консенсунс-прогноз аналитиков, опрошенных FactSet, в размере $6,67 млрд. При этом продажи DRAM составили $4,7 млрд (69 % общей выручки), NAND — $2,1 млрд (30 %).

Источник изображений: Micron Technology

Подразделение Compute and Networking (CNBU) принесло компании $2,57 млрд (рост год к году на 85 %), мобильное подразделение (Mobile, MBU) увеличило выручку на 94 % до $1,59 млрд, у подразделения встраиваемых решений (Embedded, EBU) выручка составила $1,29 млрд (рост — 42 %), у подразделения решений для СХД (SBU) — $1,35 млрд (рост — 116 %).

Отчётный квартал компания завершила с чистой прибылью (GAAP) в размере $332 млн или $0,30 на акцию, тогда как годом ранее она объявила о чистом убытке в размере $1,9 млрд, или $1,73 на акцию. Вместе с тем консенсунс-прогноз аналитиков по чистой прибыли равнялся $399,39 млн. Скорректированная прибыль (non-GAAP) на акцию составила $0,62, тогда как аналитики, опрошенные FactSet, ожидали $0,48 прибыли на акцию.

Санджей Мехротра (Sanjay Mehrotra), президент и гендиректор Micron Technology, отметил устойчивый спрос на ИИ-решения, позволивший увеличить выручку и превысить собственный прогноз на III финансовый квартал. «Мы увеличиваем долю в высокодоходных продуктах, таких как память HBM, а выручка от SSD для ЦОД достигла рекордно высокого уровня, демонстрируя силу нашего портфолио продуктов для ИИ, включая DRAM и NAND», — заявил он. Также Мехротра сообщил, что компания «добилась значительного повышения цен» и что «улучшение цен в сочетании с усилением ассортимента продукции привело к увеличению прибыльности на всех конечных рынках».

В IV финансовом квартале Micron ожидает получить скорректированную прибыль (non-GAAP) в размере $1,08 на акцию при выручке в $7,6 млрд. Прогноз аналитики Уолл-стрит на текущий финансовый квартал по прибыли (non-GAAP) составляет $1,02 на акцию при выручке в $7,59 млрд. В комментариях к финансовому отчёту Мехротра отметил, что благодаря росту использования ИИ-технологий, у компании есть «хорошие возможности для достижения существенного рекордного дохода в 2025 финансовом году».

«Мы находимся в начале многолетней гонки за создание общего ИИ, или AGI, который произведёт революцию во всех аспектах жизни», — сообщил глава Micron. — Запуск AGI потребует обучения моделей с постоянно растущими размерами с триллионами параметров и сложных серверов для инференса. ИИ также распространится на периферию через компьютеры с ИИ и смартфоны с ИИ, а также умные автомобили и интеллектуальные промышленные системы. Эти тенденции будут способствовать значительному росту спроса на DRAM и NAND, и мы считаем, что Micron станет одним из крупнейших бенефициаров в полупроводниковой промышленности благодаря возможностям многолетнего роста, обусловленных ИИ».

Представив чипы памяти типа DDR5 ёмкостью 32 Гбит ещё прошлой осенью, компания Micron Technology только сейчас сертифицировала модули RDIMM объёмом 128 Гбайт на основе этих чипов на совместимость с оборудованием ключевых игроков серверного рынка. Клиенты Micron смогут получить такие модули памяти в июне. Также компания объявила о поставках восьмиярусных стеков памяти HBM3E.

Американский производитель памяти подчёркивает, что и 128-Гбайт модули DDR5-5600 RDIMM, и HBM3E-память Hi-8 наилучшим образом проявят себя в серверной инфраструктуре, ориентированной на обслуживание ИИ-систем. Кого именно из производителей ускорителей вычислений Micron снабжает памятью типа HBM3E, не уточняется, но конкурирующие Samsung и SK hynix уже готовы поставлять клиентам 12-ярусные чипы HBM3E. Впрочем, ещё в феврале Micron сообщил о готовности начать во II квартале поставки чипов HBM3E объёмом 24 Гбайт для ускорителей NVIDIA H200.

Источник изображения: Micron Technology

Серверные модули DDR5 объёмом 128 Гбайт со скоростью 5600 МТ/с на основе монолитных 32-Гбит чипов памяти, по данным Micron, позволяют на 45 % поднять плотность хранения данных в пересчёте на один контакт, на 22 % поднять энергетическую эффективность, и на 16 % снизить задержки при передаче информации по сравнению с немонолитными чипами DDR5.

Micron отметила, что в этом году начнёт поставки модулей со скоростью 4800, 5600 и 6400 MT/с, а в будущем намерена предложить решения со скоростью до 8000 MT/с. AMD и Intel подтвердили совместимость новых модулей Micron со своими современными серверными платформами. Со следующего месяца Micron начнёт продавать новую память через своих торговых партнёров.

Компания Micron Technology анонсировала изделие 4150AT: это, как утверждается, первый в мире 4-портовый SSD. Новинка может напрямую подключаться к четырём SoC одновременно, что позволяет организовать централизованное хранение данных. При этом отпадает необходимость в использовании коммутационных чипов. Новинка ориентирована на сектор интеллектуальных автомобилей, системы которых генерируют большие массивы информации.

Накопитель 4150AT выполнен на основе 176-слойной флеш-памяти TLC NAND. Задействован интерфейс PCIe 4.0 (NVMe 2.0). Решение поддерживает технологию SR-IOV и позволяет обслуживать до 64 ВМ. Говорится о повышенной надёжности. Диапазон рабочих температур простирается от -40 до +115 °C.

Источник изображения: Micron

В семейство 4150AT вошли модификации вместимостью 220, 440 и 900 Гбайт, а также 1,8 Тбайт. Заявленный показатель IOPS (операций ввода/вывода в секунду) при работе с блоками данных по 4 Кбайт достигает 600 тыс. при произвольном чтении и 100 тыс. при произвольной записи. Величина MTTF (средняя наработка на отказ) превышает 10 млн часов.

Благодаря возможности подключения четырёх бортовых SoC одновременно новые SSD позволяют оптимизировать процесс хранения и обработки информации. Например, системы оказания помощи водителю при движении (ADAS) и информационно-развлекательный комплекс смогут обращаться к одному и тому же набору картографических данных. Это даст возможность снизить стоимость хранения 1 Гбайт информации и отказаться от применения дополнительных накопителей. Пробные поставки 4150AT уже начались.

Компания Micron, по сообщению ресурса Tom's Hardware, продемонстрировала на конференции NVIDIA GTC 2024 модули оперативной памяти MCR DIMM ёмкостью 256 Гбайт для серверов следующего поколения, в том числе для систем, построенных на процессорах Intel Xeon Granite Rapids. Модули имеют увеличенную высоту, но Micron также намерена выпустить варианты стандартной высоты для серверов типоразмера 1U.

Изделия соответствуют стандарту DDR5-8800. С каждой стороны модуля расположены по 40 чипов памяти. Заявленное энергопотребление изделия составляет 20 Вт, тогда как у RDIMM объёмом 128 Гбайт при использовании профиля DDR5-4800 оно равно 10 Вт. Новые изделия Micron позволяют оснащать серверы 3 Тбайт памяти при наличии 12 слотов ОЗУ и 6 Тбайт при наличии 24 слотов.

Источник изображения: Micron

MCR DIMM использует специальный буфер между DRAM и CPU, который позволяет двум физическим рангам функционировать так, как если бы они были двумя отдельными модулями памяти, работающими параллельно. Это позволяет извлекать из памяти вдвое больше данных за каждый такт, а также увеличить скорость обмена информацией с CPU. Таким образом, можно одновременно поднять и ёмкость, и производительность памяти.

SK hynix также поддерживает MCR DIMM, а вот AMD и JEDEC готовят альтернативный стандарт MRDIMM, который тоже поддерживает создание высокоёмких модулей DDR5-8800. Впрочем, концептуально оба решения восходят к OMI/DDIMM от IBM и даже FB-DIMM.

Компания Micron Technology, приступившая в феврале к массовому производству передовой памяти HBM3E, сообщила, что уже имеет на руках контракты на весь объём поставок до конца 2024 года, а также на большую часть поставок в 2025 году. Память Micron HBM3E (Micron называет её HBM3 Gen2) одной из первых получила сертификацию для использования в ускорителях NVIDIA (G)H200, так что, по всей видимости, Micron станет ключевым поставщиком для NVIDIA, пишет AnandTech.

«Наша HBM распродана на 2024 календарный год и подавляющая часть наших поставок на 2025 год уже распределена, — сообщил глава Micron Санджей Мехротра (Sanjay Mehrotra) в комментариях к отчёту за II квартал 2024 финансового года. Первый продукт HBM3E от Micron представляет собой сборку 8-Hi ёмкостью 24 Гбайт с 1024-бит интерфейсом и общей пропускной способностью 1,2 Тбайт/с. NVIDIA H200 использует шесть таких модулей. Micron также начала поставки образцов сборок 12-Hi ёмкостью 36 Гбайт.

Источник изображения: Micron

В отчёте за II квартал 2024 финансового года Micron похвасталась результатами, которые оказались значительно выше прогнозов. Напомним, что до этого у компании были убытки пять кварталов подряд. В отчётном квартале Micron получила выручку в размере $5,82 млрд, превысив на 58 % на результат II квартала 2023 финансового года, равный $3,69 млрд, и на 23 % — результат предыдущего квартала, равный $4,73 млрд. При этом доля в общей выручке продаж DRAM составила 71 %, NAND — 27 %.

Поставки подразделения сетевых и вычислительных решений (Compute and Networking, CNBU) выросли год к году на 59 % до $2,2 млрд, мобильного подразделения (Mobile, MBU) — на 69 % до $1,6 млрд, у подразделения встраиваемых решений (Embedded, EBU) зафиксирован рост на 28 % до $1,11 млрд, у подразделения решений для СХД — рост на 79 % до $905 млн.

Компания сообщила о прибыли в размере $793 млн или $0,71 на акцию, в то время как годом ранее у неё были убытки (GAAP) в $2,31 млрд или $2,12 на акцию. Скорректированная прибыль (non-GAAP) составила $0,42 на акцию по сравнению с убытком в $1,91 на акцию годом ранее. Согласно прогнозу аналитиков, опрошенных FactSet, у Micron должны были быть убытки (non-GAAP) в размере $0,25 на акцию при выручке в $5,35 млрд.

В текущем квартале Micron ожидает получить скорректированную прибыль (non-GAAP) в размере $0,42 на акцию при выручке в $6,6 млрд. Аналитики Уолл-стрит прогнозируют в III финансовом квартале прибыль (non-GAAP) в размере $0,09 на акцию при выручке в $6 млрд.

Компания Micron Technology объявила о начале массового производства передовой памяти HBM3E. Речь идёт об изделиях ёмкостью 24 Гбайт, предназначенных для ИИ-ускорителей NVIDIA H200, которые появятся на коммерческом рынке во II квартале нынешнего года.

Чипы Micron HBM3E выполнены в виде 8-ярусного стека. Заявленная скорость передачи данных превышает 9,2 Гбит/с на контакт, а общая пропускную способность сборки превосходит 1,2 Тбайт/с. Вместе с тем, как утверждается, изделия потребляют примерно на 30 % меньше энергии по сравнению с решениями конкурентов.

Источник изображения: Videocardz / Micron

Micron подчёркивает, что чипы HBM3E объёмом 24 Гбайт позволяют дата-центрам беспрепятственно масштабировать различные ИИ-нагрузки — от обучения сложных нейронных сетей до ускорения инференса. Изделия выполнены по технологии 1β (1-бета) — самому передовому техпроцессу компании. Кроме того, применены другие современные методики упаковки чипов, включая усовершенствованную технологию сквозных соединений TSV (Through-Silicon Via).

Micron также сообщила, что уже в марте нынешнего года начнёт распространять образцы 12-ярусных чипов HBM3E ёмкостью 36 Гбайт. Они, как и изделия на 24 Гбайт, обеспечат пропускную способность свыше 1,2 Тбайт/с при высокой энергетической эффективности.

Компания Micron Technology анонсировала модули оперативной памяти DDR5-8000 RDIMM ёмкостью 128 Гбайт для дата-центров и облачных платформ. Изделия рассчитаны на использование в системах с высокими вычислительными нагрузками: это могут быть ресурсоёмкие приложения ИИ, резидентные базы данных и пр.

Модули выполнены на основе монолитных чипов на 32 Гбит по технологии 1β (1-бета) — самому передовому технологическому процессу производителя. Применяется инновационная архитектура кристалла, обеспечивающая максимальную эффективность массива, а также самую высокую плотность DRAM.

Источник изображения: Micron

Задействованная технология, как утверждается, обеспечивает ряд преимуществ перед конкурирующей 3DS TSV (through-silicon via). Заявлено повышение битовой плотности более чем на 45 %, увеличение энергоэффективности до 24 %, снижение задержек до 16 % и повышение эффективности обучения ИИ до 28 %.

Реализована функция управления напряжением питания, которая помогает оптимизировать энергопотребление. Номинальное напряжение VDD, VDDQ и VPP равно соответственно 1,1 В, 1,1 В и 1,8 В. Диапазон рабочих температур простирается от 0 до +95 °C.

В 2024 году компания Micron намерена организовать поставки модулей DDR5 RDIMM на 128 Гбайт с частотой 4800, 5600 и 6400 МГц, а позднее появятся изделия с частотой до 8000 МГц.