Согласно данным аналитической компании TrendForce, NVIDIA решила переименовать продукты семейства Blackwell Ultra в серию B300. В связи с этим ускоритель B200 Ultra стал B300, а GB200 Ultra теперь называется GB300. Кроме того, B200A Ultra и GB200A Ultra получили имена B300A и GB300A соответственно. Серия ускорителей B300, как ожидается, выйдет в I–II квартале 2025 года, а поставки (G)B200 начнутся не позднее I квартал 2025 года.

TrendForce отметила, что NVIDIA совершенствует сегментацию чипов Blackwell, чтобы лучше соответствовать требованиям по стоимости и производительности со стороны облачных провайдеров (CSP) и OEM-производителей серверов и смягчить требования к цепочкам поставок.

Так, модель B300A нацелена на OEM-клиентов, её массовое производство планируется начать во II квартале 2025 года после пика поставок H200. Изначально NVIDIA хотела предложить данному сегменту упрощённый вариант B200A, но, судя по всему, спрос на него оказался более слабом, чем ожидалось. Вместе с тем переход с GB200A на GB300A для стоечных решений может привести к увеличению первоначальных затрат для корпоративных клиентов, что также может отразиться на спросе.

Источник изображения: TrendForce

Сейчас компания вкладывает значительные средства в улучшение стоечных решений NVL, помогая поставщикам серверных систем с оптимизацией производительности и жидкостным охлаждением для систем NVL72, а AWS и Meta✴ настоятельно призывают перейти с NVL36 на NVL72. TrendForce также ожидает, что предложение топовых ускорителей NVIDIA будет расширяться, а их общая доля в поставках, как ожидается, достигнет около 50 % в 2024 году, то есть вырастет на 20 п.п. год к году. Ожидается, что выпуск ускорителей Blackwell увеличит этот показатель до 65 % в 2025 году.

Аналитики также отметили роль NVIDIA в стимулировании спроса на технологию упаковки CoWoS. Благодаря Blackwell спрос на данный тип упаковки вырастет более чем на 10 п.п. в годовом исчислении. NVIDIA, скорее всего, сосредоточится на поставках чипов B300 и GB300 крупным североамериканским гиперскейлерам — оба варианта используют технологию CoWoS-L. Компания активно наращивает закупки HBM — согласно прогнозам, в 2025 году на NVIDIA придётся более 70 % мирового рынка HBM (рост на 10 п.п. год к году).

TrendForce также отмечает, что все чипы серии B300 будут оснащены памятью HBM3e 12Hi, производство которой начнётся не позднее I квартал 2025 года. Но поскольку это будут первые массовые продукты с таким типом памяти, поставщикам, как ожидается, потребуется не менее двух кварталов для отработки процессов и стабилизации объёмов производства.

Спрос на ИИ-системы и соответствующие серверы привёл к росту заказов на SSD корпоративного класса в последние два квартала. По данным TrendForce, производители компонентов для твердотельных накопителей налаживают производственные процессы, готовясь к массовому выпуску накопителей нового поколения, которые появятся на рынке в 2025.

Увеличение заказов корпоративных SSD от пользователей ИИ-серверов привело к росту контрактных цен на эту категорию товаров на более чем 80 % с IV квартала 2023 года по III квартал 2024. При этом SSD играют ключевую роль в развитии ИИ, поскольку только они годятся для эффективной работы с моделями. Помимо собственно хранения данных модели они также нужны для создания контрольных точек во время обучения, чтобы в случае сбоев можно было быстро «откатить» модель и возобновить обучение.

Благодаря высокой скорости записи и чтения, а также повышенной надёжности в сравнении с HDD, для тренировки моделей обычно выбирают TLC-накопители ёмкостью 4–8 Тбайт. Эффективность RAG и больших языковых моделей (LLM), особенно для генерации медиаконтента, зависят и от ёмкости, и от производительности накопителей, поэтому для инференса более предпочтительны TLC/QLC-накопители ёмкостью от 16 Тбайт.

Источник изображения: TrendForce

Со II квартала 2024 года спрос на SSD для ИИ-серверов ёмкостью больше 16 Тбайт значительно вырос. С повышением доступности ускорителей NVIDIA H100/H20/H200 клиенты начали наращивать спрос и на TLC SSD на 4 и 8 Тбайт. В агентстве считают, что закупочная ёмкость SSD для в 2024 году превысит 45 Эбайт, а в следующие несколько лет спрос на серверные SSD будет увеличиваться более чем на 60 % ежегодно. В частности, на SSD для ИИ-нагрузок потенциально уйдёт до 9 % всей NAND-памяти в 2025, тогда как в 2024 году этот показатель, как ожидается, составит 5 %.

Растущий спрос на высокопроизводительные вычисления ведёт к тому, что операторам ЦОД требуются всё более эффективные системы охлаждения для ИИ-серверов. По данным TrendForce, появление NVIDIA Blackwell к концу 2024 года приведёт к тому, что уровень проникновения СЖО в ЦОД может вырасти до 10 %. На решения Blackwell придётся около 83 % передовых продуктов компании.

Отдельные ускорители (G)B200 будут потреблять около 1000 Вт. HGX-платформы по-прежнему будут объединять до восьми ускорителей, а NVL-стойки — сразу 36 или 72. Безусловно, всё это будет способствовать росту цепочки поставок СЖО для ИИ-серверов, поскольку традиционные системы воздушного охлаждения могут попросту не справиться. В частности, GB200 NVL36 и NVL72 могут потреблять до 70 кВт и 140 кВт соответственно. В TrendFirce уверены, что NVL36 будет использовать комбинацию жидкостного и воздушного охлаждения, а вот NVL72 без СЖО не обойтись.

Источник изображения: NVIDIA

Агентство выделяет основные элементы, входящие в цепочку поставок СЖО для стоек с GB200: водоблоки, модули распределения (CDU), коллекторы, быстроразъёмные соединения (QD) и теплообменники задней двери (RDHx). Основным поставщиком CDU для ИИ-решений NVIDIA сегодня является компания Vertiv, а Chicony, Auras, Delta и CoolIT проходят тестирование. По слухам, NVIDIA уже столкнулась с протечками из-за некачественных компонентов.

В 2025 году поставки GB200 NVL36 должны достигнуть 60 тыс. стоек (суммарно 2,1–2,2 млн ускорителей). Тогда же NVIDIA начнёт предлагать облачным провайдерам и корпоративным клиентам конфигурации HGX, GB200 Rack и MGX, соотношение поставок ожидается на уровне 5:4:1. Стоечные варианты GB200 Rack рассчитаны в первую очередь на гиперскейлеров.

Источник изображения: TrendForce

TrendForce прогнозирует, что NVIDIA может представить NVL36 уже в конце 2024 года и быстро выйти на рынок, а NVL72 появится только в 2025 году. Впрочем, облачные гиганты, вероятно, постараются избежать привязки к единственному поставщика и, возможно, захотят развернуть HGX/MGX-варианты на x86-чипах или вовсе задействуют ASIC собственной разработки.

Кстати, компания NVIDIA ищет химика-материаловеда для разработки систем погружного жидкостного охлаждения для высокопроизводительных ускорителей. Специалист должен будет тестировать жидкости и материалы на совместимость, оценивать эффективность охлаждения, коррозионную стойкость и экологичность материалов, чтобы обеспечить оптимальную работу новых продуктов NVIDIA в ЦОД.

Согласно прогнозу аналитической компании TrendForce, высокий спрос на ИИ-серверы со стороны крупных провайдеров облачных услуг и других клиентов сохранится до конца 2024 года. Постепенное расширение производства компаниями TSMC, SK hynix, Samsung и Micron позволило значительно уменьшить дефицит во II квартале и, как следствие, время выполнения заказа на NVIDIA H100 сократилось с прежних 40–50 недель до менее чем 16.

По оценкам TrendForce, поставки ИИ-серверов во II квартале выросли почти на 20 % по сравнению с предыдущим кварталом. Аналитики в своём свежем отчёте пересмотрели прогноз поставок на весь год до 1,67 млн ИИ-серверов (рост на 41,5 % в годовом исчислении). Объём рынка ИИ-серверов в 2024 году в денежном выражении, как ожидают в TrendForce, превысит $187 млрд при темпах роста 69 %, что составит 65 % от рыночной стоимости всех поставленных серверов.

В отчёте также отмечено, что в этом году крупные провайдеры облачных услуг продолжают концентрироваться на закупке ИИ-серверов, что негативно отражается на темпах роста поставок серверов общего назначения. У последних ежегодные темпы роста поставок составят всего 1,9 %. Как ожидают в TrendForce, доля ИИ-серверов в штучном выражении в общем объёме поставок достигнет 12,2 %, что больше на 3,4 п.п. по сравнению с 2023 годом.

Аналитики отметили, что североамериканские гиперскейлеры постоянно расширяют выпуск собственных ASIC, впрочем, как и китайские компании, такие как Alibaba, Baidu и Huawei. Ожидается, что благодаря этому доля ASIC-серверов на рынке ИИ-серверов вырастет до 26 % в 2024 году, в то время как у ИИ-серверов с ускорителями доля будет около 71 %. При этом NVIDIA сохранит абсолютное лидерство с около 90 % рынка ИИ-серверов с ускорителями, в то время как доля AMD составит лишь около 8 %.

Если же учитывать вообще все чипы, используемые в ИИ-серверах (GPU, ASIC, FPGA), то доля рынка NVIDIA в этом году составит около 64 %, ожидают в TrendForce. По оценкам аналитической фирмы Tech Insights, NVIDIA в 2023 году отгрузила приблизительно 3,76 млн серверных ускорителей на базе GPU, захватив 98 % рынка GPU для ЦОД.

TrendForce считает, что спрос на передовые ИИ-серверы сохранится и в 2025 году, учитывая тот факт, что NVIDIA Blackwell (включая GB200, B100/B200) заменит Hopper. Это также будет стимулировать спрос на CoWoS (2.5D-упаковка от TSMC) и память HBM. Производственная мощность TSMC в области CoWoS, по оценкам TrendForce, достигнет 550–600 тыс. единиц к концу 2025 года, при этом темпы роста достигнут 80 %.

Источник изображения: TrendForce

Тем не менее, ускоритель H100 получит в 2024 году наибольшее распространение. К 2025 году такие ускорители, как Blackwell Ultra от NVIDIA или MI350 от AMD, будут оснащены HBM3e ёмкостью до 288 Гбайт, что утроит количество компонентов памяти. Ожидается, что общее предложение HBM удвоится к 2025 году на фоне высокого спроса на ИИ-серверы.

При этом не все уверены в светлом будущем ИИ. Так, венчурный фонд Sequoia Capital и аналитики Goldman Sachs указывают на сверхвысокие расходы на ИИ-оборудование и вместе с тем отсутсвие реальной финансовой отдачи от вложений в ИИ-решения. С другой стороны, венчурный фонд Andreessen Horowitz (a16z) уверен, что ИИ не станет очередным финансовым пузырём и сам закупает ИИ-ускорители, чтобы привлечь стартапы. А некоторые ИИ-стартапы сами приходят к крупным игрокам, поскольку не способны окупить затраты на оборудование.

Компания TrendForce обнародовала результаты исследования мирового рынка SSD корпоративного класса в I квартале 2024 года. Отмечается, что спрос на такие накопители по сравнению с IV четвертью 2023-го подскочил на 62,9 %, что объяснятся в том числе стремительным развитием ИИ.

Согласно подсчётам аналитиков, в период с января по март включительно отгрузки корпоративных SSD достигли в денежном выражении $3,76 млрд. TrendForce говорит о значительном увеличении спроса на высокопроизводительные серверы для задач ИИ. Причём заказчики из Северной Америки всё чаще используют SSD высокой ёмкости на основе чипов флеш-памяти QLC для замены HDD. Это приводит к росту поставок твердотельных накопителей.

Источник изображения: TrendForce

Крупнейшим игроком мирового рынка по итогам I квартала 2024 года стала компания Samsung с долей 47,4 % и продажами в размере $1,78 млрд: рост по отношению к предыдущему кварталу зафиксирован на отметке 85,4 %. На втором месте располагается SK Group (SK hynix и Solidigm), у которой отгрузки поднялись в квартальном исчислении на 49,3 % — до $1,14 млрд, а доля оказалась на уровне 30,4 %. Замыкает тройку Micron с выручкой в размере $373,5 млн (рост на 49,4 % в квартальном сопоставлении) и долей около 9,9 %.

В пятёрку ведущих игроков также вошли Kioxia и Western Digital, у которых продажи зафиксированы в объёме $325,7 млн и $133,0 млн соответственно, что соответствует 8,7 % и 3,6 % рынка. У Kioxia продажи год к году поднялись на 50,1 %, у Western Digital — на 18,1 %.

Аналитики полагают, что во II квартале текущего года продажи SSD корпоративного класса увеличатся более чем на 20 %. Это приведёт к росту стоимости данной продукции примерно на 20 % и к сопоставимому увеличению объёма отрасли в денежном выражении.

Компания TrendForce обнародовала прогноз по мировому рынку SSD корпоративного класса на основе флеш-памяти QLC NAND (четыре бита информации в ячейке). Аналитики полагают, что спрос на такие накопители будет быстро расти на фоне стремительного развития рынка ИИ.

TrendForce выделяет две основные причины повышения интереса к решениям QLC со cтороны операторов облачных платформ и дата-центров, ориентированных на ИИ. Это высокая скорость чтения данных и улучшенная совокупная стоимость владения по сравнению с HDD.

Отмечается, что в случае с корпоративными HDD сейчас применяются устройства вместимостью преимущественно 20–24 Тбайт, тогда как QLC SSD обеспечивают ёмкость до 64 Тбайт. Таким образом, достигается значительная экономия места для размещения накопителей в стойках ЦОД. Кроме того, сокращается энергопотребление, благодаря чему снижаются затраты на поддержание работы СХД. При этом SSD на базе QLC позволяют эффективно решать ИИ-задачи, связанные с инференсом, когда производится интенсивное чтение информации, а не запись.

Источник изображения: TrendForce

В настоящее время только Solidigm и Samsung имеют сертифицированные продукты QLC. По оценкам, в IV квартале 2023 года Samsung занимала приблизительно 45 % рынка SSD корпоративного класса, а Solidigm/SK hynix  — 32%. Ещё около 10 % пришлось на Micron, 8 % — на Kioxia, 4 % — на Western Digital. В связи с ростом заказов на продукты QLC компания Solidigm планирует расширить производство 144-слойных чипов флеш-памяти во II половине 2024 года. Samsung, которая пока специализируется на 176-слойных изделиях и не имеет серьёзных конкурентов, извлекает выгоду из ограниченного предложения QLC SSD высокой ёмкости.

TrendForce прогнозирует, что поставки серверных SSD на базе QLC в плане общей ёмкости достигнут 30 Эбайт в 2024 году, увеличившись в четыре раза по сравнению с 2023-м. При этом ожидается рост контрактных цен на SSD корпоративного класса на 23–28 % в I четверти 2024 года (в квартальном исчислении), на 20–25 % во II четверти и на 5–10 % в III четверти года.

Компания TrendForce опубликовала результаты исследования мирового рынка SSD корпоративного класса в IV квартале 2023 года. В течение рассматриваемого периода цены на накопители указанного типа выросли более чем на 15 % в квартальном исчислении. Кроме того, наблюдалось увеличение спроса на SSD со стороны производителей серверов.

В результате, продажи накопителей в денежном выражении взлетели на 47,6 % по сравнению с III четвертью 2023 года, достигнув примерно $2,31 млрд. Сокращение объёмов складских запасов и восстановление покупательной активности, по мнению аналитиков, приведёт к тому, что контрактные цены на SSD в I квартале 2024-го поднимутся более чем на 25%. Ожидается, что это будет способствовать росту выручки на 20% в квартальном исчислении.

Источник изображения: TrendForce

Крупнейшим игроком рынка корпоративных SSD в IV квартале 2023 года осталась компания Samsung с ростом на уровне 64,3 % и результатом $961,0 млн. Доля южнокорейского поставщика достигла 41,7 % против 37,4 % кварталом ранее.

На втором месте в рейтинге находится SK Group, которая зафиксировала самые высокие темпы роста: плюс 96,9 % квартал к кварталу. Итоговая выручка составила $766,0 млн, а рыночная доля — 33,2 %. Компания отмечает хороший спрос на SSD со стороны ключевых клиентов в Северной Америке.

Замыкает тройку Micron, у которой выручка увеличилась на 6,8 % — до $250,0 млн благодаря повышению контрактных цен. Однако доля в квартальном выражении упала с 15,0 % до 10,8 %. Компания внедряет продукты с поддержкой PCIe 4.0 и готовится к распространению SSD на основе 232-слойной флеш-памяти.

На четвёртом и пятом местах располагаются соответственно Kioxia и Western Digital, у которых доли составили 9,4 % и 4,9 %. При этом Kioxia нарастила продажи на 4,3 % — до $217,0 млн, а Western Digital сократила их на 23,4 % — до $112,6 млн, что объясняется снижением спроса на флагманские продукты.

Компания TrendForce обнародовала прогноз по мировому рынку серверов на 2024 год. Аналитики полагают, что в штучном выражении продажи незначительно увеличатся по сравнению с предыдущим годом, а основным драйвером отрасли останется ИИ. Отмечается, что из-за высокого уровня инфляции и сокращающихся капитальных затрат в корпоративном секторе спрос на серверы пока не вернулся к показателям, наблюдавшимся до начала пандемии COVID-19.

Источник изображения: Supermicro

В 2023 году отгрузки систем зафиксированы на отметке примерно 13,4 млн единиц — это на 6 % меньше по отношению к 2022-му. В 2024 году, полагают специалисты TrendForce, поставки поднимутся на 2 %, оказавшись на отметке 13,7 млн штук. При этом на долю ИИ-серверов придётся около 12,1 %. Практически все крупные игроки увеличили срок службы серверов общего назначения и теперь вкладываются именно в ИИ-решения.

Ожидается, что Foxconn продемонстрирует самые высокие темпы роста — около 5–7 % в годовом исчислении. Этому будут способствовать заказы на платформы Dell 16G, AWS Graviton 3/4, Google на базе AMD EPYC Genoa и Microsoft Gen9. В сегменте ИИ Foxconn получила заявки от Oracle и AWS.

Inventec, согласно прогнозам TrendForce, займёт второе место по темпам роста с показателем до 3 %. Говорится о заказах на системы AWS Graviton 3/4, а также на серверы Google с чипами EPYC Milan и Genoa. А во II половине текущего года Google начнёт внедрять серверы на базе EPYC Bergamo. Помимо заказов от североамериканских гиперскейлеров, ожидается высокий спрос со стороны китайских клиентов, таких как ByteDance. По оценкам, поставки ИИ-серверов Inventec достигнут 10–15 % от общемирового объёма отгрузок.

Источник изображения: Supermicro

Темпы роста продаж Quanta Computer и Supermicro останутся на уровне 2023 года. Quanta сталкивается с рядом неопределённостей, наиболее значимыми из которых являются существенное сокращение заказов на серверы общего назначения у Meta✴ и снижение спроса на платформы Intel со стороны Google, которая сместила фокус на решения AMD. Ожидается, что Quanta нарастит поставки ИИ-серверов благодаря заказам от североамериканских облачных провайдеров, включая Microsoft Azure и AWS.

Вместе с тем Supermicro сосредоточится на развитии ИИ-сегмента. Однако аналитики прогнозируют затишье по направлению серверов общего назначения. Высокопроизводительные ИИ-серверы Supermicro применяются в том числе в дата-центрах CoreWeave и Tesla. Компания также активно расширяет сотрудничество с Apple и Meta✴.

Компания TrendForce подсчитала, что в III квартале 2023-го продажи SSD корпоративного класса на мировом рынке достигли $1,56 млрд. Это на 4,2 % больше по сравнению с результатом за II четверть уходящего года. Положительную динамику продемонстрировали практически все ведущие поставщики.

Аналитики отмечают, что в сегменте SSD наметились признаки восстановления. Хотя контрактные цены на накопители корпоративного уровня в III квартале продолжали снижаться, зафиксирован рост покупательского спроса примерно на 10 %. Это помогло производителям нарастить выручку.

Крупнейшим игроком рассматриваемого рынка остаётся Samsung с выручкой на уровне $585 млн, что на 10,8 % больше в квартальном исчислении. Доля этого южнокорейского производителя в III квартале составила 37,4 % против 35,2 % во II четверти 2023-го. Таким образом, компания Samsung вернулась к росту после четырёх кварталов снижения продаж.

Источник изображения: Samsung

На втором месте в рейтинге располагается SK Group (SK hynix и Solidigm), нарастившая продажи в квартальном исчислении на 4,0 % — до $389 млн. При этом рыночная доля не изменилась — 24,9 %. Повышению выручки SK Group способствовал рост заказов со стороны ключевых клиентов. Замыкает тройку Micron с $234 млн и прибавкой в 9,3 % в квартальном исчислении. Доля этой компании поднялась с 14,3 % до 15,0 %, чему способствовал рост заказов со стороны OEM-производителей серверов.

Kioxia находится на четвёртом месте: стабильный спрос на продукты PCIe 4.0 и возросшая потребность в изделиях SAS помогли компании нарастить выручку до $210 млн в III квартале, что на 2 % больше по сравнению со II четвертью 2023-го. Доля составила 13,3 % против 13,6 % кварталом ранее.

Пятёрку закрывает Western Digital, у которой продажи в квартальном исчислении сократились на 18,3 %, оказавшись на отметке $147 млн. Доля при этом упала с 12,0 % до 9,4 %. Снижение связано с тем, что Western Digital ориентируется прежде всего на североамериканских облачных провайдеров, которые в целом придерживались консервативной стратегии закупок.

Отмечается, что замедление экономического роста в 2023 году привело к сокращению корпоративных расходов, что спровоцировало и падение продаж SSD. В IV квартале ожидается восстановление контрактных цен, а также рост количества заказов. Это может привести к увеличению выручки на 20 % в квартальном сопоставлении.

Компания TrendForce подвела итоги исследования глобального рынка SSD в 2022 году. Несмотря на нормализацию работы каналов поставок и устранение дефицита комплектующих, отгрузки твердотельных накопителей сократились по сравнению с 2021-м на 10,7 %, составив приблизительно 114 млн единиц.

В тройку лидеров по поставкам SSD в 2022 году вошли Kingston, ADATA и Lexar с долями соответственно 28 %, 9 % и 8 %. При этом Kingston и ADATA не только сохранили позиции, но и продемонстрировали рост по сравнению с 2021-м. Что касается Lexar, то эта компания стремится увеличить продажи перед предстоящим выходом на биржу.

В десятку ведущих игроков мирового SSD-рынка также вошли Kimtigo (8 %), которая усилила позиции в индустриальном и OEM секторах, Netac (6 %), Colorful (5 %), PNY (3 %), Teclast (3 %), Gigabyte (3 %) и Transcend (3 %). Все прочие поставщики SSD сообща контролируют 24 % мировой отрасли.

Источник изображения: Kingston

В исследовании говорится, что в 2022 году пять ведущих производителей SSD заняли почти 60 % рынка; причём их доминирующее положение в будущем сохранится. В 2023 году мировая экономика всё ещё находится в тяжёлом положении, но производителям устройств на основе флеш-памяти постепенно сокращают объём запасов благодаря постоянному регулированию закупок.

Кроме того, к концу III квартала 2023-го общая рыночная обстановка изменилась на фоне резкого сокращения производства чипов NAND. Крупным поставщикам SSD со значительными финансовыми ресурсами удалось преодолеть кризис: по мнению аналитиков TrendForce, эти участники рынка в обозримом будущем продемонстрируют рост.

В технологическом плане активно развиваются китайские производители SSD-контроллеров: они массово поставляют решения с поддержкой PCIe 4.0, а также быстро продвигаются в разработке продуктов PCIe 5.0.