Компания Innodisk анонсировала модули памяти DDR5-6400 ёмкостью 64 Гбайт, предназначенные для задач с интенсивным использованием данных. Это могут быть приложения ИИ (в том числе генеративного), платформы смешанной реальности, большие языковые модели (LLM), автономные транспортные средства, телемедицинские системы и пр.

Изделия доступны в различных вариантах исполнения — CUDIMM, CSODIMM, ECC CUDIMM, ECC CSODIMM и RDIMM. Помимо версии на 64 Гбайт, серия включает варианты объёмом 8, 16, 32, 24 и 48 Гбайт.

Источник изображения: Innodisk

Модули функционируют при напряжении питания 1,1 В. Диапазон рабочих температур простирается от 0 до +95 °C. Реализована технология TVS (Transient Voltage Suppressor), которая обеспечивает защиту от перепадов напряжения. Контакты модулей имеют покрытие золотом толщиной 30 мкм, благодаря чему улучшается проводимость и обеспечивается защита от окисления: это увеличивает срок службы.

По заявлениям Innodisk, модули памяти DDR5-6400 полностью совместимы с новейшими процессорами AMD и Intel. Среди ключевых сфер применения изделий названы индустриальные и встраиваемые устройства, серверное оборудование, системы видеонаблюдения, платформы промышленной автоматизации и пр. В частности, память может поддерживать работу ресурсоёмких приложений ИИ на периферии. Применительно к телемедицине 3D-визуализация с высоким разрешением и анализ данных в режиме реального времени позволят удалённо проводить пациентам хирургические операции с высокой точностью, говорит компания.

Компания SMART Modular анонсировала SSD семейства T6EN, предназначенные для использования в аэрокосмической и промышленной сферах, а также в оборонном секторе. В серию вошли изделия в трёх вариантах исполнения — U.2, EDSFF E1.S и M.2 2280.

Все накопители выполнены на основе чипов флеш-памяти 3D TLC. Задействован интерфейс PCIe 4.0 x4. Диапазон рабочих температур простирается от -40 до +85 °C. Заявленный показатель MTBF (средняя наработка на отказ) превышает 2 млн часов. Говорится о поддержке TCG Opal 2.0 и шифрования AES-256.

Устройства T6EN U.2 доступны в вариантах вместимостью 960 Гбайт, а также 1,92, 3,84, 7,68 и 15,36 Тбайт. Скорость последовательного чтения достигает 3500 Мбайт/с, скорость последовательной записи — 3000 Мбайт/с. Значение IOPS (операций ввода/вывода в секунду) при работе с блоками данных по 4 Кбайт — до 390 тыс. при произвольном чтении и до 55 тыс. при произвольной записи.

Источник изображения: SMART Modular

Решения EDSFF E1.S обладают аналогичными показателями быстродействия, но у них максимальная ёмкость составляет 7,68 Тбайт. Наконец, SSD формата M.2 2280 обеспечивают скорость последовательного чтения и записи до 3200 Мбайт/с. Величина IOPS — до 390 тыс. при произвольном чтении и до 50 тыс. при произвольной записи. Максимальная вместимость равна 7,68 Тбайт.

Для всех изделий в качестве опции доступно специальное конформное покрытие, предназначенное для защиты от негативного влияния факторов окружающей среды: повышенных температур, влаги, загрязнений, химических веществ и механических воздействий.

В ходе мероприятия SK AI Summit 2024 глава южнокорейского оператора SK Telecom Рю Ён Сан (Ryu Young-sang) объявил, что стратегия компании будет связана с тремя основными компонентами: ИИ ЦОД, облачным доступом к ИИ-ускорителям (GPUaaS) и периферийными ИИ-сервисами (Edge AI). По данным блога IEEE ComSoc, компания рассчитывает развивать соответствующий бизнес в Южной Корее и в Азиатско-Тихоокеанском регионе (АТР), а также за его пределами, в том числе с партнёрами.

SK Telecom намерена построить в ключевых регионах страны и за её пределами ИИ ЦОД гиперскейл-уровня, став инфраструктурным ИИ-хабом для всего АТР. Компания также будет предоставлять облачный доступ к ИИ-ускорителям, чтобы компенсировать их дефицит в Южной Корее и развернёт периферийную ИИ-инфраструктуру для быстрого обслуживания оконечных устройств.

SK Telecom начнёт строительство «небольших» ИИ ЦОД ёмкостью от 100 МВт каждый, со временем доведя общую ёмкость до нескольких гигаватт. В Корее дата-центры смогут рассчитывать на стабильные поставки энергии из возобновляемых источников на основе водородной, солнечной или ветряной энергетики. Дополнят ЦОД международные ВОЛС. При этом «материнская» SK Group намерена задействовать для обеспечения работы все свои ресурсы, от передовых полупроводников до систем погружного охлаждения и других технологий.

Источник изображения: SK Telecom

SK Telecom намерена уже в декабре развернуть тестовый ИИ ЦОД в Южной Корее для испытания комбинации технологий SK Group и партнёров. В частности, в ЦОД будут испытывать три типа СЖО: прямое жидкостное охлаждение, иммерсионное охлаждение и прецизионное жидкостного охлаждения (Precision Liquid Cooling, PLC). Там же проведут испытания чипов SK hynix, включая передовую память HBM, решения для виртуализации ускорителей и ИИ-технологии оптимизации энергозатрат.

Один из имеющихся ЦОД в Гасане в спешном порядке оснастят современными ускорителями. С декабря в рамках GPUaaS станут доступны NVIDIA H100 — это совместный проект с американской Lambda Labs. В марте 2025 года планируется развернуть NVIDIA H200. Наконец, периферийные сервисы Edge AI задействуют национальную телеком-инфраструктуру, чтобы «установить контакт» между ЦОД и ИИ на оконечных устройствах.

Сейчас SK Telecom проводит исследования совместно с партнёрами со всего мира, изучая пути возможности развития ИИ-инфраструктуры и разработки новых ИИ-сервисов в области здравоохранения, робототехники, видеонаблюдения и др. В компании утверждают, что если раньше конкуренция в сфере телекоммуникаций была связана в основном со скоростью и ёмкостью каналов, то теперь «парадигму сетевой эволюции» следует изменить — будущие 6G-сети эволюционируют в ИИ-инфраструктуру следующего поколения, где коммуникации и ИИ интегрированы.

Системам генеративного ИИ требуются самые разные ресурсы, но в некоторых сферах их нехватка может носить критический характер. По данным DigiTimes, серьёзную проблему может составить нехватка качественных массивов данных, рост потребления электроэнергии и пресной воды, а также дефицит поставок меди для IT-индустрии.

Как сообщают эксперты CB Insights, к 2026 году может снизиться доступность высококачественных данных для обучения языковых моделей. В результате их разработчикам придётся полагаться либо на дорогие лицензированные данные, либо на синтезированные самим же ИИ наборы данных. С 2022 года около 50 вендоров уже вышли на рынок синтетических данных для обучения, а ещё 30 компаний ищут средства.

Однако выход на этот рынок гигантов вроде Microsoft и Meta✴ сократил возможности привлечения средств стартапами. В 2024 году в этой сфере отмечены всего пять раундов финансирования, тогда как в 2022 году был 21 раунд. Кроме того, теперь в некоторых стартапах соответствующего профиля начались и увольнения, а израильская Datagen, основанная ещё в 2018 году, подала заявление о банкротстве. При этом Scale AI, основанная чуть раньше, сумела привлечь $1 млрд.

Источник изображения: Christian Dubovan/unsplash.com

Развитие ИИ также значительно увеличивает энергопотребление, например, ИИ-поиск Google, по слухам, требует в 10 раз больше энергии, чем обычный. По информации Международного энергетического агентства (IEA), спрос на электроэнергию, связанный ЦОД. ИИ и криптовалютами, достиг в 2022 году 460 ТВт∙ч, а к 2026 году должен вырасти до 620–1050 ТВт∙ч.

По оценкам IEA к 2026 году отрасли на основе ИИ, возможно, будут потреблять в 10 раз больше энергии, чем в 2023 году. Компенсировать спрос частично могут технологические инновации в сфере энергетики. Исследователи Central Research Institute of Electric Power Industry (CRIEPI) отмечают, что развитие энергосберегающих технологий может вдвое снизить рост спроса на электричество. Впрочем, коммерческая судьба таких проектов не всегда благоприятна.

Источник изображения: Jani Brumat / Unsplash

Развитию ИИ угрожает и рост потребления воды системами охлаждения ЦОД. В 2023 году Microsoft сообщала о 23-% росте потребления воды до 7,844 млн м³, в основном из-за расширения ЦОД. Например, обучение модели OpenAI GPT-3 с 175 млрд параметров потребовало 700 м³ только на охлаждение серверов в новейшем американском ЦОД Microsoft. С учётом воды, потраченной при генерации энергии и производстве оборудования, расход составил и вовсе 5,4 тыс. м³. А при эксплуатации GPT-3 каждый диалог из 10–50 запросов обходился в 0,5 л воды. К 2027 году спрос на воду на охлаждение и производство энергии во всех ЦОД должен достичь 4,2–6,6 млрд м³/год. Приблизительно столько за полгода потребляет Великобритания.

Источник изображения: Ra Dragon / Unsplash

Наконец, угрозу индустрии ИИ представляет дефицит меди. Спрос на медь растёт вместе со спросом на возобновляемую энергию, электротранспорт и генеративный ИИ. По данным JPMorgan Chase & Co. К 2030 году только ИИ ЦОД могут требовать 2,6 млн т меди ежегодно. Каждый дополнительный МВт ёмкости может требовать 20–40 т меди. Дефицит предложения меди по прогнозам вырастет до 4 млн т в год к 2030 году, спрос ИИ-индустрии добавит этому показателю ещё 2,6 млн т. Здесь тоже могут помочь новые технологии, способные прямо или косвенно снизить спрос или замедлить его рост.

По оценкам Macquarie Investment Bank, ежегодный рост спроса на медь может быть ограничен 200 тыс. т до 2030 года — другие аналитики куда более пессимистичны. Оценка потребления для ЦОД составляет 27 т/МВт, что приблизительно соответствует оценкам JPMorgan. В Macquarie отмечают, что технологии энергосбережения помогут компенсировать рост энергопотребления ИИ-инфраструктурой, а также рост использования меди в отрасли.

Nautilus Data Technologies выставила свой смонтированный на барже ЦОД в Стоктоне (Калифорния) на продажу. По информации Datacenter Dynamics, это первый коммерческий плавучий ЦОД Nautilus, от которого компания решила отказаться, чтобы и сфокусироваться на продвижении других проектов, в частности, экоустойчивых модульных платформ EcoCore.

ЦОД уровня Tier III введён в эксплуатацию в 2021 году. ЦОД использует воду в качестве внешнего охлаждающего контура, благодаря чему уровень PUE не превышает 1,15 круглый год. Поддерживаются стойки мощностью до 55 кВт. Объект площадью 1858 м² состоит из четырёх машинных залов. На земле расположено офисное здание и склад. На сегодня клиентами арендованы 5,58 МВт из имеющихся 6,5 МВт.

Источник изображения: Nautilus Data Technologies

Весь комплекс доступен для покупки за $45 млн, при этом Nautilus намерена сохранить за собой долю в 15 %. Также компания объявила, что может поделиться практическим опытом эксплуатации необычного дата-центра. В компании заявляют, что объект в Стоктоне доказал жизнеспособность и эффективность подхода, а полученный опыт лёг в основу EcoCore COOL и других инфраструктурных решений, которые компания намерена продвигать на мировом рынке ЦОЛ.

Компания разрабатывает несколько собственных проектов ЦОД, включая наземный в штате Мэн и плавучие объекты в США и Франции. Однако дальше планов, по-видимому, дело не пошло, поскольку для успешного завершения проектов требуются партнёры и инвестиции. Впрочем, теперь компания сфокусирована на EcoCore. Ранее сообщалось, что Nautilus будет поставлять модули EcoCore для кампуса Start Campus в Португалии, полноценная реализация которого тоже под вопросом.

План компании Meta✴ по строительству дата-центра с питанием от АЭС столкнулся с неожиданным препятствием. По данным The Register, его реализации помешали насекомые, точнее — редкий вид пчёл, обосновавшийся на «спорной» территории.

По словам главы компании Марка Цукерберга (Mark Zuckerberg), обнаружение редкого вида насекомых на участке будущей стройки оказало влияние на решение регуляторов, в конце концов отклонивших проект ЦОД, сообщает Financial Times. Meta✴ вела переговоры об энергоснабжении нового ИИ ЦОД с оператором действующей электростанции, рассчитывая получать безуглеродную энергию в больших объёмах.

Неизвестно, где именно должны были построить ЦОД. В 2018 году Electric Power Research Institute (EPRI), занимающаяся исследованиями чистой энергетики, выступил с инициативой Power-In-Pollinators, в рамках которой энергокомпании должны были поддержать насекомых-опылителей вроде пчёл и бабочек. В частности, речь шла о восстановлении их популяций на территории бывших АЭС. Сегодня EPRI Pollinator Stewardship Dashboard включает 19 компаний-участников.

Источник изображения: Sandy Millar/unsplash.com

ИИ-вычисления требуют немало энергии, поэтому гиперскейлеры в США заинтересованы в атомных проектах для удовлетворения спроса на электричество без использования ископаемого топлива. В сентябре Microsoft заключила сделку сроком на 20 лет, связанную с возобновлением работы АЭС Three Mile Island (Crane Clean Energy Center). В прошлом месяце Google объявила о сделке с Kairos Power о покупке энергии, полученной от малых модульных реакторов (SMR). Oracle заявила, что получила разрешения на строительство трёх SMR для питания ИИ ЦОД ёмкостью более 1 ГВт.

В недавнем отчёте о финансах Meta✴ подняла нижний порог капитальных затрат в 2024 году с $37 млрд до $38 млрд, верхний порог сохранился на уровне $40 млрд. Значительная часть этих расходов предназначена для строительства и обслуживания ИИ ЦОД. Впрочем, с препятствиями в попытке получить атомную энергию для своих ЦОД столкнулась и Amazon — регулятор отказал в увеличении поставок энергии кампусу AWS от АЭС Susquehanna.

AMD и Fujitsu объявили о подписании меморандума о взаимопонимании с целью формирования стратегического партнёрства, направленного на создание вычислительных платформ для ИИ и HPC. Предполагается, что сотрудничество охватит различные сферы — от разработки специализированных решений до коммерциализации.

Речь идёт об объединении передовых аппаратных решений в области CPU и GPU с сопутствующим ПО. Партнёры намерены содействовать формированию открытой экосистемы для задач ИИ. В частности, упомянуты Arm-процессоры Fujitsu MONAKA и ускорители AMD Instinct. Стороны намерены задействовать открытый программный стек AMD ROCm и специализированный софт Fujitsu для изделий с архитектурой Arm.

В целом, сотрудничество будет сосредоточено на трёх ключевых направлениях — инжиниринг, экосистемы и бизнес. Партнёры рассчитывают создать инновационные вычислительные платформы для ИИ и HPC к 2027 году. AMD и Fujitsu также будут сообща работать над маркетинговыми кампаниями и улучшать взаимодействие с заказчиками. Например, планируется создание совместного центра для клиентов.

Источник изображения: AMD

«Объединяя инновационную технологию графических чипов AMD с эффективными и высокопроизводительными процессорами Fujitsu, мы стремимся создать среду, в которой больше компаний смогут использовать инструменты ИИ при одновременном снижении энергопотребления в дата-центрах», — говорит Вивек Махаджан (Vivek Mahajan), корпоративный вице-президент и технический директор Fujitsu.

Нужно отметить, что ранее Fujitsu заключила соглашение о сотрудничестве с Supermicro. Компании займутся разработкой СЖО для ЦОД, а также серверов следующего поколения на чипах Fujitsu MONAKA для широкого спектра рабочих нагрузок — от ИИ и НРС до облачных и периферийных задач. Два года назад AMD также подписала аналогичное соглашение о сотрудничестве с европейским разработчиком серверных Arm-процессоров SiPearl.

Microsoft и CoreWeave являются конкурентами на рынке ИИ-решений, но это не мешает Microsoft быть крупнейшим клиентом стартапа. Затраты Microsoft на аренду серверов у CoreWeave в период с 2023 по 2030 год составят почти $10 млрд, пишет ресурс The Information. Эта сумма больше, чем сообщалось ранее, и составляет более половины от всех имеющихся у CoreWeave контрактов с клиентами в объёме $17 млрд, отметил ресурс, ссылаясь на комментарии компании в ходе общения с инвесторами.

Недавно CoreWeave получила кредитную линию на $650 млн от нескольких инвестиционных банков, включая JPMorgan Chase, Goldman Sachs и Morgan Stanley. До этого CoreWeave за 12 месяцев привлекла $12,7 млрд в виде акционерного и долгового финансирования, включая раунд долгового финансирования на $7,5 млрд в мае. Также компания в августе 2023 года привлекла $2,3 млрд в виде долга под залог ускорителей NVIDIA от ряда инвесторов. Кроме того, в компанию инвестировала и сама NVIDIA.

Источник изображения: CoreWeave

CoreWeave, основанная в 2017 году в Роузленде (штат Нью-Джерси), предоставляет облачный доступ на правах аренды к самым передовым ускорителям NVIDIA в своих 14 ЦОД. К концу года компания планирует открыть ещё 28 ЦОД. Ранее сообщалось о подготовке CoreWeave к первичному публичному размещению ценных бумаг (IPO), которое может пройти в начале 2025 года.

Сама Microsoft стремительно наращивает закупки суперускорителей NVIDIA GB200 NVL нового поколения и намерена агрессивно масштабировать свои вычислительные ресурсы. Причём не только для себя — Microsoft арендует у Oracle ускорители для нужд OpenAI.

Компания SK hynix на мероприятии SK AI Summit в Сеуле (Южная Корея) сообщила о разработке первых в отрасли 16-ярусных чипов памяти HBM3E, ёмкость которых составляет 48 Гбайт. Клиенты получат образцы таких изделий в начале 2025 года.

Генеральный директор SK hynix Квак Но-Джунг (Kwak Noh-Jung) сообщил, что компания намерена трансформироваться в поставщика ИИ-памяти «полного стека». Ассортимент продукции будет охватывать изделия всех типов — от DRAM до NAND. При этом планируется налаживание тесного сотрудничества с заинтересованными сторонами.

Источник изображения: techpowerup.com

При производстве 16-Hi HBM3E компания будет применять передовую технологию Advanced MR-MUF, которая ранее использовалась при изготовлении 12-слойных продуктов. Память рассчитана на высокопроизводительные ИИ-ускорители. Утверждается, что 16-ярусные изделия по сравнению с 12-слойными аналогами обеспечивают прирост быстродействия на 18 % при обучении ИИ-моделей и на 32 % при инференсе.

SK hynix намерена предложить заказчикам кастомизируемые решения HBM с оптимизированной производительностью, которые будут соответствовать различным требованиям к ёмкости, пропускной способности и функциональности. Плюс к этому SK hynix планирует интегрировать логику непосредственно в кристаллы HBM4. Ранее говорилось, что компания рассчитывает начать поставки памяти HBM4 заказчикам во II половине 2025 года.

В числе других готовящихся продуктов SK hynix упоминает модули LPCAMM2 (Compression Attached Memory Module 2) для ПК и ЦОД, решения LPDDR5 и LPDDR6 с технологией производства 1c-класса, SSD с интерфейсом PCIe 6.0, накопители eSSD и UFS 5.0 большой вместимости на основе чипов флеш-памяти QLC NAND.

Избыток «зелёной» энергии, оказывается, не всегда полезен. В Нидерландах пришлось изменить правила для поставщиков энергии, чтобы избежать проблем в энергосетях. Datacenter Dynamics сообщает, что местные операторы сетей TenneT, Enexis, Liander и Stedin уже объявили о появлении дополнительной ёмкости после публикации новых норм Нидерландским управлением по делам потребителей и рынков (Netherlands Authority for Consumers and Markets).

В соответствии с новыми правилами операторы смогут требовать от производителей энергии при генерации от 1 МВт балансировать поставки в зависимости от спроса. Перегрузки сетей в стране могут возникать по причине большого числа подключений к сетям частных солнечных электростанций и сопутствующего роста рынка потребительских поставок энергии. По данным операторов, гибкий подход обеспечит сетям дополнительную ёмкость для подключения компаний и структур, находящихся сейчас в списке ожидания, и позволит более широко использовать солнечные панели домохозяйствами.

Источник изображения: Jon Moore / Unsplash

По новым правилам операторы энергосетей смогут договариваться с другими участниками рынка о том, как часто и по каким тарифам те будут отдавать энергию, в первую очередь во время пиковых нагрузок. В результате операторы будут посредниками, способными обеспечивать оптимальное использование общей ёмкости электросетей. Предполагается, что подобный подход позволит выкроить до 880 МВт дополнительной мощности, что достаточно для подключения большинства новых клиентов.

Впрочем, большая часть этой мощности ограничена муниципалитетами и территориями Нордостполдер, Фрисландией, Флевополдер, Гелдерланд, Утрехт и Лимбург, а в других регионах страны дополнительная мощность фактически недоступна несмотря на новые меры. Общий дисбаланс поставок и потребления, вероятно, сохранится минимум до 2029 года.

Источник изображения: Cindy Tang / Unsplash

Пока же в Нидерландах ждут присоединения к энергосетям дополнительные возобновляемые источники энергии на 3,64 ГВт. TenneT уже анонсировала значительные инвестиции в ЛЭП в 2024 году. По словам компании, в I полугодии она увеличила инвестиции в развитие до €4,6 млрд ($4,97 млрд), тогда как за аналогичный период прошлого года было потрачено €3,5 млрд. Рост в основном связан с активными вложениями в оффшорный проект на 2 ГВт и некоторые объекты на побережье страны.