Китайские техногиганты, включая игроков вроде Huawei и Baidu, а также стартапы активно запасают HBM-чипы Samsung Electronics. По данным агентства Reuters, это делается в ожидании новых ограничений со стороны США на поставки в КНР чипов, использующих американские технологии.

Как сообщают источники издания, компании наращивают закупки соответствующих чипов ещё с начала 2024 года, на долю китайских покупателей придётся порядка 30 % выручки Samsung от продаж HBM в I половине 2024 года. Экстренные меры наглядно демонстрируют нежелание Китая отказываться от технологических амбиций даже на фоне торговых войн с США и их союзниками.

Ранее Reuters сообщало, что американские власти намерены представить новые санкционные ограничения ещё до конца текущего месяца. Они призваны ограничить возможности китайской полупроводниковой индустрии. Источники сообщают, что в документах будут заданы и параметры для ограничений на поставки HBM-памяти. Министерство торговли США отказалось от комментариев, но на прошлой неделе заявило, что постоянно обновляет правила экспортного контроля для защиты национальной безопасности США и технологической экосистемы страны.

Источник изображения: Samsung

HBM-чипы считаются критически важными компонентами при разработке передовых ИИ-ускорителей. Возможности выпуска HBM пока доступны только трём производителям: южнокорейским SK Hynix и Samsung, а также американской Micron Technology. По данным информаторов Reuters, в Китае особым спросом пользуется вариант HBM2E, который отстаёт от передового HBM3E. Глобальный бум ИИ-технологий привёл к дефициту наиболее передовых решений.

По мнению экспертов, поскольку собственные китайские технологии в этой области ещё не слишком зрелые, спрос китайских компаний и организаций на сторонние HBM-чипы чрезвычайно велик, а Samsung оставалась единственной опцией, поскольку производственные мощности других производителей уже забронированы американскими ИИ-компаниями.

Хотя объёмы и стоимость запасённых Китаем HBM-чипов оценить нелегко, известно, что они используются компаниями самого разного профиля, а Huawei, например, применяет Samsung HBM2E для выпуска передовых ИИ-ускорителей Ascend. Впрочем, Huawei и CXMT уже сфокусировали внимание на разработке чипов HBM2 — они на три поколения отстают от HBM3E.

Тем не менее, американские санкции могут помешать новым китайским проектам. Более того, от них может больше пострадать Samsung, чем её ключевые соперники, которые меньше связаны с китайским рынком. Micron не продаёт HBM-чипы в Китай с прошлого года, а SK Hynix, чьими ключевыми клиентами являются компании вроде NVIDIA, специализируются на более современных решениях.

По данным Silicon Angle, американское Министерство юстиции взялось за сделку NVIDIA по покупке стартапа Run:ai, занимающегося разработкой софта для управления рабочими нагрузками ИИ. ПО позволяет более эффективно использовать вычислительные ресурсы при работе с ИИ-приложениями, что может оказаться помехой для бизнеса NVIDIA.

Информация о расследовании появилась у СМИ на прошлой неделе. Пару месяцев назад источники уже сообщали, что министерство расследует доминирующее положение NVIDIA на рынке ИИ-чипов. По данным источников сделку будут рассматривать независимо от предыдущего расследования.

Источник изображения: Romain Dancre/unsplash.com

NVIDIA купила стартап из Тель-Авива Run:ai (зарегистрированный как Runai Labs Ltd) в начале года за $700 млн. Ранее он уже привлёк от инвесторов порядка $118 млн. Предлагаемая им платформа позволяет расширить функциональность кластеров ускорителей и повысить их уровень утилизации. В Run:ai позволяет запускать на одном и том же ускорителе несколько задач. Также платформа позволит избегать конфликтов памяти, а также присущих ИИ-вычислениям ошибок.

Выполнение рабочих нагрузок может быть ускорено другими методами. Например, для обучения языковой модели разработчики разбивают её на части, каждую из которых тренируют на отдельном ускорителе. Фрагменты регулярно обмениваются данными в ходе обучения, но работа настроена благодаря Run:ai таким образом, что обмен данными происходит быстрее, а сеансы обучения выходят короче.

Другими словами, реализация ИИ-проектов может быть ускорена без добавления новых вычислительных ресурсов. Верно и обратное, задачи можно завершать с той же скоростью с использованием меньшего числа ускорителей. Как раз последний вариант привлёк внимание Министерства юстиции. Платформа, способная снизить количество необходимых ускорителей, может привести к тому, что некоторые клиенты станут покупать меньше продуктов NVIDIA. Чиновники подозревают IT-гиганта в том, что он намерен просто «похоронить» технологию, угрожающую её основному бизнесу.

Источник изображения: Run:ai

Изучаются и другие аспекты деятельности компании. Например, в министерстве желают знать, не ставит ли NVIDIA условием для доступа к своим ускорителям покупку клиентами других своих продуктов или не ставит ли она условием обязательство не покупать оборудование у конкурентов. В NVIDIA утверждают, что лидируют на рынке совершенно заслуженно, соблюдая все законы, а продукты компании открыты и доступны любым бизнесам — клиенты могут сами принять решение, которое подходит им лучше всего.

В прошлом месяце появлялась информация о том, что выдвинуть обвинения против NVIDIA намерен антимонопольный регулятор Франции. Вероятно, в поле зрения попадает набор инструментов CUDA для разработки ПО, используемого с ускорителями и видеокартами компании. Чиновников беспокоит и вложения NVIDIA в облачные компании, ориентирующиеся на ИИ, вроде CoreWeave, массово внедряющие ускорители компании в своей инфраструктуре. Предполагается, что инвестор сможет повлиять на предпочтения партнёров при покупке ускорителей и ПО.

Американская энергетическая компания Dominion Energy рассматривает целесообразность прямого подключения дата-центра к атомной электростанции в Коннектикуте (США). По данным Datacenter Dynamics, речь идёт об объекте близ АЭС Millstone Power Station в Уотерфорде. Соответствующую информацию подтвердил глава компании Роберт Блю (Robert Blue). Он заявил, что компания «безусловно открыта» для идеи строительства колокейшн-мощностей в районе АЭС.

По его словам, Dominion Energy чётко понимает, что колокейшн-объект имеет смысл как для самой компании, так и её контрагента и акционеров. Комментарии появились после того, как Amazon (AWS) в марте приобрела дата-центр компании Talen Energy, расположенный рядом с её же атомной станцией в Пенсильвании. AWS потратила $650 млн на приобретение кампуса Cumulus ёмкостью до 960 МВт. Здесь облачный гигант намерен построить15 зданий ЦОДв течение следующего десятилетия.

Источник изображения: Dominion Energy

Впрочем, не всё так гладко, как может показаться на первый взгляд. Американские энергокомпании American Electric Power (AEP) и Exelon пожаловались в Федеральную комиссию по регулированию энергетики США (FERC), поскольку их возмутил запрос на бесплатную транспортировку энергии с АЭС Susquehanna Steam Electric Station (SSES) в будущие дата-центры AWS.

Что касается Millstone Nuclear Power Plant, то она имеет мощность 2098 МВт, но до 2029 года 55 % вырабатываемой энергии станция обязана продавать третьей стороне по фиксированной стоимости в соответствии с подписанным ранее контрактом. По словам Блю, Dominion активно работает с несколькими потенциальными контрагентами для получения максимальной выгоды от новой сделки, когда истечёт текущее соглашение о покупке энергии.

Компания Nano Nuclear Energy Inc. подписала меморандум о взаимопонимании с криптомайнингвой Blockfusion Ventures — дочерней структурой Blockfusion USA, Inc. — документ предусматривает использование атомной энергии для питания ЦОД, передаёт Datacenter Dynamics.

Nano Nuclear изучит возможность интеграции своих микрореакторов в ЦОД Blockfusion, который размещается на месте закрытой и реконструированной угольной электростанции. ЦОД для криптомайнинга запитан от ГЭС, связанной с Ниагарским водопадом. Его ёмкость может составлять до 50 МВт. Впрочем, текущее состояние ЦОД под вопросом. В 2022 году на объекте взорвался трансформатор и случился пожар. Предполагается, что причиной стало неисправное оборудование энергоснабжающей организации. Вскоре после ремонта компания на время вынужденно остановила работу объекта по приказу местных властей.

Источник изображения: Nano Nuclear Energy

Основанная в 2021 году компания Nano разрабатывает портативные атомные микрореакторы. Модель Zeus, создаваемая для размещения в 45″ контейнере, оснащена модулем, который позволяет вырабатывать 1–2 МВт и не требует жидкого охладителя. Дополнительно разрабатывается реактор Odin с охлаждающей жидкостью низкого давления. В Nano рассказывают, что давно присматривались к ЦОД, занятыми ИИ, квантовыми вычислениями и майнингом. Впрочем, аналитики Hunterbrook Capital сомневаются в жизнеспособности Nano Nuclear, говоря, что у компании нет доходов и продукции, а руководители работают на полставки.

Малые модульные реакторы (SMR) часто рассматриваются в качестве оптимальных источников энергии с низким углеродным выбросом для дата-центров, они могли бы обеспечить объектам автономную работу и независимость от локальных энергосетей. В прошлом году блокчейн-компания Standard Power объявила о намерении приобрести 24 SMR у NuScale для двух ЦОД в США. А Equinix и Wyoming Hyperscale подписали соглашения о поставках SMR с компанией Oklo.

Компания Amazon подала в штате Делавэр (США) иск к Nokia, обвинив последнюю в нарушении дюжины патентов, связанных с облачными вычислениями. Как передаёт Reuters, в материалах дела указывается, что Nokia злоупотребляла технологиями AWS, используя их в собственных облачных решениях. Год назад Nokia сама обратилась в суд с просьбой призвать к ответственности Amazon в связи с нарушением патентов на технологии видеостриминга.

Сейчас Nokia заявила, что намерена изучить претензии Amazon и активно защищать свои права в суде. Amazon утверждает, что финская компания без разрешения использует технологии, изобретённые ей ещё в начале 2000-х годов, и просит суд заблокировать использование нарушающих её патенты решений Nokia, а также назначить денежную компенсацию.

В Amazon заявляют, что с момента основания AWS в 2006 году компания фундаментально трансформировала вычисления и коммуникации. До появления AWS масштабные вычисления, связанные с большими объёмами данных, полагались в основном на om-premise серверную инфраструктуру компаний. В Amazon добавили, что через 14 лет после запуска AWS Nokia анонсировала новую стратегию, связанную с облачными вычислениями, открыв подразделение Cloud and Network Services.

Источник изображения: Growtika/unsplash.com

AWS утверждает, что облачные решения Nokia предусматривают использование интеллектуальной собственности Amazon. Так, Nokia CloudBand опирается на патентованные механизмы конфигурирования виртуальных машин, управления распределённым выполнением приложений, автоматического масштабирования ресурсов и т.д. А Nokia Nuage Networks нарушает патенты, связанные с управлением коммуникациями в виртуальных сетях и эмуляцией физических сетевых устройств, дополняет DataCenter Dynamics.

Amazon не удержалась от колкостей, упомянув в иске, что неспособность Nokia оценить важность смартфонов чуть не довела компания до банкротства в 2013 году. В 186-страничном иске кропотливо упоминаются все случаи нарушения патентного законодательства, с цитатами маркетинговых и технических материалов Nokia, посвящённых облачным сервисам компании.

Не исключено, что взаимные иски связаны. Процесс, инициированный Nokia против Amazon в октябре 2023 года, до сих пор не закончен. Утверждается, что Amazon Prime Video и устройства для стриминга нарушают пакет мультимедийных патентов Nokia, связанных с разнообразными технологиями, включая методы сжатия и доставки видео, системы рекомендации контента и даже аппаратные решения.

Иск Amazon довольно необычен, поскольку Nokia практически забросила облачный бизнес летом 2023 года, признав, что у неё не хватит ресурсов, чтобы выдержать конкуренцию в этой области. Более того, Nokia является облачным партнёром AWS в Германии. Неизвестно, готова ли Amazon сражаться в суде до конца или просто пытается вынудить Nokia сесть за стол переговоров. Часто такие споры завершаются внесудебными договорённостями.

Аргоннская национальная лаборатория (ANL) Министерства энергетики США (DOE) обнародовала запрос на создание нового кластера хранения данных для своего парка суперкомпьютеров. Как сообщает ресурс Datacenter Dynamics, реализация проекта может обойтись в $15–$20 млн.

Речь идёт о создании СХД, которая обеспечит ёмкость и производительность, необходимые для поддержания работы действующих НРС-комплексов, а также будущих суперкомпьютеров. Отмечается, что на площадке Argonne Leadership Computing Facility (ALCF) развёрнуты несколько высокопроизводительных параллельных файловых систем для обработки данных, генерируемых исследователями и инженерами. Это, в частности две системы Lustre вместимостью 100 Пбайт с пропускной способностью 650 Гбайт/с. Обе они используют интерконнект Infiniband HDR.

Источник изображения: DOE

Новая СХД будет обладать ёмкостью на уровне 400 Пбайт. В число требований входят IOPS-производительность до 240 млн, пиковая пропускная способность в 6 Тбайт/с, совместимость с POSIX и возможность одновременного монтирования до 30 тыс. узлов. Поставщик должен обеспечивать поддержку в течение пяти лет.

Предполагается, что платформа будет использоваться суперкомпьютером Aurora, который в нынешнем рейтинге TOP500 занимает второе место с быстродействием 1,012 Эфлопс. Кроме того, доступ к СХД получит НРС-комплекс Polaris: его пиковая производительность составляет около 44 Пфлопс.

Проектируемая СХД должна обеспечивать «надёжность и масштабируемость, необходимые для следующего поколения HPC и ИИ». Поставку платформы исполнителю работ необходимо осуществить ко II или к IV кварталу 2025 года, если дополнительные полгода позволят внедрить новые технологии.

Занимающаяся управлением инвестициями компания Blackstone намерена вложить в развитие сети дата-центров $70 млрд. По данным Datacenter Dynamics, согласно последнему финансовому отчёту компании, объём её портфолио ЦОД, включая строящиеся объекты, уже достиг $55 млрд.

Глава Blackstone Стивен Шварцман (Stephen Schwarzman) сравнил последствия появления ИИ с эффектом от внедрения электрических лампочек. По его словам, хотя на разработку «коммерчески жизнеспособных» лампочек в своё время ушли годы, развитие электросетей в последующие десятилетия сопоставимо со строительством сети дата-центров для ИИ в наше время.

По прогнозам Шварцмана, в следующие пять лет в США инвестируют порядка $1 трлн в возведение и обслуживание новых ЦОД, ещё столько же будет потрачено за пределами страны. При этом потребность этих ЦОД в электричестве станет основным фактором 40-% роста спроса на электроэнергию в США в следующие десять лет. По этим причинам у компании откроются беспрецедентные возможности для инвестиций, так что Blackstone позиционирует себя как крупнейшего инвестора в ИИ-инфраструктуру.

Источник изображения: Josue Isai Ramos Figueroa/unsplash.com

QTS — крупнейший бизнес в области ЦОД в портфеле Blackstone — нарастил мощности в семь раз после того, как Blackstone купила его в 2021 году за $10 млрд. Также в прошлом году Blackstone объявила, что совместно с QTS потратит ещё $8 млрд на ИИ ЦОД. Компания также инвестировала в ЦОД Vnet, Lumina CloudInfra, Copeland, Park Place Technologies и Winthrop Technologies, а также совместные бизнесы аналогичного профиля с COPT, Digital Realty и другими игроками.

Как заявил Шварцман, компания предоставит акционерный и заёмный капитал и другим бизнесам, связанным с ИИ-проектами. В частности, во II квартале Blackstone обязалась предоставить CoreWeave $4,5 млрд заёмных средств из необходимых $7,5 млрд, а теперь основное внимание уделяется удовлетворению потребностей сектора ЦОД в энергоснабжении.

В Blackstone подчёркивают, что благодаря масштабным возможностям в сфере инфраструктуры, недвижимости, частного кредитования и источников возобновляемой энергии компания находится в чрезвычайно выгодном положении для того, чтобы стать для других бизнесов предпочтительным партнёром в области ЦОД.

Компания Microsoft совместно с магистральным провайдером Lumen Technologies (прежде CenturyLink) объявили о намерении масштабировать пропускную способность каналов связи между дата-центрами техногиганта. По данным The Register, на такие меры Microsoft намерена пойти из-за расширения бизнеса, связанного с ИИ-технологиями.

В рамках нового проекта Microsoft будет применять технологию частных сетей Private Connectivity Fabric компании Lumen, а общая пропускная способность между работающими с ИИ-нагрузками дата-центрами будет увеличена благодаря комбинации существующих и новых оптоволоконных линий.

Стремление Microsoft нарастить технологические возможности вполне объяснимо — компания рассчитывает получить максимальную отдачу от инвестиций в OpenAI и другие ИИ-стартапы. Поэтому IT-гигант пытается интегрировать ИИ почти во все свои продукты. При этом необходимо обрабатывать и передавать огромные объёмы данных, для чего существующей сетевой инфраструктуры ЦОД уже не хватает. Впрочем, пока неизвестно, какую дополнительную ширину каналов обеспечит Lumen для Microsoft. Сами партнёры сотрудничество пока не комментируют.

Источник изображения: Lumen Technoligies

При этом Lumen в рамках сделки обязалась перенести часть рабочих нагрузок в облако Microsoft Azure. Вероятно, ИИ-инструменты Microsoft будут интегрированы и в продукты Lumen. Кроме того, вероятно использование Lumen платформы Microsoft Entra, обеспечивающей управление идентификацией и контролем доступа. В Lumen рассчитывают, что подобная миграция позволит компании экономить более $20 млн уже в следующем году и повысить уровень обслуживания клиентов — не исключено, что часть функций компания передаст чат-ботам Microsoft на основе технологий OpenAI.

Глава Tesla Илон Маск (Elon Musk), по сообщению ресурса Tom's Hardware, обнародовал фотографии вычислительного комплекса Dojo, который будет использоваться для разработки инновационных автомобильных технологий, а также для обучения автопилота.

Tesla, напомним, начала создание ИИ-суперкомпьютера Dojo в июле 2023 года. Основой системы послужат специализированные чипы собственной разработки Tesla D1. Дата-центр Dojo, расположенный в штаб-квартире Tesla в Остине (Техас, США), по своей конструкции напоминает бункер. В апреле нынешнего года сообщалось, что при строительстве ЦОД компания Маска столкнулась с трудностями, связанными в том числе с доставкой необходимых материалов.

Как теперь сообщается, Tesla намерена ввести Dojo в эксплуатацию до конца 2024 года. По производительности этот суперкомпьютер будет сопоставим с кластером из 8 тыс. ускорителей NVIDIA H100. По словам Маска, это «не слишком много, но и не тривиально». Для сравнения: мощнейший ИИ-суперкомпьютер компании xAI, также курируемой Илоном Маском, объединит 100 тыс. карт H100.

Источник изображений: Илон Маск

Отмечается, что чипы Tesla D1 специально ориентированы на машинное обучение и анализ видеоданных. Поэтому систему Dojo планируется использовать прежде всего для совершенствования технологии автономного вождения Tesla путём обработки видеоданных, полученных от автомобилей компании. В свою очередь, «ИИ-гигафабрика» xAI поможет в развитии чат-ботов Grok следующего поколения.

Маск также сообщил, что компания Tesla намерена «удвоить усилия» по разработке и развертыванию Dojo из-за высоких цен на оборудование NVIDIA. Вместе с тем финансовый директор Tesla Вайбхав Танеджа (Vaibhav Taneja) заявил, что, несмотря на снижение капвложений во II квартале 2024 года, компания по-прежнему ожидает, что соответствующие затраты превысят $10 млрд.

Amazon Web Services (AWS) планирует подписать PPA-соглашение о покупке 20 МВт «зелёной» энергии с производителем топливных элементов Bloom Energy. По информации Datacenter Dynamics, сделка заключена с прицелом на открытие нового дата-центра в Кремниевой долине, где ожидается бум строительства ЦОД.

Местная энергетическая компания Silicon Valley Power (SVP) разрешила строительство собственных генерирующих мощностей в Санта-Кларе для удовлетворения растущего спроса со стороны ЦОД. AWS рассчитывает использовать для генерации газ, так что для дата-центра 2315 MCB уже готовится подстанция — объект на четыре трансформатора с номинальной мощностью 99 МВА. Два трансформатора строятся уже сейчас. В документах городских властей сообщается, что ЦОД обычно используют 55 % номинальной мощности. Предполагается, что электричество будет на 50 % дороже в сравнении с текущими тарифами SVP для промышленных предприятий.

Изначально в своём ЦОД AWS намерена освоить 9 МВА, но в течение 10 лет (к 2034 году) мощность должна вырасти до 32 МВА. PPA, заключённые с Bloom Energy, обеспечат дополнительную энергию. Ожидается, что Amazon покроет все расходы, включая оплату работы сотрудников SVP, обслуживание оборудования, закупки газа и прочие издержки. В первый год проект обойдётся в $35 млн, включая взнос в 5 % в городской фонд. Кроме того, включена стоимость REC-кредитов на возобновляемую энергию для «компенсации» использования природного газа.

Источник изображения: Paul Hanaoka/unsplash.com

В ходе собрания, посвящённого проекту, представитель городских властей сообщил, что как минимум четыре дополнительных клиента намерены заключить аналогичные сделки. Ранее AWS заявляла, что будет использовать топливные элементы Bloom Energy в Орегоне на 72 МВт с питанием от природного газа, но в июне от планов пришлось отказаться, из-за местной критики относительно высоких углеродных выбросов.

По данным Управления энергетической информации США (US Energy Information Administration, EIA), при генерации электричества с использованием угля выделяется 1 кг CO₂ на кВт∙ч, нефти — 1,1 кг, а природного газа — 430 г. А вот при использовании солнечных элементов выделяется 48 г/кВт∙ч, энергии ветра — 12 г/кВт∙ч, атомной энергии — 12 г/кВт∙ч.

Ранее в этом месяце инициативная группа сотрудников AWS (AECJ) заявила, что компания искажает сведения о степени экобезопасности её ЦОД, раскритиковав использование REC-сертификатов на возобновляемую энергию. Исследование AECJ показало, что это «низкокачественные» сертификаты, которые никак не способствуют развитию зелёной энергетики — фактически речь идёт о торговле бумажными заявками на электричество, «которое другие люди уже сгенерировали и использовали».