Американские гиперскейлеры призывают ирландское правительство позволить строить собственные частные линии электропередач. Datacenter Dynamics сообщает, что такие энергетические магистрали свяжут дата-центры с объектами возобновляемой энергетики. Благодаря этому можно будет вновь строить дата-центры близ ирландской столицы.

Фактически в районе «Большого Дублина» действует мораторий на строительство новых кампусов ЦОД. Государственный оператор энергосетей EirGrid заявил, что пока не будет принимать заявки на подключение новых объектов соответствующего типа до 2028 года. В Ирландии, как и в Нидерландах, больше не рады гиперскейлерам.

Но если верить последним сведения, Google, Amazon и Microsoft намерены добиться от властей разрешения напрямую связать свои дата-центры с солнечными и ветряными электростанциями. Компании уверены, что это снизит нагрузку на уже существующие линии в Дублине. Пока же строить линии электропередач в Ирландии имеет право лишь государственная структура Electricity Supply Board (ESB), но гиперскейлеры уверены, что у них получится сделать то же самое дешевле и быстрее.

Источник изображения: Gabriel Ramos/unsplash.com

После начала публичных слушаний в прошлом году ирландское правительство пообещало обнародовать политику относительно частных ЛЭП ещё в I квартале 2024 года, но так и не сделало этого. Пока действует мораторий, компании ищут альтернативы. Так, Microsoft и Vantage предпочли построить собственные ТЭС на территории своих кампусов. Изучаются и возможность питания от топливных ячеек и создания энергохранилищ.

В соседней Великобритании энергокомпания Octopus, по слухам, построит собственные мачты линий электропередач, чтобы помочь расширить местные электросети. Провайдер уже ведёт переговоры с регулятором Ofgem и надеется, что оператор National Grid откажется от монополии в Англии и Уэльсе.

По оценкам аналитической фирмы Tech Insights, которые приводит ресурс HPC Wire, компания NVIDIA в 2023 году отгрузила приблизительно 3,76 млн ускорителей на базе GPU, ориентированных на ЦОД. Это более чем на 1 млн штук превосходит результат 2022 года, когда поставки таких изделий оценивались в 2,64 млн единиц.

С учётом решений AMD и Intel общий объём поставок GPU-ускорителей для ЦОД в 2023 году составил 3,85 млн единиц против примерно 2,67 млн штук в 2022 году. Правда, столь малая доля отгрузок решений AMD и Intel вызывает некоторые сомнения. Как отмечает аналитик Tech Insights Джеймс Сандерс (James Sanders), в настоящее время на рынке не хватает аппаратных ресурсов для удовлетворения всех ИИ-потребностей. А поэтому будет расти спрос на ускорители и специализированные чипы разработчиков, конкурирующих с NVIDIA.

Согласно подсчётам TechInsights, по итогам 2023-го NVIDIA контролировала около 98 % мирового рынка ускорителей на базе GPU для дата-центров. Схожий результат компания продемонстрировала и годом ранее. Такой рост связан со стремительным развитием ИИ-приложений и увеличением спроса на НРС-системы. При этом на NVIDIA приходится и 98 % выручки от реализации таких ускорителей: в 2023 году они принесли компании $36,2 млрд, что более чем в три раза превышает прошлогодний показатель в $10,9 млрд.

По данным TechInsights, в 2023 году AMD поставила около 50 тыс. ускорителей для ЦОД, а Intel — примерно 40 тыс. единиц (в оригинальном материале HPCWire указаны на порядок более высокие значения; корректировка сделана в соответствии с оставшейся долей в 2 % рынка). В 2024-м, как полагают эксперты, спрос на такие продукты в глобальном масштабе поднимется. Речь, в частности, идёт об ускорителях серии Instinct MI300, разработанных AMD. При этом AMD заявляет, что намерена выпускать новые решения ежегодно: ускоритель MI325X запланирован на 2024 год, MI350 — на 2025-й, а MI400 — на 2026-й. В свою очередь, Intel продвигает изделия Gaudi3.

Специализированные ИИ-чипы проектируют и ведущие гиперскейлеры. Так, AWS в конце прошлого года представила ИИ-ускоритель Trainium2, предназначенный для обучения нейронных сетей. Google анонсировала изделия Cloud TPU v5p, а Microsoft — Maia 100. Meta✴ намерена активно внедрять собственные ИИ-ускорители Artemis.

Подразделение системного интегратора Telkom Group, компания BCX, объединила усилия с Alibaba для организации облачных сервисов Alibaba Cloud в Мозамбике. По данным Datacenter Dynamics, BCX обеспечит хостинг т.н. Africa Local Public (ALP) Cloud в дата-центре в Мапуту.

По словам главы BCX, сотрудничество с Alibaba Cloud позволяет предоставлять новейшие технологии при посредничестве местной компании, которая понимает сложности и особенности ведения бизнеса на африканском континенте. В BCX признают чрезвычайную важность цифрового суверенитета для мозамбикского бизнеса, поэтому BCX и запустила облако ALP Cloud в Мапуту. Говорится о нескольких зонах доступности, местной службе поддержки и возможности оплаты в местной валюте.

Источник изображения: Rohan Reddy/unsplash.com

Это уже вторая африканская страна, где появились облачные сервисы Africa Local Public Cloud компании Alibaba. Запуск в Южной Африке состоялся ещё в октябре 2023 года. Китайская компания разместила свои сервисы в двух южноафриканских ЦОД, создав две зоны доступности — в ЦОД BCX в Мидранде и принадлежащем Teraco Data Environment дата-центре в Исандо. Следующий этап внедрения ALP Cloud предусматривает создание зоны доступности в ЦОД в Кейптауне. Также в Южной Африке предлагают свои облачные сервисы Microsoft Azure, Amazon (AWS) и Google.

BCX, основанная в 1996 году как Business Connexion, считается одним из крупнейших системных интеграторов в Африке, Telkom Group купила бизнес в 2015 году. BCX анонсировала партнёрство с Alibaba в октябре 2022 года — африканскому контрагенту дали эксклюзивные права распространять продукты и сервисы Alibaba Cloud в Южной Африке. Сегодня Alibaba управляет 89 зонами доступности в 30 регионах по всему миру.

Китайская холдинговая интернет-компания ByteDance, владеющая в том числе платформой TikTok, по сообщению Datacenter Dynamics, реализует масштабный проект по расширению кампуса ЦОД в Малайзии. Речь идёт о создании хаба, рассчитанного на поддержание ИИ-нагрузок.

Об инициативе объявил министр инвестиций, торговли и промышленности Малайзии Тенгку Зафрул Азиз (Tengku Zafrul Aziz) после встречи с вице-президентом TikTok Хеленой Лерш (Helena Lersch). В общей сложности на ИИ-хаб в этой стране ByteDance потратит около $2,13 млрд.

Отмечается, что ByteDance является якорным арендатором крупного кампуса ЦОД Bridge Data Centers (BDC) MY06 в технопарке Седенак в Джохоре. Не исключено, что часть средств будет направлена на модернизацию этой площадки. Как сообщил Тенгку Зафрул Азиз, ByteDance вложит примерно $317 млн в расширение возможностей своего дата-центра. Подробности о проекте пока не раскрываются.

Источник изображения: Bridge Data Centres

Комплекс MY06 открылся в 2022 году: мощность площадки на момент ввода в эксплуатацию составляла 110 МВт. По заявлениям BDC, это крупнейший ЦОД такого типа в Малайзии. Однако Yondr Group планирует создать в названном технопарке кампус мощностью 300 МВт. Компания уже получила кредит в размере $150 млн для финансирования строительства объекта.

Нужно отметить, что кампусы ЦОД в Малайзии создают ведущие мировые гиперскейлеры. В частности, Google вложит $2 млрд в ЦОД и облако в этой стране, тогда как Microsoft намерена потратить на аналогичные проекты $2,2 млрд. Equinix уже открыла в Малайзии два своих первых дата-центра. Вместе с тем NVIDIA и YTL Power (YTLP), энергетическое подразделение малайзийского конгломерата YTL, занялись созданием ИИ-облака и суперкомпьютеров в стране: общий объём инвестиций составит $4,3 млрд.

Таким образом, Малайзия становится всё ближе к тому, чтобы действительно стать новым IT-хабом Юго-Восточной Азии, тогда как соседний Сингапур, по-видимому, продолжит терять лидерские позиции из-за энергетического кризиса.

Оператор ЦОД Equinix запускает программу передачи тепла сети дата-центров IBX в системы центрального отопления и сейчас находится в поисках партнёров, готовых принять это тепло. По данным Datacenter Dynamics, компания предлагает принять участие в проекте властям муниципалитетов, энергетическим компаниям и также операторам теплосетей в рамках программы Equinix Heat Export.

Как заявляют в Equinix, практически полезную передачу тепла возможно организовать только при сотрудничестве с операторами инфраструктуры, поставщиками энергии и местными властями — всё во имя блага людей и планеты, говорит компания. Впрочем, истинной причиной появления столь масштабной программы являются скорее законодательные инициативы в области экологии и устойчивого развития. К тому же ЦОД сейчас становятся всё более энергоёмкими и горячими из-за активного внедрения ИИ. Equinix заявила, что уже реализовала некоторые схожие проекты в области отопления во Франции, Финляндии, Германии, Ирландии, Швейцарии и Канаде.

Источник изображения: Equinix

Уже в следующем месяце Equinix начнёт экспортировать тепло из парижского ЦОД PA10, которое, в частности, направят в Олимпийский водный центр. В Канаде (Торонто) тепло ЦОД TR5 распределяется между многочисленными жилыми зданиями, а также ближайшей гостиницей, университетом и местным торговым центром. Кроме того, круглый год ЦОД обеспечивает многочисленные здания горячей водой при посредничестве партнёра Markham District Energy.

Системы рекуперации и утилизации избыточного тепла применяют atNorth, Google, Apple, Microsoft, Green Mountain, Amazon, JD.com, VodafoneZiggo, Penta Infra, nLighten, Digital Realty, Stack, Elisa и другие бизнесы, прямо или косвенно относящиеся к рынку дата-центров. Например, всё чаще тепло ЦОД используется для обогрева бассейнов, бань и даже аквапарков.

По мнению экспертов IT-отрасли, решение Сингапура частично отказаться от моратория на строительство новых ЦОД и «разблокировать» 300 МВт для дата-центров вряд ли принесёт действительно значимые плоды. Datacenter Dynamics ссылается на доклад BMI, не сулящий новой инициативе ничего хорошего.

Сингапур ожидает, что в страну вернутся инвесторы, желающие строить и расширять дата-центры. Хотя в городе-государстве фактически введён мораторий на строительство новых кампусов, некоторые послабления всё же делаются. Высвободить сотни мегаватт для новых проектов поможет переход уже существующих в стране ЦОД на более энергоэффективные «зелёные» технологии. Так, Equinix, Microsoft, AirTrunk и GDS недавно получили разрешения увеличить ёмкость ЦОД всего на 80 МВт.

Источник изображения: R.H. Lee/unsplash.com

Проблема в том, что на роль нового IT-хаба уже претендует соседняя Малайзия, где с энергоресурсами всё значительно лучше, а также другие страны Азиатско-Тихоокеанского региона. В докладе BMI пессимистично прогнозируется, что никакие усилия не помогут Сингапуру вновь привлечь инвесторов. Ключевым перспективным рынком становится именно Малайзия. Отмечается, что многие сингапурские бизнесы сами перенесли свои нагрузки к соседям. Именно поэтому Джохор (Малайзия) и Батам (Индонезия) получили масштабные инвестиции на строительство ЦОД в объёме 1800 МВт и 285 МВт соответственно.

Близость Сингапура и благоприятные условия — от привлекательных законов до стоимости труда и энергии — стали причиной быстрой миграции мощностей за пределы страны, отчаянно пытающейся сохранить лидерские позиции. В BMI утверждают, что новых 300 МВт не хватит для того, чтобы удовлетворить требования пользователей. Близкие развивающиеся рынки Юго-Восточной Азии в краткосрочной перспективе суммарно предложат порядка 2500 МВт.

Впрочем, представленный сингапурским регулятором Infocomm Media Development Authority (IMDA) план развития индустрии предполагает не только увеличение ёмкости за счёт повышения энергоэффективности действующих ЦОД, но и сотни мегаватт от новых источников чистой энергии.

Провайдер облачных сервисов CoreWeave официально объявил о планах расширения деятельности на территории континентальной Европы. Datacenter Dynamics сообщает, что компания намерена инвестировать $2,2 млрд в три дата-центра на континенте ещё до конца 2025 года.

Основанная в 2017 году компания, занимавшаяся изначально майнингом и другими блокчейн-технологиями, вовремя переключилась на предоставление облачного доступа к современным ИИ-ускорителям. Компания уже привлекла миллиарды долларов инвестиций и даже взяла немало средств в долг. Сейчас она располагает тремя основными регионами ЦОД: US East в Нью-Джерси, US West в Неваде и US Central в Чикаго (Иллинойс). Также имеются сведения об ещё одном регионе в Рино (тоже в Иллинойсе).

В Европе компания суммарно потратит $3,5 млрд, включая $1,3 млрд на дата-центры в Великобритании. Три новых ЦОД дополнят проекты CoreWeave в этой стране. В компании считают, что Европа станет новым фронтиром для ИИ-индустрии и важной точкой роста самой CoreWeave. По словам представителей оператора, его инфраструктура обеспечит европейскому облачному рынку вычислительные решения и инструменты, необходимые для удовлетворения спроса на ИИ-проекты следующего поколения.

Источник изображения: Coreweave

Хотя подробностей о вложениях известно не так уж много, уже есть данные, что CoreWeave будет инвестировать в кампусы на территории Швеции и Норвегии. Ранее сообщалось, что компания планирует открыть объект и в Испании — она уже искала технического специалиста для работы в ЦОД EdgeConneX в Барселоне. При этом официальных данных о реализации проекта в Испании не поступало.

Шведские власти приветствуют инвестиции в местные ЦОД, предрекая, что они усилят критическую ИИ-инфраструктуру в стране и сами по себе являются свидетельством уверенности бизнеса в шведском технологическом секторе и местном финансовом климате, привлекающем подобные компании. В Норвегии также поддерживают инициативу и, похоже, намерены превратить страну в хаб для технологического развития и реализации ИИ-проектов.

В последние 18 месяцев компания стремительно наращивает арендуемые ёмкости и ранее сообщала, что рассчитывает управлять 14 дата-центрами к концу 2023 года и 28 — к концу 2024. Она уже подписала соглашения с Lincoln Rackhouse, Chirisa, Flexential, TierPoint, Digital Realty и Core Scientific в нескольких штатах США, по всей стране открыты вакансии компании для технических специалистов.

Мировое потребление электричества дата-центрами может вырасти более чем вдвое к 2026 году. По данным AI Business, соответствующие данные содержатся в докладе Fueling the Future компании PGIM, специализирующейся на управлении активами. Одним из ключевых факторов, влияющих на энергопотребление, называются высокие нагрузки при обучении больших языковых моделей (LLM).

Более того, если сегодня на долю ЦОД приходится всего 2 % от всего потребляемого в мире электричества, то к 2030 году потреблением может стремительно вырасти — до более 20 %. Также сообщается, что развитые страны просто не успевают расширять свою электрическую инфраструктуру. Например, спрос на энергию со стороны ЦОД в Ирландии, где её и так не хватает, должен удвоиться к 2026 году, составив до трети общего потребления электричества страны.

Источник изображения: American Public Power Association/unsplash.com

В PGIM считают, что операторы дата-центров должны искать баланс между наращиванием вычислительной мощности и возможностью получать энергию из каких-либо источников. В докладе отмечается, что операторы отвечают на этот вызов по-разному — некоторые активно сотрудничают с поставщиками «зелёной» энергии для интеграции «безуглеродных» источников непосредственно с комплексами ЦОД.

Источник: PGIM

Некоторые операторы, включая Microsoft, расширяют водородную энергетику — компания участвует в разработке водородных топливных ячеек, способных заменить дизельные генераторы. Перспективной является атомная энергия. Например, AWS приобрела принадлежавший Talen Energy кампус ЦОД возле АЭС. Некоторые рассчитывают на малые модульные реакторы (SMR), разрабатываемые многими стартапами, например — поддерживаемой Сэмом Альтманом (Sam Altman) компанией Oklo, их можно будет устанавливать в непосредственной близости от ЦОД и снабжать кампусы «чистой» энергией.

Как заключили авторы доклада, сегодня операторам ЦОД приходится не только думать о том, как масштабировать свой бизнес для увеличения вычислительных мощностей, но и как получать дешёвое электричество в достаточных объёмах. И пока это получается далеко не у всех.

Глава Supermicro Чарльз Лян (Charles Liang) ожидает, что 30 % стоек, которые компания поставит в следующем году, будут оснащены СЖО. Как передаёт The Register, компания теперь способна выпускать до 1 тыс. стоек с СЖО ежемесячно и готова отправлять их клиентам всего через 2–4 недели после получения заказа, хотя ранее сроки поставок такого оборудования могли составлять от четырёх месяцев до одного года.

Уже в этом году 15 % отгруженных компанией стоек будут оснащены СЖО, а в 2025 году этот показатель удвоится. По словам Ляна, настал звёздный час СЖО, хотя за предыдущие 30 лет эта технология смогла завоевать только 1 % рынка. Естественно, взрывной рост связан активным освоением генеративного ИИ, который требует всё большего количества всё более плотно упакованных ускорителей, для которых TDP на уровне 1 кВт становится нормой.

Источник изображения: Supermicro

DLC-системы Supermicro позволяют добиться плотности 80–100 кВт на стойку. При этом Лян снова повторяет всё те же тезисы, что звучали уже не раз. Так, СЖО позволят частично избавиться от не слишком подходящего при таких TDP воздушного охлаждения, сэкономить место в стойках, повысить общую «продуктивность» и энергоэффективность ЦОД, а значит — ещё больше приблизиться к идеалам устойчивого развития и экологичности индустрии в целом.

Компания готовит 4U-платформы с СЖО для HGX B200, но предложит и 10U-вариант с воздушным охлаждением. Также стоит ожидать «воздушную» систему на базе HGX B100 и собственную реализацию GB200 NVL72. А чтобы удовлетворить растущий спрос на свои серверы, компания к концу году откроет в Малайзии новый завод, способный выпускать до 5 тыс. полностью укомплектованных стоек каждый месяц.

По сообщению Datacenter Dynamics, первый дата-центр EdgeCloudLink (ECL) емкостью 1 МВт развернут для поставщика облачных услуг Cato Digital в Маунтин-Вью, Калифорния. Строительство объекта финансировалось Molex и Hyperwise, общая сумма инвестиций составила $7 млн. В ECL заявили, что ее модульные ЦОД спроектированы с нуля для высокоплотного размещения ускорителей, спрос на которые стимулирует рост генеративных ИИ-нагрузок. При этом дата-центры ECL имеют нулевой выброс CO₂.

Для снижения стоимости и сроков развертывания модульные дата-центры могут быть построены с использованием 3D-принтеров. По словам CEO и основателя компании Юваля Бачара (Yuval Bachar), компания намерена печатать модульные конструкции на 3D-принтере за пределами площадки для размещения, поскольку это наиболее экологичный способ. Для более крупных проектов ECL может развернуть множество модульных ЦОД суммарной ёмкостью до 100 МВт, причём в течение всего 12 месяцев. Кроме того, компания предлагает свои решения по модели ЦОД-как-услуга, в этом случае она управляет построенным дата-центром от имени клиента.

Источник изображения: ECL

Энергия поступает от водородных топливных элементов, расположенных в каждом ЦОД. Вода, получающаяся в результате их работы, направляется на охлаждение оборудования. Используются теплообменники на задних дверях стоек (RDHx). Нагретая вода может использоваться для других нужд. Каждая стойка имеет мощность от 5 до 75 кВт, а в будущем при использовании прямого жидкостного охлаждения мощность можно довести до 125 кВт. ECL утверждает, что ее дата-центры имеют PUE 1,05 и могут быть развернуты практически в любом месте. ВОЛС-подключение при необходимости компания берёт на себя. Также отмечается, что ЦОД ECL имеют низкий уровень шума.

Источник изображения: ECL

Критики дата-центров, работающих на водороде, говорят, что они не так уж эффективны, поскольку сейчас добывать водород экономически выгоднее с использованием ископаемого топлива, так что итоговая экологичность подобных проектов находится под вопросом. Тем не менее, ECL намерена в течение года с небольшим развернуть 100–150 МВт для своих заказчиков, уточняет Fierce Network. По словам компании, её решения могут быть на треть и более дешевле в сравнении с традиционными дата-центрами.