Компания CoreWeave, предоставляющая облачные услуги для решения ресурсоёмких задач, сообщила о расширении раунда финансирования Series B: на этот раз привлечено $200 млн. Деньги пойдут в том числе на развитие инфраструктуры на фоне стремительно растущего рынка генеративного ИИ.

В апреле нынешнего года CoreWeave объявила об инвестиционной программе Series B в размере $221 млн. Этот раунд возглавил фонд Magnetar Capital, предоставивший $111 млн. Кроме того, средства поступили от NVIDIA, бывшего гендиректора GitHub Ната Фридмана (Nat Friedman) и бывшего исполнительного директора Apple Дэниела Гросса (Daniel Gross). На тот момент рыночная стоимость компании оценивалась в $2 млрд.

С привлечением ещё $200 млн общая сумма вложений по программе Series B достигла $421 млн. В целом же на сегодняшний день компания получила от инвесторов $571 млн, из которых порядка $100 млн — от NVIDIA. Как говорилось ранее, CoreWeave направит предоставленные средства на расширение своей специализированной облачной инфраструктуры, введя в строй ещё два дата-центра в США.

Источник изображения: CoreWeave

Отмечается, что бум генеративного ИИ повысил спрос на услуги CoreWeave. Сервисы компании помогают в обучении масштабных моделей и их оптимизации. CoreWeave предлагает решения, специально созданные и оптимизированные для ресурсоёмких рабочих нагрузок ИИ и HPC. Инфраструктура CoreWeave особенно привлекательна для ИИ-стартапов, стремящихся ускорить вывод своих продуктов на коммерческий рынок.

Источник изображения: NVIDIA

Кроме того, по данным CNBC, Microsoft подписала с CoreWeave многолетнее соглашение о сотрудничестве, в рамках которого первая может потратить миллиарды долларов на доступ к инфраструктуре второй. Похожее соглашение Microsoft заключила с Oracle. Как отмечает The Information, сейчас NVIDIA намного более благосклонна к малым и специализированным облачным провайдерам, которые не занимаются разработкой конкурирующих ИИ-ускорителей.

Соглашения о покупке энергии (PPA) обеспечивают оператором дата-центров возможность использовать электричество, получаемое из возобновляемых источников. Как сообщает DataCenter Dynamics, компания Microsoft заключила PPA сроком на 10 лет с новозеландской компанией Contact Energy, причём договор заключили ещё в сентябре 2022 года.

По имеющимся данным, это первый контракт Contact Energy такого типа в Новой Зеландии. Фактически Microsoft скупила на этот срок мощности, обеспечиваемые геотермальной электростанцией Te Huka Unit 3 — всего 41,4 МВт. Как сообщают в компании, электростанция, в свою очередь, получила уверенность в будущей поддержке и развитии своего проекта.

В прошлом году Contact Energy уже анонсировала намерение инвестировать порядка $182,4 млн в Unit 3. Это четвёртая геотермальная станция на площадке Te Huka, станция должна быть введена в эксплуатацию уже в конце 2024 года. Кроме того, компания работает над геотермальной станцией Tauhara на 168 МВт, которая тоже заработает уже в следующем году.

Источник изображения: Sophie Turner/unsplash.com

Microsoft сообщила о желании построить новый облачный регион Azure в Новой Зеландии ещё в 2020 году. С тех пор аналогичные намерения выразили AWS и Amazon, а AWS даже ранее в этом году заключила PPA на 103 МВт с компанией Mercury, также поставляющей возобновляемую энергию.

В прошлом году Microsoft анонсировала партнёрство с компанией Ecotricity, также являющейся поставщиком возобновляемой энергии в Новой Зеландии, хотя о сделке пока почти ничего не известно. В Microsoft New Zealand заявляют, что у компании в стране большие планы, а сотрудничество обеспечит более быстрый переход на 100 % возобновляемую энергию к 2025 году.

Помимо геотермальной, Microsoft покупает и другую энергию. Так, компания уже подписала несколько PPA о закупке энергии, частично поставляемой АЭС, а также PPA, предусматривающее возможную закупку электричества, которое потенциально будет вырабатываться за счёт термоядерного синтеза компанией Helion.

Компании NVIDIA и Microsoft анонсировали совместную инициативу, целью которой является оказание поддержки различным предприятиям, реализующим проекты в области ИИ. В рамках сотрудничества программные инструменты NVIDIA AI Enterprise будут интегрированы в среду Microsoft Azure Machine Learning.

Машинное обучение в Azure позволяет специалистам по данным и разработчикам ускорить создание и развертывание высококачественных моделей, а также повысить эффективность управления. С помощью Azure разработчики могут легко масштабировать приложения при сохранении высокого уровня безопасности и при соблюдении политик своей организации в области защиты данных.

Источник изображения: NVIDIA

Партнёры заявляют, что интеграция NVIDIA AI Enterprise и Microsoft Azure Machine Learning создаст надёжную корпоративную платформу, которая позволит клиентам по всему миру быстро разрабатывать и внедрять специализированные приложения, используя более 100 фреймворков и инструментов. Кроме того, клиенты смогут получить доступ к высокопроизводительным вычислительным ресурсам NVIDIA для ускорения обучения ИИ-моделей.

Говорится также, что «платформа как услуга» NVIDIA Omniverse Cloud теперь доступна в Microsoft Azure в качестве частного предложения для корпоративных заказчиков. Omniverse Cloud предоставляет предприятиям полнофункциональную облачную среду для проектирования, разработки, развёртывания и управления промышленными приложениями в рамках концепции метавселенной.

Microsoft и Oracle изучают возможность аренды серверов друг у друга на случай, если у них вдруг не будет хватать вычислительных мощностей для выполнения ИИ-нагрузок крупных облачных клиентов, пишет DataCenter Dynamics со ссылкой на The Information. Уточняется, что решение по сделке Oracle и Microsoft, которая позволила бы решить проблему нехватки серверов с высокопроизводительными ускорителями, пока не принято.

Компании заключили соглашение о сотрудничестве ещё в 2019 году, чтобы предоставить клиентам возможность совместно выполнять вычисления в их облачных сервисах. Это потребовало создания прямых оптоволоконных каналов между ЦОД Oracle и Microsoft. Сформированная инфраструктура может быть использована для совместного использования серверных мощностей, сообщил ресурсу The Information источник, знакомый с этим вопросом.

Microsoft уже некоторое время работает над собственным ИИ-чипами Athena, а пока вынуждена скупать ускорители NVIDIA, которых, судя по всему, ей уже не хватает. У Oracle тоже достаточно тесные отношения с NVIDIA — последняя выбрала именно облако Oracle Cloud Infrastructure (OCI) для первичного запуска сервиса DGX Cloud. Причём зарабатывает на этом сервисе в первую очередь сама NVIDIA.

Источник изображения: Microsoft

Ранее сообщалось, что Microsoft ограничивала доступ к ИИ-серверам для ряда своих внутренних команд, чтобы отдать ресурсы своим клиентам. Одна из таких компаний — OpenAI, разработавшая ИИ-чат-бот ChatGPT и нейронную сеть Dall-E. Microsoft инвестировала в OpenAI миллиарды долларов, получив взамен эксклюзивную лицензию на предоставление её услуг в облаке Azure. Как сообщают источники, Oracle выясняла, возможна ли перепродажа решений OpenAI напрямую её клиентам по аналогии с тем, как она перепродаёт пакет приложений Microsoft 365.

Корпорация Microsoft сотрудничает с Advanced Micro Devices (AMD) и инвестирует средства в её работу по созданию ИИ-чипов, пишет Bloomberg со ссылкой на информированные источники. Корпорация также работает с AMD над собственным ИИ-ускорителем Athena, первые сведения о котором появились совсем недавно.

Microsoft является ведущим провайдером услуг облачных вычислений и принимает активное участие в развёртывании ИИ. Корпорация уже вложила $10 млрд в OpenAI, разработчика ИИ-чат-бота ChatGPT, планируя использовать его возможности во всех своих программных продуктах. Также у Microsoft есть подразделение по производству полупроводниковых компонентов под руководством бывшего исполнительного директора Intel Рани Боркара (Rani Borkar), насчитывающее почти 1000 сотрудников.

На создание собственных ИИ-чипов корпорация потратила почти $2 млрд, что, впрочем, не мешает ей сотрудничать с NVIDIA. Для реализации планов по внедрению ИИ в свои продукты и развёртыванию иных ИИ-сервисов корпорации требуется гораздо больше вычислительных мощностей, чем у неё есть. Но пока что компания вынуждена довольствоваться закупками ускорителей NVIDIA.

Изображение: AMD

AMD тоже считает приоритетной сферу ИИ. «Мы очень рады нашим возможностям в области искусственного интеллекта — это наш стратегический приоритет № 1, — заявила гендиректор AMD Лиза Су (Lisa Su) во время последнего отчёта о квартальных результатах, — Мы находимся на самых ранних этапах эры ИИ, и скорость внедрения и роста ИИ выше, чем у любой другой технологии в новейшей истории».

Проект Athena стал приоритетным для команды Боркара, которая также работала над чипами для серверов и компьютеров Surface. Созданный ею ускоритель, который можно использовать для обучения и запуска моделей ИИ, уже проходит внутреннее тестирование и может быть запущен уже в следующем году, утверждает один из источников. Однако до NVIDIA корпорации по-прежнему далеко.

Сообщается, что NVIDIA является предпочтительным поставщиком ускорителей для многих облачных и сервис-провайдеров и иных крупных потребителей. Как отметил Bloomberg, создать альтернативу продуктам NVIDIA будет непросто, поскольку компания предлагает комплексные программно-аппаратные решения, включающие ПО, оборудование (в том числе сетевое и готовые серверы), средства разработки и т.д.

Корпорация Microsoft объявила о заключении соглашения о покупке компании Lumenisity, базирующейся в Великобритании. Этот стартап, основанный в 2017 году, специализируется на разработке решений для высокоскоростной передачи данных с применением технологии полого оптоволокна HCF (Hollow Core Fiber). Компания Lumenisity создана как дочерняя структура Исследовательского центра оптоэлектроники (ORC) Саутгемптонского университета.

Конструкцией HCF предусмотрено наличие заполненного воздухом канала, окружённого кольцом стеклянных трубок, похожим на соты. Свет проходит не через обычное волокно, а через воздушный канал, так что, по словам Lumenisity, он распространяется по HCF-кабелям примерно на 47 % быстрее, чем через волокно из кварцевого стекла. Хотя это и не новая технология, интерес к ней растёт по мере улучшения пропускной способности и надёжности.

Источник изображения: Microsoft

Такая конструкция позволяет не только повысить скорость передачи данных и снизить задержки, но и открывает путь к созданию протяжённых ВОЛС без использования репитеров благодаря более низким потерям энергии. Кроме того, Lumenisity говорит, что её решение дешевле аналогов и лучше защищено от вторжений.

Microsoft заявляет, что приобретение Lumenisity расширит возможности по дальнейшей оптимизации глобальной облачной инфраструктуры Azure. Lumenisity привлекла на развитие в общей сложности около $15,5 млн, а недавно открыла производственное предприятие HCF в Ромси, Великобритания. Финансовые условия сделки не раскрываются. Важно отметить, что волокно Lumenisity не требует для развёртывания специального оборудования и работает со многими оптическими системами, которые сегодня используются в телекоммуникационных сетях.

По всей видимости, Microsoft будет применять технологию Lumenisity для объединения своих ЦОД. Также Microsoft по неподтверждённым пока официально данным приобрела Fungible, разработчика DPU. Компания, судя по всему, намерена задействовать эти DPU только для собственных нужд.

Дизель-генератор — неотъемлемая часть подсистемы резервного питания любого серьёзного ЦОД, но по природе своей он не может похвастаться нейтральностью выхлопа. Многие ищут традиционным генераторам замену, и в их числе Microsoft. На днях компания сообщила, что ей удалось достичь важной вехи в освоении водородных топливных элементов, которые, по замыслу Microsoft, и должны заменить традиционные дизель-генераторы в принадлежащих ей центрах обработки данных.

Компания начала тестирование новой генераторной станции мощностью 3 МВт, построенной на базе топливных ячеек с протонообменной мембраной (PEM). Она способна обеспечивать питание 10 тыс. серверов. С топливными элементами компания экспериментирует давно, ещё с 2013 года, но более ранние разработки использовали природный газ и не по факту не являлись такими уж экологичными.

Тестовая станция мощностью 3 мВт. Источник: Microsoft/John Brecher

Разработать водородные PEM-ячейки компании удалось в сотрудничестве с Plug Power. В течение нескольких недель июня компании совместно протестировали прототип генератора нового поколения. Новая система, выбрасывающая в атмосферу лишь нагретый водяной пар, сработала успешно, так что Plug Power уже работает над созданием коммерческой версии системы.

Протонообменная мембрана: конструкция и принцип действия. Источник: Encyclopedia Britannica

Первый же экземпляр будет установлен научно-исследовательском центре Microsoft, но пока конкретных сроков пока озвучено не было. У IT-гиганта большие надежды на подобные технологии: к 2030 году компания планирует обновить системы резервного питания во всех своих ЦОД.

В работе система выделяет только горячий водяной пар. Источник: Microsoft/John Brecher

Правда, в полной экологичности водородных топливных элементов есть сомнения: работают они без вредных выбросов, но само их производство может оказаться далеко не таким чистым, как эксплуатация. Тем не менее, администрация США одобрила план стоимостью $8 млрд по развитию производства водорода в рамках программы альтернатив ископаемому топливу. В Европе есть аналогичные инициативы — как совсем скромные (€2,5 млн), так и весьма крупные (€1 млрд).

Гленн Локвуд (Glenn K. Lockwood), ведущий специалист Национального научного вычислительного центра энергетических исследований (NERSC) при Министерстве энергетики США перешёл на работу в Microsoft. Он является архитектором высокопроизводительных масштабируемых систем хранения данных для суперкомпьютеров. Локвуд, в частности, руководил развёртыванием первого в мире 35-Пбайт All-Flash хранилища с ФС Lustre для суперкомпьютера Perlmutter.

В своём блоге Локвуд объяснил, почему он ушёл из NERSC в Microsoft. По его словам, лидирующие HPC-системы балансируют на грани выживания, в то время как HPC-системы среднего клсса практически полностью обесцениваются поставщиками облачных услуг. При текущих тенденциях стоимость строительства нового дата-центра и обширной инфраструктуры питания и охлаждения для каждого нового мощного суперкомпьютера очень скоро станет непомерно высокой, говорит Локвуд. Он высказал мнение, что ЦОД мощностью 50–60 МВт, строящиеся сейчас для экзафлопсных суперкомпьютеров, будут последними в своём роде.

Источник изображения: AMD

Что касается менее мощных систем, таких как Perlmutter, то необходимость в них постепенно сокращается по мере того, как облако набирает обороты. «Вы можете установить полную систему [HPE] Cray EX, идентичную той, что вы можете найти в NERSC или OLCF, в Azure <…> и интегрировать её с богатыми инфраструктурными возможностями облака», — говорит Локвуд. Кроме того, облака действительно гораздо быстрее внедряют новинки. Так, процессоры AMD EPYC MilanX и ускорители Instinct MI200 появились в инфраструктуре Microsoft Azure намного раньше, чем в HPC-центрах.

«Я не утверждаю, что знаю будущее, и многое из того, что я изложил, является в лучшем случае гипотетическим», — заявил Гленн Локвуд, отметив, что приверженность Министерства энергетики США к независимым HPC-системам сохранится по меньшей мере ещё десятилетие. Локвуд стал очередным специалистом, покинувшем традиционный HPC-сектор и ушедшим в Microsoft. В 2020 году в Microsoft перешёл технический директор Cray Стив Скотт (Steve Scott). Год спустя к Microsoft присоединился соруководитель программы Cray PathForward доктор Дэн Эрнст (Dan Ernst).

Microsoft неожиданно раскрыла подробности использования своей распределённой службы планирования «планетарного масштаба» Singularity, предназначенной для управления ИИ-нагрузками. В докладе компании целью Singularity названа помощь софтверному гиганту в контроле затрат путём обеспечения высокого коэффициента использования оборудования при выполнении задач, связанных с глубоким обучением.

Singularity удаётся добиться этого с помощью нового планировщика, способного обеспечить высокую загрузку ускорителей (в том числе FPGA и ASIC) без роста числа ошибок или снижения производительности. Singularity предлагает прозрачное выделение и эластичное масштабирование выделяемых каждой задаче вычислительных ресурсов. Фактически она играет роль своего рода «умной» прослойки между собственно аппаратным обеспечением и программной платформой для ИИ-нагрузок.

Изображение: Microsoft

Singularity позволяет разделять задачи, поручаемые ресурсам ускорителей. Если необходимо масштабирование, система не просто меняет число задействованных устройств, но и управляет распределением и выделением памяти, что крайне важно для ИИ-нагрузок. Правильное планирование позволяет не простаивать без нужды весьма дорогому «железу», благодаря чему и достигается положительный экономический эффект.

NVIDIA DGX-2

В докладе также прямо говорится, что у Microsoft есть сотни тысяч GPU и других ИИ-ускорителей. В частности, упоминается, что Singularity используется на платформах NVIDIA DGX-2: два Xeon Platinum 8168 (по 20 ядер каждый), восемь ускорителей V100 с NVSwitch, 692 Гбайт RAM и интерконнект InfiniBand. Таким образом, ИИ-парк компании должен включать десятки тысяч узлов, поэтому эффективное управление им очень важно.

Microsoft объединила усилия с Caterpillar и Ballard Power Systems для тестирования резервных генераторов на водородных топливных элементах в своём дата-центре в Куинси (штат Вашингтон). Проект рассчитан на три года и нацелен на изучение возможности использования водородных топливных элементов в масштабе ЦОД. Проект частично финансируется Министерством энергетики США (DOE) в рамках инициативы H2@Scale.

Caterpillar станет генеральным подрядчиком, обеспечивающим общую интеграцию всех систем, работу силовой электроники и средств управления. Ballard предоставит водородный электрогенератор на топливных элементах ClearGen-II мощностью 1,5 МВт, а Национальная лаборатория возобновляемых источников энергии (NREL) выполнит анализ его безопасности, экологичности и технико-экономических аспектов эксплуатации.

Источник изображения: Microsoft

Для успешной реализации проекта необходимо решить ряд проблем. Чтобы топливные элементы обеспечивали мощность 3 МВт в течение 48 часов, требуется около 68 м³ жидкого водорода, для хранения которого требуется намного больше места, чем для дизельного топлива. Для избегания утечек требуются специальные трубопроводы, а сам водород надо хранить при температуре ниже -253 °C. Ранее Microsoft успешно испытала водородные топливные ячейки мощностью 250 кВт от Power Innovations.