Британский стартап Oriole Networks, специализирующийся на разработке фотонных решений для высоконагруженных дата-центров, сообщил о проведении раунда финансирования, в ходе которого на развитие привлечено $22 млн. В число инвесторов вошли Plural, UCL Technology Fund, XTX Ventures, Clean Growth Fund и Dorilton Ventures.

Стартап Oriole Networks, отделившийся от Университетского колледжа Лондона (UCL), основан в 2023 году. В число его учредителей вошли исследователи UCL профессор Джордж Зервас (George Zervas), Алессандро Оттино (Alessandro Ottino) и Джошуа Бенджамин (Joshua Benjamin), а также Джеймс Реган (James Regan), который ранее создал другую компанию в области оптических систем — EFFECT Photonics.

Источник изображения: Oriole Networks

Oriole Networks использует фотонику для «формирования сетей ИИ-чипов и объединения их вычислительных ресурсов». Предполагается, что это позволит значительно ускорить процесс обучения больших языковых моделей (LLM), а также существенно снизить энергопотребление ЦОД. В своих решениях стартап использует наработки UCL. Ранее компания получила инвестиции в размере $10 млн.

«Наша цель — создать экосистему фотонных сетей, которая поможет трансформировать ИИ-отрасль, устранив существующие узкие места и обеспечив конкуренцию в сегменте GPU», — говорит Реган, занимающий пост генерального директора Oriole Networks.

Нужно отметить, что недавно сразу несколько компаний, ведущих разработки в области фотонных технологий, получили финансовую поддержку. Так, разработчик фотонных ускорителей и чиплетного интерконнекта Lightmatter привлёк $400 млн, а стартап Xscape Photonics осуществил раунд финансирования на $44 млн. Кроме того, власти США согласились предоставить $93 млн разработчику оптических решений Infinera на строительство нового завода.

Японская технологическая компания Ubitus K.K., предоставляющая облачную инфраструктуру некоторым из ключевых участников игровой индустрии, включая Nintendo и Sega, намерена построить новый ЦОД рядом с действующей атомной электростанцией, передаёт Bloomberg со ссылкой на главу компании Уэсли Куо (Wesley Kuo). Сейчас Ubitus в партнёрстве с NTT управляет двумя дата-центрами в Токио и Осаке. Ранее в этом году компания получила инвестиции от NVIDIA.

Участок для строительства ещё не выбран, но компания рассчитывает возвести объект ёмкостью до 50 МВт. Компания искала землю для нового ЦОД в районе Киото, Симане или на Кюсю. Третья площадка должна помочь расширить портфолио компании ИИ-сервисами, а поскольку для обучения моделей близость к конечному потребителю и низкий уровень задержки не так важны, на первый план выходят другие параметры.

Новому ЦОД на начальном этапе потребуется всего 2–3 МВт, а до 50 МВт он может быть масштабирован позже. По словам Куо, пока не появится энергии лучше, эффективнее и дешевле, чем атомная, именно она останется наиболее конкурентоспособной по многим параметрам. И для ИИ она подходит как нельзя лучше. Однако доступ к атомной энергии в Японии жёстко ограничен после катастрофы на Фукусиме. В этом важное отличие от, например, США.

Источник изображения: Ubitus K.K.

Ранее в этом году AWS приобрела за $650 млн кампус ЦОД у Talen Energy рядом с АЭС Susquehanna в Пенсильвании. Потенциально АЭС способна обеспечить до 960 МВт. В мае AWS получила разрешение на возведении на участке площадью 650 га 15 зданий ЦОД. В сентябре Microsoft анонсировала перезапуск 837-МВт АЭС Three Mile Island для питания исключительно её ЦОД течение 20 лет. Также компания заключила несколько PPA с другими АЭС. Oracle намерена построить 1-ГВт кампус ЦОД с питанием от трёх малых модульных реакторов (SMR), а на прошлой неделе Google анонсировала сделку с Kairos Power, в рамках которой она получит SMR мощностью 500 МВт.

Вьетнам намерен перевести все сети страны на протокол IPv6, обновить сетевую инфраструктуру и поддержать развитие ЦОД в стране. По данным The Register, новая стратегия правительства отражена в рамках Решения № 1132/QD-TTg, определяющего цели на 2025 и 2030 гг.

Так, в течение года страна намерена подключить два новых подводных интернет-кабеля. Ранее в этом году три из пяти кабелей, обеспечивавших Вьетнаму связь с внешним миром, вышли из строя. Также планируется обеспечить домохозяйства FTTH-подключением, покрыть 5G-связью все крупные города и промышленные зоны, а также начать работы над ИИ ЦОД с PUE не выш 1.4.

Ещё грандиознее планы на 2030 год. Ожидается, что к этому моменту все сети в стране перейдут на IPv6, скорость широкополосного оптического подключения повсеместно достигнет 1 Гбит/сек, а 5G-сети охватят 99 % населения. Также будут подключены ещё шесть подводных кабелей суммарной ёмкостью 350 Тбайт/сек. Один из них будет находиться в государственной собственности.

Население Вьетнама превышает 100 млн человек, при этом количество абонентских договоров составляет 140 на 100 жителей. IPv4-адресов не хватает, поскольку развивающиеся страны и так в своё время получили их не слишком много. Поэтому переход на IPv6 выглядит логичным и своевременным. Например, соседний Китай намерен ускорить внедрение IPv6, причём действует весьма решительно. Ещё с прошлого года поддержка IPv6 стала обязательной для всего нового Wi-Fi оборудования в стране.

Источник изображения: Peter Hammer/unsplash.com

Планом предусмотрено строительство ряда ЦОД гиперскейл-уровня, ИИ ЦОД, а также периферийных и региональных дата-центров. Вьетнам также утвердил решение об обеспечении кибербезопасности, в рамках которого организации и частные лица призывают пользоваться услугам местных ЦОД. Предусматривается и поощрение переноса IT-нагрузок бизнеса и властей в облака. Для строительства дата-центров правительство намерено привлечь как местные, так и иностранные инвестиции.

Ещё одной целью на 2030 год стало обеспечение каждого жителя Вьетнама четырьмя IoT-подключениями. А 70 % населения к этому времени должны перейти на использование персональных цифровых подписей. Кроме того, правительство решило, что ежегодный оборот полупроводниковой индустрии должен достичь $100 млрд к 2050 году.

Министерство торговли США и Infinera подписали предварительный меморандум об условиях (PMT), предусматривающий выделение средств на строительство компанией новой производственной площадки, а также испытательного центра.

Infinera специализируется на создании фотонных интегральных схем на основе фосфида индия (InP PIC), которые используют свет для эффективной высокоскоростной передачи информации. Такие решения применяются для связи ИИ-кластеров в дата-центрах и для соединения самих ЦОД. В июне 2024 года Nokia объявила о покупке Infinera за $2,3 млрд.

В рамках подписанного меморандума Infinera получит $93 млн в соответствии с действующим в США законом CHIPS and Science Act. Он предусматривает выделение средств на поддержание исследовательских работ и стимулирование производства полупроводниковой продукции на территории страны.

Источник изображения: Infinera

Финансируемый американскими властями проект предполагает строительство нового завода Infinera в Сан-Хосе (Калифорния), а также создание передового предприятия по тестированию и упаковке в Бетлехеме (Пенсильвания). Ожидается, что на этапе строительных работ будут созданы до 1200 рабочих мест. После ввода предприятий в эксплуатацию существующие производственные мощности Infinera в США вырастут примерно в 10 раз. На новых объектах планируется сформировать до 500 рабочих мест.

Отмечается, что на заводе в Сан-Хосе будут созданы около 3700 м² чистых комнат. Здесь будут изготавливаться изделия InP PIC для удовлетворения существующих и будущих потребностей заказчиков. Центр в Бетлехеме, в свою очередь, займётся научно-исследовательскими и опытно-конструкторскими работами, связанными с новыми технологиями упаковки оптических чипов, такими как 2.5D- и 3D-упаковка.

Компания AMD анонсировала изделие Alveo UL3422: это, как утверждается, самый быстрый в мире однослотовый ускоритель половинной длины (FHHL) для брокерских и биржевых приложений. Новинка уже поставляется заказчикам из финансового сектора по всему миру.

В устройстве применена FPGA Virtex UltraScale+ VU2P. Конфигурация включает 32 трансивера с ультранизкой задержкой, 787 тыс. LUT и 1680 DSP. В состав FPGA входят 256 Мбайт встроенной памяти — 76 Мбайт блочной RAM и 180 Мбайт UltraRAM. Заявленная задержка на уровне трансиверов составляет менее 3 нс.

Карта использует интерфейс PCIe 4.0 x8 (коннектор x16). Заявленный показатель TDP равен 120 Вт; используется пассивное охлаждение. В оснащение входят 16 Гбайт памяти DDR4-2400. Предусмотрены два разъёма QSFP-DD (16​×​10/25G) и два коннектора ARF6.

Источник изображения: AMD

Ускоритель Alveo UL3422 может использоваться в комплексе с платформой разработки Vivado Design Suite. AMD также предоставляет клиентам среду разработки FINN с открытым исходным кодом и поддержкой сообщества, что позволяет интегрировать модели ИИ с низкими задержками в высокопроизводительные торговые системы. FINN использует PyTorch и методы квантования нейронных сетей.

Ускоритель поставляется с набором референсных проектов и тестов производительности. Среди ключевых сфер применения новинки названы торговые операции со сверхнизкими задержками и анализ рисков.

Стартап Xscape Photonics, создающий решения на основе кремниевой фотоники, вышел из скрытного режима, объявив о проведении раунда финансирования Series A на сумму в $44 млн. Таким образом, как отмечается, общий объём привлечённых компанией средств на сегодняшний день достиг $57 млн.

Xscape Photonics была основана в 2022 году. В число её учредителей входят доктора наук и специалисты с опытом работы в области полупроводников в различных компаниях, таких как Broadcom, Cerebras, InPhi, Intel, Juniper, Lumentum, Marvell и Neophotonics. Среди основателей — доктора Вивек Рагхунатхан (Vivek Raghunathan) и Йоши Окавачи (Yoshi Okawachi), а также профессоры Александр Гаэта (Alexander Gaeta), Михал Липсон (Michal Lipson) и Керен Бергман (Keren Bergman).

Источник изображения: Xscape Photonics

Xscape Photonics ставит своей целью решение проблемы ширины полосы пропускания, которая является узким местом платформ для рабочих нагрузок ИИ. Стартап разрабатывает фотонные чипы для организации высокоскоростных соединений в дата-центрах.

«Исторически проблемы производительности и масштабируемости при обучении больших языковых моделей решались путём создания более крупных ЦОД. Такой подход является неэффективным и порождает множество дополнительных сложностей, связанных с потреблением энергии и стоимостью. Мы стремимся помочь клиентам полностью переосмыслить то, как они решают эти проблемы», — говорит Рагхунатхан, занимающий пост генерального директора Xscape Photonics.

Компания создаёт многоволновую фотонную платформу ChromX, которая позволяет повысить пропускную способность в системах на основе GPU-ускорителей при одновременном снижении энергопотребления. В результате, улучшается общая производительность при выполнении задач инференса.

Раунд финансирования Series A проведён под руководством IAG Capital Partners с участием Altair, Cisco Investments, Fathom Fund, Kyra Ventures, LifeX Ventures, NVIDIA и OUP. Деньги будут направлены на ускорение разработки платформы ChromX.

Некоммерческая организация Open Compute Project Foundation (OCP), специализирующаяся на создании открытых спецификаций оборудования для ЦОД, сообщила о том, что для её инициативы Open Systems for AI собственные разработки предоставят NVIDIA и Meta✴.

Проект Open Systems for AI был анонсирован в январе 2024 года при участии Intel, Microsoft, Google, Meta✴, NVIDIA, AMD, Arm, Ampere, Samsung, Seagate, SuperMicro, Dell и Broadcom. Цель инициативы заключается в разработке открытых стандартов для кластеров ИИ и дата-центров, в которых размещаются такие системы. Предполагается, что Open Systems for AI поможет повысить эффективность и устойчивость ИИ-платформ, а также обеспечит возможность формирования цепочек поставок оборудования от нескольких производителей.

В рамках инициативы NVIDIA предоставит OCP спецификации элементы электромеханической конструкции суперускорителей GB200 NVL72, включая архитектуры стойки и жидкостного охлаждения, механические части вычислительного и коммутационного лотков.

Источник изображения: NVIDIA

Кроме того, NVIDIA расширит поддержку стандартов OCP в своей сетевой инфраструктуре Spectrum-X. Речь идёт об обеспечении совместимости со стандартами OCP Switch Abstraction Interface (SAI) и Software for Open Networking in the Cloud (SONiC). Это позволит клиентам использовать адаптивную маршрутизацию Spectrum-X и управление перегрузками на основе телеметрии для повышения производительности Ethernet-соединений в составе масштабируемой инфраструктуры ИИ. Адаптеры ConnectX-8 SuperNIC с поддержкой OCP 3.0 появятся в 2025 году.

В свою очередь, Meta✴ передаст проекту Open Systems for AI свою архитектуру Catalina AI Rack, которая специально предназначена для создания ИИ-систем высокой плотности с поддержкой GB200. Это, как ожидается, позволит организации OCP «внедрять инновации, необходимые для создания более устойчивой экосистемы ИИ».

Компания Lightmatter, специализирующаяся на разработке ИИ-ускорителей и других продуктов на основе кремниевой фотоники, объявила о проведении раунда финансирования Series D, в рамках которого на дальнейшее развитие привлечено $400 млн.

Стартап Lightmatter, основанный в 2017 году, базируется в Бостоне (Массачусетс, США). Учредителями являются Дариус Бунандар (Darius Bunandar), Томас Грэм (Thomas Graham) и Николас Харрис (Nicholas Harris). Последний занимает пост генерального директора. В число разработок компании входит оптический интерконнект Passage для объединения чиплетов и чипов, который, как утверждается, обеспечивает до 100 раз более высокую пропускную способность по сравнению с традиционными решениями.

Источник изображения: Lightmatter

В 2018 году создатели Lightmatter, помимо прочих средств, получили на свой проект $11 млн, а в 2021-м был осуществлён раунд финансирования на $80 млн. В июне 2023-го компания привлекла ещё $154 млн, после чего в конце того же года последовали инвестиции в размере $155 млн. Тогда говорилось, что капитализация стартапа достигла $1,2 млрд.

Нынешний раунд финансирования на $400 млн проведён новыми инвесторами, рекомендованными T. Rowe Price Associates. В программе также приняли участие существующие инвесторы, включая Fidelity Management & Research Company и GV (Google Ventures). Таким образом, на сегодняшний день общая сумма средств, привлечённых компанией Lightmatter, достигла $850 млн. Капитализация стартапа поднялась до $4,4 млрд. Полученные средства будут направлены на ускорение передовых разработок в области ИИ.

«Мы не просто развиваем инфраструктуру ИИ — мы изобретаем её заново. Благодаря Passage, самому быстрому в мире фотонному интерконнекту, мы устанавливаем новый стандарт производительности и преодолеваем барьеры, ограничивающие развитие ИИ», — отмечает господин Харрис.

По словам аналитика Минг-Чи Куо (Ming-Chi Kuo), Microsoft резко нарастила закупки суперускорителей NVIDIA GB200 NVL. Заказы на IV квартал текущего года выросли в три-четыре раза, а общий объём заказов Microsoft выше, чем у других облачных провайдеров. Поставщики ключевых компонентов для новых ИИ-платформ Microsoft начнут их массовое производство и отгрузку в IV квартале, что укрепит цепочку поставок компании. При этом компоненты будут отгружаться в независимости от того, смогут ли сборщики готовых платформ вовремя удовлетворить запросы Microsoft.

Предполагается, что до конца года будет поставлено 150–200 тыс. чипов Blackwell, а в I квартале 2025 года поставки вырастут до 500–550 тыс. ед. И Microsoft готова закупать их. В дополнение к первоначальным заказам GB200 NVL36 (в основном для тестирования) Microsoft намерена получить кастомизированные суперускорители GB200 NVL72 до начала массового производства референсного варианта DGX GB200 NVL72 от самой NVIDIA (середина II квартала 2025 года). Заказы Microsoft на IV квартал выросли с изначальных 300–500 стоек (в основном NVL36) до примерно 1400–1500 стоек (около 70 % NVL72). Последующие заказы Microsoft будут сосредоточены преимущественно на NVL72.

Источник изображения: Microsoft

Согласно опросам двух крупнейших сборщиков GB200 NVL, Foxconn и Quanta, заказы Microsoft в настоящее время, по-видимому, превышают общий объём заказов от других облачных провайдеров. Так, Amazon рассчитывает до конца года получить всего 300–400 стоек GB200 NVL36, а Meta✴ и вовсе ориентируется на платы Ariel, имеющие по одному чипу B200 и Grace, а не пару B200, как у «классических» плат Bianca. NVIDIA, по словам Минг-Чи Куо, решила отказаться от выпуска двухстоечной конфигурации GB200 NVL36×2.

При этом NVIDIA, судя по всему, не удалось убедить Microsoft закупать полностью готовые NVL-стойки. На днях редмондский гигант показал свою реализацию суперускорителя GB200 NVL с огромным теплообменником. Первыми эти системы получат дата-центры Microsoft, расположенные в более холодном климате, например, на севере США, в Канаде, в Финляндии и т. д. Это позволит избежать проблем из-за недостатка времени на оптимизацию систем охлаждения ЦОД.

Google показала собственный вариант суперускорителя NVIDIA Blackwell GB200 NVL для своей облачной ИИ-платформы, передаёт Datacenter Dynamics. Решение Google отличается от вариантов Meta✴ и Microsoft, представленных ранее. Тем не менее, это показывает высокий интерес к новой ИИ-платформе NVIDIA со стороны гиперскейлеров. Google заявила о тесном сотрудничестве с NVIDIA для формирования «устойчивой вычислительной инфраструктуры будущего».

Источник изображения: Google

Подробнее о новой платформе будут рассказано на одной из будущих конференций Google. Пока что, увы, даже не до конца ясна конфигурация суперускорителя в исполнении Google. На фото видно сразу две стойки. Одна содержит неназванное количество ускорителей GB200, а вторая комплектуется оборудованием Google, в том числе блоками питания, коммутаторами и модулями охлаждения. Хотя NVIDIA рекомендует использовать в качестве интерконнекта InfiniBand в своих ИИ-платформах, некоторые эксперты считают, что Google пользуется собственными инфраструктурными наработками на базе Ethernet. Так, компания уже применяет оптические коммутаторы (OCS) собственной разработки в ИИ-кластерах с фирменными ускорителями TPU.

Вариант Microsoft также состоит из двух стоек. Во второй смонтирован огромный теплообменник, который, вероятно, обслуживает не одну стойку с ускорителями, а сразу несколько. Известно, что ранее между Microsoft и NVIDIA были разногласия по поводу компоновки платформ для GB200. Наконец, вариант Meta✴ наиболее близок к оригинальной версии NVIDIA GB200 NVL72. При этом NVIDIA открыла её спецификации в рамках OCP. Ранее компания отказалась от выпуска «компромиссных» суперускорителей GB200 NVL36×2, которые сами по себе занимают две стойки.