Материалы по тегу: hardware

15.11.2024 [13:50], Руслан Авдеев

Операторы ЦОД выстроились в очередь, чтобы получить 750 МВт от SMR компании Oklo

Поддерживаемый Сэмом Альтманом (Sam Altman) стартап Oklo сообщил о получении запросов на поставку 750 МВт для ЦОД в США. Потенциальные клиенты не называются, но известно, что общая мощность планируемых к строительству реакторов Oklo в результате должна вырасти до 2,1 ГВт.

Как сообщает The Register, разработки Oklo, вероятно, основаны на экспериментальной модели Experimental Breeder Reactor II (EBR-II) и используют жидкостно-металлическое охлаждение. Такие реакторы способны генерировать 15–50 МВт энергии, в зависимости от конфигурации. Это означает, что неназванные клиенты Oklo в общей сложности намерены использовать 15–50 реакторов для удовлетворения их запросов.

Впрочем, до получения реальных поставок пока далеко. На сайте Oklo сообщается, что до конца десятилетия должна заработать только первая электростанция. До этого компания должна получить разрешение у Комиссии по ядерному регулированию США, необходимые заявки уже поданы. В 2022 году регулятор уже отклонил план строительства SMR компанией, сославшись на «значительные информационные пробелы», связанные с мерами, принимаемыми для обеспечения безопасности. Позже Oklo получила поддержку правительственных ведомств. Министерство энергетики выдало разрешение на использование площадки, а Национальная лаборатория Айдахо (где находится EBR-II) выделила топливо для поддержки проекта.

При этом Oklo может избежать проблем, с которыми сталкиваются другие «атомные» стартапы вроде Terrapower. Реакторы Oklo предназначены для уже отработанного ядерного топлива от обычных реакторов. Фактически стартап сейчас сотрудничает с лабораториями Министерства энергетики для разработки новых технологий утилизации отработанного топлива. Oklo рассчитывает представить план переработки коммерческого уровня к началу 2030-х годов.

 Источник изображения: Oklo

Источник изображения: Oklo

Ранее сообщалось, что Okla ищет главу ЦОД-направления. В прошлом месяце Amazon (AWS) объявила о поддержке трёх новых атомных проектов, включая строительство нескольких SMR компанией X-energy. Amazon является одним из её крупнейших инвесторов в ходе раунда финансирования серии C на $500 млн. Oracle также анонсировала получение разрешений на строительство трёх SMR для питания ИИ ЦОД ёмкостью более 1 ГВТ. Тем временем Google заключила соглашение с Kairos Power для удовлетворения собственных энергетических потребностей.

Несмотря на весь ажиотаж, связанный с SMR, технология всё ещё не доказала своей экономической целесообразности, хотя идея построения небольших и мощных источников энергии буквально в любом месте слишком хороша, чтобы ЦОД отказались от неё. В любом случае SMR будут нет так уж доступны. Эксперты утверждают, что SMR «слишком дороги, медленно строятся и слишком рискованны для того, чтобы играть значимую роль в отказе от ископаемого топлива». NuScale, одной из первых получившая одобрения собственного проекта SMR, уже, возможно, пожалела об этом. Стартап планировал построить шесть реакторов на 462 МВт в Юте, но высокие цены оттолкнули потребителей и проект в конечном счёте просто забросили.

Даже участие в проектах с обычными АЭС не гарантирует успех. AWS в этом году приобрела за $650 млн кампус ЦОД Cumulus Data около АЭС Susquehanna в Пенсильвании и планировала построить там 15 ЦОД. Тем не менее к ноябрю регулятор отказал в увеличении подачи энергии на площадку, хотя компания не намерена отказываться от проекта. Бывает и хуже. Meta рассчитывала построить «атомные ЦОД», но на необходимой ей площадке обнаружился редкий вид пчёл, поэтому от проекта пришлось отказаться.

Постоянный URL: http://servernews.kz/1114055
14.11.2024 [23:07], Владимир Мироненко

Google и NVIDIA показали первые результаты TPU v6 и B200 в ИИ-бенчмарке MLPerf Training

Ускорители Blackwell компании NVIDIA опередили в бенчмарках MLPerf Training 4.1 чипы H100 более чем в 2,2 раза, сообщил The Register. По словам NVIDIA, более высокая пропускная способность памяти в Blackwell также сыграла свою роль. Тесты были проведены с использование собственного суперкомпьютера NVIDIA Nyx на базе DGX B200.

Новые ускорители имеют примерно в 2,27 раза более высокую пиковую производительность в вычисления FP8, FP16, BF16 и TF32, чем системы H100 последнего поколения. B200 показал в 2,2 раза более высокую производительность при тюнинге модели Llama 2 70B и в два раза большую производительность при предварительном обучении (Pre-training) модели GPT-3 175B. Для рекомендательных систем и генерации изображений прирост составил 64 % и 62 % соответственно.

Компания также отметила преимущества используемой в B200 памяти HBM3e, благодаря которой бенчмарк GPT-3 успешно отработал всего на 64 ускорителях Blackwell без ущерба для производительности каждого GPU, тогда как для достижения такого же результата понадобилось бы 256 ускорителей H100. Впрочем, про Hopper компания тоже не забывает — в новом раунде компания смогла масштабировать тест GPT-3 175B до 11 616 ускорителей H100.

 Источник изображений: NVIDIA

Источник изображений: NVIDIA

Компания отметила, что платформа NVIDIA Blackwell обеспечивает значительный скачок производительности по сравнению с платформой Hopper, особенно при работе с LLM. В то же время чипы поколения Hopper по-прежнему остаются актуальными благодаря непрерывным оптимизациям ПО, порой кратно повышающим производительность в некоторых задач. Интрига в том, что в этот раз NVIDIA решила не показывать результаты GB200, хотя такие системы есть и у неё, и у партнёров.

 Источник изображений: NVIDIA

В свою очередь, Google представила первые результаты тестирования 6-го поколения TPU под названием Trillium, о доступности которого было объявлено в прошлом месяце, и второй раунд результатов ускорителей 5-го поколения TPU v5p. Ранее Google тестировала только TPU v5e. По сравнению с последним вариантом, Trillium обеспечивает прирост производительности в 3,8 раза в задаче обучения GPT-3, отмечает IEEE Spectrum.

Если же сравнивать результаты с показателями NVIDIA, то всё выглядит не так оптимистично. Система из 6144 TPU v5p достигла контрольной точки обучения GPT-3 за 11,77 мин, отстав от системы с 11 616 H100, которая выполнила задачу примерно за 3,44 мин. При одинаковом же количестве ускорителей решения Google почти вдвое отстают от решений NVIDIA, а разница между v5p и v6e составляет менее 10 %.

 Источник изображения: Google

Источник изображения: Google

В тесте Stable Diffusion система из 1024 TPU v5p заняла второе место, завершив работу за 2,44 мин, тогда как система того же размера на основе NVIDIA H100 справилась с задачей за 1,37 мин. В остальных тестах на кластерах меньшего масштаба разрыв остаётся примерно полуторакратным. Впрочем, Google упирает на масштабируемость и лучшее соотношение цены и производительности в сравнении как с решениями конкурентов, так и с собственными ускорителями прошлых поколений.

Также в новом раунде MLPerf появился единственный результат измерения энергопотребления во время проведения бенчмарка. Система из восьми серверов Dell XE9680, каждый из которых включал восемь ускорителей NVIDIA H100 и два процессора Intel Xeon Platinum 8480+ (Sapphire Rapids), в задаче тюнинга Llama2 70B потребила 16,38 мДж энергии, потратив на работу 5,05 мин. — средняя мощность составила 54,07 кВт.

Постоянный URL: http://servernews.kz/1114029
14.11.2024 [18:28], Руслан Авдеев

АЭС от ВМС: OpenAI подготовила для правительства США детальные рекомендации по масштабному развитию ИИ-отрасли

Компания OpenAI приготовила пакет рекомендаций американским властям, в котором изложила меры, необходимые, как она считает, для развития ИИ-сектора. По данным CNBC, план ИИ-инфраструктуры США касается экономики ИИ, использования опыта ВМС США в сфере атомной энергетики, а также правительственных проектов, финансируемых частными инвесторами. Говорится и о необходимости создания североамериканского ИИ-альянса, к которому в перспективе могут присоединиться, например, страны Персидского залива.

Критически важным считается принятия «Закона о национальных магистральных ЛЭП» (National Transmission Highway Act), который называется столь же амбициозным, как и «Закон о национальных межштатных и оборонных магистралях» (National Interstate and Defense Highways Act) 1956 года. В сентябре уже сообщалось, что топ-менеджеры OpenAI, включая гендиректора Сэма Альтмана (Sam Altman), провели ряд встреч с потенциальными инвесторами с целью заручиться поддержкой в создании многомиллиардной IT-инфраструктуры, необходимой для ускоренного развития ИИ.

В документе OpenAI предсказывает ИИ блестящее будущее, называя искусственный интеллект «основополагающей» технологией, какой стало электричество, и обещающей такие же распределённый доступ и выгоды. Предполагается, что инвестиции в ИИ помогут создать десятки тысяч рабочих мест, приведут к росту ВВП, модернизации энергетической инфраструктуры, включая атомную энергетику и созданию новых заводов по выпуску чипов — а также миллиардным инвестициям из зарубежных фондов.

 Источник изображения: Lukáš Lehotský/unsplash.com

Источник изображения: Lukáš Lehotský/unsplash.com

OpenAI недвусмысленно выразила готовность сотрудничать с администрацией будущего президента США Дональда Трампа (Donald Trump). По имеющимся данным, Трамп намерен отменить указ действующего президента США Джо Байдена (Joe Biden), в котором упоминаются необходимость оценки безопасности технологий, защита прав сотрудников отрасли, защита принципов равенства, защита прав потребителей и др. Трамп заявлял, что указ препятствует инновациям в сфере ИИ.

В презентации компании упоминается о необходимости создания экономических ИИ-зон совместно с властями штатов и федеральным правительством, что должно упростить выдачу разрешений на создание ИИ-инфраструктуры. Компания намерена строить новые солнечные и ветряные электростанции, а также добиться разрешения на эксплуатацию неиспользуемых реакторов. Предполагается, что штаты, предоставляющие поддержку ИИ-бизнесу, смогут требовать выделения части вычислительных мощностей государственным университетам для проведения собственных исследований.

 Источник изображения: Marcus/unsplash.com

Источник изображения: Marcus/unsplash.com

«Закон о национальных магистральных ЛЭП» должен расширить возможности электроснабжения, развить ВОЛС и обеспечить строительство газопроводов. В компании запрашивают новые полномочия для упрощения бюрократических процедур. Заявляется, что правительство может поощрять частные инвестиции в дорогостоящие проекты энергетической инфраструктуры и взять на себя ряд обязательств, в т.ч. по покупке энергии, чтобы снизить риски инвесторов. Также предлагается использовать опыт ВМС, уже эксплуатирующих около 100 малых модульных реакторов (SMR), питающих в основном подводные лодки — это поможет состязаться с Китаем, активно строящим новые АЭС.

В США основными регионами для инвестиций в ИИ называются Средний Запад и Юго-Запад, пока они остаются «за бортом», несмотря на то что там есть земля и возможность строительства ветряных и солнечных электростанций и, возможно, ядерных объектов. Тем более, что в штатах вроде Канзаса или Айовы могут потребоваться собственные специализированные ИИ-модели для обработки сельскохозяйственных данных.

По оценкам одного из представителей OpenAI, к 2030 году США понадобится 50 ГВт энергии для удовлетворения потребностей ИИ-отрасли и конкуренции с КНР, особенно с учётом того, что Китай за последние два года одобрил строительство 20 ядерных реакторов и ещё 11 на следующий год. Не так давно уже сообщалось об инициативе главы OpenAI Сэма Альтмана (Sam Altman), предлагавшего правительству США строительство сети 5-ГВт ЦОД. Позже данные получили подтверждение.

Постоянный URL: http://servernews.kz/1114006
14.11.2024 [17:06], Руслан Авдеев

Европейские компании ищут низкоуглеродные альтернативы дизель-генераторам для ЦОД

Консорциум Net Zero Innovation Hub for Data Centers ) инициировал т. н. запрос информации (RFI). Как сообщает сайт NZIH, речь идёт о первом запросе такого рода в Европе, направленном на поиск инновационных решений, способных заменить дизельные резервные генераторы.

RFI представляет собой официальный запрос, направляемый компаниям и организациям с целью сбора информации о передовых технологиях и подходах, имеющихся в их распоряжении, которые могут использоваться для решения конкретной проблемы, в данном случае — замены источников резервного питания на безуглеродные.

В консорциум входят такие известные компании, как Danfoss, Data4, Google, Microsoft, Schneider Electric и Vertiv. В NZIH объявили, что ищут решения, которые можно масштабировать до гигаваттного уровня. Инициатива, как ожидается, должна ускорить внедрение решений для резервного питания с нулевым выбросом.

В I квартале 2025 года будет проведена оценка жизнеспособности предложенных решений с технической, экономической, регуляторной и других точек зрения, а во II квартале 2025 года начнётся поиск источников финансирования, после чего, возможно, будут заключены соглашения о внедрении между владельцами инновационных технологий и участниками NIZH.

 Источник изображения: NZIH

Источник изображения: NZIH

Речь идёт о возможностях для широкого круга компаний, в том числе тех, чьи решения находятся на раннем этапе коммерциализации. Инициативу планируется реализовать в три этапа. Предполагается:

  • согласовать и стандартизировать требования с учётом специфика отрасли ЦОД;
  • определить инновационные решения, масштабируемые и поддерживаемые цепочкой поставок, потенциально готовые к внедрению в гигаваттных масштабах;
  • реализовать первичные пилотные проекты с привлечением государственных и частных инвестиций.

Как сообщается на сайте консорциума, внедрение передовых «чистых» технологий часто сталкиваются с препятствиями, во многом из-за новизны и высоких рисков на ранних стадиях. Выступая «агрегатором» спроса на такие технологии и создавая новые коммерческие структуры при поддержки крупнейших заказчиков, NIZH со своей инициативой пытается снизить риск для инновационных проектов, разработчиков, энергетических компаний, обеспечивая при этом возможность получения инвестиций.

Инновационный аспект решений может быть представлен разработчиками — речь может идти о технологии, бизнес-модели или других аспектах или их комбинации. Первое предложение уже сделал один из ключевых участников консорциума — Microsoft продвигает водородную энергетику. Так, компания при поддержке ESB на время запитает свой дублинский ЦОД от водородных топливных ячеек GeoPura.

Постоянный URL: http://servernews.kz/1113980
14.11.2024 [15:49], Сергей Карасёв

Innodisk представила индустриальные SSD формата E1.S вместимостью до 8 Тбайт

Компания Innodisk анонсировала SSD серий 4TG2-P и 4TS2-P в форм-факторе E1.S. Устройства ориентированы на использование в корпоративном и промышленном секторах: они подходят для ИИ-приложений, периферийных вычислений, систем автоматизации, встраиваемых устройств и других нагрузок с интенсивным использованием данных.

Все изделия выполнены на чипах флеш-памяти 3D TLC NAND. Для обмена данными служит интерфейс PCIe 4.0 x4 (NVMe 1.4). Заявленный показатель MTBF (средняя наработка на отказ) превышает 3 млн часов. Диапазон рабочих температур простирается от -40 до +85 °C.

В семейство E1.S 4TG2-P вошли модели вместимостью от 512 Гбайт до 8 Тбайт. Скорость последовательного чтения информации достигает 6900 Мбайт/с, скорость последовательной записи — 4700 Мбайт/с. Максимальное энергопотребление равно 12 Вт. Говорится о поддержке TCG Opal.

 Источник изображения: Innodisk

Источник изображения: Innodisk

В свою очередь, накопители E1.S 4TS2-P доступны в модификациях ёмкостью от 400 Гбайт до 6,4 Тбайт. Максимальная скорость чтения информации составляет 6900 Мбайт/с, скорость записи — 4650 Мбайт/с. Энергопотребление не превышает 12,4 Вт.

В новинках реализована фирменная технология iCell, которая гарантирует защиту критически важных данных и отсутствие потерь информации при сбоях питания. Система предусматривает размещение дополнительных буферных силовых конденсаторов на плате контроллера, которые в случае необходимости обеспечивают аварийное питание.

Постоянный URL: http://servernews.kz/1113999
14.11.2024 [14:30], Руслан Авдеев

AMD сократит 4 % штата и сосредоточится на ИИ и серверном рынке

Компания AMD подтвердила планы сокращения около 4 % штата по всему миру. The Register сообщает, что речь идёт об увольнении около 1 тыс. человек из приблизительно 26 тыс.

Новость появилась после публикации воодушевляющего финансового отчёта AMD за III квартал — чистая прибыль составила $771 млн при выручке $6,8 млрд. Рост год к году составил 158 % и 18 % соответственно. Несмотря на это, сотрудников решено уволить, чтобы уделить больше внимания ИИ-продуктам и рынку серверных решений. Недавняя серия увольнений Intel была значительно масштабнее, поскольку работу потеряли около 15 тыс. человек в самых разных подразделения.

Впрочем, у AMD не всё так замечательно, как могло бы быть. Выручка игрового подразделения год к году упала на 69 %. В самой компании объясняют это падением доходов от кастомных решений. Другими словами, упал спрос на чипсеты для PlayStation и Xbox. Это вполне ожидаемо — желающие купить консоли текущего поколения на базе аппаратных решений AMD в основном уже приобрели их и ждут нового поколения.

 Источник изображения: Campaign Creators/unsplash.com

Источник изображения: Campaign Creators/unsplash.com

Некоторые эксперты сравнивают подходы AMD и Intel с хирургической операцией и пропуском подразделений через измельчитель. В AMD подчёркивают, что новые меры — не показатель финансовой нестабильности компании. Речь идёт именно о смене фокуса на более маржинальные продукты в сферах ЦОД и ИИ. Ранее уже сообщалось, что Intel теряет позиции на рынке серверных чипов под натиском AMD, а уже в ноябре появилась информация, что компания отстала от AMD и NVIDIA по продажам ускорителей.

Представитель AMD заявил The Register, что, корректируя распределение ресурсов в соответствии с ключевыми возможностями роста, приходится принимать ряд целевых мер, которые, к сожалению для руководства, ведут к сокращению сотрудников. В компании обещают отнестись к ним «с уважением» и помочь по мере возможностей. Какие именно подразделения подвергнутся сокращениям, AMD уточнять не стала, сообщив, что принимает «целевые меры», касающиеся разных функций в компании.

Постоянный URL: http://servernews.kz/1114000
14.11.2024 [12:00], Сергей Карасёв

Solidigm представила PCIe 4.0 SSD серии D5-P5336 ёмкостью 122,88 Тбайт

Компания Solidigm официально представила, как утверждается, самый вместительный в мире SSD для дата-центров: устройство серии D5-P5336 имеет ёмкость 122,88 Тбайт. Покупатели смогут выбирать между модификациями в форм-факторах U.2 (толщиной 15 мм) и E1.L. Впрочем, сегодня же накопители Pascari D205V аналогичной ёмкости анонсировала и Phison.

О подготовке новинок впервые сообщалось в начале августа нынешнего года. Ранее в семейство D5-P5336 входили модели ёмкостью до 61,44 Тбайт. Таким образом, анонсированные изделия по вместимости вдвое превосходят предшественников.

В основу SSD положены 192-слойные чипы флеш-памяти QLC 3D NAND. Для обмена данными служит интерфейс PCIe 4.0 x4 (спецификация NVMe 2.0). Заявленная скорость последовательного чтения достигает 7400 Мбайт/с, скорость последовательной записи — 3200 Мбайт/с. Показатель IOPS (операций ввода/вывода в секунду) при произвольном чтении блоков по 4 Кбайт составляет до 930 тыс. Значение IOPS при произвольной записи блоков по 32 Кбайт — до 25 тыс.

 Источник изображения: Solidigm

Источник изображения: Solidigm

Показатель MTBF (средняя наработка на отказ), согласно техническим характеристикам, равен 2 млн часов. Накопители способны выдерживать до 0,6 полных перезаписи в сутки (показатель DWPD) на протяжении пяти лет. Гарантированный объём записанной информации составляет 134,3 Пбайт. Говорится о соответствии стандартам OCP 2.0 и FIPS 140-3 L2. Максимальное энергопотребление равно 25 Вт, энергопотребление в режиме простоя — менее 5 Вт.

Поставки SSD вместимостью 122,88 Тбайт компания Solidigm организует в начале 2025 года. Утверждается, что для операторов ЦОД эти устройства обеспечат ряд существенных преимуществ, в частности:

  • Сокращение энергопотребления до 84 % в составе NAS по сравнению с гибридными решениями на основе HDD и TLC SSD TLC;
  • Улучшение показателя Тбайт/Вт при использовании на периферии в 3,4 раза по сравнению с TLC SSD вместимостью 30 Тбайт;
  • До 4 Пбайт хранилища в расчёте на одну стойку.
Постоянный URL: http://servernews.kz/1113976
14.11.2024 [12:00], Сергей Карасёв

Phison представила PCIe 5.0 SSD серии Pascari D205V ёмкостью 122,88 Тбайт

Компания Phison официально анонсировала SSD Pascari D205V вместимостью 122,88 Тбайт, о подготовке которого сообщалось в начале августа нынешнего года. Изделие ориентировано на нагрузки с высокой интенсивностью чтения данных. Solidigm сегодня тоже официально представила накопитель D5-P5336 ёмкостью 122,88 Тбайт.

В основу Pascari D205V положены контроллер Phison X2 и чипы флеш-памяти 3D QLC NAND. Задействован интерфейс PCIe 5.0 (NVMe 2.0): заказчики смогут выбирать между модификациями с одним портом PCIe 5.0 x4 и двумя портами PCIe 5.0 2x2. При этом предусмотрены варианты исполнения U.2 и E3.L.

Скорость последовательного чтения информации достигает 14 600 Мбайт/с, скорость последовательной записи — 3200 Мбайт/с. Показатель IOPS (операций ввода/вывода в секунду) при произвольном чтении блоков по 4 Кбайт заявлен на уровне 3 млн. Величина IOPS при произвольной записи блоков по 16 Кбайт составляет до 35 тыс. Задержка при чтении и записи — 110 и 12 мкс соответственно.

 Источник изображения: Phison

Источник изображения: Phison

Заявленное энергопотребление в активном режиме равно 25 Вт. Значение DWPD (полных перезаписей в сутки) составляет 0,3, показатель MTBF (средняя наработка на отказ) — 2,5 млн часов. Диапазон рабочих температур простирается от 0 до +70 °C. Производитель предоставляет пятилетнюю гарантию. Говорится о поддержке TCG Opal 2.0, шифрования AES-XTS 256, а также защиты от потери питания (PLP).

Приём предварительных заказов на накопитель уже начался. Поставки планируется организовать во II квартале 2025 года. Кроме того, Phison предлагает накопитель D200V ёмкостью 61,44 Тбайт и высоконадёжный SSD SA50V формата SFF вместимостью 15 Тбайт с интерфейсом SATA-3.

Постоянный URL: http://servernews.kz/1113979
14.11.2024 [09:32], Руслан Авдеев

ЦОД Iron Mountain запитают от подводных «воздушных змеев» SeaQurrent

Оператор Iron Mountain Data Centers (IMDC) объединил усилия с SeaQurrent для питания своих ЦОД от приливных электростанций (ПЭС). По данным Datacenter Dynamics, в SeaQurrent разрабатывают высокоэффективные и экологичные ПЭС с базовой мощностью 500 кВт, которые можно объединять многомегаваттные кластеры. Сотрудничество с Iron Mountain позволит SeaQurrent масштабировать свои ПЭС.

ПЭС SeaQurrent включает «воздушный змей», который представляет собой гидродинамическое крыло, турбину и платформу, прикреплённую ко дну. Для подъёма крыла используется поток воды. Конструкция движется по стабильной траектории-«восьмёрке» и управляется системой дистанционного мониторинга и контроля, автономно управляющей всем процессом. Создаваемое крылом тяговое усилие приводит в движение биоразлагаемую рабочую жидкость, которая, в свою очередь, обеспечивает вращательное движение турбины генератора.

 Источник изображения: SeaQurrent

Источник изображения: SeaQurrent

В Iron Mountain решение рассматривают, как часть более широкого проекта по переходу к 2040 году на обеспечение ЦОД исключительно «чистой» энергии в режиме 24/7. Благодаря предсказуемой выработке энергии приливные электростанции лучше подходят для питания ЦОД. Впрочем, от других «зелёных» источников Iron Mountain не отказывается. В июне заключено соглашение о поставке солнечной энергии с InRange для компенсации потребления ЦОД LON-1. В апреле 2023 года подписано PPA с нидерландской энергетической компанией Sunrock.

 Источник изображения: SeaQurrent

Источник изображения: SeaQurrent

Довольно стабильны и геотермальные источники энергии, которыми пользуются или планируют пользоваться многие операторы ЦОД. Например, летом сообщалось, что Google подписала соглашение с NV Energy об использовании геотермальной энергии для питания своих дата-центров в Неваде. А Meta намерена снабжать свои ЦОД в США энергией из петротермальных источников.

Постоянный URL: http://servernews.kz/1113922
14.11.2024 [08:17], Владимир Мироненко

SoftBank построит в Японии первый в мире ИИ-суперкомпьютер на базе NVIDIA DGX B200

NVIDIA объявила о серии совместных проектов с SoftBank, направленных на ускорение суверенных инициатив Японии в области ИИ, которые также обеспечат возможность получения дохода от ИИ для поставщиков телекоммуникационных услуг по всему миру.

В выступлении на саммите NVIDIA AI Summit Japan генеральный директор NVIDIA Дженсен Хуанг (Jensen Huang) объявил, что SoftBank создаёт самый мощный в Японии ИИ-суперкомпьютер с использованием платформы NVIDIA DGX SuperPOD B200 и интерконнекта Quantum-2 InfiniBand. Эта система станет первой в мире, которая получит системы DGX B200. Она будет использоваться компанией для разработки генеративного ИИ и развития других бизнес-решений, а также для предоставления вычислительных услуг университетам, научно-исследовательским институтам и предприятиям в стране. Суперкомпьютер идеально подойдёт для разработки больших языковых моделей (LLM), говорится в пресс-релизе.

Пока что на звание самого мощного ИИ-суперкомьютера Японии претендует система ABCI 3.0 на базе NVIDIA H200. Впрочем, Softbank не сидит сложа руки и планирует построить ещё один суперкомпьютер, на этот раз на базе суперускорителей GB200 NVL72. Они же будут использоваться в проекте Sharp, KDDI и Supermicro по созданию «крупнейшего в Азии» ИИ ЦОД.

 Источник изображения: NVIDIA

Источник изображения: NVIDIA

Также в ходе саммита было объявлено, что SoftBank, используя платформу ускоренных вычислений NVIDIA AI Aerial, успешно запустил первую в мире телекоммуникационную сеть, объединяющую возможности ИИ и 5G. В ходе испытаний, проведенных в префектуре Канагава, SoftBank продемонстрировала, что решение AI-RAN достигло производительности 5G операторского класса, используя ресурсы ускорителя для одновременной обработки сетевого трафика и инференса.

Отмечается, что мобильные сети традиционно рассчитаны на обработку пиковых нагрузок и в среднем задействуют только треть аппаратных ресурсов, что позволяет монетизировать оставшиеся две трети путём предоставления ИИ-сервисов. NVIDIA и SoftBank также сообщили, что с помощью ПО NVIDIA AI Enterprise японская компания будет создавать локализованные безопасные ИИ-сервисы.

Постоянный URL: http://servernews.kz/1113967

Входит в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности»;

Система Orphus