Материалы по тегу: ии

26.10.2024 [00:53], Владимир Мироненко

Tesla до конца месяца запустит ИИ-кластер из 50 тыс. NVIDIA H100

Tesla планирует ввести в эксплуатацию ЦОД с 50 тыс. ускорителей NVIDIA H100 в конце этого месяца, пишет Data Center Dynamics (DCD) со ссылкой на заявление компании.

«Мы начали использовать кластер на базе нашего завода раньше срока и находимся на пути к развертыванию 50 тыс. GPU в Техасе к концу этого месяца», — сообщил финансовый директор Вайбхав Танеджа (Vaibhav Taneja) в ходе отчёта о финансовых результатах за III квартал. Предполагается, что именно этот кластер, размещённый в Остине (Техас) отставал от графика, из-за чего гендиректор Илон Маск (Elon Musk) уволил в апреле руководителя строительства. В июне по распоряжению Маска 12 тыс. ускорителей H100, предназначавшихся Tesla, были переданы xAI. Сама xAI в сентябре запустила ИИ-кластер со 100 тыс. ускорителей NVIDIA H100.

Капитальные затраты Tesla достигли $3,5 млрд в отчётном квартале, «последовательно увеличившись в основном из-за инвестиций в ИИ-вычисления», а капитальные затраты за год, как ожидается, превысят $11 млрд, что на $1 млрд больше год к году. При этом Танеджа сообщил, что компания «очень разумно подходит к расходам на ИИ», пытаясь наилучшим способом использовать существующую инфраструктуру, прежде чем делать дальнейшие инвестиции.

 Источник изображения: Taylor Vick / Unsplash

Источник изображения: Taylor Vick / Unsplash

Маск заявил, что Tesla продолжает расширять возможности обучения ИИ, чтобы удовлетворить как потребности в обучении автопилота Full Self Driving (FSD), так и роботов Optimus, отметив, что в настоящее время компания не испытывает дефицита вычислительных ресурсов. В квартальном отчёте не упоминается Dojo, ИИ-инфраструктура Tesla на базе ускорителей собственной разработки.

Постоянный URL: http://servernews.kz/1113059
25.10.2024 [19:58], Руслан Авдеев

Бывший топ-менеджер Linux Foundation раскрыл причины изгнания российских программистов из списка разработчиков ядра Linux

История с удалением имён российских разработчиков из файла MAINTAINERS ядра Linux получила продолжение. По информации ресурса Phoronix, ситуацию прокомментировал бывший член совета директоров Linux Foundation Джеймс Боттомли (James Bottomley), активно принимающий участие в разработке и по сей день.

Буквально на днях в Linux-сообществе разразился скандал — из файла MAINTAINERS удалили упоминания об 11 сопровождающих. Сообщалось, что записи могут вернуть, если будут предоставлены некие документы. Событие вызвало резонанс в Linux-сообществе, многие представители которого заявили, что отсутствие чётких критериев подобных репрессивных мер в будущем может грозить злоупотреблениями и ослаблением сообщества.

Позже меры утвердил и создатель ядра Linux Линус Торвальдс (Linus Torvalds), подтвердив слухи о том, что изменения связаны с санкциями США в отношении России и решение не подлежит отмене. Впрочем, от подробных комментариев отказался и он. Зато ситуацию прояснил Боттомли, принеся извинения за саму форму, в которой состоялось негласное «отлучение» от Linux. По его словам, меры были приняты в отношении людей, связанных с российскими компаниями, попавшими в санкционный список OFAC SDN Министерства финансов США — такие люди не могут остаться в файле MAINTAINERS.

 Источник изображения: Bob Brewer / Unsplash

Источник изображения: Bob Brewer / Unsplash

Каким образом можно доказать непричастность к работе в подсанкционных компаниях, не уточняется. В частности, в списке оказался разработчик, который когда-то действительно был трудоустроен в попавшую под санкции компанию «Байкал Электроникс», которой ранее уже было отказано в приёме патчей для ядра. Среди других оказались, в частности, сотрудники SberDevices, NetUP, МГУ, Metrotek, «Открытая мобильная платформа» (ОС «Аврора»).

Боттомли пояснил, что вся инфраструктура разработки Linux и огромное количество сопровождающих расположены в США, поэтому игнорировать законы этой страны не выйдет в любом случае. Разработчик выразил надежду, что из ядра не придётся удалять код уже добавленных патчей, и обещал посодействовать добавлению имён всех внёсших вклад в разработку Linux в файл CREDITS. Скоро юристы Linux Foundation, по его словам, должны опубликовать подробные материалы, посвящённые событиям.

С дополнительными комментариями поспешил выступить известный разработчик Теодор Цо (Theodore Ts'o). Он подчеркнул, что разработчики не устанавливают правила и обязаны соблюдать существующее законодательство. Он также отметил, что между санкциями против Huawei и российских разработчиков есть разница, поскольку в США существуют разные санкционные режимы для отдельных структур и людей. Кроме того, аналогичные правила на самом деле действовали и раньше, например, в отношении авторских прав и копирайта.

Постоянный URL: http://servernews.kz/1113038
25.10.2024 [19:32], Сергей Карасёв

В Германии появится 500-Пфлопс ИИ-суперкомпьютер ELBJUWEL

Немецкая компания ParTec и научно-исследовательский Центр им. Гельмгольца Дрезден-Россендорфа (HDRZ) подписали меморандум о взаимопонимании в рамках совместного проекта по созданию нового высокопроизводительного комплекса для ИИ-задач.

Создаваемый суперкомпьютер, получивший название ELBJUWEL, разместится в Германии. Эта НРС-система позволит местным учёным, компаниям и государственным учреждениям работать над сложными технологическими задачами. Ожидается, что комплекс повысит конкурентоспособность предприятий в Саксонии, снизив зависимость от международных облачных платформ.

Технические подробности о машине ELBJUWEL пока не раскрываются. Но отмечается, что это будет один из самых мощных ИИ-суперкомпьютеров в мире. Планируемая производительность заявлена на уровне 500 Пфлопс (вероятно, FP64), тогда как быстродействие на ИИ-операциях FP8 будет достигать 50 Эфлопс.

 Источник изображения: HDRZ

Источник изображения: HDRZ

Цель проекта заключается в том, чтобы значительно облегчить доступ к ИИ-вычислениям для промышленных предприятий, средних коммерческих организаций, а также научных учреждений. Новая НРС-платформа, как предполагается, охватит широкий спектр вариантов использования. Сроки ввода ELBJUWEL в эксплуатацию не уточняются.

Нужно отметить, что компания ParTec принимает участие в создании системы JUPITER — первого европейского суперкомпьютера экзафлопсного класса. Монтаж модульного ЦОД для этой машина начался в сентябре. В состав JUPITER войдут энергоэффективные высокопроизводительные европейские Arm-процессоры SiPearl Rhea и решения NVIDIA Quad GH200. ИИ-быстродействие суперкомпьютера до 93 Эфлопс, а FP64-производительность превысит 1 Эфлопс.

Постоянный URL: http://servernews.kz/1113012
25.10.2024 [12:36], Руслан Авдеев

Китай открывает двери для ЦОД с полностью иностранным участием

Министерство промышленности и информационных технологий (MIIT) КНР открывает двери иностранным инвесторам — теперь им разрешат строительство дата-центров, полностью принадлежащих зарубежному юрлицу. По информации Datacenter Dynamics, MIIT запустило пилотный проект, целью которого стало привлечение в страну иностранных телеком-компаний.

Проект распространяется на особые зоны в Пекине, Шанхае, Хайнане и Шеньчжене. В этих зонах иностранные инвесторы смогут управлять полностью принадлежащими зарубежному капиталу бизнесами, включая дата-центры, и участвовать в онлайн-обработке данных. Также компании получат более широкий доступ к китайским облачным сервисам и вычислительным ресурсам. По словам министерства, программа знаменует собой новую фазу открытости Китая в телеком-секторе.

 Источник изображения:  bruce mars/unsplash.com

Источник изображения: bruce mars/unsplash.com

Ожидается, что новые меры помогут диверсифицировать рынок IT в самом Китае, также это даст стране возможность «поделиться» своей цифровой экономикой с остальным миром. В числе участников пилотного проекта — HSBC Fintech Services Shanghai Company Limited, принадлежащая HSBC. По слухам, компания намерена получить статус «провайдера интернет-контента». Ещё одним участником желает стать Tesla, которая уже подала заявку. Её автозавод Gigafactory находится в Шанхае, так что она не прочь получить доступ к местным облачным ресурсам.

По данным MIIT, всего в сентябре 2024 года получили лицензии на ведение телекоммуникационной деятельности 2,2 тыс. компаний с иностранным капиталом. Планы отменить ограничения на инвестиции в местные сервисы впервые были озвучены в апреле 2024 года. Ранее иностранные инвесторы могли владеть лишь долей до 50 % в местном телекоммуникационном бизнесе.

Новые меры позволят американским компаниям вроде Microsoft и AWS, ранее работавших только через посредников, строить в Китае собственные ЦОД. Впрочем, на развитие наверняка повлияют санкции, ограничивающие поставку в КНР современных чипов. В августе сообщалось, что AWS, Microsoft и Google лидируют на облачном рынке во всех регионах мира, кроме КНР. Ранее в этом году аналогичные шаги по открытию рынка дата-центров для иностранных инвесторов сделал Вьетнам. В июле в стране официально отменили правило, согласно которому иностранные компании могли владеть не более 49 % бизнеса.

Постоянный URL: http://servernews.kz/1113020
24.10.2024 [17:39], Руслан Авдеев

CoreWeave увеличит ёмкость арендуемых у Core Scientific ИИ ЦОД до 500 МВт

ИИ-облако CoreWeave заключила очередной контракт с оператором майнинговых ЦОД Core Scientific, предусматривающей получение дополнительной инфраструктуры, передаёт Datacenter Dynamics. В соответствии с новым контрактом будет получено ещё 120 МВт, так что общая ёмкость ИИ ЦОД у Core Scientific в обозримом будущем составит 500 МВт. В своё время CoreWeave рассматривала покупку компании-партнёра, но та отклонила предложение, поскольку потенциальный покупатель «значительно недооценивал» бизнес.

Для обеспечения дополнительной ёмкости в 120 МВт Core Scientific придётся модернизировать инфраструктуру для размещения дополнительных ускорителей NVIDIA. Предполагается, что модернизация стартует во II половине 2025 года, а ввод в эксплуатацию новых ёмкостей должен состояться во II половине 2026 года. Согласно имеющимся расчётам, обновлённый 12-летний контракт принесёт Core Scientific около $2 млрд дополнительной совокупной выручки в дополнение к $6,7 млрд, которые будут получены в рамках предыдущих контрактов с CoreWeave.

 Источник изображения: Core Scientific

Источник изображения: Core Scientific

В Core Scientific отметили, что сегодня наблюдается значительный спрос на инфраструктуру, поддерживающую ускорители нового поколения. Соглашения с CoreWeave станет основой для эволюции Core Scientific в одного из лидеров рынка ЦОД, способных удовлетворять этот спрос. Впрочем, ещё 500 МВт по-прежнему будут использоваться для майнинга. Аналитики JPMorgan предупреждают, что у криптомайнеров осталось всего девять месяцев, чтобы реорганизовать имеющиеся мощности в дата-центры для ИИ.

Многие криптомайнинговые компании, включая саму CoreWeave, уже переориентировались на ИИ-проекты. Ещё один игрок на рынке майнинга, Crusoe Energy, построит и сдаст в аренду Oracle крупный ИИ ЦОД. Oracle разместит там ИИ-кластеры Microsoft в интересах OpenAI. Hive Digital Technologies, Northern Data, Applied Digital, Iris Energy и другие компании теперь тоже уделяют всё больше внимания ИИ и HPC-вычислениям наряду с криптобизнесом.

Постоянный URL: http://servernews.kz/1112947
24.10.2024 [12:36], Сергей Карасёв

Raspberry Pi выпустила фирменные M.2 SSD и ИИ-модуль AI HAT+

Компания Raspberry Pi представила под собственным брендом первые SSD и наборы SSD Kit для одноплатного компьютера Raspberry Pi 5. Дебютировали накопители в форм-факторе M.2 2230 вместимостью 256 и 512 Гбайт.

На сайте Raspberry Pi говорится, что SSD используют интерфейс PCIe 3.0 (NVMe 1.4). Однако в описании самого мини-компьютера Raspberry Pi 5 упомянута только поддержка PCIe 2.0 x1 (для подключения периферии). Ресурс Tom's Hardware отмечает, что совместимость с PCIe 3.0 можно задать в настройках raspi-config, что позволит повысить скорость передачи данных.

Для установки накопителей на Raspberry Pi 5 требуется модуль Raspberry Pi M.2 HAT+ (Hardware Attached on Top) с коннектором M.2: эта вспомогательная плата изначально включена в комплекты SSD Kit. В набор также входят соединительный шлейф и необходимый крепёж.

В характеристиках SSD указан показатель IOPS (операций ввода-вывода в секунду) при работе с блоками данных по 4 Кбайт. У младшей версии он достигает 40 тыс. при произвольном чтении и 70 тыс. при произвольной записи, у старшей — 50 тыс. и 90 тыс. соответственно. Диапазон рабочих температур — от 0 до +70 °C.

 Источник изображений: Raspberry Pi

Источник изображений: Raspberry Pi

Стоимость накопителя на 256 Гбайт составляет $30, на 512 Гбайт — $45. Комплекты с модулем Raspberry Pi M.2 HAT+ обойдутся в $40 и $55. Приём заказов уже начался. Производиться новинки будут минимум до января 2032 года.

Также компания представила обновлённый вариант ИИ-модуля для инференса — Raspberry Pi AI HAT+. От представленного ранее AI Kit новинка отличается тем, что теперь чип ускорителя интегрирован непосредственно на плату, а не подключается через M.2-коннектор. На выбор по-прежнему доступны чипы Hailo-8 (26 TOPS) и Hailo-8L (13 TOPS). Стоят модули с ними $110 и $70 соответственно. Диапазон рабочих температур — от 0 до +50 °C. Выпускаться модули будут минимум до января 2030 года.

Постоянный URL: http://servernews.kz/1112942
24.10.2024 [07:57], Владимир Мироненко

JPMorgan: у криптомайнеров осталось всего девять месяцев, чтобы переключиться на ИИ

У майнеров биткоинов есть всего девять месяцев на то, чтобы подписать контракты с гиперскейлерами и компаниями в сфере ИИ, считают в аналитической компании JPMorgan, о чём сообщил ресурс Data Center Dynamics. По мнению аналитиков JPMorgan, для майнеров сейчас самое подходящее время, чтобы расширить сферу деятельности, поскольку традиционные ЦОД всё ещё испытывают трудности с поиском мощностей, подключений к энергосетям и масштабированием.

«Мы считаем, что у избранных майнеров есть около девяти месяцев, чтобы подписать выгодные сделки с несколькими хорошо финансируемыми ИИ-стартапами и гиперскейлерами, пока [остальные] дата-центры остаются в подвешенном состоянии, ожидая одобрения и/или подключения к энергосетям», — сообщили аналитики Реджинальд Л. Смит (Reginald L. Smith) и Чарльз Пирс (Charles Pearce) в отчёте, впервые опубликованном The Block. Они также отметили, что зарегистрированные в США майнеры биткоинов имеют доступ к более чем 5 ГВт электроэнергии, а ещё 6 ГВт находятся на разных стадиях освоения.

 Источник изображения: Kanchanara / Unsplash

Источник изображения: Kanchanara / Unsplash

JPMorgan оценивает объём заказанных, но пока не реализованных ёмкостей ЦОД в более чем 12 ГВт, на одобрение и строительство которых может уйти до шести лет. В августе американская инвестиционная управляющая компания VanEck заявила, что майнеры биткоинов могут зарабатывать дополнительно $13,9 млрд/год благодаря партнёрству с компаниями в области ИИ.

Ряд криптомайнеров вовремя перешли на обслуживание ИИ. Так, CoreWeave полностью переключилась на поддержку ИИ/HPC-задач. Компания также подписала 12-летний контракт с майнинговой фирмой Core Scientific, в рамках которого последняя расширит ёмкости для удовлетворения потребности CoreWeave в ИИ-вычислениях. По словам Core Scientific, сделка принесёт ей за 12 лет $8,6 млрд. Ещё один игрок на рынке майнинга, Crusoe Energy, построит и сдаст в аренду Oracle крупный ИИ ЦОД. Oracle разместит там ИИ-кластеры и сдаст их в аренду Microsoft в интересах OpenAI. Hive Digital Technologies, Northern Data, Applied Digital, Iris Energy и другие майнеры теперь тоже уделяют всё больше внимания HPC/ИИ наряду со криптобизнесом.

Постоянный URL: http://servernews.kz/1112934
23.10.2024 [16:57], Владимир Мироненко

NVIDIA переименовала будущие ИИ-ускорители Blackwell Ultra в B300

Согласно данным аналитической компании TrendForce, NVIDIA решила переименовать продукты семейства Blackwell Ultra в серию B300. В связи с этим ускоритель B200 Ultra стал B300, а GB200 Ultra теперь называется GB300. Кроме того, B200A Ultra и GB200A Ultra получили имена B300A и GB300A соответственно. Серия ускорителей B300, как ожидается, выйдет в I–II квартале 2025 года, а поставки (G)B200 начнутся не позднее I квартал 2025 года.

TrendForce отметила, что NVIDIA совершенствует сегментацию чипов Blackwell, чтобы лучше соответствовать требованиям по стоимости и производительности со стороны облачных провайдеров (CSP) и OEM-производителей серверов и смягчить требования к цепочкам поставок.

Так, модель B300A нацелена на OEM-клиентов, её массовое производство планируется начать во II квартале 2025 года после пика поставок H200. Изначально NVIDIA хотела предложить данному сегменту упрощённый вариант B200A, но, судя по всему, спрос на него оказался более слабом, чем ожидалось. Вместе с тем переход с GB200A на GB300A для стоечных решений может привести к увеличению первоначальных затрат для корпоративных клиентов, что также может отразиться на спросе.

 Источник изображения: TrendForce

Источник изображения: TrendForce

Сейчас компания вкладывает значительные средства в улучшение стоечных решений NVL, помогая поставщикам серверных систем с оптимизацией производительности и жидкостным охлаждением для систем NVL72, а AWS и Meta настоятельно призывают перейти с NVL36 на NVL72. TrendForce также ожидает, что предложение топовых ускорителей NVIDIA будет расширяться, а их общая доля в поставках, как ожидается, достигнет около 50 % в 2024 году, то есть вырастет на 20 п.п. год к году. Ожидается, что выпуск ускорителей Blackwell увеличит этот показатель до 65 % в 2025 году.

Аналитики также отметили роль NVIDIA в стимулировании спроса на технологию упаковки CoWoS. Благодаря Blackwell спрос на данный тип упаковки вырастет более чем на 10 п.п. в годовом исчислении. NVIDIA, скорее всего, сосредоточится на поставках чипов B300 и GB300 крупным североамериканским гиперскейлерам — оба варианта используют технологию CoWoS-L. Компания активно наращивает закупки HBM — согласно прогнозам, в 2025 году на NVIDIA придётся более 70 % мирового рынка HBM (рост на 10 п.п. год к году).

TrendForce также отмечает, что все чипы серии B300 будут оснащены памятью HBM3e 12Hi, производство которой начнётся не позднее I квартал 2025 года. Но поскольку это будут первые массовые продукты с таким типом памяти, поставщикам, как ожидается, потребуется не менее двух кварталов для отработки процессов и стабилизации объёмов производства.

Постоянный URL: http://servernews.kz/1112912
22.10.2024 [18:10], Руслан Авдеев

Индия и NVIDIA обсуждают совместную работу над ИИ-ускорителями

Индийское правительство ведёт переговоры с NVIDIA о возможности совместной разработки ИИ-чипов. Министр Ашвини Ваишнав (Ashwini Vaishnaw), отвечающий за электронику и IT в целом, заявил, что обсуждение находится на начальной стадии, не сообщив никаких деталей, передаёт The Register.

В рамках новой стратегии страны приоритетным стало развитие ИИ-инфраструктуры, причём с опорой на собственные решения там, где это возможно. В частности, планируется построить суперкомпьютер с 10 тыс. ускорителей. Также выделены средства на аренду ускорителей для тех, кто не может их купить, а условия поддержки смягчили, дав возможность развиваться небольшим IT-провайдерам. При это страна готова закупать даже урезанные варианты ускорителей NVIDIA, которые из-за санкций не достались Китаю. С соседом у Индии отношения всё ухудшаются и ухудшаются, а некоторые крупные китайские игроки сами уходят из страны, а их место занимают западные и локальные компании.

 Источник изображения: Laurentiu Morariu/unsplash.com

Источник изображения: Laurentiu Morariu/unsplash.com

Индия давно стремится к развитию полупроводникового производства и намерена расширить своё влияние в этой сфере. Местные СМИ сообщают, что переговоры властей и NVIDIA якобы касаются разработки чипов, оптимизированных для некоторых сфер. Например, для обеспечения работы систем безопасности разветвлённой сети индийских железных дорог. У NVIDIA уже есть подобные решения на платформе Orin. Но выпуск даже такой платформы на территории Индии пока не представляется возможным, так что речь, вероятнее всего, идёт именно о сотрудничестве в сфере разработки.

Постоянный URL: http://servernews.kz/1112844
22.10.2024 [12:49], Владимир Мироненко

В Пизанском университете установили суперкомпьютер Lenovo на базе Intel Xeon Max

Компания Lenovo сообщила об установке в дата-центре Пизанского университета (UniPi) нового кластера, благодаря чему HPC-платформа UniPi стала крупнейшей среди университетских суперкомпьютеров в Италии. Система размещена в ЦОД Green Data Center, который включает 104 стойки, где уже размещено 700 узлов (30 тыс. ядер, более ускорителей разных поколений).

 Источник изображения: Lenovo

Источник изображения: Lenovo

Новая HPC-система Lenovo состоит из 16 узлов SD650 V3 с двумя процессорами Intel Xeon Max 9480 (Sapphire Rapids с HBM). Используемая СЖО Lenovo Neptune Direct Water-Cooling позволяет отводить до 98 % тепла, вырабатываемого суперкомпьютером, а также снизить энергопотребление на 40 %. Как утверждает компания, благодаря повышенной эффективности СЖО температура процессоров не достигает критических значений, что позволяет избежать снижения максимальной частоты ядер. Аналогичная платформа используется в суперкомпьютере Cassandra для Европейско-Средиземноморского центра по изменению климата (CMCC) в Лечче (Италия).

Как отметил UniPi, решающим фактором при выборе решения Lenovo была адаптивность системы, поскольку проект был изначально разработан с учётом минимального воздействия на окружающую среду с целью создания экологичного ЦОД. Кроме того, стандартизированный подход Lenovo к созданию HPC-узлов упростила и ускорила её установку в ЦОД UniPi. Как ожидается, новый суперкомпьютер будет способен поддерживать рабочие нагрузки HPC и ИИ последнего поколения в течение следующих нескольких лет.

UniPi имеет три ЦОД в Пизе. В 2016 году университет запустил проект строительства нового «Зелёного дата-центра» (Green Data Centre) для размещения HPC-нагрузок. По словам UniPi, новый университетский ЦОД является единственным объектом в стране, получившим классификацию «A» от AgID в начале этого года.

Постоянный URL: http://servernews.kz/1112826

Входит в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности»;

Система Orphus