NVIDIA и VMware объявили о расширении стратегического партнёрства, нацеленного на развитие систем ИИ. Компании анонсировали платформу VMware Private AI Foundation — полнофункциональное решение, которое позволит заказчикам быстро развёртывать различные приложения на базе генеративного ИИ.

Новая платформа представляет собой полностью интегрированный продукт на базе VMware Cloud Foundation, включающий стек ПО для генеративного ИИ и вычислительные ресурсы на базе ускорителей NVIDIA. VMware Private AI Foundation будет поддерживаться Dell Technologies, Hewlett Packard Enterprise (НРЕ) и Lenovo, которые одними из первых предложат готовые ИИ-комплексы. Такие системы будут включать ускорители NVIDIA L40S, DPU BlueField-3 и адаптеры ConnectX-7 SmartNIC .

Изображение: NVIDIA

Предполагается, что благодаря новому совместному решению NVIDIA и VMware сотни тысяч клиентов в сферах финансовых услуг, здравоохранения, производства и других отраслях получат комплексную платформу, позволяющую раскрыть потенциал генеративного ИИ с использованием их собственных данных. В числе ожидаемых преимуществ для заказчиков называются:

• Конфиденциальность — клиенты смогут запускать ИИ-службы с обеспечением безопасного доступа и защитой данных;
• Выбор — заказчики смогут выбирать различные схемы работы с ИИ, воспользовавшись OEM-конфигурациями, публичными облаками или услугами сервис-провайдеров;
• Производительность — инфраструктура NVIDIA обеспечит быстродействие, сопоставимое или даже превосходящее с таковым у решений bare metal;
• Масштабируемость — использование до 16 v(GPU) в рамках одной виртуальной машины;
• Снижение затрат — платформа максимизирует использование вычислительных ресурсов для сокращения расходов и повышения эффективности;
• Быстрое хранилище данных — архитектура VMware vSAN Express предоставит производительную NVMe-подсистему и поддержку GPUDirect с RDMA, что позволит хранилищам и ускорятелям обмениваться данными напрямую и без участия CPU;
• Быстрая сеть — глубокая интеграция между vSphere и NVIDIA NVSwitch позволит моделям, задействующим несколько ускорителей, работать без задержек;
• Быстрое развёртывание и малое время окупаемости — готовые ВМ-образы vSphere Deep Learning обеспечат возможности быстрого прототипирования;
• Доступ к стеку NVIDIA AI Enterprise и его компонентам, а также к NVIDIA AI Workbench и иным инструментам, которые помогут ускорить разработку, внедрение и сопровождение ИИ-моделей на предприятиях.

Как сообщает портал SCN, провайдер Move Up Internet (MUI) объявил о намерении предоставлять гигабитный интернет-доступ в австралийском регионе Саншайн-Кост (Квинсленд) — для этого будут применяться сети на базе технологии Meta✴ Terragraph. Доступ будет предоставляться как корпоративным клиентам, так и физическим лицам.

Сама MUI является подразделением Graph Networks, специализирующейся на беспроводных решениях. Terragraph подходит для труднодоступных мест, куда прокладка кабелей обойдётся слишком дорого или будет вовсе невозможной. Применяется 60-ГГц (mmWave) радиочастотный спектр и стандарт WiGig. Для эффективной связи терминалы должны располагаться друг от друга на расстоянии 200–250 м. Весной этого года Meta✴ передала наработки проекту LF Connectivity (Linux Foundation).

Фото: MOVE UP Internet

MUI намерена применить технологию для покрытия связью юго-востока Квинсленда. Graph Networks разработала SDN-архитектуру, обеспечивающую быстрое внедрение в офисных и многоквартирных зданиях и отдельных домах. Аналогичный сервис уже работает в Брисбене. MUI также недавно подключила свою Terragraph-сеть к посадочной станции подводного интернет-кабеля JGA-S.

Компания Gartner обнародовала прогноз по глобальному рынку чипов, предназначенных для использования в системах и устройствах с поддержкой ИИ. По мнению аналитиков, в ближайшие годы данный сегмент будет устойчиво расти, что связано с внедрением больших языковых моделей (LLM) и развитием рабочих нагрузок на основе ИИ в корпоративном секторе.

По оценкам, в 2022 году продажи ИИ-чипов составили приблизительно $44,22 млрд. По итогам текущего года данный показатель, как ожидается, увеличится до $53,45 млрд. Если эти ожидания оправдаются, рост в годовом исчислении окажется на уровне 20,9 %.

Источник изображения: pixabay.com

В 2024 году, прогнозирует Gartner, отгрузки в денежном выражении увеличатся на 25,6 % — до $67,1 млрд. В дальнейшем продажи продолжат расти и в 2027-м составят около $119,4 млрд, то есть, превысят результат нынешнего года более чем в два раза.

Значительный рост продаж ИИ-решений ожидается в сегменте потребительской электроники. Согласно подсчётам Gartner, в 2022 году такие изделия принесли поставщикам примерно $558 млн. В 2023 году объём продаж может достигнуть $1,2 млрд. Таким образом, отгрузки в денежном исчислении увеличатся приблизительно на 115 %.

Аналитики отмечают, что во многих сценариях развёртывания ИИ специализированные чипы будут выступать в качестве альтернативы традиционным ускорителям на базе GPU. Это позволит повысить эффективность вычислений и снизить затраты. Развитию отрасли в ближайшие годы будет способствовать генеративный ИИ.

Компания Kioxia, по сообщению ресурса Blocks & Files, свернула проект KumoScale по разработке специализированного ПО для хранилищ данных. Выпуск новых версий не планируется, а новые лицензии на данный продукт предоставляться не будут. Поддержка текущих заказчиков сохранится.

KumoScale — это программный комплекс, нацеленный на максимизацию использования обычных NVMe-накопителей в дата-центрах. Платформа использует NVMe-oF (RDMA или NVMe/TCP) для формирования быстрых масштабируемых блочных хранилищ с низкой задержкой и позволяет управлять сотнями узлов хранения. Платформа обзавелась поддержкой Kubernetes, OpenStack, NVIDIA Magnum IO GPUDirect Storage (GDS) и т.д.

Одна из первых презентаций KumoScale (Изображение: Kioxia/Toshiba)

В уведомлении на сайте Kioxia говорится, что развивать платформу KumoScale после версии 3.22 не планируется. Для продукта теперь осуществляется только техническое обслуживание — компания намерена поддерживать существующих клиентов. Какие-либо комментарии по поводу своего решения Kioxia не даёт.

Платформа KumoScale начала создаваться в североамериканском подразделении Kioxia (тогда ещё Toshiba) в 2016 году. Со временем она обросла функциональностью, но, как отмечает Blocks & Files, дальнейшее развитие фактически сделало бы её прямым конкурентом продуктов, которые создают заказчики Kioxia.

В эпоху быстрого развития ИИ-систем многие компании интересуются данной темой, в частности, большими языковыми моделями, но они обеспокоены сохранностью и целостностью собственных данных, чего не могут полностью гарантировать облачные сервисы. Специально для таких случаев компания Nutanix, разработчик решений для мультиоблачных и гиперконвергентных инфраструктур, предложила своё решение — платформу GPT-in-a-Box.

За этим названием скрывается программно-определяемая ИИ-платформа, базирующаяся на разработках Nutanix, открытых фреймворках, включая PyTorch и KubeFlow, и вычислительных узлах, оснащённых ускорителями NVIDIA. Она позволяет в кратчайшие сроки развернуть защищённую ИИ-среду в ЦОД или на периферии заказчика. Комплекс задействует файловое и объектное хранилище Nutanix Unified Storage, а также Kubernetes-платформу Karbon 2 с пробросом ускорителей.

Источник: Nutanix

В число поддерживаемых базовых языковых моделей входят Llama2, Falcon LLM и MosaicML, но возможен запуск и других GPT-моделей, а также тонкая подстройка с использованием данных из интегрированного хранилища. При этом GPT-in-a-Box вовсе не требует повышенных затрат, связанных с поддержкой, масштабированием и администрированием. Система функционирует в рамках Nutanix Cloud Platform, которая сертифицирована для NVIDIA AI Enterprise.

Платформа Google Cloud объявила об открытии облачного региона Берлин-Бранденбург: это вторая такая площадка на территории Германии и 12-я по счёту в Европе. Новая инфраструктура будет обслуживать как местных клиентов, так и заказчиков из соседних стран, в частности, из Чехии, где нет собственного облачного региона Google.

О планах по созданию площадки компания впервые объявила в сентябре 2021 года. Данный проект является частью масштабной программы, предусматривающей развитие цифровой инфраструктуры и чистой энергии в Германии. На эти цели в период с 2021-го по 2030 год Google планирует потратить €1 млрд.

Источник изображения: Google

Площадка будет функционировать наряду с первым германским регионом Google Cloud, который располагается во Франкфурте-на-Майне. Оба региона при содействии T-Systems будут предоставлять услуги «суверенного облака», которое отличается более строгим контролем за хранением, перемещением и обработкой данных. Наличие второго региона на территории страны позволит улучшить отказоустойчивость для местных государственных, финансовых и иных критических служб.

Google Cloud также оперирует в Европе регионами europe-west1 (Бельгия), europe-west2 (Лондон, Великобритания), europe-west3 (Франкфурт-на-Майне, Германия), europe-west4 (Нидерланды), europe-west6 (Цюрих, Швейцария), europe-west8 (Милан, Италия), europe-west9 (Париж, Франция), europe-west12 (Турин, Италия), europe-central2 (Варшава, Польша), europe-north1 (Финляндия) и europe-southwest1 (Мадрид, Испания).

Китайская автомобилестроительная компания Changan Automobile и местный IT-гигант Baidu, по сообщению ресурса Datacenter Dynamics, открыли совместный ЦОД, спроектированный с прицелом на ресурсоёмкие задачи ИИ. Местонахождение объекта не раскрывается.

Дата-центр использует облачные решения Baidu и гетерогенную вычислительную платформу AI Baige. Партнёры утверждают, что вычислительная мощность ЦОД достигает 1,42 Эфлопс (вероятно, речь об ИИ-расчётах пониженной точности).

Площадку Changan Artificial Intelligence Data Center планируется использовать в том числе для реализации проектов по разработке интеллектуальных подключенных транспортных средств и систем автономного вождения. Ожидается, что ЦОД поможет повысить скорость обучения моделей в 125 раз по сравнению с существующими ресурсами и поднять эффективность использования ускорителей на 40 %.

Источник изображения: Baidu

Дата-центр будет использоваться для хранения и анализа данных, поддержания работы ИИ-ассистентов, а также систем контроля энергопотребления для владельцев транспортных средств и предприятий.

Changan Automobile и Baidu намерены совместно работать над облачными вычислениями, Big Data и IoT. Условиями соглашения предусмотрено применение решений Baidu, в том числе большой языковой модели (LLM) Ernie AI. В перспективе Changan Automobile намерена разработать новый продукт на основе Ernie, который дебютирует в одном из автомобилей компании. К 2025 году Changan Automobile инвестирует в общей сложности $11 млрд в инновации в области ИИ и автомобильных платформ.

Petronas Digital, цифровая структура малайзийской энергетической компании Petronas, по сообщению издания Datacenter Dynamics, подписала соглашение с Microsoft о создании НРС-платформы для решения сложных и ресурсоёмких задач, связанных с ИИ.

Petronas намерена использовать НРС-инфраструктуру для запуска ИИ-алгоритмов и приложений машинного обучения с целью разработки новых технологий декарбонизации. Кроме того, платформа поможет выработать более эффективные методы использования энергии.

Microsoft реализует проект в сотрудничестве с Cegal — облачным провайдером, работающим в сфере энергетики и безопасности. Отмечается, что Petronas уже сотрудничает с обеими названными компаниями: они предоставляют энергетическому гиганту облачные услуги, сервисы автоматизации и пр.

Источник изображения: Microsoft

Планируется, что создаваемая для Petronas платформа HPC также будет доступна для использования другими компаниями энергетического сектора Малайзии, включая производственных подрядчиков. Об объёме инвестиций в проект стороны умалчивают.

«HPC-возможности и средства ИИ помогут дополнительно оптимизировать наши энергетические услуги и будут способствовать внедрению инноваций в энергетическом секторе», — отметил вице-президент Petronas по технологиям и коммерциализации Аадрин Азли (Aadrin Azly).

Российский IT-производитель С3 Solutions анонсировал новые микро-ЦОД для периферийных вычислений. Эти решения «под ключ», как сообщается, обладают высокой степенью защиты корпуса, благодаря чему могут размещаться практически в любом месте без продолжительного и дорогостоящего создания специальных условий — от кладовки, офиса и торгового зала до склада и производственной площадки с повышенным уровнем запыления.

В семействе представлены модели для заказчиков с разными потребностями в IT-мощностях и условиями эксплуатации. В частности, доступны варианты вместимостью от 16U до 72U и мощностью от 1,0 кВт до 25,5 кВт соответственно.

Источник изображения: С3 Solutions

В основу всех микро-ЦОД положен 19″ шкаф со степенью защиты IP55. Базовая версия комплектуется ИБП с батарейным модулем, обеспечивающим работу IT-оборудования и системы кондиционирования. Блок распределения питания рассчитан на соответствующую электрическую нагрузку и подключение необходимого количества потребителей.

Доступен набор опций, которые позволяют оптимизировать систему под определённые задачи: можно увеличить доступное свободное место, электрическую нагрузку и время автономного функционирования. Допускается интеграция систем мониторинга, контроля доступа, сигнализации и автоматического газового пожаротушения. Кроме того, можно обеспечить резервирование систем электропитания и кондиционирования.

Циркуляция воздуха в микро-ЦОД организована на уровне IT-стойки (без вовлечения окружающего помещения). Устройства оснащаются моноблочным кондиционером: выброс тепла производится в окружающее пространство, что накладывает определённые требования на объём помещения или систему вентиляции. Вместе с тем модульные версии допускают простое масштабирование, но требуют установки внешнего конденсаторного блока: выброс тепла происходит в месте его размещения.

Компания Visiology сообщила о сертификации Федеральной службой по техническому и экспортному контролю (ФСТЭК России) аналитической платформы Visiology версии 2.32.

Платформа Visiology предназначена для построения информационно-аналитических систем, соответствующих предъявляемым к современным платформам бизнес-аналитики (Business Intelligence) требованиям. Решение позволяет собирать большие объёмы разнородных данных и обрабатывать их с применением математических методов анализа. Одна из особенностей продукта — поддержка не только настольных и мобильных дисплеев, но и экранов коллективного пользования или видеостен, которые используются в ситуационных центрах, центрах управления и диспетчерских. К преимуществам Visiology относится многомерная In-Memory база данных ViQube для быстрого выполнения запросов, возможность интеграции со стеком технологий Big Data и Data Science, встроенная система сбора данных через веб-формы и мобильные приложения на Android и iOS для самостоятельного исследования данных.

Выданный ведомством сертификат подтверждает соответствие Visiology 2.32 требованиям безопасности информации по 6 уровню доверия. BI-платформа может быть использована для защиты информации, не содержащей сведения, составляющие государственную тайну, в значимых объектах критической информационной инфраструктуры 3 категории, в государственных информационных системах 3 класса защищённости, в информационных системах персональных данных при необходимости обеспечения 3 уровня защищённости обрабатываемых данных.

«Процесс сертификации является трудоёмким и требует тщательной подготовки. Поэтому обычно сертификат ФСТЭК России получают не самые новые версии ПО. Однако сегодня мы видим огромный спрос со стороны различных организаций на самые новые функции. Поэтому мы приложили значительные усилия, чтобы актуальный релиз Visiology 2.32 был сертифицирован менее чем через два месяца после его официальной презентации», — отмечают разработчики компании Visiology.