Vultr, крупнейший в мире частный облачный провайдер, объявил о том, что в составе его инфраструктуры теперь доступны ускорители AMD Instinct MI300X и открытый программный стек AMD ROCm. Клиенты могут использовать их для ресурсоёмких задач ИИ и НРС-нагрузок.

Отмечается, что благодаря объединению платформы Vultr Serverless Inference с ускорителями Instinct MI300X даже небольшие предприятия получают возможность применять передовые технологии ИИ, которые ранее им были недоступны. Новое решение ориентировано на заказчиков из различных отраслей, включая здравоохранение, финансовые услуги, производство, энергетику, медиа, розничную торговлю и телекоммуникации.

На сайте Vultr отмечается, что изделия Instinct MI300X обеспечивают ИИ-производительность в режиме TF32 до 653,7 Тфлопс, FP16 — 1307,4 Тфлопс, INT8 — 2614,9 TOPS, FP8 — 2614,9 Тфлопс. При НРС-нагрузках теоретическое пиковое быстродействие достигает 81,7 Тфлопс FP64 и 163,4 Тфлопс FP32.

Источник изображения: Vultr

Ускорители AMD интегрируются с Vultr Kubernetes Engine for Cloud GPU для формирования кластеров Kubernetes с ускорением на базе GPU. Компания Vultr говорит о высоком соотношении цены и производительности, гибких возможностях масштабирования и оптимизации для инференса. Нужно отметить, что ранее об использовании ускорителей Instinct MI300X в составе своей облачной инфраструктуры объявила корпорация Oracle. Новые инстансы BM.GPU.MI300X.8 могут использоваться в том числе для обработки больших языковых моделей (LLM), насчитывающих сотни миллиардов параметров.

Vultr, крупнейший в мире частный облачный провайдер, объявил о запуске суверенного и частного облаков — платформ Sovereign Cloud и Private Cloud, которые ориентированы на государственных заказчиков, исследовательские учреждения и предприятия, работающие с критически важными данными.

Отмечается, что значительная часть облачных рабочих нагрузок в мире в настоящее время управляется ограниченным количеством поставщиков услуг, дата-центры которых сосредоточены в определённых географических регионах. Это вызывает обеспокоенность по поводу цифрового суверенитета и контроля над данными среди правительств ряда стран — особенно в Европе, на Ближнем Востоке, в Латинской Америке и Азии.

Источник изображения: Vultr

Вместе с тем предприятиям приходится соблюдать всё больше правил, регулирующих сбор, хранение и использование данных. Согласно исследованию Accenture, примерно 50 % европейских руководителей высшего звена считают суверенитет данных главным вопросом при выборе поставщиков облачных услуг. Причём более трети респондентов сообщили, что их компании стремятся переместить от 25 % до 75 % информации, рабочих нагрузок или активов в суверенное облако. Платформы Sovereign Cloud и Private Cloud как раз и призваны удовлетворить этот спрос.

Новые сервисы предоставляют доступ к облачной инфраструктуре, гарантируя при этом, что критически важные данные и операции остаются в пределах национальных границ, а обработка осуществляется в соответствии с местными законодательными требованиями. При этом Vultr предоставляет клиентам доступ к вычислительным ресурсам на базе современных GPU и средствам ИИ. Утверждается, что благодаря сотрудничеству с поставщиками телекоммуникационных услуг, такими как Singtel, а также с другими партнёрами и правительствами по всему миру Vultr может развёртывать локальные облака в любом регионе.

Источник изображения: Vultr

Кроме того, Vultr обеспечивает технологическую независимость на базе изолированной физической инфраструктуры, управление которой находится под непосредственным контролем клиента и не связано с центральной системой Vultr. В целом, платформы Vultr Sovereign Cloud и Private Cloud гарантируют, что данные хранятся локально, не передаются за пределы национальных границ и используются строго по назначению.

Нужно отметить, что суверенные облачные сервисы развёртывают и многие другие провайдеры и операторы дата-центров. Так, в сентябре 2023 года о планах по созданию суверенного облака в ОАЭ объявила корпорация Microsoft. Oracle в июне 2023-го запустила суверенную облачную платформу EU Sovereign Cloud, предназначенную специально для Европейского союза. По заявлениям Oracle, создание суверенных облаков также заказали семь государств, включая Японию, Италию, Саудовскую Аравию, Бангладеш и Новую Зеландию. Кроме того, суверенное облако для Европы анонсировала компания Amazon. А Orange и Capgemini запустят во Франции суверенное облако Bleu на базе решений Microsoft.

Vultr, крупнейший в мире частный облачный провайдер, анонсировал создание собственной сети доставки контента, разработанной для поддержания работы современных нагруженных сервисов. Платформа получила название Vultr CDN: она построена на базе глобальной инфраструктуры Vultr, охватывающей шесть континентов.

Система, как утверждается, использует сложные интеллектуальные функции распределения контента, оптимизируя операции и гарантируя высокую экономическую эффективность. Стоимость услуг составляет от $10/мес. за каждый регион (1 Тбайт трафика входит в стоимость), что, по заявлениям Vultr, является самой низкой ценой в отрасли.

Источник изображения: Vultr

Благодаря полной интеграции с Vultr Cloud Compute платформа CDN автоматически и интеллектуально масштабируется, оптимизируя параметры для каждой конкретной задачи и приложения. Облачная платформа, охватывающая 32 локации по всему миру, обеспечивает низкую задержку и высокую скорость доставки контента независимо от того, где находится пользователь. Утверждается, что Vultr CDN соответствует ведущим отраслевым стандартам безопасности: предусмотрены средства защиты в том числе от DDoS-атак.

Реализована бесшовная интеграция с популярными платформами CMS, а также с объектным хранилищем Vultr. В целом, как отмечает Vultr, новая CDN-платформа меняет правила игры на рынке сетей доставки контента. Глобальный охват, производительность и высокая экономическая эффективность позволяют поддерживать современные масштабируемые приложения с минимальными затратами.

По оценкам ResearchAndMarkets, в 2022 году объём мирового CDN-рынка составил приблизительно $6,7 млрд. К 2030-му, согласно прогнозам аналитиков, этот показатель может достичь $30,5 млрд. Между тем некоторые компании отказываются от развития собственных CDN-сервисов. Так, американская телекоммуникационная фирма Lumen Technologies решила продать соответствующие клиентские контракты провайдеру Akamai Technologies. А ранее Akamai приобрела около 100 клиентов CDN у Stackpath. При этом сама компания постепенно становится облачным провайдером.

Vultr, крупнейший в мире частный облачный провайдер, объявил о доступности суперчипа NVIDIA GH200 Grace Hopper во всех своих 32 облачных регионах. Портфолио провайдера также включает предложения на базе HGX H100, A100, L40S, A40 и A16. Vultr видит свою миссию в том, чтобы сделать HPC-решения простыми в использовании и доступными для предприятий и разработчиков по всему миру.

Ускорители NVIDIA интегрированы с широким спектром предложений Vultr в области виртуализированных облачных платформ и bare metal, а также с управляемыми кластерами Kubernetes, управляемыми базами данных, блочными и объектными хранилищами и многим другим. Этот комплексный набор продуктов и услуг делает Vultr предпочтительным универсальным облачным поставщиком для предприятий любого размера с критически важными инициативами в области ИИ и машинного обучения, считает компания.

Источник изображения: Vultr

Vultr также объявила о получении статуса NVIDIA Elite в партнёрской сети NVIDIA в области вычислений — NVIDIA Partner Network for Compute Competency. Статус ориентирован на партнёров, которые предоставляют вычислительные платформы с ускорителями NVIDIA для корпоративных заказчиков. Партнёры по Compute должны обеспечивать высокую производительность, масштабируемость и безопасность для каждой платформы.

Частная компания Vultr, предоставляющая услуги облачных вычислений, сообщила о том, что клиентам теперь доступны ускорители NVIDIA H100 для обработки ресурсоёмких приложений, связанных с генеративным ИИ, глубоким обучением, рендерингом видео, HPC-задачами и т. п.

Воспользоваться мощностями платформы NVIDIA HGX H100 заказчики смогут в рамках сервиса IaaS. Данная облачная платформа Vultr также включает другие ускорители NVIDIA, в том числе A100, A40 и A16. Таким образом, как отмечается, корпоративные пользователи могут выбрать наиболее подходящий для себя вариант в зависимости от потребностей.

Кроме того, Vultr объявила о трёхстороннем стратегическом альянсе с платформами обработки данных и машинного обучения Anaconda Inc. и Domino Data Lab. Эта инициатива призвана помочь специалистам по анализу данных и инженерам в области машинного обучения в упрощении и ускорении реализации проектов. Говорится, что в течение всего 60 секунд клиенты смогут развернуть полноценную и безопасную среду Anaconda на платформе Domino MLOps, работающую на инфраструктуре Vultr. Это позволит заказчикам сосредоточиться на инновациях, а не на решении рабочих вопросов.

Источник изображения: Vultr

Ускорители NVIDIA также могут быть интегрированы с широким спектром виртуализированных облачных ресурсов Vultr, серверами bare metal, управляемыми базами данных, блочными и объектными хранилищами и пр. Этот комплексный набор продуктов и услуг способен удовлетворить потребности предприятий любого размера с критически важными проектами в области ИИ и машинного обучения.

В облачной инфраструктуре Vultr Cloud стали доступны ускорители NVIDIA A16, предназначенные для развёртывания платформ виртуальных рабочих столов (VDI). Утверждается, что это позволяет организовать удалённую работу с графикой и возможностями, практически не отличимыми от обычных ПК. Ускоритель NVIDIA A16 объединяет четыре графических процессора Ampere и 64 Гбайт памяти GDDR6. Благодаря средствам виртуализации Vultr предлагает различные конфигурации для VDI — например, с дробными ресурсами GPU и с видеопамятью объёмом от 1 Гбайт.

Отмечается, что компания Vultr стала первым поставщиком облачных вычислений, предлагающим ускорители NVIDIA A16. Возможно развёртывание высокопроизводительных рабочих окружений Windows и Linux с малой задержкой, доступ к которым можно получить из любой точки мира. Для рабочих нагрузок с интенсивным использованием графики, таких как визуализация, рендеринг и автоматизированное проектирование (САПР), предлагаются инстансы на основе NVIDIA A40. Для подключения можно применять различные клиенты, включая Parsec, Microsoft Remote Desktop и VNC.

Источник изображения: Vultr

Несмотря на то, что NVIDIA A16 оптимизирован под платформы VDI, ускоритель также можно использовать для транскодирования видеоматериалов, потоковой передачи контента и машинного обучения. Цена на инстансы с NVIDIA A16, начинается с $21,5/мес. в конфигурации с 1/16 ресурсов одного GPU, 1 Гбайт памяти GDDR6, 1 vCPU, 4 Гбайт ОЗУ и NVMe-хранилищем вместимостью 50 Гбайт. «Удалённая работа в настоящее время является нормой для многих профессий, и IT-отделы всё чаще приходят к выводу, что управлять виртуальными рабочими столами проще, безопаснее и дешевле, чем физическими компьютерами», — отмечает Vultr.