NVIDIA приобрела стартап, помогающий ИИ-разработчикам найти среди предложений облачных провайдеров наиболее подходящий по соотношению цена/качество доступ к ускорителям. Как сообщает портал CRN, это уже четвёртая заметная покупка NVIDIA с начала года. Представитель NVIDIA подтвердил, что сделка по приобретению Brev.dev действительно состоялась, но сумму и условия сделки не сообщил.

Brev.dev предоставляет платформу для создания, обучения и внедрения ИИ-моделей в облаках. Целью Brev.dev, по словам самого стартапа, является поиск простейшего способа использования ускорителей для разработчиков систем ИИ и машинного обучения. Сотрудничество с NVIDIA обеспечит выполнение этой миссии, с комбинацией максимально возможно производительной аппаратной составляющей с самым передовым программным обеспечением.

На сайте Brev.dev официальными партнёрами стартапа названы NVIDIA, Intel и AWS. Там же говорится, что платформа служит единым интерфейсом для взаимодействия AWS, Google Cloud Platform, Fluidstack и прочими облаками с ИИ-ускорителями. Это позволяет разработчикам искать подходящие инстансы на основе их цены и доступности. Хотя NVIDIA поставляет GPU и ИИ-ускорители облачным провайдерам более десяти лет, в последние годы компания уделяет немало внимания расширению собственного бизнеса в сфере облачных инфраструктур.

Источник изображения: NVIDIA

В прошлом году компания запустила сервис DGX Cloud, который развёрнут в облачной инфраструктуре других провайдеров и на собственных мощностях и ИИ-суперкомпьютерах. Ранее в этом году NVIDIA купила ещё два стартапа для развития возможностей DGX Cloud. В конце апреля компания анонсировала покупку израильского стартапа Run:ai, занимающегося решениями для оркестрации ИИ-инфраструктур. Его планируется интегрировать в DGX Cloud, а также с DGX- и HGX-серверами. По имеющимся данным, покупка Run:ai обошлась в $700 млн.

Практически одновременно с Run:ai компания приобрела ещё один израильский стартап — Deci, предлагающий ПО, способное на любом железе ускорить инференс ИИ-моделей, сохраняя точность данных. Сделку, по слухам, оценили приблизительно в $300 млн. Наконец, месяц назад NVIDIA купила калифорнийский стартап Shoreline.io, основанный бывшим управленцем AWS — компания разрабатывает ПО для автоматического устранения проблем в инфраструктуре ЦОД. По некоторым данным, команда Shoreline присоединилась к DGX Cloud, а покупка обошлась в $100 млн.

Более половины организаций, пользующихся облачными сервисами AWS, могли бы существенно сэкономить, следует из доклада ProsperOps — в совокупности клиенты ежегодно теряют до $20 млрд из-за недостаточного внимания к тарификации. В рамках исследования были изучены обезличенные данные сотен аккаунтов AWS. Выяснилось, что менее половины компаний использовали доступные им скидки или иные возможности для сокращения расходов.

При этом «облачный перерасход» — хорошо задокументированный феномен. Проведённое в прошлом году компанией HashiCorp исследование показало, что 94 % предприятий признали тот факт, что они зря тратят часть денег на облачные сервисы из-за избыточного выделения ресурсов или недоиспользования имеющихся. Дело осложняется и крайне запутанной системой тарификации облачных ресурсов.

Изображение: ProsperOps

Между тем у AWS имеются разнообразные методы формирования цен. Наиболее известны т.н. Savings Plans, в рамках которых можно заказать заданный объём ресурсов на длительный срок, получив существенную скидку. В докладе указывается, что 38 % организаций пользуются подобной скидкой — поскольку её легко применять и рассчитывать. Однако если фактическое использование окажется ниже ожидаемого, разницу в расходах AWS не вернёт.

18 % организаций прибегают к планам Standard Reserved Instances, где также даётся существенная скидка в обмен на заблаговременное резервирование EC2-инстансов. Ограничений в случае применения подобного тарифа больше, но имеются и некоторые преимущества, вроде возможности как покупать, так и продавать инстансы другим клиентам AWS. Наконец, реже всего используются Convertible Reserved Instances, хотя как раз они обеспечивают наиболее гибкий подход к освоению ресурсов, но ими пользуются только 14 % из опрошенных организаций.

Эксперты уверены, что наиболее эффективными в плане экономии являются Convertible Reserved Instances и Savings Plans. Однако на практике не всем умеют грамотно пользоваться этими опциями. Более того, компании, расходующие в год менее $1 млн на облачную инфраструктуру, как выяснилось, ещё и наименее эффективно расходуют средства, тогда как крупные заказчики (более $5 млн/год) гораздо более аккуратно подходят к тратам.

Организация FinOps Foundation, входящая в некоммерческий технологический консорциум Linux Foundation, представила предварительную редакцию первой версии открытой спецификации FOCUS (FinOps Open Cost and Usage Specification) для оценки стоимости и объёма использования облачных услуг крупных провайдеров. Проект призван сделать затраты на облака более прозрачными.

Отмечается, что по мере перехода предприятий в облако становится всё труднее понять, где, как и на что конкретно расходуются средства. Различные поставщики услуг SaaS и облачные платформы используют свои собственные подходы к расчёту затрат. Кроме того, применяются разные форматы данных, что затрудняет анализ финансовых потоков.

Источник изображения: FinOps Foundation

На этом фоне сформировалось направление FinOps — дисциплина, которая сочетает принципы управления финансами с облачным проектированием и управлением, чтобы дать организациям лучшее представление о своих расходах на облако. В свою очередь, FOCUS — это основополагающий проект в области FinOps, направленный на создание открытой спецификации для представления данных о затратах на облачные ресурсы. Цель проекта заключается в том, чтобы стандартизировать терминологию и упростить анализ расходов и потребления облачных услуг.

Спецификация включает определения часто используемых терминов и показателей. Предусмотрены варианты использования для анализа скидок и ценообразования. В целом, использование стандарта обеспечивает прозрачность тарифов и возможность детальной оценки затрат. Версия FOCUS 1.0 также будет включать в себя библиотеку реальных сценариев использования.

Проект FOCUS поддерживают AWS, Microsoft, Google, Oracle Cloud, IBM, Meta✴ и VMware, крупные пользователи облачных платформ, такие как Walmart и Capital One, а также сервис-провайдеры, включая Atlassian, Twilio, Datadog и Snowflake.