Red Hat представила Red Hat Enterprise Linux AI (RHEL AI), базовую платформу, которая позволит более эффективно разрабатывать, тестировать и запускать генеративные модели искусственного интеллекта (ИИ) для поддержки корпоративных приложений. Фактически это специализированный дистрибутив, включающий базовые модели, инструменты для работы с ними и необходимые драйверы.

Источник изображений: Red Hat

Доступная сейчас в качестве превью для разработчиков, платформа RHEL AI включает в себя семейство больших языковых моделей (LLM) IBM Granite, недавно ставших доступными под лицензией Apache 2.0, инструментом тюнинга и доработки моделей InstructLab посредством методики LAB (Large-Scale Alignment for Chatbots), а также различные библиотеки и фреймворки.

Решение представляется в виде готового для развёртывания образа и является частью MLOps-платформы OpenShift AI. По словам Red Hat, RHEL AI предоставляет поддерживаемую, готовую к корпоративному использованию среду для работы с ИИ-моделями на аппаратных платформах AMD, Intel и NVIDIA. По словам компании, open source подход позволит устранить препятствия на пути реализации стратегии в области ИИ, такие как недостаток навыков обработки данных и финансовых возможностей.

Основная цель RHEL AI и проекта InstructLab — предоставить экспертам в предметной области возможность напрямую вносить свой вклад в большие языковые модели, используя свои знания и навыки. Новая платформа позволит им более эффективно создавать приложения с использованием ИИ, например, чат-боты. Впоследствии при наличии подписки RHEL AI компания предложит поддержку корпоративного уровня на протяжении всего жизненного цикла продукта, начиная с модели Granite 7B и ПО и заканчивая возможным возмещение ущерба в отношении интеллектуальной собственности.

«Опираясь на инфраструктуру GPU, доступную в IBM Cloud, которая используется для обучения моделей Granite и поддержки InstructLab, IBM Cloud получит поддержку RHEL AI и OpenShift AI. Эта интеграция позволит предприятиям легче внедрять генеративный ИИ в свои критически важные приложения», — отметила компания.

При этом прямо сейчас для запуска RHEL AI требуются весьма производительные сертифицированные системы с ускорителями, имеющими минимум 320 Гбайт памяти, а также хранилищем ёмкостью от 200 Гбайт. Среди протестированных указаны серверы Dell с четырьмя NVIDIA H100, Lenovo с восемью AMD Instinct MI300X, а также инстансы IBM Cloud GX3. Вскоре обещана поддержка инстансов AWS EC2 P5 с NVIDIA H100 и ускорителей Intel.

Dell и Red Hat представили облачную платформу APEX Cloud Platform for Red Hat OpenShift. Как сообщается в блоге Dell, это первая полностью интегрированная платформа доставки приложений для Red Hat OpenShift на рынке.

APEX Cloud Platform for Red Hat OpenShift позволяет клиентам развёртывать, управлять и запускать контейнеры вместе с виртуальными машинами локально. Платформа, разработанная Dell совместно с Red Hat, использует серверы нового поколения PowerEdge MC-760/MC-660 с процессорами Intel Xeon Sapphire Rapids и масштабируемую СХД Dell на базе PowerFlex с NVMe/SAS SSD.

Платформа упрощает мультиоблачные операции, ускоряет развёртывание приложений и оптимизирует размещение рабочих нагрузок. APEX Cloud Platform обеспечивает плавное перемещение приложений и наборов данных в мультиоблачных средах. А СХД обеспечивает совместимость между локальным и публичным облачным хранилищем.

Источник изображения: Dell/Blocks and Files

В мультиоблачной среде клиентам требуется производительность, надёжность и безопасность локальной инфраструктуры в сочетании с гибкостью публичного облака. Платформа устраняет сложности, связанные с развёртыванием и управлением Kubernetes, предлагая готовое интегрированное решение bare-metal. Решение автоматизирует развёртывание Red Hat OpenShift, сокращая время обновления компонентов на 90 % по сравнению с обновлением вручную.

Также было анонсировано решение Dell Validated Design for Red Hat OpenShift AI on APEX Cloud Platform, которое предлагает компаниям упрощённое решение по развёртыванию цифрового ассистента с использованием большой языковой модели (LLM) и ИИ-фреймворка Retrieval Augmented Generation (RAG), повышающего качество сгенерированных ИИ ответов.

Red Hat Inc. объявила о ребрендинге OpenStack Platform. Платформа получила название Red Hat OpenStack Services on OpenShift. Red Hat OpenStack Platform 17.1 станет последним «классическим» вариантом платформы. Хотя Red Hat продолжит поддерживать релиз до конца его жизненного цикла, пользователям стоит готовиться к миграции.

Если Red Hat OpenStack представляет собой платформу с открытым кодом для организации облаков и управления ими, то RedHat OpenShift является готовой к использованию платформой для управления контейнерами Kubernetes и поддерживает почти любые типы приложений и вычислительных сред.

Источник изображения: Red Hat

Конечной целью Red Hat называет помощь компаниям в быстром масштабировании частных облаков и максимизации использования вычислительных ресурсов. Ребрендинг OpenStack Platform является частью более широкой инициативы IBM, владеющей Red Hat, по консолидации различных функций.

Эксперты отмечают, что никто из крупных облачных вендоров не принял платформу OpenStack, а многие из поддерживавших её компаний сместили вектор внимания на другие проекты. При этом платформа нашла место в телекоммуникационной индустрии, где многие операторы применяют её для создания частных облаков, на которых строят свои сети. На них и рассчитан ребрендинг.

Компания MemVerge, разработавшая технологию виртуализации крупных массивов памяти, в том числе гибридных, сочетающих в себе DRAM и SCM, сообщила о важной вехе: её разработка Memory Machine успешно прошла процесс сертификации Red Hat и получила сертификаты Red Hat OpenShift Operator и Container.

Это должно открыть Memory Machine дорогу в мир крупных облачных и корпоративных систем, требования к которым достаточно высоки. Так что наличие сертификатами Red Hat позволит быть уверенным в том, что решения MemVerge достигли зрелости и будут работать надёжно. Решение MemVerge входит в официальный каталог Red Hat.

Архитектура Memory Machine. Источник: MemVerge

Memory Machine позволяет сэкономить существенные средства: поскольку DRAM по-прежнему стоит дорого, прозрачное объединение в единый пул ресурсов DRAM и SCM обойдётся дешевле в сравнении с «чистой» DRAM того же объёма. Также Memory Machine обладает высокой степенью надёжности и отказоустойчивости, поскольку поддерживает автоматическое создание контрольных точек и снимков с практически мгновенным восстановлением многих терабайт данных в случае сбоя.

Для приложений память, предоставляемая Memory Machine, ничем не отличается от обычной, и, как давно доказали тесты, в ряде сценариев, для которых критичным является объём, а не время отклика, использование гибридных систем памяти на базе DRAM + Optane практически не сказывается на итоговой производительности.

Полученные сертификаты упростят для партнёров MemVerge разработку и внедрение приложений для платформы Kubernetes. Также компания опубликовала интересное выступление на саммите OpenInfra. В нём затронута тема того, как программно определяемая платформа памяти может быть использована в HPC-системах.