Red Hat представила Red Hat Enterprise Linux AI (RHEL AI), базовую платформу, которая позволит более эффективно разрабатывать, тестировать и запускать генеративные модели искусственного интеллекта (ИИ) для поддержки корпоративных приложений. Фактически это специализированный дистрибутив, включающий базовые модели, инструменты для работы с ними и необходимые драйверы.

Источник изображений: Red Hat

Доступная сейчас в качестве превью для разработчиков, платформа RHEL AI включает в себя семейство больших языковых моделей (LLM) IBM Granite, недавно ставших доступными под лицензией Apache 2.0, инструментом тюнинга и доработки моделей InstructLab посредством методики LAB (Large-Scale Alignment for Chatbots), а также различные библиотеки и фреймворки.

Решение представляется в виде готового для развёртывания образа и является частью MLOps-платформы OpenShift AI. По словам Red Hat, RHEL AI предоставляет поддерживаемую, готовую к корпоративному использованию среду для работы с ИИ-моделями на аппаратных платформах AMD, Intel и NVIDIA. По словам компании, open source подход позволит устранить препятствия на пути реализации стратегии в области ИИ, такие как недостаток навыков обработки данных и финансовых возможностей.

Основная цель RHEL AI и проекта InstructLab — предоставить экспертам в предметной области возможность напрямую вносить свой вклад в большие языковые модели, используя свои знания и навыки. Новая платформа позволит им более эффективно создавать приложения с использованием ИИ, например, чат-боты. Впоследствии при наличии подписки RHEL AI компания предложит поддержку корпоративного уровня на протяжении всего жизненного цикла продукта, начиная с модели Granite 7B и ПО и заканчивая возможным возмещение ущерба в отношении интеллектуальной собственности.

«Опираясь на инфраструктуру GPU, доступную в IBM Cloud, которая используется для обучения моделей Granite и поддержки InstructLab, IBM Cloud получит поддержку RHEL AI и OpenShift AI. Эта интеграция позволит предприятиям легче внедрять генеративный ИИ в свои критически важные приложения», — отметила компания.

При этом прямо сейчас для запуска RHEL AI требуются весьма производительные сертифицированные системы с ускорителями, имеющими минимум 320 Гбайт памяти, а также хранилищем ёмкостью от 200 Гбайт. Среди протестированных указаны серверы Dell с четырьмя NVIDIA H100, Lenovo с восемью AMD Instinct MI300X, а также инстансы IBM Cloud GX3. Вскоре обещана поддержка инстансов AWS EC2 P5 с NVIDIA H100 и ускорителей Intel.

Около недели более полумиллиона участников австралийского пенсионного фонда UniSuper не имели доступа к своим аккаунтам из-за сбоя, который привёл к удалению частного облака фонда в Google Cloud, пишет The Guardian. Главы UniSuper и Google Cloud выступили с совместным заявлением, согласно которому это был «отдельный, “единственный в своем роде случай”, который никогда раньше не происходил ни с одним из клиентов Google Cloud во всем мире».

В Google Cloud отметили, что «сбой произошёл из-за беспрецедентной последовательности событий, в результате которых непреднамеренная неправильная конфигурация во время предоставления услуг частного облака UniSuper в конечном итоге привела к удалению подписки фонда на частное облако». Облачный провайдер заявил, что выявил события, которые привели к этому сбою, и принял меры, чтобы это больше не повторилось.

Источник изображения: UniSuper

UniSuper дублирует данные в двух географических регионах, чтобы восстановить работу в случае потери одного из них. Но поскольку была удалена облачная подписка фонда целиком, это привело к потере в обоих облачных регионах. К счастью, фонд имел резервные копии у другого провайдера, поэтому данные удалось восстановить. Ранее UniSuper распределял рабочие нагрузки между сервисами Azure и двумя собственными ЦОД, но в прошлом году перенёс большую часть нагрузок на платформу Google Cloud Platform. UniSuper управляет средствами на сумму около $125 млрд.

К полудню четверга по австралийскому времени облачная инфраструктура UniSuper восстановила работу, а участники фонда получили доступ к своим аккаунтам. Вместе с тем балансы счетов пока не будут обновляться, хотя, как сообщается, часть операций уже доступна, а финансы участников не пострадали. Google также заверила членов UniSuper, что сбой не был вызван кибератакой и, следовательно, их конфиденциальные данные не были раскрыты неавторизованным лицам.

Сбои облачных сервисов случались и раньше, причём с ним сталкивались и основные провайдеры, включая AWS и Microsoft Azure. Но они справлялись с проблемами довольно быстро, чего не произошло в случае с UniSuper. Это может нанести ущерб Google с репутационной точки зрения и вызвать у клиентов недоверие к компании как поставщику услуг, говорит глава EEITrend. «На устранение сбоя в облаке UniSuper в Google Cloud в Австралии ушло необычно много времени, что негативно влияет на репутацию Google Cloud в регионе», — отметил он.

Быстрорастущий стартап Wiz, специализирующийся на средствах облачной безопасности, объявил о проведении крупного раунда финансирования, в ходе которого на дальнейшее развитие привлечён $1 млрд. При этом компания получила рыночную оценку на уровне $12 млрд.

В качестве ключевых инвесторов выступили фонд Andreessen Horowitz, Lightspeed Venture Partners и Thrive Capital. Таким образом, в общей сложности стартап Wiz, основанный около четырёх лет назад, на сегодняшний день получил приблизительно $1,9 млрд внешний инвестиций.

Источник изображения: Wiz

Wiz создаёт платформу, предоставляющую клиентам комплексную облачную защиту. Отмечается, что корпоративная облачная среда может включать более сотни программных компонентов с тысячами настроек. Wiz предлагает систему обеспечения безопасности всех этих элементов по типу единого окна. Компания заявляет, что её решение может устранять риски, связанные с облачными инстансами, всевозможными функциями, базами данных и пр.

Средства кибербезопасности выявляют угрозы, собирая телеметрию из систем компании и сканируя её на наличие аномалий. Зачастую для получения таких данных применяются специальные программные агенты, которые клиентам приходится интегрировать во все защищаемые инстансы. На это требуются время и дополнительные усилия. Wiz утверждает, что её платформа ничуть не хуже собирает нужные данные без использования агентов. Такой подход не только устраняет ручную работу, но и позволяет избежать необходимости поддерживать эти агенты с течением времени. Причём на развертывание платформы Wiz требуется всего несколько минут.

Система Wiz способна обнаруживать уязвимости в Kubernetes, сценариях «инфраструктура как код» и других низкоуровневых компонентах. Кроме того, платформа выявляет другие проблемы: например, она может предупреждать, когда облачная директория, содержащая конфиденциальные данные, доступна аномально большому количеству пользователей. Система также отслеживает попытки хакеров эксплуатировать уязвимости. Для каждого выявленного нарушения платформа генерирует графики и диаграммы, демонстрирующие, какие системы были скомпрометированы и в каком порядке. Далее администраторы могут использовать набор встроенных инструментов реагирования на инциденты.

Участники проекта AlmaLinux объявили о формировании специальной группы по интересам (SIG), которая займётся развитием направления НРС и ИИ. Подразделение под названием AlmaLinux HPC and AI SIG возглавляет Хайден Барнс (Hayden Barnes) — менеджер сообщества open source по задачам ИИ в корпорации HPE.

AlmaLinux фактически заполняет пробел, оставшийся после прекращения выпуска стабильных версий CentOS Linux. Поддержка этой ОС прекратилась в конце 2021 года, а не в 2029-м, как ожидалось. Место CentOS заняла CentOS Stream, вечная бета-версия RHEL.

Источник изображения: AlmaLinux

Группа HPC and AI SIG в составе AlmaLinux, как отмечается, состоит из экспертов по HPC и ИИ, которые выбрали эту ОС в качестве программной основы для своих проектов. В их число входят специалисты компаний — поставщиков оборудования для НРС-систем, участники ИИ-проектов open source, а также администраторы, развёртывающие AlmaLinux в исследовательских организациях.

Подразделение сформировано с тем, «чтобы гарантировать, что у пользователей есть ресурсы и поддержка сообщества, необходимые для максимизации преимуществ AlmaLinux» в рамках инициатив, связанных с НРС и ИИ. Участники SIG намерены взаимодействовать, внедрять инновации и обмениваться знаниями внутри сообщества AlmaLinux.

За пределами экосистемы AlmaLinux специалисты новой группы намерены развивать партнёрские отношения и сотрудничать с иными заинтересованными сторонами. AlmaLinux рассчитывает «оставаться в авангарде технологических достижений» в сферах НРС и ИИ.

На этой неделе, как сообщает ресурс The Stack, прошло первое заседание в Высоком суде Великобритании по иску IBM UK, обвинившей швейцарскую фирму LzLabs в использовании своей британской «дочки» Winsopia для покупки ПО IBM для мейнфреймов с целью реверс-инжиниринга и разработки платформы Software Defined Mainframe (SDM).

По словам IBM, платформа SDM, являющаяся по сути эмулятором, позволяет клиентам использовать приложения для мейнфреймов IBM на x86-серверах под управлением Linux, в том числе облачных, без необходимости изменения исходного кода или пересборки. В иске IBM утверждается, что LzLabs нарушила условия лицензионного соглашения, которым запрещается обратная разработка программных продуктов. Иск был подан в Высокий суд ещё в сентябре 2021 года и получил впоследствии целый ряд правок. IBM требует возместить убытки, признать незаконными методы разработки SDM и запретить продажу SDM.

Источник изображения: qimono/Pixabay

Платформа SDM была представлена LzLabs в 2016 году. Компания поставила платформу таким клиентам, как Rogers Communications, MAN Truck & Bus и Swisscom. LzLabs заявляет, что SDM разработана в соответствии с законами Европы и Великобритании, которые способствуют инновациям и конкуренции в технологических отраслях. По словам LzLabs, платформа была создана после многих лет наблюдения, изучения и тестирования основных принципов взаимодействия клиентских приложений с мейнфреймом IBM. В связи с этим LzLabs обвинила IBM в попытке задушить конкуренцию, отметив, что Winsopia не нарушала условий лицензирования.

В ответ IBM заявила, что дело не имеет ничего общего с ограничением конкуренции. «Проблема заключается в незаконном использовании технологий, требующем инвестиций в миллиарды долларов, и IBM UK будет решительно защищать себя от действий Winsopia и LzLabs», — указано в сообщении корпорации. Аналогичный иск против LzLabs и её «дочки» Texas Wormhole был подан IBM в суд Западного округа Техаса в марте 2022 года. Как ожидается, рассмотрение иска начнётся в конце этого или начале следующего года.

Противостояние между IBM и разработчиками LzLabs длится уже порядка 15 лет. Так, в 2009 году компания Neon Enterprise Software, которая создала комплекс ПО zPrime, имевший схожую c SDM функциональность, сама подала иск к IBM, но в результате ответного иска от IBM была вынуждена закрыться. IBM не без оснований считает, что за LzLabs стоят те же люди, что работали в Neon. В 2022 году IBM также подала иск против Micro Focus, утверждая, что та скопировала и провела реверс-инжиниринг сервисов CICS для разработки конкурирующего продукта — Micro Focus Enterprise Server.

Корпорация IBM выиграла апелляцию на решение суда Южного округа Техаса, принятого в 2022 году, о компенсации в размере $1,6 млрд, которую она должна была выплатить BMC Software Inc. за неправомерную замену её ПО собственным софтом на мейнфреймах их общего клиента AT&T Inc., пишет The Register.

На этой неделе Пятый окружной апелляционный суд США в Новом Орлеане назвал решение суда низшей инстанции относительно ответственности IBM ошибочным. От имени коллегии из трёх судей судья Эдит Джонс (Edith Jones) заявила, что AT&T, один из крупнейших клиентов BMC, перешла на ПО IBM «самостоятельно» и что BMC «проиграла IBM по справедливости».

Источник изображения: Pixabay

В 2022 году судья Южного округа Техаса постановил, что IBM нарушила соглашение об аутсорсинге между ней, BMC и AT&T, вынудив телекоммуникационную компанию купить ПО IBM для замены кода BMC на мейнфреймах AT&T. Судья тогда заявил, что поведение IBM представляет собой один из множества примеров того, как она избегает соблюдения бизнес-правил и ведёт себя так, что «оскорбляет чувство справедливости и приличия, которых общественность ожидает от американского бизнеса».

По мнению Эдит Джонс, всё это не имеет большого значения, если формулировки контракта прямо не запрещают ничего из того, что сделала IBM. Судья отметила, что соглашение позволяло IBM использовать и получать доступ к ПО BMC на мейнфреймах для обслуживания клиентов. Хотя соглашение прямо не позволяло IBM замещать какое-либо существующее клиентское ПО своими собственными продуктами, оно позволяло ей «прекратить использование клиентских лицензий BMC по другим уважительным деловым причинам».

IBM в апелляции указала на то, что запрос AT&T о замене ПО BMC на софт IBM подпадает под понятие «других уважительных деловых причин», и апелляционный суд согласился с этим аргументом. «AT&T инициировала этот переход самостоятельно, без какого-либо лоббирования или влияния IBM, — написала Джонс. — Следовательно, IBM утверждает, что она не нарушила положение о незамещении, поскольку не конкурировала и не добивалась решения AT&T».

Стартап PowerML Inc., разработчик платформы Lamini для обучения и развёртывания ИИ-моделей, сообщил о привлечении $25 млн в ходе двух раундов финансирования. В раундах приняли участие компании Amplify Partners, возглавившая раунд Series A, First Round Capital, возглавившая Seed-раунд, AMD Ventures, пионер ИИ Эндрю Ын (Andrew Ng), соучредитель OpenAI Андрей Карпати (Andrej Karpathy), руководители Dropbox Inc., Figma Inc. и LVMH, материнской компании Louis Vuitton.

Разработанная PowerML программная платформа предназначена для обучения и запуска больших языковых моделей (LLM) на ускорителях AMD или NVIDIA как в облачных, так и в локальных средах. В последнем случае можно развернуть Lamini в изолированной инфраструктуре. Платформа была создана с расчётом на крупномасштабные ИИ-проекты, которым может потребоваться более 1000 ускорителей.

Источник изображений: Lamini

Одной из наиболее сложных задач, связанных с обучением LLM, является настройка гиперпараметров. Lamini предоставляет готовые наборы гиперпараметров, устраняя необходимость всё настраивать с нуля. Вместе с тем остаётся возможность определения пользовательских настроек LLM. Платформа также может использоваться для точной настройки уже обученных моделей ИИ под конкретную задачу.

Lamini использует подход PEFT, который позволяет значительно сократить количество изменений параметров, а также снизить стоимость адаптации LLM к выполнению новых задач. Вместе с тем Lamini поддерживает методику RAG (Retrieval Augmented Generation), которая позволяет дообучать модель на собственных данных без изменения кода. Заодно Lamini предоставляет панель мониторинга, которая позволяет разработчикам сравнивать корректность точной настройки своих ИИ-моделей с исходной версией.

PowerML также упрощает развёртывание готовых ИИ-моделей, предоставляя различные настройки инференса и позволяя управлять стилем генерации, форматом выводимых данных и т.д. Компания утверждает, что её платформа в инференс-задачах более экономична по сравнению с проприетарными LLM-платформами, такими как Claude 3.

Полученные инвестиции PowerML планирует использовать для найма большего количества сотрудников и расширения своей инфраструктуры ИИ, в частности, за счёт ускорителей большего количества ускорителей AMD, поскольку стартап делает ставку на решения AMD: ускорители Instinct и стек ROCm. Компания также планирует разработать «более глубокую техническую оптимизацию» для рабочих нагрузок машинного обучения.

Компания CIQ, поддерживающая Rocky Linux, анонсировала инициативу CIQ Bridge для пользователей платформы CentOS 7, жизненный цикл которой близится к завершению. Инициатива, как ожидается, поможет клиентам поддерживать свою IT-инфраструктуру в актуальном и защищённом состоянии в рамках миграции на Rocky Linux.

Поддержка CentOS, напомним, прекратилась в конце 2021 года, а не в 2029-м, как ожидалось. Место CentOS заняла CentOS Stream, вечная бета-версия RHEL. А в июне 2023 года Red Hat объявила о прекращении поддержки публикации исходного кода пакетов уже выпущенных релизов в репозитории CentOS. Впоследствии CIQ, Oracle и SUSE создали совместную торговую ассоциацию Open Enterprise Linux Association (OpenELA), чтобы противостоять политике Red Hat.

Вместе с тем основатель проекта CentOS Грегори Курцер (Gregory Kurtzer) в 2020 году представил Rocky Linux — новую свободную сборку RHEL. На эту платформу предлагается перейти пользователям CentOS 7, жизненный цикл которой закончится 30 июня 2024 года. Те клиенты, которым необходимо дополнительное время для перехода на альтернативную ОС, могут воспользоваться программой CIQ Bridge.

Источник изображения: CIQ

По сути, CIQ Bridge — это расширенная поддержка CentOS 7 сроком на три года: доступ к ней предоставляется по годовой подписке с фиксированной ставкой. Клиентам будут предоставляться обновления, а также заплатки для уязвимостей, имеющих рейтинг CVSS 7 и выше. Патчи для дыр с рейтингом CVSS 5 и CVSS 6 могут распространяться на дополнительных условиях.

По оценкам, на сегодняшний день более 385 тыс. компаний по всему миру применяют CentOS. Хотя многие организации успешно перешли на Rocky Linux и другие альтернативы Linux, некоторым клиентам сложно сделать это до 30 июня по ряду причин, включая проблемы с финансированием и нехватку специалистов. Таким пользователям программа CIQ Bridge даст дополнительное время для перехода на новую Linux-платформу.

Сама Red Hat объявила о предоставлении дополнительной четырёхлетней поддержки пользователям Red Hat Enterprise Linux (RHEL) 7. Обычно период поддержки этой платформы составляет 10 лет, но в случае RHEL 7 он увеличен до 14 лет.

Компания CoreWeave сообщила о проведении очередного раунда финансирования. На дальнейшее развитие получено $1,1 млрд: деньги предоставили Coatue, Magnetar, Altimeter Capital, Fidelity Management & Research Company и Lykos Global Management.

Стартап CoreWeave был основан в 2017 году. Изначально компания фокусировалась на майнинге криптовалют, а затем сосредоточила внимание на вычислениях общего назначения и хостинге проектов генеративного ИИ. В настоящее время CoreWeave предоставляет специализированные облачные ИИ-решения.

Облако CoreWeave построено на ускорителях NVIDIA. В частности, задействованы изделия H100 и A40. Платформа оптимизирована для рабочих нагрузок, связанных с ИИ и рендерингом. CoreWeave утверждает, что её сервисы позволяют клиентам выполнять задачи более эффективно и с повышенной производительностью, нежели традиционные публичные облака.

Источник изображения: CoreWeave

В апреле 2023-го CoreWeave получила $221 млн в рамках раунда финансирования Series B, а позднее привлекла на развитие ещё $200 млн. В августе 2023 года компания объявила о долговом финансировании в размере $2,3 млрд под залог ускорителей NVIDIA, а в декабре провела раунд финансирования на $642 млн.

В долгосрочной перспективе компания планирует расширить сеть своих дата-центров, которая уже включает 14 объектов на территории США. Причём большинство из них были запущены в течение двух последних лет. Отмечается, что после нового раунда финансирования рыночная стоимость CoreWeave достигла $19 млрд. Для сравнения: в 2023 году этот показатель составлял $7 млрд. Таким образом, капитализация компании поднялась практически в три раза.

IBM объявила финансовые результаты I квартала 2024 года. После того, как компания сообщила о выручке, оказавшейся ниже прогноза аналитиков, а также о покупке поставщика ПО HashiCorp, её акции упали на 9 %. Выручка компании составила $14,46 млрд, что на 1,5 % больше показателя аналогичного периода прошлого года, но меньше прогноза аналитика в размере $14,55 млрд. Уже третий раз за последние пять кварталов выручка IBM оказывается ниже прогнозов Уолл-стрит.

Выручка подразделения по разработке ПО выросла год к году на 5 % до $5,90 млрд, что ниже консенсус-прогноза аналитиков, опрошенных StreetAccount, в размере $5,96 млрд. При этом выручка Red Hat выросла за квартал на 9 %, рост выручки подразделения по автоматизации составил 13 %, подразделения по обработке данных и ИИ — 1 %.

Источник изображения: Carson Masterson/unsplash.com

Консалтинговые услуги обеспечили компании выручку в размере $5,19 млрд, сократившись год к году на 0,2 % и оказавшись немного ниже консенсус-прогноза StreetAccount в $5,20 млрд. Выручка инфраструктурного подразделения компании упала на 0,7 % до $3,08 млрд, но оказалась выше консенсус-прогноза StreetAccount в $2,94 млрд. При этом продажи Z Systems увеличились на 9 %, доход от гибридной и распределённой инфраструктур вырос на 5 и 6 % соответственно. В то же время выручка от сервиса поддержки инфраструктуры упал на 8 %.

Скорректированная прибыль на акцию (non-GAAP) составила $1,68, в то время как аналитики прогнозировали этот показатель в размере $1,60. Как сообщает IBM, в течение квартала она предоставила клиентам 160 тыс. консультаций с использованием ИИ-ассистента для повышения производительности, а также завершила продажу The Weather Company компании Francisco Partners.

Источник: IBM

IBM также поделилась прогнозом по выручке на 2024 год, которая должна вырасти на 4–6 %. Свободный денежный поток, как ожидается, составит около $12 млрд. Несмотря на падение после объявления результатов I квартала, акции IBM в этом году выросли примерно на 13 %, опередив индекс S&P 500, который за тот же период увеличился на 6 %.

Добавим, что, комментируя в интервью ресурсу Computer Weekly продажу HashiCorp компании IBM, Армон Дадгар (Armon Dadgar), соучредитель и технический директор HashiCorp, заявил, что в основе стратегии его компании лежит предоставление компаниям возможности внедрять инновации в облаке, обеспечивая при этом последовательный подход к управлению облаком в любом масштабе. «Потребность в эффективном управлении и автоматизации имеет решающее значение с развитием мультиоблачных и гибридных облаков, которое ускоряется сегодняшней революцией ИИ», — подчеркнул он.