Признавая, что одних моделей, включая свежие Llama Nemotron с регулируемым «уровнем интеллекта», недостаточно для развёртывания ИИ на предприятии, NVIDIA анонсировала проект AI-Q Blueprint, представляющий собой фреймворк с открытым исходным кодом, позволяющий разработчикам подключать базы знаний к ИИ-агентам, которые могут действовать автономно.

Blueprint был создан с помощью микросервисов NVIDIA NIM и интегрируется с NVIDIA NeMo Retriever, что упрощает для ИИ-агентов извлечение мультимодальных данных в различных форматах. С помощью AI-Q агенты суммируют большие наборы данных, генерируя токены в 5 раз быстрее и поглощая данные петабайтного масштаба в 15 раз быстрее с лучшей семантической точностью.

Проект основан на новом наборе инструментов NVIDIA AgentIQ для бесшовного, гетерогенного соединения между агентами, инструментами и данными, опубликованном на GitHub. Он представляет собой программную библиотеку с открытым исходным кодом для подключения, профилирования и оптимизации команд агентов ИИ, работающих на основе корпоративных данных для создания многоагентных комплексных (end-to-end) систем. Его можно легко интегрировать с существующими многоагентными системами — как по частям, так и в качестве комплексного решения — с помощью простого процесса адаптации, который обеспечивает полную поддержку.

Набор инструментов AgentIQ также повышает прозрачность с полной отслеживаемостью и профилированием системы, что позволяет организациям контролировать производительность, выявлять неэффективность и иметь детальное представление о том, как генерируется бизнес-аналитика. Эти данные профилирования можно использовать с NVIDIA NIM и библиотекой с открытым исходным кодом NVIDIA Dynamo для оптимизации производительности агентских систем.

Благодаря этим инструментам предприятиям будет проще объединять команды ИИ-агентов в таких решениях, как Agentforce от Salesforce, поиск Atlassian Rovo в Confluence и Jira, а также ИИ-платформа ServiceNow для трансформации бизнеса, чтобы устранить разрозненность, оптимизировать задачи и сократить время ответа с дней до часов. AgentIQ также интегрируется с такими фреймворками и инструментами, как CrewAI, LangGraph, Llama Stack, Microsoft Azure AI Agent Service и Letta, позволяя разработчикам работать в своей предпочтительной среде. Azure AI Agent Service интегрирован с AgentIQ для обеспечения более эффективных агентов ИИ и оркестровки многоагентных фреймворков с использованием семантического ядра, которое полностью поддерживается в AgentIQ.

Возможности ИИ-агентов уже широко используются в различных отраслях. Например, платёжная система Visa использует ИИ-агентов для оптимизации кибербезопасности, автоматизируя анализ фишинговых писем в масштабе. Используя функцию профилирования AI-Q, Visa может оптимизировать производительность и затраты агентов, максимально увеличивая роль ИИ в эффективном реагировании на угрозы, сообщила NVIDIA.

Стартап Nerdio Inc., обеспечивающий компаниям работу с виртуальными рабочими столами в облаке Microsoft Azure, привлёк $500 млн новых инвестиций в раунде серии C. Капитализация разработчика ПО достигла $1 млрд, что в четыре раза больше, чем два года назад, сообщает Silicon Angle. Продукты Nerdio используют 15 тыс. организаций, в 2022 году речь шла о 5 тыс. Среди клиентов — Comcast, PayPal и другие крупные компании.

Платформа доступна в Azure Marketplace. В Nerdio утверждают, что это позволит избежать долгих процедур, сопровождающих корпоративные закупки ПО. Платформа может работать напрямую в облачных средах клиентов, что помогает повысить уровень безопасности. Платформа интегрирована в два VDI-сервиса Azure: AVD (Azure Virtual Desktop) и Windows 365.

Nerdio обещает упростить процесс создания виртуальных рабочих столов. По данным компании, в некоторых случаях первоначальная настройка и развёртывание занимают недели. Платформа компании ускоряет процесс в отдельных случаях на 80 %. Платформа включает инструменты, которые упрощают выявление проблем с производительностью виртуальных рабочих столов, а также отключают аккаунты, демонстрирующие потенциально вредоносное поведение.

Источник изображения: Nerdio

Встроенный инструмент автоматического масштабирования поможет снизить использование инфраструктуры. Эта функция позволяет автоматически назначить оборудование для выполнения задач в том объёме, в котором это действительно необходимо. В компании считают, что её ПО может снизить стоимость вычислений и хранения данных на 80 % при лучшем сценарии.

Компания сохранила прибыльность и, как сообщает её пресс-служба, расширила присутствие в регионах EMEA и APAC. Теперь она намерена использовать полученные средства, чтобы нанять новых разработчиков для расширения функциональности платформы.

Стартап Render Services объявил о привлечении $80 млн инвестиций в рамках раунда финансирования серии C, доведя общий объём финансирования до $157 млн. Раунд возглавила Georgian. Также в нём приняли участие 01A, Avra наряду с существующими инвесторами Addition, Bessemer Venture Partners, General Catalyst и South Park Commons Fund. Также стартап сообщил о том, что количество разработчиков, использующих его платформу, превысило 2 млн.

Как утверждает Render, с помощью его платформы разработчикам гораздо проще запускать приложения, сервисы и веб-сайты в облачной инфраструктуре по сравнению с традиционными платформами, такими как AWS. Платформа Render устраняет необходимость для разработчиков разбираться со сложными конфигурациями и настройками облачных инфраструктур. Она автоматизирует рутинные задачи по управлению инфраструктурой, позволяя разработчикам сосредоточиться исключительно на своих приложениях. Разработчикам достаточно подключить свой репозиторий GitHub или GitLab, и платформа тут же предложит команды для развёртывания приложения.

Источник изображения: Render

Основатель и гендиректор Render Анураг Гоэл (Anurag Goel) сообщил SiliconANGLE, что платформа компании гибче, чем традиционные бессерверные решения, и способна поддерживать гораздо более полный набор рабочих нагрузок, в том числе выполняющихся очень долго. Он отметил, что многие клиенты переходят на платформу Render с других платформ, потому что им нужно использовать LLM API и веб-сокеты, а традиционные FaaS и бессерверные решения не отвечают их потребностям.

В числе преимуществ Render Гоэл назвал более быстрое развёртывание и возможность простого масштабирования. Render автоматизирует необходимую подготовку инфраструктуры, не заставляя разработчиков возиться с настройкой Kubernetes или других сред, говорит глава стартапа. Также у платформы Render ниже стоимость владения по сравнению с конкурентами.

Хольгер Мюллер (Holger Mueller) из Constellation Research отметил, что Render облегчает работу разработчиков, поскольку большинство публичных облаков стали невероятно сложными в управлении и эксплуатации. «Управление инфраструктурой отнимает у разработчиков много времени и ресурсов, поэтому приятно видеть альтернативу, такую как Render, которая справляется с этим», — заявил аналитик.

NVIDIA анонсировала NIM Agent Blueprints, каталог предварительно обученных, настраиваемых программных решений, предоставляющий разработчикам набор инструментов для создания и развёртывания приложений генеративного ИИ для типовых вариантов использования, таких как аватары для обслуживания клиентов, RAG, виртуальный скрининг для разработки лекарственных препаратов и т.д.

Предлагая бесплатные шаблоны для частых бизнес-задач, компания помогает разработчикам ускорить создание и вывод на рынок ИИ-приложений. NIM Agent Blueprints включает примеры приложений, созданных с помощью NVIDIA NeMo, NVIDIA NIM и микросервисов партнёров, примеры кода, документацию по настройке и Helm Chart'ы для быстрого развёртывания. Предприятия могут модифицировать NIM Agent Blueprints, используя свои бизнес-данные, и запускать приложения генеративного ИИ в ЦОД и облаках (в том числе в рамках NVIDIA AI Enterprise), постоянно совершенствуя их благодаря обратной связи.

На текущий момент NIM Agent Blueprints предлагают готовые рабочие процессы (workflow) для систем обслуживания клиентов, для скрининга с целью автоматизированного поиска необходимых соединений при разработке лекарств и для мультимодального извлечения данных из PDF для RAG, что позволит обрабатывать огромные объёмы бизнес-данных для получения более точных ответов, благодаря чему ИИ-агенты чат-боты службы станут экспертами по темам компании. С примерами можно ознакомиться здесь.

Источник изображения: NVIDIA

Каталог NVIDIA NIM Agent Blueprints вскоре станет доступен у глобальных системных интеграторов и поставщиков технологических решений, включая Accenture, Deloitte, SoftServe и World Wide Technology (WWT). А такие компании как Cisco, Dell, HPE и Lenovo предложат полнофункциональную ИИ-инфраструктуру с ускорителями NVIDIA для развёртывания NIM Agent Blueprints. NVIDIA пообещала, что ежемесячно будут выпускаться дополнительные шаблоны для различных бизнес-кейсов.

Вскоре после недавнего массового сбоя ПК на Windows, произошедшего по вине компании CrowdStrike, в австралийском подразделении консалтингового бизнеса Grant Thornton нашли удобный способ быстро избавиться от «синих экранов смерти» (BSOD). The Register сообщает, что один из технических специалистов компании вовремя вспомнил о том, что самые простые сканеры штрихкодов воспринимаются ПК как клавиатуры.

Источник изображения: Grant Thornton

Это совершенно бесполезное на первый взгляд знание приобрело большое значение, когда в компании попытались найти решение проблемы, созданной CrowdStrike. В австралийском филиале Grant Thornton в цикл бесконечной перезагрузки отправились сотни ПК и не менее ста серверов. При этом все они были защищены с помощью BitLocker, поэтому в процессе восстановления требовался ввод 48-символьного ключа для расшифровки раздела.

Если работу серверов удалось восстановить вручную, то для ПК пришлось придумать инструмент автоматизации. Открыто рассылать ключи для BitLocker было бы слишком рискованно, да и зачитывать их по телефону или диктовать лично весьма затруднительно. Поэтому в компании сконвертировали ключи в штрихкоды, которые можно мгновенно отсканировать с экрана ноутбука администратора.

Источник изображения: PublicDomainPictures/unsplash.com

В результате все ПК заработали уже к обеду, на починку каждого из них ушло 3–5 минут, тогда как в случае серверов на ручное восстановление уходило по 20 минут. В Grant Thornton сожалеют лишь о том, что не догадались сразу использовать QR-коды, тогда зашифровать в них можно было бы больше данных, полностью автоматизировав процесс восстановления. Впрочем, в компании и без того в восторге, что отделались малой кровью в сравнении с другими бизнесами.

Масштабный сбой стал последствием выпуска некорректного обновления системы защиты CrowdStrike. В самой Microsoft первопричиной недавнего масштабного сбоя назвали вынужденное соглашение 2009 года с Евросоюзом, согласно которому разработчикам защитных программ обеспечили низкоуровневый доступ к операционным системам Windows. В CrowdStrike признали собственную вину и сослались на баг в программе тестирования собственных апдейтов.

Редакция со своей стороны желает системным администраторам никогда не сталкиваться с такими проблемами.

Компания Juniper Networks Inc. представила новый инструмент Marvis Minis на базе ИИ, который позволяет моделировать влияние изменений в сети, чтобы определить, может ли это привести к техническим проблемам.

Marvis Minis использует ИИ для выявления причин сбоев в сети и автоматически генерирует предложения по устранению неполадок. Инструмент имеет диалоговый интерфейс, используя который администратор сможет запрашивать подсказки при настройке маршрутизаторов и других компонентов.

Marvis Minis автоматически распознаёт конфигурацию и параметры сети. Затем он моделирует подключения пользователей, устройств этих пользователей и приложения, работающие на этих устройствах. Моделируемый трафик позволяет выявить сбои в сети, о которых администратор узнал бы лишь после того, как они вызвали бы технические проблемы у сотрудников.

Источник изображений: Juniper Networks

После обнаружения проблемы в сети Marvis Minis отправляет собранные данные об инциденте в службу Marvis Actions, автоматически генерирующую рекомендации по устранению неисправностей и способную самостоятельно исправить некоторые проблемы без вмешательства человека. Благодаря интеграции Minis в платформу сетевой автоматизации Marvis нет необходимости установки дополнительных внешних программных компонентов в сети для сбора данных по выявлению неполадок, что упрощает работу администраторов.

Juniper сообщила, что использование инструмента облегчит администраторам доступ к информации о кабелях, конфигурации и других технических деталях сети. Marvis Minis работает как с собственным сетевым оборудованием компании, так и с оборудованием других фирм.

«ИИ — это крупнейший технологический переломный момент со времен появления самого интернета, и его постоянное влияние на сети невозможно недооценить», — цитирует заявление гендиректора Juniper Рами Рахим (Rami Rahim) ресурс SiliconANGLE. «Расширяя операции с ИИ от конечного пользователя до приложения и на каждом сетевом домене между ними, мы делаем большой шаг к тому, чтобы сбои в сети, заявки на неисправности и простои приложений остались в прошлом», — добавил он.

Juniper также сообщила об обновлении своего предложения AI Data Center, включающего Marvis, платформу сетевого управления Apstra, маршрутизаторы и коммутаторы. В частности, обновлённая платформа Apstra поможет быстрее обрабатывать Ethernet-трафик ИИ-приложений. Juniper также представила новые маршрутизаторы PTX и линейные модули на базе собственных чипов Express 5, а семейство коммутаторов Juniper QFX пополнилось решениями на базе Broadcom Tomahawk 5.

Nokia Bell Labs представила технологию Natural-Language Networks («Сети на естественном языке»), которая позволит управлять сетями с помощью простой речи или текстовых подсказок. Как утверждает компания, благодаря использованию новой технологии сети будут «понимать» намерения пользователей и обладать достаточным интеллектом, чтобы автономно действовать в соответствии с этими намерениями.

Компания сообщила, что Natural-Language Networks упростит управление сетями, а также позволит гораздо лучше реагировать на потребности конечных пользователей. Используя ИИ, технология позволит поставщикам услуг предоставлять и поддерживать идеальную конфигурацию сети для любого клиента в любой момент, когда ему это потребуется.

Источник изображения: Nokia

Кроме того, Natural-Language Networks постоянно совершенствуется, обучаясь на выполняемых операциях и всё глубже оптимизируя сеть с каждым последующим запросом. По мере накопления знаний Natural-Language Networks начинает предвидеть потребности в услугах и приложениях и самостоятельно адаптируется к ним без какого-либо вмешательства человека.

Чаба Вулкан (Csaba Vulkan), руководитель исследований в области автоматизации сетевых систем в Nokia Bell Labs, отметил, что операторам не нужно будет изучать технические каталоги или сложные описания API при настройке сетей. Для этого будет достаточно команды «Оптимизировать сеть в местоположении X для услуги Y». С помощью голосового управления можно будет оптимизировать беспроводную сеть, например, на заводе для автоматизации роботов или для согласования потока загрузок в социальные сети.

Решение Natural-Language Networks является компонентом новой исследовательской инициативы Nokia Bell Labs под названием UNEXT, которая направлена на изменение стека сетевого ПО и систем. Ожидается, что UNEXT сделает процесс безопасной интеграции компонентов с сетью простой задачей, превратив саму сеть в операционную систему.

Microsoft планирует создать целую команду для исследований, связанных с автоматизацией ЦОД и разработкой роботов для их обслуживания. Как сообщает Datacenter Dynamics, компания ищет управляющего, специализирующегося на аппаратной автоматизации и являющегося экспертом по робототехнике.

В описании вакансии указывается, что новый управляющий сыграет ключевую роль, определяющую будущее работы ЦОД. Успешный кандидат будет отвечать за управление средой, в которой будут «процветать инновации». При этом работа команды должна будет соответствовать более общим организационным целям компании и стандартам качества с соблюдением дедлайнов.

Источник изображения: kalhh/pixabay.com

Новость появилась через месяц после сбоя Microsoft Azure в Австралии, в котором частично винят плохую автоматизацию. Сбой в энергоснабжении привёл к сбоям в охлаждении. Поскольку на объекте оказалось недостаточно персонала для перезагрузки оборудования, автоматика отключила серверы для их защиты от перегрева. Если бы системой была предусмотрена перезагрузка охлаждающих модулей, этого удалось бы избежать. Позже в Microsoft заявили, что рассматривают оптимизацию автоматики.

Ожидается, что следующую волну автоматизации и роботизации возглавят гиперскейлеры. При этом, как отмечают в Google, несмотря на схожесть ЦОД со складами, где роботы используются уже давно, применение робототехники на объектах IT-инфраструктуры намного сложнее, чем в других отраслях. Компания уже использует роборуку для помощи в утилизации жёстких дисков, но считает, что добавление машин в здания с традиционным персоналом чревато повышением травмоопасности.

У Meta✴ с 2019 года имеется собственное подразделение Site Engineering Robotics Team для создания робототехники, призванной автоматизировать и масштабировать ряд операций в ЦОД. Судя по имеющимся вакансиям, команда всё ещё действует и ищет людей, способных разрабатывать архитектуру роботизированных систем, включая робоманипуляторы, а также готовых возглавить интеграцию манипуляторов в мобильные роботизированные платформы. Компания уже экспериментировала с механическим манипулятором для перекоммутации сети.

Источник изображения: geralt/pixabay.com

Amazon предпочитает не распространяться о собственных проектах в этой сфере, но десятилетиями инвестирует в разработку роботов для электронной коммерции и скупает другие компании в этой сфере. Компания уже внедрила более 750 тыс. роботов на торговых складах. При этом некоторые данные свидетельствуют о том, что склады с роботами опаснее для людей, чем те, на которых автоматизация преимущественно отсутствует.

Особого внимания заслуживают робособаки — как минимум Digital Realty, Novva, Oracle, и Scala тестировали их применение для патрулирования ЦОД для видеонаблюдения и сбора данных с помощью сенсоров. Впрочем, изучаются и другие форм-факторы — японская NTT представила простой мобильный торс с руками, который используется уже в 15 ЦОД, и работает над другими моделями. При этом одни планируют использовать роботов только для мониторинга, тогда как другие намерены хотя бы частично заменить ими персонал.

Роботы могут быть полезными в разных типах ЦОД, включая малые дата-центры для периферийных вычислений, не имеющие постоянного персонала. В будущем, вероятно, робототехника будет активно применяться и на крупных объектах, где роботы и автоматика полностью заменят людей. Впрочем, тогда ЦОД будут подвергаться ещё большей критике, поскольку перестанут создавать даже рабочие места в местностях, где их будут строить.