Компания Amazon Web Services представила интеллектуального ассистента Amazon Q на базе генеративного ИИ, предназначенного для помощи корпоративным клиентам. Поначалу Amazon Q будет использоваться для нужд разработчиков и поддержки IT-команд. Amazon Q уже доступен в виде превью, причем многие функции бесплатны. В дальнейшем AWS будет брать по $20/мес. за каждого пользователя, а версия с дополнительными функциями для ИТ-специалистов будет стоить $25/мес.

«Amazon Q может помочь вам получать быстрые и актуальные ответы на насущные вопросы, решать проблемы, генерировать контент и предпринимать действия, используя данные и опыт, найденные в информационных репозиториях, коде и корпоративных системах вашей компании», — сообщил гендиректор Amazon. Глава AWS считает, что Amazon Q реформирует множество видов деятельности. ИИ-помощник разработан с учётом 17-летнего опыта работы самой AWS и поначалу будет доступен именно внутри экосистемы AWS.

Хотя Amazon Q в первую очередь нацелен на разработчиков и ИТ-специалистов, компания планирует в конечном итоге распространить его возможности на весь корпоративный сегмент. Подобно другим ИИ-помощникам он сможет подключаться к различным источникам данных, отвечать на вопросы и составлять резюме, а также предоставлять экспертные сведения или помощь на основе внутренней информации компании. Это потенциально может сделать его конкурентом ChatGPT Enterprise от OpenAI, Copilot for 365 от Microsoft и Duet AI for Workspace от Google.

Источник изображения: AWS

Специалисты смогут получить доступ Amazon Q из консоли AWS. Q расскажет, как использовать сервисы, какие API доступны, к каким сервисам можно подключиться и как они взаимодействуют между собой. Пользователь сможет создавать запросы на естественном языке, а Q подготовит экспертный ответ со ссылками и цитатами. Так, в EC2-консоли Amazon Q даст совет, какой тип инстанса лучше всего подходит для размещения определённого типа приложений в зависимости в зависимости от потребностей клиента. А если возникла проблема с сетью, у Q можно напрямую спросить: «Почему я не могу подключиться по SSH к своему инстансу?». В этом случае помощник подключит его к сетевому анализатору, чтобы устранить неполадки с соединением.

AWS интегрировала ИИ-ассистента в поддерживаемые IDE вместе с ИИ-инструментом Amazon CodeWhisperer, так что с Q можно пообщаться непосредственно во время разработки. Например, Amazon Q может разобрать и описать исходный код незнакомого проекта или же в диалоговом режиме в Amazon CodeCatalyst поможет создать новый код, опираясь на описание необходимой функциональности и учитывая лучшие практики, а также имеющуюся кодовую базу и бизнес-сведения. Наконец, функция Amazon Q Transformation, доступная в виде превью для IntelliJ IDEA и Visual Studio Code, позволит автоматизировать обновление кода приложений с Java 8 и 11 до версии 17. А вскоре Q научится преобразовывать .NET-приложения для Windows в кросс-платформенные.

Новый доклад, опубликованный специалистами по кибербезопасности из Barracuda Networks, показал, что половина интернет-трафика, генерируемого сегодня в мире, приходится на ботов, причём «плохие» боты ответственны почти за 30 % всего трафика.

В докладе уделяется особое внимание картине трансформации трафика. Если изначально боты применялись преимущественно поисковыми движками, то теперь они выполняют огромное количество функций, некоторые из которых являются откровенно вредоносными. В Barracuda считают, что ботов можно условно поделить на «хорошие» и «плохие». Если первые работают на поисковые системы, уважают заданные правила сайтов и являются неотъемлемой частью правильно функционирующего интернета, то «плохие» боты изначально созданы с неблаговидными целями, от парсинга до выполнения DDoS-атак.

Источник здесь и далее: Barracuda Networks

На вредоносные программы приходится ⅗ общего трафика всех ботов. Как ни странно, информация служит поводом для осторожного оптимизма, поскольку в 2021 году на долю «плохих» ботов и вовсе приходились 39 % всего интернет-трафика, тогда как сейчас их доля упала до 30 %. По имеющимся данным, 72 % вредоносного трафика исходит из Северной Америки (преимущественно США), что объясняется доминированием облаков вроде AWS и Microsoft Azure. Именно оттуда зачастую и осуществляются атаки, поскольку 67 % трафика «плохих» ботов связано с IP ЦОД.

В своей «вредности» AWS и Azure примерно одинаковы, поскольку зарегистрироваться там можно быстро и без затрат. Хотя использовать эти облака просто, выявлять и блокировать активность ботов тоже не составляет никакого труда. Второе место в антирейтинге стран занимают ОАЭ с 12 %, третье — Саудовская Аравия с 6 %, далее идут Катар и Индия с долей по 5 %. Наконец, ещё треть трафика «плохих» ботов связана с домашними IP-адресами.

Перемещение серверных стоек вместе с уже смонтированными серверами было бы слишком непростой задачей для грузчиков-людей, но решение есть — как сообщает The Register, на мероприятии Open Compute Summit представлена специальная тележка компании Jtec Industries, предназначенная для перемещения на значительные дистанции полностью укомплектованных стоек.

Полностью загруженная стойка стандарта ORV2 или ORV3 весит порядка 1500 кг, поэтому для обычного грузчика безопасно переместить её с места на место непросто. Сама Jtec специализируется на моторизированных тележках, способных аккуратно перемещать объекты на складах, в том числе автономно.

Источник изображения: Jtec

Как считают в Jtec, среди гиперскейлеров уже имеется спрос на оборудование для перемещения новых и утилизируемых стоек в больших количествах. И Server Rack Cart вполне способна выполнять подобные миссии — перевозка осуществляется с помощью управляемого оператором или автономного транспортного средства. Поскольку Jtec является одним из партнёров в OCP, гиперскейлерам будет проще доверить своё дорогостоящее во всех отношениях оборудование складским роботам.

В процессе транспортировки тележка с помощью специального механизма приподнимает стойку и может свободно перемещать её туда, куда необходимо. В процессе разработки Jtec сотрудничала с одним из разработчиков автономных транспортёров, а также с неназванным гиперскейлером, судя по всему, с Meta✴. Во всяком случае, именно в павильоне последней на OCP Summit можно увидеть оборудование Jtec.

Как сообщают в Jtec, прототипы успешно внедрили и теперь они работают в нескольких ЦОД гиперскейлера, но пока продукт ожидает финального тестирования безопасности эксплуатации. Первое внедрение готовых продуктов должно состояться в IV квартале 2023 года.

Microsoft планирует создать целую команду для исследований, связанных с автоматизацией ЦОД и разработкой роботов для их обслуживания. Как сообщает Datacenter Dynamics, компания ищет управляющего, специализирующегося на аппаратной автоматизации и являющегося экспертом по робототехнике.

В описании вакансии указывается, что новый управляющий сыграет ключевую роль, определяющую будущее работы ЦОД. Успешный кандидат будет отвечать за управление средой, в которой будут «процветать инновации». При этом работа команды должна будет соответствовать более общим организационным целям компании и стандартам качества с соблюдением дедлайнов.

Источник изображения: kalhh/pixabay.com

Новость появилась через месяц после сбоя Microsoft Azure в Австралии, в котором частично винят плохую автоматизацию. Сбой в энергоснабжении привёл к сбоям в охлаждении. Поскольку на объекте оказалось недостаточно персонала для перезагрузки оборудования, автоматика отключила серверы для их защиты от перегрева. Если бы системой была предусмотрена перезагрузка охлаждающих модулей, этого удалось бы избежать. Позже в Microsoft заявили, что рассматривают оптимизацию автоматики.

Ожидается, что следующую волну автоматизации и роботизации возглавят гиперскейлеры. При этом, как отмечают в Google, несмотря на схожесть ЦОД со складами, где роботы используются уже давно, применение робототехники на объектах IT-инфраструктуры намного сложнее, чем в других отраслях. Компания уже использует роборуку для помощи в утилизации жёстких дисков, но считает, что добавление машин в здания с традиционным персоналом чревато повышением травмоопасности.

У Meta✴ с 2019 года имеется собственное подразделение Site Engineering Robotics Team для создания робототехники, призванной автоматизировать и масштабировать ряд операций в ЦОД. Судя по имеющимся вакансиям, команда всё ещё действует и ищет людей, способных разрабатывать архитектуру роботизированных систем, включая робоманипуляторы, а также готовых возглавить интеграцию манипуляторов в мобильные роботизированные платформы. Компания уже экспериментировала с механическим манипулятором для перекоммутации сети.

Источник изображения: geralt/pixabay.com

Amazon предпочитает не распространяться о собственных проектах в этой сфере, но десятилетиями инвестирует в разработку роботов для электронной коммерции и скупает другие компании в этой сфере. Компания уже внедрила более 750 тыс. роботов на торговых складах. При этом некоторые данные свидетельствуют о том, что склады с роботами опаснее для людей, чем те, на которых автоматизация преимущественно отсутствует.

Особого внимания заслуживают робособаки — как минимум Digital Realty, Novva, Oracle, и Scala тестировали их применение для патрулирования ЦОД для видеонаблюдения и сбора данных с помощью сенсоров. Впрочем, изучаются и другие форм-факторы — японская NTT представила простой мобильный торс с руками, который используется уже в 15 ЦОД, и работает над другими моделями. При этом одни планируют использовать роботов только для мониторинга, тогда как другие намерены хотя бы частично заменить ими персонал.

Роботы могут быть полезными в разных типах ЦОД, включая малые дата-центры для периферийных вычислений, не имеющие постоянного персонала. В будущем, вероятно, робототехника будет активно применяться и на крупных объектах, где роботы и автоматика полностью заменят людей. Впрочем, тогда ЦОД будут подвергаться ещё большей критике, поскольку перестанут создавать даже рабочие места в местностях, где их будут строить.

Разработчик корпоративного ПО, компания SAP, создала виртуального помощника Joule на основе генеративного ИИ. Joule будет интегрирован практически во все программные продукты компании и обеспечит проактивную работу с набором облачных сервисов компании и сторонними системами. Как сообщают в SAP, он может быстро разбираться в разрозненных корпоративных данных, выдавая качественные ответы на запросы, что должно повысить производительность сотрудников.

Например, сотрудники смогут задавать боту вопросы в свободной форме, а тот будет давать осмысленные ответы на основе баз данных, доступных в средах SAP, специфических для каждой отдельной компании. Для этого он изучит корпоративные тексты, базы данных, изображения и другой контент во всех проектах на базе SAP и сторонних разработках. При этом гарантируется сохранение конфиденциальности приватных данных.

Источник изображения: SAP

Некоторые задачи он сможет выполнять самостоятельно — готовить описания вакансий для HR, разрабатывать релевантные вопросы для интервьюирования соискателей, и др. Это освободит ресурсы сотрудников для более эффективной работы. Ожидается, что Joule окажет большое влияние на всю экосистему SAP, поскольку услугами компании пользуются более 300 млн сотрудников по всему миру ежедневно. Как заявляют в компании, чат-бот «знает, что сотрудники имеют в виду, а не то, что они говорят».

На момент релиза в ноябре Joule будет доступен в SAP SuccessFactors, SAP S/4HANA Public Cloud Edition и SAP Start, а несколькими неделями позже он дебютирует в SAP CX, SAP Ariba и SAP Business Technology Platform, после чего появится и в других приложениях. В SAP уверены, что хотя инструменты компании для различных сфер иногда непросто использовать, Joule, обученный на большой базе знаний SAP, значительно упростит жизнь пользователям.

Источник изображения: SAP

Появление Joule стало естественным продолжением развития инструментов Business AI, представленных SAP в мае и помогающих автоматизировать множество бизнес-процессов. Сообщается, что SAP Business AI уже используют во множестве сценариев более 26 тыс. корпоративных клиентов. Также в мае SAP представила инструменты в рамках пакета SAP Signavio Process Manager для оптимизации деятельности и принятия обоснованных бизнес-решений.

В SAP заявляют, что Joule — лишь малая часть планов построения современной ИИ-экосистемы. Компания уже инвестировала немалые средства в ИИ-стартапы Cohere Inc., Aleph Alpha GmbH и Anthropic в этом году и сотрудничает с облачными провайдерами вроде IBM и Google для обеспечения пользователям доступа к данным, способным обеспечить работоспособность ещё более передовых ИИ-технологий.

Робот Meta✴ Bombyx — это специальное устройство, способное прокладывать оптоволоконные кабели, передвигаясь по линиям электропередач. Bombyx переводится с латыни как «мотылёк шелкопряда». Разработка робота была начата Facebook✴ и ULC Robotics ещё в 2018 году. Теперь Meta✴ сделала ставку на сторонний бизнес, который готов взять реализацию проекта на себя — робота лицензируют для дальнейшей разработки японской IT-компанией.

Лицензию получит японская Hibot, обладающая десятилетиями опыта в разработке роботов различного назначения. В компании уже заявили, что считают большой честью получение лицензии и намерены работать над проектом уже существующими партнёрами и теми, кто пожелает присоединиться к разработке. Робот Bombyx поддержит прокладку оптических линий в труднодоступных местностях, где проникновение интернета оставляет желать лучшего.

Источник изображения: Meta✴

В дополнение к возможности прокладки кабеля, Hibot будет использовать инновационные технологии Meta✴ для создания машины, пригодной для проверки уже существующей инфраструктуры и, возможно, для модернизации электросетей. Хотя оптоволоконные кабели являются недорогими и эффективным решением для создания информационных сетей, сама прокладка обычно обходится значительно дороже самого кабеля и представляет собой относительно сложный процесс.

Источник изображения: Meta✴

В случае Bombyx кабель обвивается вокруг проводов на линиях электропередач. При этом снятие напряжения не требуется, а протяжённость кабеля может быть весьма велика. Правда, речь идёт о специальном кабеле в кевларовой рубашке, который значительно легче традиционных вариантов (менее 13 кг/км). Bombyx может преодолевать препятствия, используя механизмы машинного зрения и сенсоры для ориентации в пространстве.

Компания Salesforce объявила об интеграции в корпоративный мессенджер Slack функций на базе генеративного ИИ. Речь идёт о новом диалоговом интерфейсе Slack GPT, который, как утверждается, изменит подход к выполнению повседневных задач.

Slack GPT предоставляет интеллектуальные средства автоматизации и управления данными. Причём такие инструменты настраиваются в соответствии с индивидуальными потребностями конкретной компании. Реализована возможность использования различных языковых моделей и защищённой информации о клиентах из Customer 360 и Data Cloud. Благодаря новой платформе Slack клиенты смогут создавать рабочие процессы без кода, включающие развитые ИИ-функции.

Источник изображения: Salesforce

«Slack GPT — это передовая диалоговая платформа на основе ИИ, помогающая организациям легко использовать доверенные данные о клиентах и навыки сотрудников, чтобы они могли работать эффективнее и быстрее принимать взвешенные решения», — отмечает Salesforce.

Используя Slack GPT, отделы продаж, в частности, смогут автоматически генерировать сводки по каналам и рекомендации для клиентов. Специалисты службы поддержки получат возможность быстрее находить решения проблем и формировать ответы для клиентов с применением ИИ. Разработчики и сотрудники службы безопасности смогут автоматизировать процессы сканирования и более оперативно реагировать на инциденты. Маркетологам Slack GPT предоставит удобные функции для проведения рекламных кампаний и пр.

NVIDIA представила решение NeMo Guardrails с открытым кодом, призванное обеспечить безопасность приложений на основе ИИ — избавить ИИ-боты от так называемых галлюцинаций (ложных утверждений), оградить от обсуждения запретных тем и высказывания токсичных выражений, а также запретить выполнение нежелательных действий.

NVIDIA NeMo Guardrails предназначен для работы со всеми большими языковыми моделями (LLM), такими как ChatGPT от OpenAI. Решение позволяет разработчикам настраивать приложения на базе LLM, чтобы те были безопасными и оставались в сфере компетенции компании. NeMo Guardrails работает как промежуточный слой пользователем и LLM или другим ИИ-инструментом и предотвращает выдачу неверных результатов или подсказок.

Источник изображений: NVIDIA

NeMo Guardrails позволяет разработчикам устанавливать три типа границ:

• Тематические ограждения, которые предотвращают отклонение приложений в нежелательные области, обеспечивая ведение беседы в рамках определённой темы. Например, не позволяют ботам по обслуживанию клиентов, предназначенным для ответов на вопросы о продуктах, отвечать на вопросы о погоде.
• Ограждения безопасности, которые гарантируют, что LLM не выдаст дезинформацию и не вызовет негативную реакцию. Можно отфильтровать нежелательные выражения и обеспечить ссылки только на заслуживающие доверия источники.
• Охранные ограждения предотвращают выполнение LLM вредоносного кода и обеспечивают связь бота со сторонними приложениями только из разрешённого списка. Как подчеркнула компания, такие меры «помогают обеспечить надёжную модель безопасности и снижают риск атак на основе LLM по мере их обнаружения».

NVIDIA включила NeMo Guardrails в платформу NVIDIA NeMo, предоставляющую необходимые инструменты для обучения и настройки языковых моделей с использованием собственных данных компании. Значительная часть инструментария NeMo уже доступна на GitHub. Предприятия также могут получить его в виде полного и поддерживаемого пакета, входящего в состав платформы NVIDIA AI Enterprise.

Технологии искусственного интеллекта (ИИ) сегодня бурно развиваются и требуют всё более серьёзных вычислительных мощностей. Но наряду с наращиванием этих мощностей растут требования и к сетевой подсистеме, поэтому крупные компании и исследовательские организации ищут всё новые способы оптимизации инфраструктуры.

Компания Meta✴ в сотрудничестве с Массачусетским технологическим институтом (MIT) и рядом прочих исследовательских организаций опубликовала данные любопытного эксперимента, в котором ИИ-кластер мог менять топологию своего интерконнекта с помощью механической «роборуки».

Система получила название TopoOpt, поскольку вычислительные узлы в ней использовали полностью оптическую сеть с оптической же патч-панелью. Эта сеть объединяла 12 вычислительных узлов ASUS ESC4000A-E10, каждый из которых был оснащён ускорителем NVIDIA A100, сетевыми адаптерами HPE и Mellanox ConnectX-5 (100 Гбит/с) с оптическими трансиверами.

Источник здесь и далее: USENIX

Наиболее интересное устройство в эксперименте — оптическая патч-панель Telescent, оснащённая механическим манипулятором, способным производить перекоммутацию на лету. Эта «роборука» работала под управлением специализированного ПО, целью которого ставилось нахождение оптимальной сетевой топологии и сегментации сети применительно к различным задачам машинного обучения.

Система с перекоммутируемой оптической сетью не требует энергоёмких высокоскоростных коммутаторов и обеспечивает ряд других преимуществ

Такая роботизированная патч-панель не столь расторопна, как оптические коммутаторы Google с микрозеркальной механикой, но стоит впятеро дешевле и имеет больше портов. Опубликованные экспериментальные данные уверенно свидетельствуют о том, что топология «толстого дерева» (fat tree), использующая несколько слоёв коммутаторов, не оптимальна и даже избыточна для ряда нейросетевых задач.

К тому же перекоммутируемая оптическая сеть без традиционных высокоскоростных коммутаторов требует меньше оборудования, а значит, может быть не только быстрее сети fat tree в ряде ИИ-задач, но и существенно дешевле в развёртывании и поддержании в рабочем состоянии — как минимум за счёт отсутствия затрат на питание множества коммутаторов.

Как сообщает «ВКонтакте», теперь веб-сервисы организаций открываются внутри чат-бота: для оформления услуги пользователю не нужно покидать мессенджер, переходить в другие приложения или копировать ссылку для просмотра внешних ресурсов. Официальные чат-боты компаний будут помечены специальным баннером.

Компании могут в чат-боте проводить авторизацию клиентов, отправлять транзакционные уведомления, оказывать персональную поддержку. Для использования некоторых чат-ботов пользователи должны включить двухфакторную аутентификацию: это обеспечит дополнительную защиту. Бизнес же может внедрить собственные алгоритмы и этапы проверки авторизационных данных при пользовании чат-ботом.

Источник: «ВКонтакте»

«ВКонтакте» также усовершенствовала API для чат-ботов. Компании могут интегрировать в свои чат-боты уведомления с кнопками действий. Пользователь, открывая уведомление от бота, может в один клик оформить заявку, запросить статус заказа или совершить любое предложенное действие, не тратя время на поиск нужной команды. Как уверяют в компании, эти нововведения будут полезны в таких отраслях, как ритейл, страхование, электронная коммерция, маркетплейсы.