Lattice Semiconductor представила на конференции для разработчиков Lattice Developers Conference новую эталонную платформу для ускорения разработки периферийных ИИ-решений использованием платформ NVIDIA Jetson Orin и IGX Orin. Сотрудничество Lattice с NVIDIA нацелено на повышение эффективности подключения сенсоров к приложениям для ИИ-обработки, что позволит расширить возможности сообщества разработчиков открытых платформ.

Согласно пресс-релизу, эталонная open source плата, основанная на энергоэффективных FPGA Lattice и аппаратной платформе NVIDIA Orin, предназначена для удовлетворения потребностей разработчиков в подключении к разнообразным датчикам и интерфейсам, при разработке масштабируемых высокопроизводительных периферийных ИИ-приложений с низким уровнем задержкидля нужд здравоохранения, робототехники, встраиваемых систем визуализации и т.д. Эталонная плата пока доступна лишь избранным клиентам, но Lattice планирует расширить доступ к решению и примерам приложений в I половине 2024 года.

Источник изображения: Lattice Semiconductor

«Мы рады сотрудничеству с NVIDIA, которое позволит расширить возможности наших эталонных решений, предлагая больше инноваций нашим клиентам и экосистеме, чтобы помочь упростить и ускорить внедрение периферийных приложений ИИ», — заявил директор по стратегии и маркетингу Lattice Semiconductor. В свою очередь директор по управлению встраиваемыми ИИ-продуктами NVIDIA отметил, что сотрудничество с Lattice позволит ускорить инновации в области обработки показаний датчиков и упростить развёртывание приложений ИИ «от периферии до облака».

McDonald's подписала многолетнее соглашение с Google Cloud Platform — гигант общепита станет использовать оборудование, данные и ИИ-решения Google в своих точках питания по всему миру, сообщает Datacenter Dynamics. Подключение заведений к цифровой инфраструктуре Google Cloud упростит управление объектами и оптимизирует рабочие и бизнес-процессы, благодаря чему улучшится опыт взаимодействия посетителей и персонала.

В первую очередь компания намерена использовать решения Google для периферийных вычислений, внедряя в ресторанах платформу Google Distributed Cloud для анализа работы оборудования и минимизации нарушения бизнес-процессов. Также ожидается, что McDonald's сможет быстрее улучшить собственные программные платформы, в том числе мобильное приложение и ПО в киосках для самообслуживания благодаря облачным вычислениям.

Источник изображения: Hat Trick/unsplash.com

А специальная команда Google в Чикаго будет сотрудничать с глобальным инновационным центром McDonald's Speedee Labs. В частности, ИИ Google будет применяться для поиска решений в сфере «ключевых бизнес-приоритетов». Ожидается, что комбинация бренда и масштаба McDonalds с компетенциями Google Cloud в области ИИ и технологических инновациях позволит переформатировать работу индустрии и даже изменить ожидания людей от заведений общепита.

McDonald's начала переезд в облако ещё в 2018 году. На тот момент компания намеревалась сотрудничать с AWS на протяжении пяти лет, а также перенести часть бизнес-процессов в Microsoft Azure. Журналисты запросили у компании комментарии того, как новая сделка с Google Cloud повлияет на предыдущие договорённости — ещё в прошлом году старший директор облачных и информационных служб McDonald's утверждал, что все корпоративные системы компании уже находятся в облаках.

Компания Scale Computing анонсировала первые устройства серии HE100, в основу которых положены компьютеры небольшого форм-фактора ASUS Next Unit of Computing (NUC). Решения, выполненные на платформе Intel Raptor Lake, предназначены для организации периферийных вычислений.

Максимальная конфигурация включает процессор Core i7-1370P (6Р+8Е; 20 потоков; 1,4–5,2 ГГц; 20–28 Вт; Intel Iris Xe Graphics). Объём оперативной памяти может составлять 16, 32 или 64 Гбайт. Допускается установка одного SSD формата M.2 (NVMe) вместимостью 1, 2, 4 или 8 Тбайт.

Дебютировали модели HE153 и HE153s: первая оснащена двумя сетевыми портами 2.5GbE, вторая — одним. На устройствах применена фирменная «самовосстанавливающаяся» программная платформа, позволяющая приложениям автономно функционировать на периферии. Прочие характеристики новинок пока не раскрываются.

Источник изображения: Scale Computing

Благодаря небольшим размерам три компьютера серии HE100 могут бок о бок монтироваться в серверное шасси типоразмера 1U. В качестве альтернативного варианта допускается установка нескольких устройств стопкой друг на друга. На фронтальную панель изделий выведены два порта USB 3.х Type-A. Сзади находится интерфейс HDMI.

В продажу новинки поступят в I половине 2024 года по цене от $5400 за кластер из трёх узлов.

Стартап Lonestar Data Holdings, развивающий идею строительства дата-центров на Луне, по сообщению ресурса Datacenter Dynamics, получил на развитие дополнительно более $800 тыс. Деньги поступили как от существующих, так и от новых инвесторов. По задумке Lonestar, лунный ЦОД обеспечит периферийные вычисления для будущих космических миссий, а также работу сервисов резервного копирования и аварийного восстановления данных.

В марте нынешнего года Lonestar объявила о привлечении $5 млн от Scout Ventures, Seldor Capital, 2 Future Holding, The Veteran Fund, Irongate Capital, Atypical Ventures и KittyHawk Ventures. После этого компания рассчитывала получить ещё $500 тыс., но в итоге удалось собрать даже больше — $825 тыс. Деньги будут направлены на дальнейшее развитие и ускорение практической реализации проекта. «Клиенты и инвесторы поддерживают нашу концепцию обеспечения безопасности критически важных данных на Луне», — сказал Крис Стотт (Chris Stott), генеральный директор Lonestar.

Источник изображения: Intuitive Machines

Изначально предполагалось, что Lonestar отправит микро-ЦОД на естественный спутник нашей планеты в 2022 году, но реализация миссии затянулась. Позднее стартап сообщил, что запустит аппарат во II квартале 2023-го, но и эти сроки выдержать не удалось. Как теперь говорится, старт должен состояться в ноябре нынешнего года. После этого на Луну будет отправлен второй посадочный модуль с накопителем вместимостью 8 Тбайт. Lonestar сотрудничает с компанией Intuitive Machines, которая отвечает за выполнение коммерческих лунных программ.

Американская компания Cloudflare, предоставляющая услуги CDN, по сообщению Datacenter Dynamics, будет использовать ускорители NVIDIA в своей глобальной edge-сети для обработки ресурсоёмких нагрузок ИИ, в частности, больших языковых моделей (LLM). Как отмечает ресурс NetworkWorld, инициатива носит название Workers AI. Заказчики смогут получать доступ к мощностям устройств NVIDIA для реализации своих ИИ-проектов.

Cloudflare также задействует коммутаторы NVIDIA Ethernet и полный набор софта NVIDIA для инференса, включая TensorRT-LLM и Triton Inference. Поначалу не планируется поддержка пользовательских ИИ-моделей: клиентам будет предоставляться доступ только к Meta✴ Llama 2 7B и M2m100-1.2, OpenAI Whisper, Hugging Face Distilbert-sst-2-int8, Microsoft Resnet-50 и Baai bge-base-en-v1.5. В будущем этот перечень планируется расширять.

О моделях ускорителей, которые возьмёт на вооружение Cloudflare, ничего не говорится. Но отмечается, что к концу 2023 года решения NVIDIA будут внедрены более чем в 100 городах, а в течение 2024-го они появятся почти во всех зонах присутствия Cloudflare. Глобальная edge-сеть компании использует ЦОД более чем в 300 городах по всему миру.

Источник изображения: NVIDIA

Ещё одной новой инициативой Cloudflare в области ИИ является Vectorize — векторная база данных. Она поможет разработчикам создавать приложения на основе ИИ полностью на платформе Cloudflare. Говорится, что Vectorize получит интеграцию с Workers AI. Наконец, готовится AI Gateway — система оптимизации и управления производительностью, предназначенная для работы с ИИ-приложениями, развёрнутыми в сети Cloudflare.

Молодая компания Axelera AI B.V. сообщила о начале поставок платформы Metis AI, разработанной специально для ускорения ИИ-задач на периферии. Стартап, основанный в 2021 году, получил финансирование на сумму более $50 млн. Чип Axelera основан на открытой архитектуре RISC-V. В базовом варианте платформа Metis AI обеспечивает производительность до 39,3 TOPS. Увеличив тактовую частоту, быстродействие можно довести до 48,16 TOPS.

Изделие предлагается в различных вариантах исполнения, включая карты расширения PCIe (FHHL), модули М.2 2280 и полноценные системы для задач машинного зрения. В частности, карты PCIe AI Edge доступны в версиях с одним и несколькими чипами с общей производительностью до 856 TOPS. Утверждается, что платформа Metis AI обладает высокой энергетической эффективностью — это важно при организации ИИ-вычислений на периферии.

Источник изображений: Axelera AI B.V.

Изделия Metis AI используют чипы Axelera Metis AIPU, содержащие четыре ядра для in-memory вычислений. Объём SRAM-кеша L1 составляет 16 Мбайт, кеша L2 — 32 Мбайт. Диапазон рабочих температур простирается от -40 до +85 °C. Гарантирована совместимость с Ubuntu 20.04/22.04 и Yocto. Разработчикам доступен набор инструментов Voyager SDK и фирменный компилятор TVM, который включает в себя средства оптимизации.

Модуль Axelera M.2 в формате 2280 наделён 512 Мбайт памяти LPDDR4x и одним чипом Axelera Metis AIPU. Энергоэффективность достигает 15 TOPS в расчёте на 1 Вт. Задействовано пассивное охлаждение; интерфейс подключения — PCIe 3.0 х4. Цена составляет €150.

В свою очередь, карты Axelera PCIe AI Edge доступны в версиях с одним (+1 Гбайт набортной RAM) и четырьмя чипами Axelera Metis AIPU: в первом случае быстродействие достигает 214 TOPS (INT8), во втором — 856 TOPS. Устройства выполнены в виде однослотовых карт с интерфейсом PCIe 3.0 х4 и PCIe 3.0 х16. Применена система активного охлаждения с вентилятором. Цена составляет около €200 и €500 соответственно.

Американский телеком-оператор Verizon представил необычное трейлерное решение — как сообщает пресс-служба компании, мини-ЦОД на колёсах, получивший название Mobile Onsite Network-as-a-Service (NaaS), обеспечивает создание частной мобильной сети 4G/5G, связанные периферийные вычисления (MEC), поддержку SD-WAN, а также соединение со спутниками.

Высокая скорость подключения и низкий уровень задержки в зоне работы трейлера позволяет применять оборудование в разных сферах, обеспечивая высокий уровень конфиденциальности и безопасности. Контейнер занимает площадь всего около 1 м². Управление сетью и вычислениями может осуществляться локально.

Источник изображения: Verizon

Впервые Mobile Onsite NaaS был задействован в кампусе Lockheed Martin в Колорадо (США). По данным телеком-оператора, готовое к эксплуатации решение удалось развернуть на месте всего за несколько часов, примерно за то же время завершилось тестирование спутникового подключения. Похожий прототип компания представила ещё в 2021 — проект THOR с похожей функциональностью создавался в качестве выездного командного центра для военных и базировался на шасси Ford.

Новое решение найдёт применение в сегменте коммунальных услуг, сельском хозяйстве, производстве, для организации медийных мероприятий и в других отраслях, где потребуется использование частных 5G-сетей и поддержка периферийных вычислений — включая работу по заказу структур, ответственных за обеспечение безопасности. Это обойдётся гораздо дешевле, чем установка стационарного оборудования. Ещё одна сфера применения — в качестве мобильной лаборатории (Mobile Lab as a Service) для выездного тестирования и отладки сотовых технологий.

Amazon Web Services (AWS) совместно с Ericsson разработали передовую ИИ-систему машинного зрения с применением 5G-технологий. Инновационный механизм будет использоваться для раннего обнаружения дефектов на производстве электромобилей компании Hitachi.

Источник изображения: Ericsson

Как сообщают в компаниях-партнёрах, система внедрена на заводе Hitachi Astemo Americas в Кентукки и будет использовать видеопоток с разрешением 4К, систему ИИ, облако и частную сеть 5G для обнаружения на производственных линиях дефектов на субмиллиметровом уровне. Утверждается, что возможна одновременная проверка до 24 сборочных компонентов.

В новой системе использовано оборудование Ericsson Private 5G, а также платформа AWS Snowball Edge, на которой работает система видеоаналитики Hitachi. Snowball обеспечивает сбор данных и их локальную обработку или отправку в «большое» облако. Платформа поддерживает инстансы EC2, сервис IoT Greengrass для создания и управления сетью IoT-устройств, а также Kubernetes. Как сообщают в Ericsson, важно, что такие решения применяются уже сегодня.

Ранее Ericsson уже внедряла частные 5G-сети на производственной площадке в Таллине (Эстония), а также в горнодобывающей промышленности в Южной Африке. Также аналогичный проект опробован в ЦОД Fujitsu в ноябре 2022 года — частная сеть 5G использовалась роботом с 4К-камерой, патрулирующим помещения, а данные передавались на обработку ИИ-системе.

Британская компания DataQube, занимающаяся разработкой и строительством дата-центров для периферийных вычислений, подала заявление о банкротстве. Как сообщает DataCenter Dynamics, 29 августа её кредиторы встречались для выбора ликвидаторов и формирования ликвидационного комитета.

Причины подачи компанией соответствующего заявления достоверно неизвестны, но последний общедоступный отчёт датируется 31 декабря 2021 года. На тот момент компания доложила об отрицательном балансе на сумму $247 150, хотя годом ранее баланс был положительным и составлял $36 600. Тогда же DataQube сообщила о растущих задолженностях перед кредиторами.

Вместе с тем глава компании Стивен Джон Пасс (Stephen John Pass) подал месяц назад в британскую Регистрационную палату заявление об открытии нового бизнеса Iconic Data Centres. При этом новая компания демонстрирует изображения стоек DataQube и даже заявляет о том, что разработала первые в мире «подульные» (podular) дата-центры. Речь идёт об особых модульных контейнерных ЦОД, каждый модуль в которых фактически представляет собой полнофункциональный микро-ЦОД.

Источник изображения: DataQube

Основатель и бывший глава DataQube Дэвид Джей Киган (David J Keegan) уже раскритиковал заявление Iconic Data Centres о том, что компании якобы принадлежит честь разработки «подульных» масштабируемых ЦОД DataQube, заявив, что именно он и никто другой давно придумал соответствующий дизайн. О создании таких ЦОД действительно сообщала сама DataQube. Также на ресурсах Iconic присутствуют отсылки к инфраструктуре ЦОД, вероятно, разработанной ещё в DataQube. В самих компаниях характер связей нового бизнеса с прежним не комментируют.

Компания AMD, по сообщению ресурса ServeTheHome, поделилась информацией о процессорах EPYC Siena, предназначенных для использования в телекоммуникационной сфере и системах периферийных вычислений. В основу этих изделий положена микроархитектура Zen 4 — AMD придерживается стратегии формирования различных чиплетных сборок вокруг унифицированного IO-блока.

В состав Siena войдут до 64 вычислительных ядер с возможностью одновременной обработки до 128 потоков инструкций. Говорится о поддержке шести каналов оперативной памяти DDR5 DRAM. Величина TDP новых процессоров составит от 70 до 225 Вт. По имеющейся информации, чипы будут функционировать на тактовой частоте от 2,2 до 2,55 ГГц. Объём кеша L3 будет достигать 128 Мбайт, что в два раза меньше по сравнению с процессорами AMD EPYC Rome с 64 ядрами.

Источник изображений: AMD (via ServeTheHome)

Предполагается, что Siena будут использовать новую платформу SP6, которая значительно проще, чем SP5, применяемая для чипов EPYC серии 9000. Системы на платформе Siena смогут использовать модули DDR5-4800. Поначалу в семейство Siena войдут как минимум шесть моделей — с 8, 16, 24, 32, 48 и 64 ядрами. Процессоры, как ожидается, появятся на рынке в конце текущего или в начале следующего года. Чипы предназначены для серверов с низким энергопотреблением, которым не требуется максимальная производительность.