Материалы по тегу: apple

23.06.2024 [22:50], Владимир Мироненко

Облачный союз: Apple использует ИИ-инфраструктуру Google Cloud для Apple Intelligence

ИИ-инфраструктура Apple Private Cloud Compute использует не только базовую ИИ-модель собственной разработки и серверы Apple для инференса, работающие на собственных чипах Apple, но и облако Google Cloud Compute, обратил внимание ресурс HPCWire.

Сведения об ML-платформе Apple AXLearn указывают на гибридный подход к работе с ИИ, при котором Apple объединяет свои собственные серверы с возможностями Google Cloud, сообщил HPCwire, отметив, что новая инфраструктура является для Apple большим шагом вперёд. Например, Google и Microsoft, активно работают над развёртыванием ИИ ещё с конца 2022 года. Выпуск собственных систем знаменует возвращение Apple в сектор серверного оборудования после того, как в 2011 году она прекратила выпуск Xserve.

 Источник изображения: Apple

Источник изображения: Apple

Apple сообщила в своём блоге, что AXLearn использует фреймворк Google JAX и компилятор XLA и позволяет обучать модели с высокой эффективностью и масштабируемостью на различном оборудовании и облачных платформах, включая фирменные ИИ-ускорители Google TPU, а также облачные и локальные ускорители на базе GPU (конкретные модели не уточняются). У Apple есть две новые собственные ИИ-модели, одна из которых имеет 3 млрд параметров и используется для ИИ приложений на устройствах, а также более крупная LLM для запуска на серверах.

Модели, разработанные с помощью фреймворка TensorFlow, созданного Google, были обучены на TPU Google. При этом AXLearn включает оркестратор, который пока работает только с Google Cloud. Впрочем, Apple оговаривается, что «теоретически его можно расширить для работы на платформах других облачных провайдеров». Инференс же выполняется исключительно на собственных серверах компании, причём для обработки запроса пользователя каждый раз создаётся новый временный инстанс, который безвозвратно удаляется вместе с данными после завершения задачи, а для передачи информации используется сквозное шифрование.

Apple в рамках объявленного на WWDC 2024 сотрудничества c OpenAI интегрирует чат-бот ChatGPT в голосового помощника Siri, а также в другие инструменты iOS и остальных платформ. Поскольку существуют риски утечки данных на сторонней платформе, устройства Apple будут направлять запрос на разрешение пользователя отправлять данные в ChatGPT.

Постоянный URL: http://servernews.kz/1106917
11.06.2024 [21:45], Руслан Авдеев

Apple создала кастомные серверы и ОС для безопасного ИИ-облака

В ходе конференции Worldwide Developer Conference (WWDC), состоявшейся в понедельник, компания Apple упомянула о том, что её серверы на собственных чипах и ОС используются для новых ИИ-сервисов Apple Intelligence. Как отмечает The Register, прямо компания не говорила ни о CPU, ни об ОС и никогда не подтверждала слухи об ИИ-серверах собственной разработки, но отсылки ко всем этим компонентам оказались разбросаны по презентациям на WWDC.

Новые функции завязаны на Apple Private Cloud Compute — серверную экосистему, где IT-гигант применяет большие ИИ-модели, которые справляются с некоторыми задачами намного лучше, чем компактные модели на пользовательских устройствах. В компании отмечают, что Private Cloud Compute использует мощные и безопасные кастомные серверы в своих ЦОД. Также упоминается термин «вычислительный узел», но нет точных данных о том, является ли он синонимом слова «сервер».

 Источник изображения: Apple

Источник изображения: Apple

Подчёркивается, что облачные мощности используют те же аппаратные технологии обеспечения безопасности, что и, например, iPhone, включая Secure Enclave и Secure Boot. Машины используют новую защищённую ОС на базе iOS и macOS, где отсутствуют некоторые административные компоненты. К минимуму свели даже телеметрию, обычно критически важную для поддержания работы облака. Другими словами, доступ к данным получит только пользователь, доступа не будет даже у системных администраторов.

Если в ряде случаев возможностей смартфона или планшета будет не хватать для конкретной ИИ-задачи, Apple будет определять, какой необходимый минимум данных нужен для решения задачи и отправлять их в зашифрованным виде в облаке. В облаке для каждой такой задачи будет создавать зашифрованный же анклав, который после обработки данных и отправки результата пользователю (тоже с шифрованием) будет полностью удалён. Другими словами, исходные фото, видео и другой контент никогда не будут покидать устройства пользователя, а их отслеживание и расшифровка весьма проблематичны.

Уже сейчас в своих облаках Arm-чипы AWS, Google, Oracle и Microsoft. По соотношению цена/производительность они нередко лучше, чем чипы Intel или AMD, во всяком случае при решении некоторых задач, в том числе инференса, поэтому вполне логично, если к таким же решениям прибегнет и Apple.

Постоянный URL: http://servernews.kz/1106322
10.05.2024 [21:19], Владимир Мироненко

Bloomberg: Apple начала оснащать свои ЦОД серверами с чипами M2 Ultra для поддержки ИИ-функций iOS

На предстоящей конференции для разработчиков WWDC 2024, которая пройдёт в июне, Apple, как ожидается, представит новую версию iOS 18 с множеством функций генеративного ИИ. Некоторые из них будут выполняться локально, но часть будет использовать ИИ-модели, развёрнутые в ЦОД Apple.

Как сообщает Bloomberg со ссылкой на информированные источники, компания в рамках программы Apple Chips in Data Centers (ACDC) начала обновлять инфраструктуру, оснащая свои ЦОД серверами с чипами собственной разработки M2 Ultra для обеспечения более эффективной работы ИИ-моделей. По словам источников, за последние три года компания инвестировала сотни миллионов долларов в новую облачную инициативу.

 Источник изображения: Apple

Источник изображения: Apple

Чип M2 Ultra включает вычислительный модуль Neural Engine для запуска ИИ-моделей. В ближайшем будущем в ЦОД будут также устанавливаться серверы с чипами M4, представленными на прошлой неделе. Ранее на этой неделе The Wall Street Journal сообщал, что Apple в рамках ACDC разрабатывает собственные серверные ИИ-ускорители для инференса.

Пока Apple планирует использовать для новых облачных сервисов собственные ЦОД, но в конечном итоге перенесёт часть нагрузок на «сторонние объекты». На это намекнул финансовый директор Лука Маэстри (Luca Maestri). «У нас есть собственные мощности ЦОД, а затем мы используем мощности третьих сторон, — сказал он после того, как его попросили рассказать об ИИ-инфраструктуре. — Эта модель исторически хорошо работала для нас, и мы планируем продолжать в том же духе и в дальнейшем».

Постоянный URL: http://servernews.kz/1104625
07.05.2024 [21:26], Руслан Авдеев

Apple работает над собственными серверными ИИ-ускорителями

Компания Apple занимается разработкой собственных ИИ-полупроводников для дата-центров, передаёт The Wall Street Journal. В перспективе это поможет ей в «гонке вооружений», развернувшейся на рынке ИИ-решений. И у Apple есть ресурсы для создания передовых ИИ-чипов.

В последние десять лет компания уже выбилась в лидеры полупроводниковой индустрии, представляя всё новые чипсеты для мобильных устройств и компьютеров Mac-серии. Как свидетельствуют источники СМИ, серверный проект Project ACDC (Apple Chips in Data Center) задействует компетенции компании в деле создания решений для ЦОД. Недавно сообщалось, что Apple наняла создателя ИИ-кластеров Google. Реализацию проекта Apple начала несколько лет назад, но данных о том, когда будут готовые первые чипы, пока нет.

По имеющимся данным, компания уже тесно сотрудничает с TSMC. Предполагается, что чипы для серверов Apple будут оптимизированы для запуска ИИ-моделей, а не их обучения — на этом рынке по-прежнему будет доминировать NVIDIA. Время поджимает, поскольку Google и Microsoft уже имеют собственные ИИ-ускорители, хотя и разных классов — TPU и Maia 100. Обе компании имеют компетенции в области LLM, а Microsoft весьма дружна с OpenAI, которая тоже не прочь заняться «железом».

 Источник изображения: GR Stocks/unsplash.com

Источник изображения: GR Stocks/unsplash.com

Такое положение дел не устраивает инвесторов Apple, поскольку компания не продемонстрировала никаких впечатляющих успехов в соответствующей сфере, в то время как цена акций конкурентов продолжает расти на фоне новостей об их достижениях. В Apple пытаются убедить инвесторов, что это лишь временное явление и скоро грядут анонсы, связанные с ИИ. Опыт Apple в сфере разработки современных полупроводников должен помочь в создании ИИ-чипов. Сегодня компания представила 3-нм процессор M4 с самым мощным, по её словам, NPU в мире.

Хотя компания добилась определённых успехов в разработке чипов для потребительской и профессиональной электроники, определённые задачи даются ей с трудом. Например, она всё ещё бьётся над созданием собственного беспроводного модуля. Хотя в Apple предпочли бы, чтобы большинство ИИ-вычислений осуществлялись силами самих чипов, некоторые задачи будут по-прежнему выполняться в облаке, где и пригодятся новые полупроводники. Это позволит компании лучше контролировать свою стратегию развития в сфере ИИ.

Постоянный URL: http://servernews.kz/1104418
28.04.2024 [12:09], Сергей Карасёв

Apple наняла создателя ИИ-кластеров Google, обслуживающих Gemini и Bard

Компания Apple, по сообщению ресурса Datacenter Dynamics, приняла на работу Сумита Гупту (Sumit Gupta), бывшего руководителя Google. Он займёт пост директора по продуктам Apple Cloud, на котором займётся развитием облачных технологий, а также решений, связанных с ИИ и машинным обучением.

Гупта работал в Google в течение трёх последних лет, исполняя, в частности, обязанности руководителя отдела управления продуктами Google Infrastructure. В числе прочего Гупта отвечал за общую стратегию, бизнес-операции и взаимодействие с клиентами по таким направлениям как базы данных, аналитика, управление ресурсами, чипы TPU и Arm, хранилища и сети.

 Источник изображения: Google

Источник изображения: Google

Гупта также занимал должность старшего директора Google по управлению продуктами для инфраструктуры ИИ и машинного обучения. Под его руководством была сформирована программно-аппаратная инфраструктура для больших языковых моделей (LLM), включая семейство Gemini/Bard. Ранее он в течение шести лет работал в IBM, занимая должность директора по стратегии в области ИИ и технического директора по ИИ. А в 2007–2015 гг. Гупта занимал должность главного менеджера дата-центров для задач ИИ в NVIDIA.

В Apple Гупта возглавит формируемую команду специалистов по инфраструктуре и облачным технологиям. В описании вакансии Apple говорится, что компания создаёт мультиоблачную платформу, которая будет поддерживать все ключевые сервисы, включая музыку, телевидение, приложения ИИ и машинного обучения. Отмечается, что инфраструктура Apple включает в себя основные платформенные и управляемые сервисы, необходимые для разработки, развёртывания и широкомасштабного внедрения публичного облака.

В требованиях к соискателям в числе прочего упомянут предпочтительный опыт работы в рамках облачных платформ Google Cloud и (или) Amazon Web Services (AWS). Необходимо хорошее техническое понимание инфраструктурных услуг и облачных технологий. Диапазон базовой заработной платы для этой должности составляет от $188 тыс. до $351 тыс. в год.

Постоянный URL: http://servernews.kz/1103971
24.04.2024 [16:10], Руслан Авдеев

В 2023 году дата-центры Apple потребили более 2,3 ТВт∙ч электричества

Для питания своих дата-центров и колокейшн-мощностей Apple использовала в 2023 году 2,344 ТВт∙ч электроэнергии. Datacenter Dynamics сообщает, что компании принадлежит семь собственных ЦОД, а также неизвестное число колокейшн-площадок по всему миру, энергопотребление тех и других на 100 % компенсируется покупкой PPA-сертификатов.

В докладе Environmental Progress Report компания сообщила, что объект в Месе (штат Аризона) был крупнейшим потребителем, на него пришлось 488 ГВт∙ч, 82 % потреблённого электричества приходится на солнечную энергию, включая 4,76 МВт, которые получаются на территории самого кампуса. Ещё 18 % получают за счёт энергии ветра. ЦОД в Мейдене (Северная Каролина) использовал 453 ГВт·ч, 82 % приходится на солнечную энергию и 12 % — на ветряную.

В Рино (Невада) кампус потребил 440 ГВт∙ч, энергия обеспечена полностью за счёт солнца, в том числе 20 МВт от проекта Fort Churchill Solar Array, в котором используются искривлённые зеркала для концентрации света на фотоэлектрических ячейках. В Прайнвилле (Орегон) использовано 269 ГВт∙ч — 60 % получено за счёт ветряной энергии, 38 % — за счёт солнечной, а ещё 2 % — от малых ГЭС. Компания начала использовать микро-ГЭС в 2013 году, проект Earth By Design реализован рядом с ирригационным каналом. В компании утверждают, что теперь имеется уже два таких проекта.

 Источник изображения: Apple

Источник изображения: Apple

Два дата-центра в Китае использовали в общей сложности 171 ГВт∙ч, на солнечную и ветряную энергию приходится по 50 %. Правда, согласно местным законам, Apple не считается оператором этих ЦОД. На ЦОД в Виборге (Дания) пришлось 40 ГВт∙ч. Точных данных по распределению энергии не имеется, зато в Apple сообщили, что этот дата-центр не нуждается в резервных дизельных генераторах. В 2019 году компания отказалась от строительства второго ЦОД в стране, проект оценивался в $921 млн.

Что касается колокейшн-ёмкостей, то в США и за их пределами компания использовала 387 и 96 ГВт∙ч соответственно — на них приходится около 20,6 % IT-энергопотребления компании. Кстати, впервые в истории Apple использование электричества её колокейшн-объектами упало с 487,9 ГВт∙ч в 2022 году. В предыдущие пять лет до 2022 года оно росло в среднем на 14,49 % ежегодно.

В доклад не вошла отчётность об использовании Apple облаков. Компания давно пользуется услугами Google Cloud и, похоже, это крупнейший клиент платформы, а прошлом году на базе облака Google начата разработка ИИ-моделей. Самое приблизительное представление даёт статистика 2019 года. Тогда сообщалось, что более $30 млн/мес. тратится на облако AWS.

Постоянный URL: http://servernews.kz/1103774
20.09.2023 [10:25], Сергей Карасёв

Мини-компьютеры Apple Mac mini с чипами M2 Pro стали доступны в облаке Amazon

Облачная платформа AWS сообщила о доступности инстансов Amazon EC2 M2 Pro Mac. В основу положены компьютеры небольшого формфактора Apple Mac mini, оснащённые фирменными процессорами M2 Pro.

В состав платформы включены устройства Mac mini с чипами M2 Pro, которые содержат 12 ядер CPU, 19-ядерный блок GPU и 32 Гбайт унифицированной памяти с малой задержкой и пропускной способностью в 200 Гбайт/с. Предусмотрен также движок Apple Neural Engine с 16 ядрами.

По заявлениям Amazon, новые инстансы обеспечивают увеличение производительности приблизительно на 35 % по сравнению с M1 Mac. Решение предназначено для компиляции, тестирования, сборки и подписывания Xcode-приложений для платформ Apple (macOS, iOS, iPadOS, tvOS, watchOS и Safari).

 Источник изображения: Amazon

Источник изображения: Amazon

Как и другие экземпляры EC2 Mac, инстансы EC2 M2 Pro Mac поддерживают аренду выделенного хоста с минимальной продолжительностью 24 часа. Клиенты, применяющие инстансы на базе Mac mini, сообщают о сокращении времени сборки до четырёх раз, увеличении числа параллельных сборок до трёх раз и уменьшении количества сбоев, связанных с оборудованием, до 80 %.

Постоянный URL: http://servernews.kz/1093298
09.06.2023 [14:09], Владимир Мироненко

Apple, Google и Microsoft выразили готовность расширить присутствие в Казахстане

Американские технологические гиганты Apple, Google и Microsoft готовы расширить своё присутствие в Казахстане, пишет «Интерфакс» со ссылкой на пресс-службу Kazakh Invest. Об этом заявили представители компаний на инвестиционном круглом столе с крупнейшими американскими компаниями в Астане, который прошёл под председательством министра национальной экономики Казахстана Алибека Куантырова.

Как сообщается в пресс-релизе, Google заинтересована в расширении сотрудничества с Казахстаном «ввиду ухода с российского рынка и переформатирования деятельности на казахстанский рынок». А у Microsoft имеются планы по созданию мультирегионального хаба в Казахстане с охватом стран Центральной Азии, Азербайджана, Армении, Грузии, Монголии и Пакистана, а также обучению IT специалистов для расширения казахстанского цифрового экспорта.

 Источник изображения: invest.gov.kz

Источник изображения: invest.gov.kz

В свою очередь, Boeing предлагает обучать персонал в Казахстане с целью создания квалифицированной рабочей силы в авиационной сфере.

Круглый стол собрал более 100 представителей госорганов и бизнеса двух стран, включая более 20 крупных компаний из США, таких как Apple, Microsoft Corporation, The Boeing Company, Chevron, The Coca-Cola Company, EPAM Systems, ExxonMobil, Google, General Electrics, Mastercard, Valmont Industries, Baker Hughes, Citibank и другие.

Постоянный URL: http://servernews.kz/1088148
06.06.2023 [12:39], Сергей Карасёв

Apple представила рабочую станцию Mac Pro на чипе M2 Ultra с возможностью монтажа в стойку

Компания Apple анонсировала рабочую станцию Mac Pro нового поколения для профессиональных пользователей. Устройство будет доступно в двух вариантах исполнения — в настольной версии Tower и модификации Rack с возможностью монтажа в стойку. Цена — от $6999 и $7499 соответственно.

В основу системы положен фирменный процессор Apple M2 Ultra, содержащий 24-ядерный CPU (16P + 8E), GPU с 60 или 76 ядрами а также нейромодуль с 32 ядрами. Объём унифицированной памяти составляет до 192 Гбайт (с пропускной способностью до 800 Гбайт/с). Возможна установка SSD вместимостью до 8 Тбайт.

 Источник изображений: Apple

Источник изображений: Apple

Доступны шесть слотов PCIe 4.0 — два x16 и четыре x8. Кроме того, есть один разъём PCIe 3.0 х4. В оснащение входят адаптеры Wi-Fi 6E (802.11ax) и Bluetooth 5.3, двухпортовый сетевой контроллер 10GbE, восемь портов Thunderbolt 4 на основе разъёмов USB Type-C (шесть сзади и два сверху), по два интерфейсы USB Type-A и HDMI, стандартное аудиогнездо. Возможен вывод изображения одновременно на восемь дисплеев формата 4К, шесть экранов 6К или три панели 8К.

Стоечная версия Mac Pro имеет габариты 220,2 × 482,0 × 539,5 мм и весит приблизительно 17,21 кг. В комплект поставки входят направляющие для крепления в стойке. Во фронтальной части располагается блок охлаждения с тремя вентиляторами. Диапазон рабочих температур — от +10 до +35 °C.

Постоянный URL: http://servernews.kz/1087948
09.09.2022 [00:26], Владимир Мироненко

Из-за коронавируса сотрудники китайского дата-центра Apple оказались заперты в нём на неделю

Введение на этой неделе властями Гуйяна (Китай) локдауна из-за вспышки коронавируса практически парализовало жизнь города с населением 6 млн человек. В связи с этим компания Guizhou Cloud Big Data приняла экстренные меры, чтобы сохранить работоспособность дата-центра, где хранятся данные сотен миллионов китайских пользователей продукции Apple. Об этом сообщил ресурс Bloomberg.

Guizhou Cloud сообщила в WeChat о введении системы «замкнутого цикла», в рамках которой сотрудникам было запрещено покидать ЦОД. Многие из них не видели свои семьи в течение недели. В дата-центре Guizhou Cloud также хранятся данные других клиентов. Компания не сообщила, отразился ли локдаун на работе серверов Apple и когда будет снята блокировка.

 Источник изображения: Xinhua

Источник изображения: Xinhua

Китайский центр обработки данных Apple был запущен в 2017 году. Apple была вынуждена передать контроль государственной фирме в соответствии с местным законодательством, несмотря на опасения некоторых экспертов, что это ставит под угрозу конфиденциальность и безопасность её пользователей.

Вышеупомянутый локдаун был введён в рамках реализуемой властями Китая политики «нулевой терпимости» к COVID-19 в шести из десяти районов Гуйяна. Их жителям разрешено покидать свои дома только для проведения тестов на коронавирус.

Постоянный URL: http://servernews.kz/1073811
Система Orphus