Хотя крупнейшим облачным клиентом сервисов Azure OpenAI компании Microsoft по-прежнему остаётся социальная сеть TikTok, облачный ИИ-провайдер активно диверсифицирует свой бизнес. В распоряжение The Verge попал список крупнейших клиентов Microsoft, получающих облачный доступ к большим языковым моделям (LLM) — как оказалось, более $1 млн/мес. на сервисы Azure OpenAI тратит не только TikTok.

В десятку ключевых пользователей Azure OpenAI вошли Adobe и Meta✴, каждая из которых потратила более $1 млн только в сентябре 2024 года. Впрочем, компании по-прежнему отстают от TikTok, принадлежащей ByteDance. Ранее сообщалось, что TikTok платила Microsoft почти $20 млн/мес. за доступ к моделям OpenAI. По итогам IV квартале 2024 финансового года, завершившемся 30 июня, на TikTok пришлось почти четверть выручки Azure OpenAI.

Теперь траты ByteDance на Azure OpenAI составляют менее 15 % всей выручки Microsoft в этом сегменте — расходы ByteDance падают, а других клиентов растут. Например, G42 из ОАЭ тратит на сервисы Azure OpenAI миллионы долларов ежемесячно, являясь вторым по величине пользователем соответствующего сервиса после ByteDance. Ранее в этом году Microsoft инвестировала $1,5 млрд в G42, поэтому, вероятно, последняя сохранит статус одного из ключевых пользователей Azure OpenAI.

Ранее в этом году главным потребителем ИИ-сервисов Microsoft считалась американская торговая сеть Walmart, но теперь её нет даже в десятке. Список серьёзно меняется от месяца к месяцу, во многом потому, что клиенты Microsoft время от времени запускают или тестируют новые ИИ-проекты. Так, постоянным клиентом остаётся Intuit, хотя её расходы несопоставимы с затратами G42 или ByteDance. Компания занимается разработкой инструментов для финансового управления и обучает собственные ИИ-модели на клиентских данных.

Источник изображения: Donald Giannatti/unsplash.com

Также Microsoft удалось привлечь к сотрудничеству тесно связанную с Alibaba компанию Ant Group, которая потратила на Azure OpenAI как минимум $1 млн. Среди ключевых клиентов есть и пекинская Sankuai Technology, а всего в десятку самых «дорогих» клиентов в сентябре вошли сразу три китайские компании. В Microsoft информацию не комментируют. В компании лишь отметили, что Azure OpenAI — один из самых быстрорастущих сервисов Azure за всю историю, которым уже пользуются 60 тыс. организаций по всему миру. За последние месяцы рост сервиса удвоился.

Microsoft также продаёт лицензии Copilot для бизнеса, обеспечивающие ИИ-сервисы, например, в офисных приложениях. По данным самой компании, 70 % компаний из рейтинга Fortune 500 так или иначе пользуются Microsoft 365 Copilot. Скоро выручка ИИ-бизнеса Microsoft превысит $10 млрд в год. В Microsoft утверждают, что это будет самый быстрый в истории бизнес, достигший подобного показателя. Но пока затраты довольно велики, так что инвесторы внимательно наблюдают за показателями Azure OpenAI и Microsoft 365 Copilot. Microsoft уже не хватает ресурсов для обработки ИИ, но компания готова вкладывать деньги в новые ЦОД.

Медиагигант ByteDance начал перенос данных европейских пользователей TikTok в новый дата-центр в Норвегии. По данным Datacenter Dynamics, инициатива стоимостью €12 млрд реализуется в рамках т.н. Project Clover — проекта, призванного обеспечить размещение европейских данных на территории Евросоюза. TikTok сообщает, что первое здание норвежского кампуса ЦОД уже функционирует. А самый первый ЦОД для Project Clover заработал в Ирландии в 2023 году.

Норвежский кампус OSL2-Hamar предоставлен компанией Green Mountain — соответствующее партнёрство анонсировали в марте 2023 года. Изначально заключался контракт на 90 МВт, распределённые на три здания, с возможностью масштабирования до 150 МВт к 2025 году. Первые 30-МВт объект передали TikTok в декабре 2023 года. Планировалось, что ЦОД заработает уже во II квартале 2024 года, но реализация проекта замедлилась из-за задержек в получении разрешений на новую подстанцию. Впрочем, само подключение к энергосети было получено не без проблем.

Поскольку TikTok принадлежит китайской ByteDance, несколько стран выразили озабоченность возможной утечкой данных своих граждан, наиболее сильное давление на социальную сеть оказывается в США, там же чаще всего выступают и с разоблачениями вероятных угроз национальной безопасности — не исключена продажа местного подразделения Oracle или Microsoft.

Источник изображения: TikTok

Пытаясь сохранить бизнес в Европе, ByteDance анонсировала инициативу Project Clover. Помимо передачи данных в Норвегию, компания сообщила, что независимый провайдер решений в сфере кибербезопасности NCC Group занялся мониторингом движения данных социальной сети и обеспечил дополнительную защиту сведениям о европейцах.

Ранее в этом месяце появилась информация о том, что TikTok якобы намеревается открыть ЦОД в Таиланде. В июне компания сообщила, что создаст ИИ-хаб в Малайзии за RM10 млрд ($2,13 млрд). Также, по слухам, компания рассматривала открытие ЦОД в Австралии для поддержки выполнения задач по всему Азиатско-Тихоокеанскому региону. Также у компании имеется ЦОД в Техасе, управляемый Oracle.

Владеющая популярной социальной сетью TikTok компания ByteDance, по слухам, рассчитывает открыть новый дата-центр в Таиланде. Datacenter Dynamics сообщает, что дочерняя структура IT-гиганта BytePlus хочет развернуть в 2025 году новую площадку для поддержки облачных и ИИ-сервисов.

Согласно источнику, ByteDance намерена воспользоваться преимуществами развивающейся цифровой экономики Таиланда. В последние году ByteDance активно развивает свою инфраструктуру для удовлетворения растущего спроса, попутно пытаясь убедить власти на местах в том, что персональные данные местных жителей не будут передаваться в Китай — такие опасения особенно характерны для США и Евросоюза.

В июне компания сообщила о строительстве ИИ-хаба в Малайзии за RM10 млрд ($2,13 млрд). Также она предположительно рассматривает возможность открытия дата-центра в Австралии для поддержки выполнения задач в Азиатско-Тихоокеанском регионе.

Источник изображения: Andreas Brücker/unsplash.com

В Таиланде действительно активно развивается национальная цифровая инфраструктура. Так, в сентябре Google объявила, что намерена инвестировать $1 млрд в дата-центры в Бангкоке, а также находящейся рядом прибрежной провинции Чонбури. В рамках проекта компания намерена сотрудничать с группой Gulf Edge, чтобы создать в Таиланде суверенное облако. AWS также намерена запустить в Таиланде облачный регион в начале 2025 года, а к 2037 году инвестировать $5 млрд. Построить регион ЦОД в стране намерена и Microsoft.

По данным The Information, китайская ByteDance, владеющая популярной социальной сетью TikTok, работает над выпуском собственных ИИ-чипов. Два вида чипов начнут производить на TSMC к 2026 году. Предполагается, что собственные разработки позволят китайскому IT-гиганту избавиться от зависимости от поставщиков вроде NVIDIA.

Принято считать, что решения NVIDIA использует большинство компаний, участвующих в разработке ИИ-систем. Тем не менее, получить передовые ускорители довольно сложно из-за американских санкций, не раз ужесточавшихся и распространившихся даже на ослабленные ускорители. Из-за этого ByteDance приходится искать альтернативы.

Экспорт чипов из США и других стран, использующих американские технологии, неоднократно ограничивали, а в июне появилась информация о том, что ByteDance сотрудничает с Broadcom над 5-нм решением, соответствующим всем ограничениям — его будет производить тайваньская TSMC. Также сообщалось, что ByteDance закупила в прошлом году чипы Ascend 910B, разработанные и продаваемые Huawei. Однако, по данным The Information, ByteDance пока что всё равно заказала 200 тыс. ускорителей NVIDIA H20 за более чем $2 млрд. С ними намного проще и удобнее работать, чем с решениями Huawei.

Источник изображения: Claudio Schwarz/unsplash.com

Разработка собственных чипов в ByteDance объясняется ростом интереса менеджмента компании к ИИ-технологиям — они применяются во многих решениях IT-гиганта, в том числе в рекомендательных системах TikTok. Разработка собственных продуктов позволит повысить производительность систем ByteDance при обучении моделей и инференсе. В Китае над собственными решениями в сфере ИИ-ускорителей работает не только ByteDance, но и, например, Baidu. ИИ-ускоритель Kunlun 3 тоже будет производить TSMC. При этом у Baodi гораздо более богатый опыт разработки ускорителей. Начав в 2010 году с FPGA, к 2020 году она перешла к созданию ASIC.

В августе 2022 года ByteDance представила чат-бота на основе ИИ Doubao, он стал главным конкурентом Ernie Bot (разработан Baidu) в Китае. В мае под «зонтиком» бренда Doubao компания ByteDance представила большие языковые модели (LLM), рассчитанные на корпоративных клиентов. Модели относительно дёшевы в сравнении с продуктами конкурентов, предлагающими аналогичную функциональность.

Агентству Reuters стало известно о совместной работе китайской компании ByteDance, владеющей популярным видеосервисом TikTok, и американского производителя чипов Broadcom над созданием усовершенствованного ИИ-ускорителя. По словам источников Reuters, это 5-нм ASIC, на который не будут распространяться экспортные ограничения США.

Также сообщается, что производством чипа будет заниматься TSMC. Вероятно, его выпуск начнётся в следующем году. Как сообщил источник, работа над чипом идёт полным ходом, но проектирование ещё не завершено. ByteDance и Broadcom являются партнёрами как минимум с 2022 года. ByteDance покупала у американской компании 5-нм чипы Tomahawk, а также коммутаторы Bailly для ИИ-кластеров, указано в публичных заявлениях Broadcom.

Сотрудничество с Broadcom в деле разработки ИИ-ускорителя позволит ByteDance сократить затраты и обеспечить стабильные поставки высокопроизводительных чипов, утверждают источники Reuters. Для ByteDance, владеющей также китайской версией TikTok под названием Douyin, и ещё рядом популярных приложений, включая сервис чат-ботов, похожий на ChatGPT, под названием Doubao с 26 млн пользователей, крайне важно иметь достаточный запас ИИ-ускорителей.

Источник изображения: Broadcom

По словам источника, ByteDance выделила в прошлом году $2 млрд на закупку ИИ-ускорителей. В частности, она успела приобрести неназванные объёмы NVIDIA A100 и H100, которые были доступны до вступления в силу первого раунда санкций США, а также чипы A800 и H800, которые со временем также попали под ограничения. ByteDance также приобретала в прошлом году чипы Huawei Ascend 910B, утверждают информированные источники.

Особое внимание Bytedance уделяет набору квалифицированных кадров в сфере ИИ. На веб-сайте компании в настоящее время размещены сотни вакансий, связанных с полупроводниками, в том числе 15 для разработчиков микросхем ASIC. Кроме того, по словам одного из источников, Bytedance переманивает высокопоставленных специалистов у китайских производителей ИИ-чипов.

Китайская холдинговая интернет-компания ByteDance, владеющая в том числе платформой TikTok, по сообщению Datacenter Dynamics, реализует масштабный проект по расширению кампуса ЦОД в Малайзии. Речь идёт о создании хаба, рассчитанного на поддержание ИИ-нагрузок.

Об инициативе объявил министр инвестиций, торговли и промышленности Малайзии Тенгку Зафрул Азиз (Tengku Zafrul Aziz) после встречи с вице-президентом TikTok Хеленой Лерш (Helena Lersch). В общей сложности на ИИ-хаб в этой стране ByteDance потратит около $2,13 млрд.

Отмечается, что ByteDance является якорным арендатором крупного кампуса ЦОД Bridge Data Centers (BDC) MY06 в технопарке Седенак в Джохоре. Не исключено, что часть средств будет направлена на модернизацию этой площадки. Как сообщил Тенгку Зафрул Азиз, ByteDance вложит примерно $317 млн в расширение возможностей своего дата-центра. Подробности о проекте пока не раскрываются.

Источник изображения: Bridge Data Centres

Комплекс MY06 открылся в 2022 году: мощность площадки на момент ввода в эксплуатацию составляла 110 МВт. По заявлениям BDC, это крупнейший ЦОД такого типа в Малайзии. Однако Yondr Group планирует создать в названном технопарке кампус мощностью 300 МВт. Компания уже получила кредит в размере $150 млн для финансирования строительства объекта.

Нужно отметить, что кампусы ЦОД в Малайзии создают ведущие мировые гиперскейлеры. В частности, Google вложит $2 млрд в ЦОД и облако в этой стране, тогда как Microsoft намерена потратить на аналогичные проекты $2,2 млрд. Equinix уже открыла в Малайзии два своих первых дата-центра. Вместе с тем NVIDIA и YTL Power (YTLP), энергетическое подразделение малайзийского конгломерата YTL, занялись созданием ИИ-облака и суперкомпьютеров в стране: общий объём инвестиций составит $4,3 млрд.

Таким образом, Малайзия становится всё ближе к тому, чтобы действительно стать новым IT-хабом Юго-Восточной Азии, тогда как соседний Сингапур, по-видимому, продолжит терять лидерские позиции из-за энергетического кризиса.

Китайская социальная сеть TikTok завершила строительство первого из двух дата-центров, возводимых в Ирландии. Как сообщает Computer Weekly, три года назад в TikTok впервые сообщили о намерении построить ЦОД в Дублине, а теперь подтвердили ввод объекта в эксплуатацию и начало переноса в него информации. В компании подчеркнули, что создадут специальную защищённую среду для данных европейских пользователей.

Новый ЦОД был создан в рамках проекта Project Clover, вынужденно реализуемого TikTok из-за опасности запрета социальной сети в Евросоюзе (ЕС) по соображениям безопасности. Фактически речь идёт о локализации данных европейцев на территории ЕС без доступа к ним китайских органов. В рамках проекта предполагается строительство ещё двух ЦОД в Евросоюзе: ещё одного в Дублине, и одного — в Норвегии. Аналогичный шаг компания уже сделала в США в рамках проекта Project Texas.

По данным компании, она сотрудничает с независимыми европейскими аудиторами из NCC Group, которые и проверяют, как именно TikTok обращается с информацией о жителях Евросоюза, отслеживают утечки информации, верифицируют процесс защиты данных и др. Это служит гарантией того, что сотрудники TikTok получают только ограниченный доступ к информации о гражданах ЕС. Утверждается, что NCC Group будет не только оценивать выстраиваемые системы безопасности, но и обеспечивать мониторинг возможной аномальной активности и гарантии целостности и контроля безопасности данных.

Источник изображения: TikTok

В самой NCC Group заявили, что гордятся, что выбор TikTok пал на них, и утверждают, что пользователи в Европе и Великобритании могут быть уверены в новых стандартах безопасности, задаваемых TikTok, более жёстких, чем те, что требуют Европейские регуляторы.

Особый интерес в рамках Project Clover представляет норвежский ЦОД. Одним из его дополнительных преимуществ станет использование 100 % возобновляемой энергии, в основном — от ГЭС. Охлаждение будет осуществляться «естественным» путём благодаря прохладному климату Норвегии, а избыточное тепло этого ЦОД будет поставляться локальным компаниям. Правда, для этого пришлось лишить возможности расширения местное оборонное предприятие.

Китайский оператор ЦОД ChinData перейдёт в полную собственность одного из инвесторов компании, Bain Capital, за $3,16 млрд. По данным DataCenter Dynamics, сделка предусматривает поглощение ChinData двумя принадлежащими Bain подразделениями: BCPE Chivalry Bidco Limited и BCPE Chivalry Merger Sub Limited. ChinData является оператором 17 дата-центров в Китае, Малайзии и Таиланде. Кроме того, базирующаяся за пределами КНР «дочка» Bridge Data Centres строит ЦОД в Индии. Среди крупнейших клиентов ChinData числится и IT-гигант ByteDance, владелец TikTok.

Ранее Bain направила компании предложение о приватизации. По последним данным, совет директоров ChinData одобрил слияние и рекомендовал акционерам голосовать за одобрение сделки, которая, как ожидается, будет закрыта в IV квартале 2023 года или I квартале 2024 года. Финансирование будет осуществляться за счёт имеющихся средств спонсоров и аффилированных структур, кредитов Shanghai Pudong Development Bank и Industrial Bank, а также реинвестиций собственного капитала.

Источник изображения: ChinData

ChinData частично уже принадлежала Bain — последняя приобрела оператора в 2019 году у Wangsu Science & Technology Co. и организовала слияние ChinData с «портфельной» компанией Bridge Data Centres, после чего получившийся «гибрид» вывели на IPO в 2020 году. Даже после выхода на публичные торги Bain по-прежнему владеет 42 % новой структуры. В июне Bain Capital предложила ChinData выкупить все имеющиеся в свободном обращении обыкновенные акции для получения бизнеса в полную собственность.

Известно, что с собственной ставкой выступала находящаяся в государственной собственности Китая компания China Merchant, предложившая $3,4 млрд, но предложение было отклонено. По некоторым данным, с предложением о покупке к руководству ChinData обращались и в прошлом году, возможность покупки якобы рассматривали китайский оператор GDS и поддерживаемая EQT компания EdgeConneX.

В Норвегии получил «зелёный свет» проект строительства местной компанией Green Mountain кампуса ЦОД для платформы TikTok. Как сообщает DataCenter Dynamics, такое решение уже вызывает вопросы норвежских политиков не только с точки зрения безопасности данных — ставится под вопрос целесообразность выделения электроэнергии социальной сети в условиях её нехватки для других приоритетных проектов, в том числе оборонного характера.

Новость о намерении Green Mountain построить три блока ЦОД общей мощностью 90 МВт для TikTok появилась в марте. Ожидается, что уже к ноябрю 2023 года строительство будет закончено в норвежской коммуне Хамар, а в дальнейшем ожидается увеличение ёмкости до 150 МВт. Тем не менее, перспективы дальнейшего расширения под вопросом, поскольку против этого выступают политики, а сейчас ещё и готовится ужесточение правил строительства и эксплуатации ЦОД в стране. Но Green Mountain преисполнена оптимизма и утверждает, что проверка властями безопасности проекта прошла успешно.

Источник изображения: Green Mountain

Green Mountain даже нашла преимущества в том, что новый кампус подпадает под действие местного Закона о безопасности (Security Act) — он будет подвергаться усиленному регулированию и контролю с точки зрения безопасности и будет классифицирован как один из элементов ключевой инфраструктуры страны. Правда, теперь ЦОД станет объектом пристального внимания в рамках реализации Закона о безопасности. Так, Green Mountain будет получать советы в сфере обеспечения безопасности, доступ к засекреченной информации об угрозах и уязвимостях, а также профильную экспертную поддержку.

Впрочем, политики раскритиковали строительство ЦОД для TikTok из-за уже существующих в стране проблем с энергетикой, поскольку требуется развитие реального производства параллельно со снижением выбросов — вместо этого ресурсы тратятся на «видео с котами». Более того, в Норвегии заявляют, что местный производитель боеприпасов ещё в марте заявил, что не смог расширить производство из-за строительства ЦОД TikTok, «оттянувших» на себя всю доступную энергию.

В самой TikTok принимают отчаянные меры для того, чтобы сохранить присутствие в США и Европе. Так, все данные европейских пользователей уже в этом году начнут хранить в двух дата-центрах в Дублине, а в Соединённых Штатах на базе мощностей американской Oracle реализуется инициатива Project Texas — здесь намерены хранить данные американцев.

В дата-центрах TikTok в Северной Вирджинии (США) существуют большие проблемы с обеспечением безопасности данных, пишет ресурс Forbes со ссылкой на многочисленные свидетельства источников, а также более чем 60 документов, фотографий и видео. Как и многие компании, TikTok арендует площади в крупных кампусах ЦОД. Машинные залы TikTok частично управляются ByteDance, а частично — работниками по контракту из нескольких неизвестных фирм.

Документы, фотографии и сообщения источников свидетельствуют о том, что деятельность ЦОД TikTok по-прежнему тесно связана с бизнесом ByteDance в Китае. В частности, используются серверы Inspur, которую Министерство торговли США внесло в санкционный список. А на прошлой неделе заказы на профилактическое обслуживание серверов были отправлены техническим специалистам Beijing ByteDance Technology Co., дочерней компанией ByteDance, частично принадлежащей правительству Китая. При этом TikTok неоднократно утверждала, что власти Китая не имеют никакого отношения к её работе в США.

Изображение: visuals / Unsplash

ByteDance использует несколько систем учёта для отслеживания ремонта серверов и другого оборудования. По словам трёх источников, в ЦОД TikTok были установлены модификации серверов, которых нет в этих системах, а четыре информатора сообщили, что видели немаркированные и «незарегистрированные» флеш-накопители, подключённые к серверам. Ещё четыре собеседники Forbes рассказали, что размагничивающие устройства, используемые для очистки и уничтожения HDD, часто ломались. Сотрудникам приходилось относить диски для утилизации в другие ЦОД, что допускает возможность выноса с территории накопителей с любой информацией.

Также источники Forbes рассказали, что они слышали о сотрудниках, использующих серверы компании для майнинга криптовалюты. Кроме того, в машинных залах ЦОД можно увидеть посторонних без сопровождения и коробки с жёсткими дисками, оставленные без присмотра в коридорах. Согласно внутреннему регламенту компании, посетителей ЦОД, включая курьеров, поставщиков, электриков и других специалистов, должен сопровождать сотрудник TikTok. Но на практике, по словам сотрудников, этим требование не всегда выполняется. «У нас просто нет времени на это», — сказал один из них.

Изображение:ByteDance

Публикация Forbes появилась в критический момент для TikTok — компании грозит федеральное уголовное расследование из-за слежки за журналистами и возможный запрет в случае отказа ByteDance продать видеосервис. Белый дом неоднократно высказывал опасения по поводу того, что китайские власти могут использовать контроль ByteDance над TikTok для получения данных об американских гражданах или влияния на внутренний или международный общественный дискурс.

Комментируя публикацию, представитель TikTok Морин Шанахан (Maureen Shanahan) признала использование серверов Inspur, отметив, что TikTok «уже довольно давно не закупался у этого поставщика». Она добавила, что Inspur сотрудничала и с другими американскими компаниями, включая Microsoft, IBM и Intel. По поводу размещения заказов на ТО у Beijing ByteDance Technology, она сообщила, что речь идёт об артефакте тикет-системы, в рамках которой китайская фирма не имеет доступа к персональным данным.

Изображение:ByteDance

Касательно фотографий с оставленными без присмотра жёсткими дисками в коридорах ЦОД Шанахан сказала: «Во время строительства, до передачи операций, нередко можно увидеть такие предметы, как оставленные без присмотра деревянные поддоны или картонные коробки с новыми жёсткими дисками, которые не содержат данных. Наша политика обращения с носителями требует, чтобы использованные носители, ожидающие уничтожения, помещались в закрытые контейнеры».

Летом прошлого года TikTok перенесла данные американских пользователей в инфраструктуру Oracle, уточнив, что часть данных всё равно будет какое-то время храниться на её собственных площадках в США, в том числе в Вирджинии. Компания снизила объём арендуемых мощностей, но по состоянию на начало прошлого года всё ещё оставалась вторым по величине арендатором ЦОД в США.