Консалтинговая компания Deloitte выразила готовность вернуть часть средств, полученных в результате контракта с австралийским правительством — компания признала факт использования генеративного ИИ для создания отчёта, полного поддельных цитат, недействительных ссылок и даже выдержки из постановления Австралийского федерального суда, оказавшейся полностью «выдуманной» ИИ, сообщает The Register.

Deloitte подтвердила, что вернёт часть средств, полученных в рамках соглашения на сумму AU$440 тыс. ($291 245) с Министерством занятости и трудовых отношений Австралии (DEWR). Это произошло после того, как министерство на прошлой неделе опубликовало исправленную версию отчёта. Из новой версии удалили более десятка ложных ссылок и сносок, переписали текст, исправили опечатки и т.п., но суть материала не изменилась, утверждают власти.

Заказанная в прошлом декабре работа касалась правительственной IT-системы, связанной с наказанием получателей социальных пособий, не выполняющих свои обязательства по поиску работы. Впервые отчёт опубликовали в июле, но учёные Сиднейского университета обнаружили в нём «фальсификации», из-за чего Deloitte пришлось провести специальное расследование. То, что в ошибках виновен чат-бот, учёные предполагали изначально, но Deloitte на тот момент отказалась подтвердить это предположение.

Источник изображения: Deloitte

В новой версии Deloitte указывает, что использовала инструменты на базе ИИ-модели Azure OpenAI GPT-4o. Бот помог с анализом и перекрёстными ссылками. По словам учёных, нельзя доверять рекомендациям, если сама основа отчёта построена на ошибочной и «неэкспертной» методологии.

Deloitte, в своё время хвалившаяся достижениями в области искусственного интеллекта и предлагавшая клиентам тренинги по «ответственному использованию» ИИ, теперь оказалась в неловкой ситуации — из-за ИИ ошибки оказались в её собственном отчёте. При этом компания зарабатывает более $70 млрд/год по всему миру, а всё большая часть получаемых средств поступает от консультаций по вопросам, связанным с внедрением ИИ — этикой, политикой его внедрения и применения. В этом контексте выявленные ложные цитаты являются наихудшей рекламой деятельности компании.

Среди удалённых материалов — ссылки на вымышленные доклады австралийских профессоров и даже выдуманный отрывок из дела Amato v Commonwealth, с упоминанием конкретного судьи. Несмотря на скандал, DEWR настаивает, что суть независимого обзора сохранилась, изменений в рекомендациях не предусмотрено. По некоторым данным, внутренняя проверка Deloitte показала, что причина появления некачественного материала — человеческий фактор, а не злоупотребление ИИ.

Тем не менее, для клиентов консалтинговых компаний «Большой четвёрки» (Deloitte, PwC, Ernst & Young и KPMG) новость — повод без лишнего шума проверить полученные за немалые деньги выкладки экспертов на достоверность и наличие «творчества» ИИ. Примечательно, что в июне Deloitte предрекала рост потребность ИИ ЦОД в США в энергии к 2035 году может вырасти в 30 раз — до 123 ГВт с 4 ГВт в 2024 году. Пока неизвестно, насколько активно использовался ИИ при составлении прогноза и можно ли ему верить.

Глобальная консалтинговая компания Accenture и NVIDIA объявили о расширении партнёрства, в рамках которого Accenture создала новую бизнес-группу Accenture NVIDIA Business Group с целью помочь предприятиям быстро внедрить и масштабировать ИИ-решения. Также будет проведено обучение 30 тыс. сотрудников Accenture по всему миру полному набору ИИ-технологий NVIDIA. Это одна из крупнейших сделок на рынке.

Новая структура Accenture сосредоточится на стимулировании корпоративного внедрения так называемых «агентных систем ИИ», используя преимущества ключевых программных платформ NVIDIA. Как сообщает ресурс CRN, директор по ИИ Accenture Лань Гуань (Lan Guan) заявил на встрече с журналистами, что агентные системы включают в себя «армию ИИ-агентов», которые работают вместе с людьми, чтобы «принимать решения и точно выполнять задачи даже в самых сложных рабочих процессах».

Согласно пресс-релизу, агентные системы — это прорыв в области генеративного ИИ. Они могут автономно действовать в соответствии с намерениями пользователя, создавать новые рабочие процессы и предпринимать действия с учётом окружения, что может целиком реорганизовать бизнес-процессы или отдельные функции. По словам Гуаня, в отличие от чат-ботов, таких как ChatGPT, ИИ-агенты не требуют запросов и подсказок от людей и не предназначены для автоматизации уже существующих бизнес-шагов.

Источник изображения: Accenture

В своей работе Accenture NVIDIA Business Group будет полагаться на собственную платформу AI Refinery, которая использует полный стек NVIDIA AI, включая NVIDIA AI Foundry, AI Enterprise и Omniverse для продвижения таких направлений, как реорганизация процессов, моделирование на основе ИИ и суверенный ИИ. AI Foundry помогает в разработке кастомных ИИ-моделей, предоставляя доступ к базовым моделям, фреймворкам и инструментам. AI Enterprise предлагает микросервисы и инструменты для разработки, оптимизации и развёртывания приложений ИИ. Наконец, Omniverse ориентирована на создание цифровых двойников производственных процессов и т.п.

Accenture также заявила, что открывает сеть инженерных ИИ-центров в Сингапуре, Токио, Малаге и Лондоне, которые помогут ей во внедрении агентных систем ИИ. Эти центры станут частью Центра передового ИИ Accenture (Center for Advanced AI) в дополнение существующим филиалам в Маунтин-Вью и Бангалоре, и будут сосредоточены на подборе и тюнинге базовых моделей с последующим крупномасштабном инференсом. Кроме того, Accenture предложит NVIDIA NIM Agent Blueprints, шаблоны ИИ-приложений NIM Agent Blueprints для типовых бизнес-задач.

Источник изображения: Simon Kadula / Unsplash

В частности, Accenture подготовит Blueprint для моделирования производств с использованием парка роботов, который объединяет NVIDIA Omniverse, Isaac и Metropolis. Accenture планирует использовать эти новые возможности в Eclipse Automation, принадлежащей её компании по автоматизации производств. Это позволит вполовину ускорить подготовку проектов и почти на треть сократить время развёртывания.

Следует отметить, что на прошлой неделе Accenture сообщила о том, что в 2024 финансовом году, закончившемся 31 августа, у неё было на $3 млрд новых заказов на генеративный ИИ, $1 млрд из которых пришёлся на IV квартал. Для NVIDIA партнёрство с Accenture является частью реализации плана по расширению влияния на глобальных системных интеграторов (GSI) и другие многонациональные компании, которые имеют значительное влияние на предприятиях. Например, Infosys год назад заявила, что обучит и сертифицирует в рамках партнёрства с NVIDIA 50 тыс. сотрудников, которые изучат особенности аппаратных и программных ИИ-решений NVIDIA.