KPMG отозвала хвалебный отчет об ИИ после обнаружения "галлюцинаций"

```html

Что может быть лучше для восхваления ИИ, чем отчет, написанный самим ИИ и наполненный «галлюцинациями»? Консалтинговая компания KPMG была вынуждена отозвать свое исследование об агентивных системах ИИ после выявления многочисленных вымышленных примеров их использования. Вот так промах!

Не все, что говорит искусственный интеллект, соответствует действительности. В октябре прошлого года KPMG, одна из крупнейших консалтинговых фирм в мире, опубликовала отчет под названием «Переосмысление превосходства в эпоху агентивного ИИ». Этот документ, предназначенный для руководителей и лиц, принимающих решения, содержал множество тематических исследований, призванных продемонстрировать применение этой технологии в финансовом, транспортном и медицинском секторах.

Единственная проблема заключалась в том, что многие примеры, приведенные в отчете, оказались ложными или, по крайней мере, фактически неверными. Например, в отчете утверждалось, что банк UBS использовал ИИ-агентов для инвестиционного консультирования, управления рисками и обеспечения нормативного соответствия на платформе, разработанной совместно с Microsoft. Эти утверждения основаны на неверных фактах, как сообщили Financial Times и исследователям «галлюцинаций» из детектора контента, сгенерированного ИИ, GPTZero, сам финансовый институт.

Когда ИИ восхваляет сам себя

Еще один пример касался Швейцарских федеральных железных дорог, где, как утверждалось, ИИ-агенты помогали пассажирам планировать, бронировать и оптимизировать маршруты с учетом их предпочтений, условий в реальном времени и углеродного следа. Однако описание, представленное в отчете, оказалось «не совсем точным». Также заявлялось, что Transport for London (TfL) использовала ИИ-агентов для прогнозирования и управления заторами, персонализации информации для пассажиров и координации различных видов транспорта. По данным TfL, это было «вводящее в заблуждение» представление.

Наконец, KPMG утверждала, что ИИ-агенты прогнозируют повторные госпитализации, проводят сортировку пациентов и автоматизируют медицинские направления в системе здравоохранения Большого Манчестера. Эта ложная информация, по-видимому, возникла из-за неправильной интерпретации пресс-релиза об инструменте для выявления... рака легких.

Из 45 ссылок, приведенных в отчете, только 5 корректно указывали на реальные источники, подсчитал GPTZero. Еще 28 ссылок содержали перефразированные заголовки и/или ошибочные элементы для существующих источников. Последние 12 были слишком расплывчаты или содержали слишком много ошибок, чтобы с уверенностью определить, существует ли источник вообще.

Более того, около половины утверждений, подкрепленных этими 45 ссылками, оказались ложными или ошибочно приписанными – вероятно, потому что инструмент поиска на базе ИИ слишком буквально воспринял запрос на нахождение примеров «агентивного ИИ», используемого в производстве.

После оповещения со стороны Financial Times и GPTZero, KPMG удалила отчет со своих веб-сайтов, одновременно заявив, что очень серьезно относится к «точности и целостности» своих публикаций. Фирма напомнила, что ее сотрудники должны соблюдать внутренние правила по ответственному использованию ИИ.

«Мы ожидаем, что все наши сотрудники будут соблюдать наши руководящие принципы по ответственному использованию ИИ, включая обеспечение человеческого контроля для проверки содержимого и независимых источников», — заявил представитель. Было начато внутреннее расследование, но это произошло несколько поздно: выводы отчета уже были опубликованы несколькими отраслевыми специализированными изданиями, а также крупной чешской газетой.

Это не первый случай: примеры «галлюцинаций» ИИ, воспринимаемых как факт, множатся во всех сферах, и этому, похоже, не видно конца.

```