Меня одурачил ИИ-бот службы поддержки, и это меня раздражает

"Привет, это Тео", — гласило дружелюбное текстовое сообщение от ресторана, который я только что забронировал через Resy. "Ждем вас завтра. Есть ли у вас какие-либо диетические ограничения или аллергии для кухни, и отмечаете ли вы что-то особенное в этот визит?"

"Какое милое сообщение", — наивно подумал я, охотно отвечая, что мы придем на День матери. Было приятно, что кто-то из ресторана лично связался со мной, и мне захотелось ответить взаимностью.

Мы обменялись еще парой сообщений, я уточнил, в каком из их заведений мы будем отмечать наш праздничный бранч. Но затем мой "пузырь" лопнул, и я почувствовал себя полным идиотом. "Хотели бы вы, чтобы я сохранил информацию о Дне матери для ваших будущих визитов, или только для этого?" — вдруг спросил представитель с механическим, роботизированным голосом.

Ох, ну конечно! Я общаюсь с ИИ.

Я должен был догадаться раньше. Все больше и больше компаний используют искусственный интеллект для обслуживания клиентов. По некоторым оценкам, уже половина малых предприятий в США применяют ИИ для "улучшения" своих клиентских операций, и эта цифра, вероятно, значительно выросла к настоящему моменту.

Справедливости ради, представители ИИ в сфере обслуживания клиентов могут быть эффективны для простых задач, например, при записи на прием. Если ИИ может помочь мне забронировать или перенести встречу, я только за.

Однако моя главная претензия возникает, когда ИИ-представитель не заявляет прямо о своей природе или отказывается это признать при прямом вопросе. И даже когда ИИ-бот все же признается, само первоначальное неведение заставляет меня чувствовать себя одураченным, и я начинаю с подозрением относиться к компании, с которой имею дело.

Например, один из моих медицинских провайдеров довольно очевидно использует ИИ для своих звонков в службу поддержки. (Или, по крайней мере, это стало ясно задним числом, когда ответы по телефону были слишком быстрыми, а тон бота стал звучать шаблонно.) ИИ держался в своих рамках, занимаясь только записью на прием и передавая рецепты и другие медицинские вопросы реальному человеку. Но меня раздражало и отталкивало то, что ИИ не идентифицировал себя как ИИ с самого начала.

Мое взаимодействие с ИИ-ботом медицинского офиса не беспокоило меня так сильно, как переписка с "Тео" из ресторана. Присвоив себе человеческое имя, но скрыв, что это бот, Тео — и, как следствие, сам ресторан — заставил меня почувствовать себя обманутым. Я запаниковал и отменил бронь? Ну, нет. (Бранч в День матери в Нью-Йорке найти очень сложно.) Но скрытый чат с ИИ не вызвал у меня теплых чувств к ресторану.

Владельцам бизнеса, использующим ИИ для обслуживания клиентов: я понимаю вас. Применение ИИ для клиентских звонков, вероятно, является одним из самых простых способов сократить расходы (даже если это неприятно для людей, теряющих работу). Но если вы собираетесь отвечать на звонки или отправлять сообщения с помощью ИИ-ботов, пожалуйста, убедитесь, что они идентифицируют себя как ИИ с самого начала. В противном случае вы сэкономите деньги ценой доверия клиентов, а доверие — бесценно.