Как ИИ влияет на наше
самоощущение

Студенты-маркетологи наверняка помнят знаменитую историю о том, как в 1950-х компания General Mills выводила на рынок сухие смеси для приготовления тортов Betty Crocke. В рекламных роликах говорилось: просто добавьте воды, перемешайте и выпекайте.

Несмотря на отличные характеристики конечного продукта, смеси поначалу продавались плохо. Это вызывало недоумение руководства, пока оно не разобралось в проблеме. Оказалось, что потребителям процесс готовки казался слишком простым и они все время ожидали подвоха. Узнав об этом, компания убрала из состава полуфабриката яичный порошок и предложила покупателям самим добавлять яйца в смесь, а потом все тщательно взбивать. Люди оценили это маленькое нововведение, и продажи пошли в гору. Сегодня, 70 лет спустя, почти в каждую смесь для выпечки все еще требуется добавлять яйца.

Мы можем извлечь урок из этого примера. Компаниям необходимо понимать, как новые автоматизированные продукты и сервисы, постепенно проникающие в обиход, влияют на самоощущения клиентов. Но пока и представители бизнеса, и ученые больше интересуются тем, что покупатели думают об ИИ. Например, исследователи изучали, предпочитают ли потребители ИИ реальным людям (нет), насколько нравственным и справедливым им кажется ИИ (не очень) и при решении каких задач клиенты будут сопротивляться автоматизации (тех, которые сложнее поддаются количественной оценке и более неоднозначны).

Все это важно учитывать. Но теперь, когда наше взаимодействие с ИИ и автоматизацией становится теснее и осмысленнее, пришло время сосредоточиться на эмоциях, которые вызывают у нас новые технологии. Психологи еще не исследовали этот вопрос, поэтому компаниям стоит в него углубиться, ведь возникающие при взаимодействии с технологиями чувства могут влиять на разные аспекты бизнеса: продажи, лояльность клиентов, обмен рекомендациями, удовлетворенность сотрудников и эффективность работы в целом.

Мы изучаем реакции людей на автоматизацию и психологические барьеры на пути ее внедрения более семи лет. В этой статье, опираясь на недавние исследования нашей лаборатории и примеры из жизни, мы сосредоточимся на психологических эффектах, которые наблюдали в трех ключевых для управленческих решений областях. Во-первых, это сервисы и структура бизнес-процессов; во-вторых, продуктовый дизайн и, в-третьих, коммуникации. Мы разработали практические рекомендации, касающиеся того, как лучше всего использовать ИИ и автоматизацию, чтобы обслуживать клиентов, помогать сотрудникам и продвигать интересы организаций.

Сервисы и структура бизнес-процессов

Сегодня ИИ и автоматизированные технологии — неотъемлемая часть сервисов и процессов, влияющих на работу сотрудников и, в частности, на взаимодействие с потребителями. Например, в Upstart ИИ решает, выдавать ли займы клиентам, а в Monster и Unilever оценивает потенциал кандидатов на вакансии. Программа DriveEasy компании GEICO с помощью ИИ определяет навыки вождения клиентов и рассчитывает размер страховых взносов, а IBM и Lattice помогают бизнесам внедрить систему отзывов на основе ИИ, благодаря которым организация решает, стоит ли уволить работника или продвинуть его по службе.

В связи с этим важно задаться двумя вопросами: как люди реагируют на решения и обратную связь, полученные с помощью ИИ и автоматизированных технологий? И как эффективнее всего внедрить ИИ в сервисы и бизнес-процессы, чтобы и сотрудники, и клиенты чувствовали себя максимально комфортно?

Начнем с первого вопроса. Недавно вместе с Сарой Лим из Иллинойского университета в Урбане-Шампейне и Стейном ван Осселаром из Корнелльского университета я анализировал случаи, в которых люди получали одобрение или отказ в ответ на обращение за кредитами, льготами и т. д. Исследования с участием более 5 тыс. человек показали: если заявку одобряли, клиенты реагировали по разному в зависимости от того, кем (или чем) было принято решение — человеком или искусственным интеллектом.

Это показательно с психологический точки зрения: клиенты, чьи заявки одобрили менеджеры, испытывали больше радости, чем те, кто получил положительный ответ от ИИ. Один и тот же результат вызывал разные эмоции. Почему так произошло? Ответ прост: во втором случае люди чувствовали себя «цифрами», которые анализировала машина, и не считали успех личной заслугой. Когда же заявки отклонялись, все участники испытывали примерно одинаковые эмоции, независимо от того, сообщил ли им неприятную новость человек или ИИ. В обоих случаях они чаще винили в неудаче того, кто рассматривал заявку, а не себя.

Вывод очевиден: самоощущение людей может меняться в зависимости от того, кто или что их оценивает. Это может иметь важные последствия для бизнеса. Взгляните на результаты одного из исследований, в котором мы просили участников представить себе, что они берут кредит в банке. Половине из них мы сказали, что их заявку оценит кредитный алгоритм, и половине — что решение примет кредитный менеджер. Затем половине испытуемых из каждой группы сообщили, что заявка одобрена, а остальным — что отклонена.

Те, чью заявку «одобрил» алгоритм, поставили более низкую оценку банку и менее охотно рекомендовали его знакомым, чем те, чьи заявки одобрил человек. Однако люди, которые получили отказ, поставили одни и те же оценки банку и дали примерно одинаковые рекомендации пользователям.

Мы отметили такую же закономерность и в реальных случаях из жизни. К примеру, мы попросили людей, которые пользуются онлайн-платформой для трудоустройства, подать заявку на членство в закрытой группе, созданной исследовательской компанией. Половине испытуемых сообщили, что их заявки рассмотрит ИИ, а остальным — что человек. Те, кто попал в группу, получив одобрение ИИ, оценили исследовательскую фирму менее позитивно, чем те, кого одобрил сотрудник. Однако мнения людей, чьи заявки отклонили, были примерно одинаковыми, независимо от того, сделал это ИИ или человек. Вывод таков: сообщая хорошие новости о принятых решениях и полученных оценках, компании могут добиться более позитивных реакций клиентов и сотрудников, если люди будут знать, что решение принимал человек, а не ИИ. Но если новости плохие, этот алгоритм не действует.

Большинство опытных лидеров и менеджеров, с которыми мы общались, не знали о таком эффекте. В ходе опроса мы увидели, что никто из них не мог предвидеть полученные результаты. Если руководители стремятся улучшить взаимодействие с клиентами и сотрудниками с помощью ИИ и автоматизированных технологий, им стоит изучить наиболее вероятные реакции людей.

Теперь рассмотрим второй вопрос: как компании могут использовать ИИ в сервисах и бизнес-процессах, чтобы максимально угодить и потребителям, и сотрудникам?

Во-первых, если организация планирует поставить оценку или дать обратную связь с помощью ИИ или автоматизированной технологии, мы рекомендуем часть функционала передавать людям и сделать так, чтобы клиенты или сотрудники знали об этом. В одном из наших исследований мы изучали, как испытуемые воспринимают компанию, в которой реальный сотрудник лишь косвенно участвует в процессе оценки (возможно, просто мониторит выводы алгоритма). Мы сравнили эту ситуацию с другой — в которой либо человек, либо алгоритм полностью отвечал за оценку — и выяснили, что участники высказывались позитивно, только если знали, что в процесс активно вовлекается человек.

Во-вторых, мы рекомендуем менеджерам задуматься, в какой степени они хотят задействовать свои (влетающие в копеечку) человеческие ресурсы для принятия решений. Раз клиенты одинаково реагируют на отказы, вне зависимости от того, исходят они от людей или от ИИ, компаниям, вероятно, не нужно участие человека, чтобы сообщать об отклонении заявок — пусть это и противоречит традиционному управленческому подходу. Тем не менее, результат будет лучше, если о положительных решениях станут извещать сотрудники, а не искусственный интеллект.

Еще одно исследование показывает, в каких случаях можно эффективнее задействовать людей в бизнес-процессах. Стефано в сотрудничестве с Армином Грануло из Мюнхенского технического университета и Кристофом Фуксом из Венского университета изучал продукты и сервисы, которые предлагают потребителю нечто большее, чем простую функциональность. Такие товары и услуги воплощают в себе абстрактные понятия, передавая при этом информацию о личности, убеждениях, принадлежности к группам, социальном статусе и т. д. В качестве примера можно привести татуировки, украшения и куртки с логотипами университетов. При этом важно помнить, что один и тот же предмет может иметь одновременно и практическое применение, и символическое значение. Линзы солнечных очков влияют на зрение (практическое применение), а оправы — это не только крепление для линз (вновь практическая польза), но и модный аксессуар, который может служить для самовыражения (символическое значение).

Во время этого исследования ученые провели четыре эксперимента с различными категориями продуктов и опросили более тысячи респондентов. Авторы сравнили отношение испытуемых к товарам с символическим значением. Часть товаров была сделана человеком, а часть — с помощью автоматизированных технологий. Исследователи пришли к выводу, что ручной труд добавляет ценность таким продуктам. В одном из экспериментов выяснилось, что участники предпочитают линзы, произведенные по автоматической технологии — возможно, потому, что машины реже ошибаются, но скорее выберут оправу, изготовленную человеком. Еще одно исследование показало, что испытуемые с большей вероятностью купили постер с дизайном, придуманным человеком, а не ИИ.

На основе полученных данных мы рекомендуем компаниям внимательно изучать, по какой причине потребители выбирают их продукцию и возможно ли добавить товарам ценность, сохранив хоть какое-то участие человека в производственном процессе, даже максимально автоматизированном.

Продуктовый дизайн

ИИ-технологии и продвинутые автоматизированные решения интегрированы во многие продукты, благодаря чему человек меняет алгоритм выполнения повседневных задач. Пылесос Roomba от iRobot, например, сам моет пол, автопилот Tesla позволяет наслаждаться поездкой, автоматическая кофемашина Jura готовит кофе из зерен и имеет функцию самоочистки. Все чаще люди работают с приложениями на основе ИИ. Watson от IBM уже стал частью команды многих компаний и решает разные задачи — например, ведет финансовый учет или управляет маркетинговыми коммуникационными стратегиями. ИИ от Adobe расширяет возможности дизайнеров и дает простор для творческого самовыражения с помощью Photoshop и других программ. А сборщики Toyota используют высокотехнологичные автоматизированные инструменты и оборудование. Недавнее появление больших языковых моделей и генеративного ИИ, например DALL-E и ChatGPT от OpenAI, скорее всего, еще прочнее укрепит эти тенденции. Но как взаимодействие с автоматизированными технологиями повлияет на наше самовосприятие? Как это изменит спрос на продукты?

Наша лаборатория изучила, как люди реагируют на автоматизированные продукты в той области, которая связана с их самоидентификацией. Стефано работал над этим проектом с Юджиной Лунг из Университета Тулана и Габриэлем Паолаччи из Университета Эразма Роттердамского. Проведя шесть исследований и изучив разные категории продуктов, они заметили, что люди, соотносящие себя с определенным занятием вроде рыбалки, готовки или вождения, могут воспринимать автоматизацию как угрозу своей идентичности. Соответственно, они хуже воспринимают автоматизированные продукты и реже ими пользуются.

Чтобы узнать больше об этом явлении, авторы привлекли к участию в одном из экспериментов жителей Голландии. Темой исследования стала езда на велосипеде — вид деятельности, без которой многие голландцы просто не могут себя представить.

Чтобы на время люди смогли еще больше отождествить себя с велосипедистами, половину участников попросили написать небольшое эссе об этой национальной страсти. Второй половине предложили написать текст о любви голландцев к цветам (в качестве контрольного условия). После этого всем участникам предложили пройти другое исследование, на первый взгляд не связанное с предыдущим. Авторы рассказали испытуемым об акции в веломагазине и спросили, заинтересованы ли они бесплатно добавить к конфигурации велосипеда автоматизированную функцию — аккумуляторную батарею, которая помогает крутить педали. Участники, писавшие эссе про велосипеды, были на 20% менее заинтересованы в этой функции, несмотря на то что она была бесплатной.

В другом проекте, проведенном той же командой в сотрудничестве с Марией-Кристиной Чито из Университета Боккони, ученые рассмотрели один вопрос: как те, кто связывает потребление с самоидентификацией, реагируют на цифровизацию. В ходе трех основных исследований и пяти последующих экспериментов выяснилось, что люди реже интересуются цифровыми товарами, имеющими для них символическое значение, чем физическими. Выразить себя с помощью цифры оказалось сложнее. Демонстрация собраний Шекспира на электронном устройстве — не самый удачный способ рассказать о своих литературных вкусах. Другое дело — показать гостям коллекцию книг, стоящую в гостиной на книжной полке.

Результаты двух проектов показывают: если люди идентифицируют себя с определенными продуктами или выражают себя через них, то техническое усовершенствование этих продуктов может встречать сопротивление с их стороны. Что же делать бизнесу?

Во-первых, мы рекомендуем компаниям не предлагать полностью автоматизированную продукцию клиентам, которым нужна возможность самовыражаться через потребление тех или иных товаров. Обращаясь к таким людям, стоит указывать им на те функции продуктов, которые позволят им почувствовать гордость за любимое дело и вовлеченность в него. В качестве примера приведем производителя велосипедных компонентов, с которым мы работали. Недавно эта компания вывела на европейский рынок дорогой автоматический переключатель передач и рекламировала его увлеченным велосипедистам, которые обычно предпочитают механические гаджеты. Те не заинтересовались продуктом: им показалось, что он лишит их удовольствия от езды. Если бы компания сосредоточилась на обычных людях, которые ездят на велосипеде лишь время от времени, либо изменила устройство так, чтобы велосипедист чувствовал больше контроля, возможно, продукт стал бы более востребован.

Во-вторых, мы считаем, что компаниям следует проводить маркетинговые исследования, чтобы выяснить, угрожает ли автоматизация самовосприятию людей и, если да, до какой степени.

Коммуникация

При внедрении ИИ и автоматизированных технологий компаниям важно грамотно выстраивать коммуникацию. В ходе исследования мы определили три эффективных способа оптимизировать коммуникационную стратегию, которые помогут свести к минимуму риски сопротивления или возникновения других негативных реакций потребителей.

В первую очередь компаниям, использующим ИИ для общения с клиентами или сотрудниками, стоит подумать, как максимально «очеловечить» технологию. Это особенно важно для бизнес-процессов, связанных с оценкой и принятием решений. В одном из наших исследований мы проверяли, будут ли люди воспринимать одобрение своих заявок как собственную заслугу и ставить более высокие оценки компании, если разработчики включат в ИИ-интерфейс характеристики, присущие человеку. Когда мы дали ИИ имя (Сэм), добавили аватарку и сделали стиль ответов более неформальным, люди стали общаться с ИИ как с реальным человеком. Для компаний, которые по каким-то причинам не могут нанять достаточно сотрудников — в связи с большим объемом входящих запросов, нехваткой времени или технических возможностей, — это открытие может оказаться полезным. Получается, что небольшое «очеловечивание» ИИ может смягчить недовольство клиентов, реагирующих на неприятные новости.

Рассмотрим опыт одной финтех-компании, в которой ИИ оценивает финансовое состояние пользователей. Компания внедрила интерактивный и полностью автоматизированный процесс, в ходе которого клиенты заполняют опросник, а ИИ анализирует их ответы и делает вывод об их благосостоянии. В этот момент пользователю предлагается кликнуть на ссылку с информацией об услугах компании. Чтобы повысить интерес к сервису, фирма, работавшая над проектом от лица крупного международного банка, создала чат, в котором ИИ взаимодействовал с людьми с помощью эмодзи и других реакций. Пользователи, получившие положительную оценку своего финансового состояния от очеловеченного ИИ, чаще кликали на ссылку, чтобы узнать больше об услугах банка, чем те, с кем ИИ общался по стандартному протоколу.

Мы также рекомендуем бизнесу пересмотреть способы общения с клиентами и сотрудниками на тему автоматизированных продуктов. Как мы уже отмечали, когда люди идентифицируют себя с определенными областями или видами деятельности, они иногда сопротивляются автоматизации, если чувствуют, что результаты этой деятельности от них не зависят. Но что, если компании будут описывать автоматизированные функции не как замену человеку, а как дополнение к его возможностям? Стефано вместе с Юджиной Лунг и Габриэлем Паолаччи в рамках совместного проекта попытались ответить на этот вопрос и протестировали, получится ли изменить реакцию людей на автоматизированный продукт. Они сделали две рекламы, в которых описали кухонный комбайн разными способами. В одной сообщалось, что устройство само приготовит еду «одним нажатием кнопки», а во второй — что комбайн возьмет на себя руководство процессом готовки, но будет работать при помощи пользователя. Эти два вида рекламы распределили между участниками в случайном порядке. Несмотря на то, что речь шла об одном и том же продукте, результаты показали, что подача информации влияет на восприятие. Когда в описании комбайна было указано, что он позволит человеку хотя бы частично использовать свои кулинарные навыки, пользователи, для которых умение готовить было важным личностным качеством, реагировали более благосклонно.

Несмотря на то, что во время наших исследований мы изучали только потребительскую активность, мотивация, основанная на самоидентификации, часто важна и в работе. Представление многих людей о себе базируется на профессиональной идентичности, поэтому им может казаться, что ИИ подрывает ее, обесценивая их навыки, опыт или статус. Компаниям, планирующим широкое внедрение ИИ, стоит подчеркивать, что эта технология лишь дополняет работу человека.

***

Автоматизированные технологии меняют не только товарные рынки и рынки труда, но и самоощущение людей. Компаниям все чаще придется преодолевать психологические барьеры, разрабатывая бизнес-процессы и продукты, которые будут учитывать человеческие чувства, а также тщательно продумывать коммуникационные стратегии. В некоторых случаях из-за внедрения ИИ может снизиться вовлеченность персонала или уровень удовлетворенности клиентов, и организациям надо будет решать, что важнее — преимущества автоматизации или эти показатели. В подобных ситуациях компании, которые задумаются о целесообразности использования ИИ, должны будут прежде всего ответить на вопрос «Стоит ли нам это делать?», а не «Можем ли мы это сделать?»

Источник: Harvard Business Review, сентябрь — октябрь 2023 г.