Когда твой босс ходит в железных штанах

Данное наблюдение сформирует следующую волну автоматизации. Как Эрик Бриньолфсон и Эндрю Макафи описывают в своей книге «Второй век машин», «мыслящие машины» приходят на рабочие места и могут принести огромную пользу для различных сфер деятельности и общества. Но хотя технологические проблемы решаются, социальные – остаются. Как вы можете убедить своих сотрудников доверять искусственному разуму? Или принять робота в качестве члена команды или даже руководителя?

Когда мы не верим алгоритмам, а когда верим

Первая проблема, возникающая в процессе работы с мыслящими машинами – это принять то, что они зачастую знают больше, чем мы. Взять, к примеру, одно из открытий 2014 года: исследователи Вартонской школы бизнеса Пенсильванского университета провели серию экспериментов, в которых участникам давали денежное вознаграждение за правильный прогноз. При этом они могли действовать на свое усмотрение или полагаться на алгоритм. В одном из экспериментов им показали данные о приеме студентов одного из предыдущих потоков MBA и попросили посчитать, каких успехов добился каждый студент во время прохождения курса. Большинство людей предпочли положиться на свою интуицию, а не прибегнуть к алгоритмическим подсчетам.

Подобное явление называют «избеганием алгоритма», и его наблюдали во многих других исследованиях. Люди систематически предпочитают человеческие суждения алгоритмам, и в результате они принимают худшие решения.

К сожалению, если просто показать людям, каким полезным может быть действие алгоритма, это не значит, что они сразу будут доверять ему. Хотя участники выше описанного исследования поняли, что алгоритм обычно показывает хорошие результаты, они также видели ошибки в его работе, что повлияло на уровень доверия.

«Люди теряют доверие к алгоритму, когда видят, что те тоже могут приводить к ошибкам», - объясняет специалист Беркли Диетворст. По его словам, это происходит, потому что мы верим, что человек может совершенствовать свои суждения, а алгоритм – нет.  Хотя данное мнение ошибочно.

Если люди предпочитают собственные суждения алгоритмическим, почему одни не превратить в другие? В одном из экспериментов Диетворст вместе со своими коллегами из Вартоноской школы попросили участников предварительно оценить, насколько успешно ученик старших классов сдал стандартный математический тест. На этот раз их не заставляли выбирать между собственным расчетом и алгоритмическим. Им было предложено подкорректировать уже алгоритмически просчитанный результат на несколько процентов и предложить конечный вариант в качестве своего. Те люди, которым предложили такую опцию, с большей долей вероятности доверили алгоритму. Диетворст считает, это произошло, потому что они чувствовали, что контролируют ситуацию.

Мы больше доверяем роботам, когда они похожи на нас

Различные исследования наводят на мысль, что наделение машины или алгоритма человеческими качествами делает их более близкими к нам. Исследователи Северо-Западного, Чикагского и Коннектикутского университетов (США) проверили данную гипотезу в контексте самоходных машин. В их эксперименте участники сели за автомобильный тренажер и могли сами управлять или прибегать к функции автовождения. В некоторых случаях подобная функция только отвечала за управление и скорость. А в некоторых случаях она имела человеческие особенности – ее звали Ирис, и у нее был женский голос.

По словам специалистов, Ирис люди доверяли больше из-за склонности к антропоморфизму – когда нечеловеку свойственны человеческие качества. Огромный объем исследований предполагает, что наделение машины голосом, телом или даже именем может выявить данную тенденцию и привести к тому, что люди будут чувствовать себя комфортно в работе с ними. Например, похоже, что мы взаимодействуем с роботами более эффективно, когда они «устанавливают» с нами «зрительный контакт».

Но иногда роботы слишком похожи на человека

Добавление человеческих качеств думающим машинам может привести к тому, что мы будем чрезмерно верить в их способности. Исследователи американского университета Манитобы попросили участников одного из своих экспериментов переименовать файлы на компьютере. Участникам сказали, что они могут уйти в любой момент, но количество файлов, которые надо было переименовать, казалось бесконечным. И когда участники пытались уйти – что было неизбежно – их подгонял небольшого роста гуманоидный робот по имени Джим. (Участники не знали, что роботом на самом деле управляли исследователи). Когда кто-либо пытался перестать выполнять задание, Джим произносил что-то вроде: «Пожалуйста, продолжайте. Нам нужно больше данных». Что больше всего потрясло Джеймса Янга, одного из авторов исследования, многие люди «обращались с роботом так, будто могли с ним договориться». Того факта, что робот имел голос и тело, казалось было достаточно, чтобы убедить людей в том, что он обладал разумом.  

Когда люди предпочитают роботов коллегам по работе

То, как мы сможем работать с разумными машинами, будет отличаться в зависимости от того, какую работу мы выполняем, как она приспособлена и как спроектированы машины. Но при правильных условиях люди – как не удивительно – открываются роботу-коллеге. Джули Ша вместе со своими коллегами из Массачусетского технологического института провела эксперимент, в котором участник, ассистент и робот вместе строили фигуры из конструктора Lego. Им было дано задание подойти к выполнению задачи так, будто они работали на производстве. А также им были поставлены четкие сроки.

Участники эксперимента построили три фигуры при трех разных условиях. В первом случае робот распределял задачи. Во втором – участник. В третьем – участник сам распланировал свою работу, а робот распределил оставшиеся задачи между собой и ассистентом. Исследователи считали, что участники будут наиболее удовлетворены процессом в третьем случае, но люди предпочитали, чтобы робот распределял все задачи. И это также был самый эффективный сценарий: в данном случае у команд ушло меньше всего времени на завершение проекта.

В конце эксперимента участники поделились своим мнением по поводу того, почему им понравился или понравился тот или иной сценарий работы. Те, кто предпочитал распределение заданий роботом, не указали на его гуманоидные качества или уровень взаимодействия, который установили с ним.  Вместо этого они говорили «Мне не казалось, что я теряю время» или «Подобная работа исключает вероятность того, что на планирование будет оказывать влияние эго руководителя». Робот стал хорошим сотрудником, потому что делал то, что лучше всего получается у роботов.

Harvard Business School Publishing Corp.

Перевод Нины Кузнецовой, специально для Vласти