Группа японских ученых решила выяснить, как люди относятся к моральным суждениям искусственного интеллекта. Результаты работы, которые опубликовал журнал Scientific Reports , удивили: оказывается, мы охотнее соглашаемся с ИИ, когда тот дает чему-либо положительную оценку, особенно если она противоречит негативному мнению человека.
Исследованием руководили профессор университета Риссё Хитоши Ямамото и профессор университета Цуда Такахиса Судзуки. Исследователи рассматривали сложную моральную дилемму: стоит ли помогать людям с плохой репутацией. Такие ситуации часто ставят в тупик, поэтому идеально подходят для того, чтобы разобраться, как мы принимаем решения.
Было проведено два эксперимента с участием добровольцев. В основу легли рабочие сценарии: участникам показывали гипотетические ситуации, где требовалось оценить решения двух менеджеров – человека и компьютерной программы. В каждом случае менеджеры должны были решить, стоит ли работать с сотрудником, опираясь на его репутацию.
Обнаружилась интересная закономерность: если нужно решить, сотрудничать ли с человеком, опираясь на его репутацию, люди действительно больше верят суждениям искусственного интеллекта. Особенно ярко эта особенность проявлялась, когда алгоритм оправдывал отказ помогать, а человек осуждал такое поведение.
Исследователи полагают, что люди считают искусственный интеллект более беспристрастным судьей – в отличие от человека, на решения которого могут повлиять предубеждения и скрытые мотивы. Такой вывод особенно важен сейчас, когда ИИ все глубже проникает в нашу повседневную жизнь, и даже в сферу правосудия.
До сих пор ученые наблюдали два противоположных явления во взаимодействии людей с ИИ: одни избегают алгоритмов и не верят их решениям (“алгоритмическое отторжение”), другие безоговорочно принимают любой машинный вердикт (“алгоритмическое восхищение”). Новое исследование проливает свет на природу этих феноменов и объясняет, как сомнения в моральной оценке ситуации влияют на готовность людей довериться машине.
Результаты исследования станут опорой для разработчиков ИИ-систем при создании алгоритмов, способных принимать взвешенные решения с учетом всех обстоятельств. Понимание того, что определяет наше отношение к ИИ, поможет создать технологии, которые гармонично впишутся в общественную жизнь.