В недавнем исследовании процессов познания ученые из Оснабрюка (Германия) выяснили, что машины можно научить принимать этичные решения (в том числе автомобили, которые вскоре будут сами делать выбор по моральным принципам). Как сообщает Frontiers в Behavioral Neuroscience, команда Леона Шютфельда и профессора доктора Гордона Пипы, сформулировала 20 этических принципов, к которым новое исследование представило первые экспериментальные научные данные.
Было установлено, что для выведения правил и рекомендаций, которые затем могут быть использованы в машинах, нужно было сделать анализ моральных принципов принятия решений в критических ситуациях и статистическое описание поведения человека.
Исследователи наблюдали за поведением испытуемых на виртуальных моделях дорожного движения по типичным пригородным улицам в туманный день. В ходе экспериментов неожиданно возникали ситуации, при которых на дороге появлялись люди, животные или объекты. Чтобы избежать препятствий, нужно было принять решение, основанное на этических принципах.
Для оценки решений экспериментаторы применяли статистический анализ, а затем переводили данные в правила. Результаты показали, что при этих авариях этичное поведение можно объяснить и с большой точностью предсказать, просто учитывая ценность каждой жизни: человека, животного или объекта. Следовательно, человеческие решения, основанные на нравственных принципах, могут быть описаны правилами, а те использоваться в машинах.
Алгоритмы на основе либо правил, либо статистических моделей способны учитывать несколько факторов: например, различные законы. Человеческое поведение и современные искусственные интеллектуальные системы используют более сложный статистический подход, позволяющий обоим - человеку и современной умной машине - оценивать ситуации, не встречавшиеся им ранее.
Проведенное исследование использует для описания полученных данных аналогичную методику. И теперь, когда ученые знают, как можно реализовать нравственный выбор при создании машин, осталось разрешить две проблемы: разобраться во влиянии нравственных ценностей на основополагающие принципы поведения машины и обдумать, хотим ли мы, люди, чтобы машины вели себя по-человечески.
