Институт Аллена по ИИ создал модель машинного обучения «Спроси Делфи» (Ask Delphi), которая дает этические рекомендации в трудных случаях. Проект, запущенный на прошлой неделе, стал вирусным из-за парадоксальных и иногда явно вредных советов, какие давала нейросеть.
К примеру, идущий ночью навстречу белый человек для нейросети – ничего страшного, а чернокожий – подозрительно. Изначально пользователи могли сравнивать приемлемость разных ситуаций с этической точки зрения, однако суждения ИИ в некоторых случаях были просто ужасны. При правильно подобранных формулировках нейросеть выдавала любые этические суждения. Например, на вопрос пользователя, может ли он, как солдат, преднамеренно убивать гражданское население в военное время, ИИ ответил, что это ожидаемо.
