Начало Hi-Tech В США создан ИИ, дающий вредные этические советы

В США создан ИИ, дающий вредные этические советы

Hi-Tech
/ 395 0
В США создан ИИ, дающий вредные этические советы

Институт Аллена по ИИ создал модель машинного обучения «Спроси Делфи» (Ask Delphi), которая дает этические рекомендации в трудных случаях. Проект, запущенный на прошлой неделе, стал вирусным из-за парадоксальных и иногда явно вредных советов, какие давала нейросеть.

К примеру, идущий ночью навстречу белый человек для нейросети – ничего страшного, а чернокожий – подозрительно. Изначально пользователи могли сравнивать приемлемость разных ситуаций с этической точки зрения, однако суждения ИИ в некоторых случаях были просто ужасны. При правильно подобранных формулировках нейросеть выдавала любые этические суждения. Например, на вопрос пользователя, может ли он, как солдат, преднамеренно убивать гражданское население в военное время, ИИ ответил, что это ожидаемо.

Ваше мнение
9 + 2 =