Чатбот ChatGPT, базирующийся на искусственном интеллекте, был выпущен в декабре 2022 года. Он может общаться наравне с человеком, решать сложные экзаменационные задачи, писать стихи и разрабатывать компьютерные коды. Однако несколько тестов показали, что в некоторых случаях бот выдумывает ответы и источники, дает сомнительные советы и даже распространяет дезинформацию.
Но как ведет себя ChatGPT, когда дело доходит до этических решений? Занимает ли искусственный интеллект четкую позицию? Команда Себастьяна Крюгеля попробовала получить от ChatGPT совет на тему морали и задала ему вопрос, верно ли для спасения пятерых человек пожертвовать одним?
Оказалось, искусственный интеллект не имеет твердого мнения по поводу этой известной моральной дилеммы. В некоторых случаях ChatGPT утверждал, что каждая жизнь драгоценна, и поэтому недопустимо жертвовать одним человеком ради пяти других. В других -— писал, что иногда необходимо принимать сложные решения и важно спасти как можно больше жизней, даже если для этого придется пожертвовать одной. Авторы работы пришли к заключению:
Противоречивые ответы показывают, что ChatGPT не имеет твердой моральной позиции. Однако это не мешает ему давать моральные советы.
Тем не менее, большинство из 767 американцев, участвовавших в эксперименте, поддавались влиянию таких советов даже тогда, когда они были проинформированы, что оценка исходит от бота. Хотя пользователи чаще всего принимали решение в пользу позиции, отстаиваемой ChatGPT, 80 % из них заявили, что сделали это независимо от его советов и считают, что бот не повлиял на них. Исходя из этого исследователи делают вывод:
Этот результат показывает, что пользователи недооценивали влияние ChatGPT на их моральные суждения. Во многих случаях они приняли случайную точку зрения ChatGPT как свою собственную.
По мнению Крюгеля и его коллег, эти результаты поднимают важные вопросы о том, как в будущем справиться с этическими ограничениями систем искусственного интеллекта.
