Представьте, что Вам надо закупить футбольные мячи и от поставщика приходит сообщение: «мячи 0 для меня для меня для меня для меня для меня для меня для меня для». То ли себе «Скорую» вызывать, то ли ему. Но для ботов, которые учатся искусству переговоров, именно такие фразы вполне обычны. Потому новости о выходе из-под контроля искусственного интеллекта Фейсбука и создании им собственного языка не вполне точны, хотя боты этой соцсети и перешли на вариант английского, непонятный их создателям. Зато ИИ так проще и быстрее, чем на «человеческом английском».
Исследователи Фейсбука работают над ботами, которые смогли бы контактировать с людьми и искать приемлемые для всех компромиссы. Там начали с обучению ботов переговорам с другими ботами на базе переговоров людей. Среди заданий этого обучения было договориться, как поделить мячи, книги и шляпы. В процессе боты вступали в диалоги, которые их создатели понять никак не могли. У примеру:
Боб: Я могу я я все остальное
Алиса: мячи ноль для меня для меня для меня для меня для меня для меня для меня для
Боб: ты я все остальное
Алиса: Шары иметь мяч для меня для меня для меня для меня для меня для меня для меня для меня.
Следствием стали заголовки о языке ботов и выходе искусственного интеллекта из-под человеческого контроля. Хотя исследователи сразу выяснили причины таких непонятных фраз. Они просто не поощряли ИИ выражаться на общепонятном английском и боты постепенно перешли на удобные им сокращения, как поступают и люди.
Фейсбук правда прекратил диалог ботов, но не от испуга, как писали в прессе, а ввиду того, что целью было научить ИИ общаться с людьми, а не с другими ботами, пояснил участник эксперимента.
