Эксперты и лидеры индустрии, в том числе руководители OpenAI и Google Deepmind, опасаются, что искусственный интеллект может привести к вымиранию человечества.

Около 2,4 тысяч ученых и инженеров, разрабатывающих искусственный интеллект, подписались под письмом с обещанием не участвовать в создании роботов-убийц, действующих без человеческого присмотра. Среди подписавшихся прообраз Железного человека Илон Маск и один из основателей лаборатории ИИ Гугла DeepMind Демис Хассабис. Письмо создано ради убеждения ВПК и правительства отказаться от создания смертельных автономных систем вооружений (LAWS).

Новый подход лаборатории DeepMind Гугла к обучению ИИ сделал процесс в 10 раз эффективнее.

Новый алгоритм Texplore-Venir мотивирует роботов узнавать новое простейшим способом – системой наград за добывание знаний как таковых безотносительно к конкретным задачам.