Предупреждение Стивена Хокинга человечеству

Стивен Хокинг, скончавшийся 14 марта 2018 года, перед смертью неоднократно предупреждал, что бесконтрольное развитие искусственного интеллекта, приведёт к уничтожению человечества.

Физик считал, что самосовершенствующиеся системы могут превзойти людей и выйти из-под контроля.
Он возвращался к этим опасениям в интервью и в посмертно опубликованной книге.

В 2017 году, незадолго до смерти, Хокинг в интервью журналу Wired предупредил, что ИИ перестал быть просто теоретической темой.

Он считал, что развитие этой технологии может привести к ситуации, когда машины начнут вытеснять людей, а не служить им. «Я боюсь, что ИИ может полностью заменить людей», — признал он.

Его опасения в первую очередь касались темпов развития машин. Еще в 2012 году он подчеркивал, что «развитие полноценного искусственного интеллекта может означать конец человеческой расы».

Хокинг утверждал, что самосовершенствующиеся системы в будущем могут превзойти людей по интеллекту, и что люди, как вид, ограниченный биологической эволюцией, не смогут эффективно конкурировать с ними. Ученый неоднократно возвращался к этому предупреждению.

Хокинг призывал к контролю над ИИ

Физик не ограничился публичными заявлениями. Вместе с другими экспертами он подписал письмо в ООН, призывающее к контролю над развитием искусственного интеллекта.
Он указывал, что неограниченный прогресс в этой области может привести к непредсказуемым последствиям для всего человечества.

Хокинг также затронул угрозы, исходящие от ИИ, в посмертно опубликованной книге.

«Мы можем столкнуться с интеллектуальным взрывом, который в конечном итоге приведет к созданию машин с интеллектом, превосходящим человеческий.
Заманчиво отмахнуться от идеи высокоинтеллектуальных машин как от чистой научной фантастики, но это было бы ошибкой — и, возможно, нашей величайшей ошибкой в ​​истории», — писал Хокинг в книге «Краткие ответы на большие вопросы».

Хокинг, как и Билл Гейтс, подчеркивал, что искусственный интеллект больше не является просто научной фантастикой.
Он предупредил, что без механизмов регулирования и надзора развитие ИИ в конечном итоге может выйти из-под контроля человека.

via