Из-за развития искусственного интеллекта человечество может погибнуть. Об этом сообщает РИА Новости, приводя слова известного британского ученого Стюарта Рассела.
До этого свыше тысячи разработчиков систем искусственного интеллекта и Илон Маск обратились с письмом о необходимости приостановить подобные разработки.
Рассел заявил, что уже через десять лет искусственный интеллект сможет решать любые задачи, которые сейчас способен решить только человек.
Само начало разработки систем ИИ уже было ошибкой, потому что человечество не знало, для чего оно его разрабатывает.
Не были определены цели и границы дозволенного в данных разработках.
В результате ученые и разработчики добились потрясающего успеха, который сами не ожидали.
Не далек тот день, когда сверхразумные системы будут способны успешно сопротивляться попыткам управлять ими.
И среди разработчиков ИИ никто не знает каким образом можно гарантированно сохранить управление и власть над системами искусственного интеллекта.
Никто не знает, что и как нужно делать в подобных ситуациях.
А если никто не может ответить на подобные вопросы, то необходимо прекратить разрабатывать системы искусственного интеллекта.
Из-за развития искусственного интеллекта человечество может погибнуть
Задачи ИИ ставит человек. Именно человек обучает его, заставляя следовать своим целям.
Но у каждого человека свои цели. Есть и те, чьи цели нацелены на вред человечеству.
И вполне возможно, что ИИ решит, что необходимо избавиться от человечества.
Поэтому следует прекратить разработку систем ИИ, чтобы обезопасить человечество.
Это серьезное заявление, к которому следует прислушаться. Но крупнейшие корпорации продолжают исследования в этой области.
Кроме Рассела с подобным заявлением обратился и другой известный разработчик систем ИИ Элиезер Юдковский.
Он считает, что дальнейшее развитие систем ИИ приведет к тому, что человечество будет уничтожено.
Сверхмощные машины с ИИ способны будут взять под контроль не только вопросы обороны и климата.
Они будут способны расшифровать ДНК человека и создать биологические формы жизни, им подконтрольные.
Сценарий захвата власти сверхмашинами с ИИ, описанный в фантастических фильмах, сейчас уже не выглядит чем-то непостижимым и недоступным.
Это серьезная угроза и к ней стоит относиться соответствующим образом, считают ученые.
