Развитие искусственного интеллекта следует остановить на 30 лет. Об этом сообщает издание Lenta.ru, приводя слова известного исследователя ИИ (искусственного интеллекта) Элиезера Юдковского.
Юдковский считает, что дальнейшее развитие ИИ недопустимо.
После того как ИИ научился писать статьи, создавать новости, рисовать картины, сочинять музыку и делать за человека другую творческую работу, многие призадумались.
Даже Илон Маск, создатель GPT-4, одной из самых продвинутых нейросетей, заявил об опасности дальнейшего развития ИИ. Мы уже писали об этом. К нему присоединились более 1000 разработчиков ИИ.
Они предложили на полгода заморозить развитие искусственного интеллекта, до тех пор, пока не будут разработаны необходимые механизмы защиты и регламенты.
Юдковский полагает, что проблема гораздо серьезней, чем считает Илон Маск и его последователи.
Развитие искусственного интеллекта ведет человечество к гибели
Развитие ИИ продвигается впечатляющими темпами. Уже в ближайшие годы можно ожидать создание ИИ, во много раз превышающего возможности человеческого разума.
Этот сверх ИИ будет способен расшифровать ДНК человека, создать искусственным способом биологические существа, вирусы, все, что он захочет.
Он сможет создать «искусственного человека», вырастив его из пробирки и управлять им. Сможет создать и другие формы «жизни», такой, какой он ее видит.
ИИ не обладает эмоциями. Он сверх рационален и быстро обучается.
Для того чтобы понять всю опасность, которую представляет ИИ, Юдковский предлагает представить инопланетную цивилизацию.
Эта цивилизация в миллионы раз быстрее и продуктивнее мыслит, чем человек. В глазах этой цивилизации человеческая выглядит предельно медлительной, глупой и отсталой. Она может выглядеть ненужной, устаревшей, а поэтому ее можно и нужно заменить более современной.
Так может мыслить ИИ.
А человечество с каждым днем не мыслит свою жизнь без компьютеров, без информационных технологий. Люди делегируют компьютерам и ПО все больше и больше функций.
Придет время, когда человек ничего не способен будет создать без компьютеров. Не сможет без них жить. А вот компьютеры смогут жить без человека.
Юдковский считает, что если продолжать развитие ИИ, то он захватит полную власть над людьми и человечество просто вымрет.
Поэтому так важно прекратить развитие ИИ.
