...

Искусственный сверхразум способен уничтожить человечество «случайно»

[ad_1]

К середине 21 века человечество сможет создать по-настоящему мощный искусственный интеллект, который уничтожит нашу цивилизацию, если что-то пойдет не так в его работе.

По данным Washington Post, такую ​​угрозу считает реальной Эмиль Торрес, философ и эксперт по оценке вероятности глобальных катастроф.

Торрес уверен, что к 2050 году в мире появится так называемый искусственный сверхинтеллект — машина, возможности которой превзойдут возможности человека.

«Создание искусственного сверхразума приведет к технологическому прорыву в самых разных областях, но нам также придется столкнуться с очень серьезными опасностями.

«Если люди доверяют сверхразуму какие-то действительно важные вещи, то велика вероятность того, что машина уничтожит человечество или сильно ему навредит. Потребуются очень сложные алгоритмы управления ИИ, но где вероятность, что компьютерный супергений не сможет их обойти? Даже в сегодняшних алгоритмах ИИ есть аспекты, которые ускользают от нашего понимания, и в будущем люди будут все меньше и меньше понимать, как работает мощный ИИ», — предупредил Торрес.

Эксперт считает, что глобальная катастрофа, вызванная ИИ, может произойти, если люди будут доверять машине слишком сложные и абстрактные задачи. Например, они поручат ИИ «устроить мир во всем мире», в результате чего компьютер просто уничтожит всех людей (нет людей — некому воевать друг с другом).

Неясно, будет ли человечество когда-либо готово к сверхразуму, но сейчас мы точно не готовы. При всей нашей глобальной нестабильности и все еще зарождающемся понимании технологий добавление ASI было бы равносильно зажиганию спички рядом с фабрикой фейерверков.

Исследования в области искусственного интеллекта должны замедлиться или даже приостановиться. И если исследователи не примут это решение, правительства должны сделать это за них.

[ad_2]

Source link

(Посещений всего:17 times, 1)

Вячеслав

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

Next Post

Научное сообщество озадачено обнаружением мумифицированного тела Чужого в пустыне Атакама

Чт Сен 8 , 2022
[ad_1] Научное сообщество озадачено обнаружением мумифицированного тела Чужого в пустыне Атакама Мумифицированное инопланетное тело из пустыни Атакама находится в верхней части списка открытий, при мысли о которых научный мир содрогается. Когда он был обнаружен в 2003 году, ни один ученый не мог дать надлежащего объяснения, кроме того факта, что он, […]
Научное сообщество озадачено обнаружением мумифицированного тела Чужого в пустыне Атакама

Вам может понравиться

Серафинит - АкселераторОптимизировано Серафинит - Акселератор
Включает высокую скорость сайта, чтобы быть привлекательным для людей и поисковых систем.