"Дальше будет только хуже": ученый назвал два наибольшие риски ИИ для человечества

Разработчик и ученый в области искусственного интеллекта Йошуа Бенгио считает, что ИИ может представлять риск существования человечества. По мнению ученого, нам нужно серьезнее относиться к новейшим разработкам и регулировать использование ИИ.

Видео дня

Он озабочен темпами развития и внедрения его технологий. Йошуа считает, что искусственный интеллект может повредить структуру общества и несет непредвиденные опасности для людей, пишет Live Science.

Сейчас ученый призывает к мораторию на развитие искусственных нейронных сетей и исследует способы их регулирования. Он уверен, что нужно сделать все возможное, чтобы снизить риски развития ИИ до человеческого уровня.

Наибольшие риски, которые создает ИИ для человечества

По мнению ученого, последствия использования ИИ мы уже видим, потому что он используется в избирательной кампании в США. И он считает, что дальше будет гораздо хуже. Недавнее исследование показало, что ChatGPT-4 гораздо лучше людей в убеждении, и это только ChatGPT-4 – новая версия будет хуже. Также были проведены испытания, как эти системы могут помочь террористам. ChatGPT изменил этот риск с низкого на средний.

На момент, когда будет достигнут уровень суперинтеллекта, есть два серьезных риска. Во-первых, это потеря человеческого контроля. "Если сверхумные машины преследуют цель самосохранения, их целью может быть уничтожение человечества, чтобы мы не могли их выключить", – говорит он.

Еще одной опасностью Йошуа называет то, что отдельные люди могут использовать силу искусственного интеллекта, чтобы взять под контроль человечество в условиях всемирной диктатуры: "Вы можете иметь более мягкие версии этого, и это может существовать в спектре, но эта технология придаст огромную силу тому, кто ее контролирует", – объясняет он свое мнение.

На сегодняшний день все еще существует огромная пропасть между человеческим интеллектом и способностями ИИ, но непонятно, как быстро все будет меняться.

Ранее OBOZ.UA рассказывал, что школьники, пользующиеся ChatGPT в обучении, хуже сдают тесты.

Только проверенная информация у нас в Telegram-канале OBOZ.UA и Viber. Не ведитесь на фейки!