Ученые предупредили об опасности сверхразумного ИИ

Ученые предупредили об опасности сверхразумного ИИ

Невозможно построить эффективный алгоритм сдерживания искусственного суперинтеллекта, а значит его нельзя контролировать


 
Команда ученых, в том числе из Центра людей и машин Института развития человека Макса Планка, пришла к выводу, что человечество не сможет держать под контролем искусственный суперинтеллект, даже если примет для этого все возможные меры. Статья с соответствующими выводами была опубликована в Journal of Artificial Intelligence Research, сообщает EurekAlert.
 
"Сверхразумная машина, которая управляет миром – звучит как научная фантастика. Но уже есть роботы, выполняющие определенные важные задачи независимо. При этом программисты вообще не понимают, как они этому научились. В результате возникает вопрос: может ли этот процесс в какой-то момент стать неконтролируемым и опасным для человечества?" – подчеркнул один из авторов исследования Мануэль Себриан.
 
Пройдя через множество алгоритмов и сценариев, исследователи пришли к выводу, что полностью контролировать сверхразумный ИИ невозможно.
 
Даже если заложить в сверхразумную машину данные об этических принципах и ограничить ее связи с внешним миром (например, отключить доступ в интернет), это не спасет человечество от рисков того, что подобная система выйдет из-под контроля.

 


 

Поделитесь с друзьями в соцсетях:

 

 

 

- Названа новая разгадка тайны озера Лох-Несс
- Добро обязательно вернется обратно! Нельзя плакать и жадничать: приметы и народные поверия на Крещение
- Даже супервакцина не уничтожит короноавирус. Он останется на Земле, как сезонное заболевание - ВОЗ
- General Motors представила летающий Cadillac
- Подбитые самолеты, которые не хотели падать - фото
- "Мир на грани морального провала". Глава ВОЗ сообщил о неравномерном распределении вакцин от Covid-19
- ВОЗ обвинила власти Китая в сокрытии коронавируса и промедлении в первые дни пандемии covid-19
- 2021. Советы и прогнозы от Гейтса, Маска и Безоса
- Крещение Господне-2021: Когда и где набирать воду на Крещение, как освятить ее в домашних условиях
- 27 РАДОСТЕЙ ЖИЗНИ
19:28Январь, 13 2021 116

за месяц
за год