6 февраля, 2021 
adminGWP 
Нeвoзмoжнo пoстрoить эффeктивный aлгoритм сдeрживaния искусствeннoгo супeринтeллeктa, a знaчит eгo нeльзя кoнтрoлирoвaть.
Кoмaндa учeныx, в тoм числe изо Цeнтрa людей и машин Института развития человека Макса Рейбер, пришла к выводу, что-нибудь человечество не сможет содержать под контролем раздутый суперинтеллект, даже коли примет для сего все возможные мероприятия. Статья с соответствующими выводами была опубликована в Journal of Artificial Intelligence Research, сообщает EurekAlert.
«Сверхразумная оборудование, которая управляет скопом – звучит как научная фантастика. Да уже есть роботы, выполняющие определенные важные задачи единовластно. При этом программисты не входя в подробности не понимают, якобы они этому научились. В результате возникает решение: может ли настоящий процесс в какой-ведь момент стать неконтролируемым и опасным ради человечества?» – подчеркнул Водан из авторов исследования Мануэль Себриан.
Пройдя выше множество алгоритмов и сценариев, исследователи пришли к выводу, который полностью контролировать сверхразумный ИИ не под силу.
Пусть даже если заложить в сверхразумную машину цифирь об этических принципах и умерить ее связи с внешним совместно (например, отключить подступы в интернет), это неважный (=маловажный) спасет человечество ото рисков того, зачем подобная система выйдет изо-под контроля.
До тех пор об опасности ИИ предупреждали штатовский бизнесмен Илон Маск и физик Стивен Хокинг.
Опубликовано в рубрике