Эксперт предупреждает, что технология искусственного интеллекта может перестроить общество в ущерб нам, поскольку ее невозможно “безопасно контролировать”
Искусственный интеллект (ИИ) очень перспективен, но также может представлять огромную угрозу для общества. Эксперт по ИИ предупредил, что ИИ невозможно “безопасно контролировать”.
По мнению доктора Романа В. Ямпольского, контроль над ИИ может стать одной из самых важных проблем человечества. Однако она до сих пор недостаточно хорошо определена, понята и изучена. По его мнению, нет никаких доказательств того, что ИИ можно “безопасно контролировать”.
Специалист по безопасности искусственного интеллекта (ИИ) доктор Ямпольский в своей новой книге “ИИ: необъяснимый, непредсказуемый, неконтролируемый” рассматривает, как ИИ может кардинально изменить общество, причем не всегда в положительную сторону.
“Мы столкнулись с почти гарантированным событием, способным вызвать экзистенциальную катастрофу. Неудивительно, что многие считают это самой важной проблемой, с которой когда-либо сталкивалось человечество. Результатом может стать процветание или вымирание, и судьба Вселенной висит на волоске”, – сказал Ямпольский.
Тщательно проанализировав научную литературу по ИИ, доктор Ямпольский утверждает, что не нашел никаких доказательств того, что ИИ можно управлять должным образом. Даже если бы существовал какой-то частичный контроль, он был бы недостаточным.
“Почему так много исследователей полагают, что проблема управления ИИ разрешима? Насколько нам известно, для этого нет никаких доказательств, никаких подтверждений. Прежде чем приступать к созданию управляемого ИИ, важно показать, что проблема разрешима”, – пояснил он.
“Это, в сочетании со статистикой, показывающей, что развитие сверхразума ИИ – почти гарантированное событие, показывает, что мы должны поддерживать значительные усилия по обеспечению безопасности ИИ”, платформа для управления физической ИТ-инфраструктурой.
Он утверждает, что наши возможности по созданию интеллектуального программного обеспечения значительно превышают наши возможности по его управлению и проверке. После тщательного анализа литературы он приходит к выводу, что, несмотря на все свои преимущества, гениальные системы всегда будут нести определенный риск, поскольку их невозможно полностью регулировать. По его мнению, сообщество ИИ должно стремиться к максимальному снижению этого риска при максимальном увеличении потенциальных выгод.
ИИ может привести к вымиранию человечества
Применений искусственного интеллекта (ИИ) великое множество. Тем не менее, даже специалисты в области информационных технологий предупреждают, что это может привести к вымиранию человечества.
Международная группа ученых опросила 2 778 профессионалов в области ИИ о будущем систем, и 25 % из них заявили, что технологии уничтожат человечество. Но еще более тревожный прогноз сделал один из десяти исследователей, по мнению которого существует ужасающая 25-процентная вероятность того, что ИИ уничтожит человеческий род.
Эксперты перечислили три возможных объяснения того, почему ИИ может взять верх: (1) ИИ используется авторитарными правителями для манипулирования населением; (2) системы ИИ усугубляют экономическое неравенство, оказывая непропорциональное предпочтение некоторым людям; и (3) ИИ позволяет угрожающим группам разрабатывать мощное оружие, например, генетически модифицированные вирусы.
По словам Кати Грейс, одного из авторов исследования, это важный признак того, что большинство исследователей ИИ не считают сильно неправдоподобным, что сложный ИИ уничтожит человечество. Она считает, что общее восприятие неминуемого риска гораздо более информативно, чем точный % риска.
С другой стороны, около 58% исследователей выразили больший оптимизм по поводу возможного завоевания ИИ, заявив, что вероятность того, что он может привести к вымиранию людей, составляет всего 5%.
В нашем Telegram‑канале вы найдёте новости о непознанном, НЛО, мистике, научных открытиях, неизвестных исторических фактах. Подписывайтесь, чтобы ничего не пропустить.
