Технологический миллиардер Билл Гейтс предупредил, что искусственный интеллект в неправильных руках способен убить миллиард человек — присоединившись к призывам ввести ограничения безопасности на эту технологию.
Соучредитель Microsoft призвал к усилению государственного надзора за ИИ во время беседы с NBC в программе «Meet the Press» в воскресенье, где предположил, что ИИ может быть использован во вред и привести к почти полному вымиранию человечества. «ИИ, безусловно, достаточно мощный, чтобы вызвать события, которые приведут к гибели миллиарда человек, — предупредил он. — Так что, хотя достичь 100% [человечества] довольно сложно, никогда ещё не было оружия столь мощного, как сочетание людей со злыми намерениями, использующих новейшие инструменты ИИ».
Заявления Гейтса прозвучали на фоне растущей обеспокоенности мирового сообщества по поводу стремительного развития генеративных моделей и их потенциального использования в кибервойнах, биотерроризме и создании автономных систем вооружений. Гейтс, который на протяжении последних лет неоднократно высказывался об ИИ с осторожным оптимизмом, на этот раз занял более жёсткую позицию, подчеркнув необходимость срочных мер регулирования.
«Мы находимся в точке, когда технология развивается быстрее, чем наши институты способны её осмыслить, — сказал он. — Правительства должны играть центральную роль в установлении стандартов безопасности, иначе мы рискуем передать контроль над самыми мощными инструментами в истории в руки тех, кто не заинтересован в сохранении человеческой жизни».
Гейтс отметил, что особенно опасны сценарии, в которых ИИ используется для разработки биологического оружия. «Раньше, чтобы создать смертельный патоген, требовались годы лабораторных исследований и доступ к дорогостоящему оборудованию. Теперь достаточно иметь базовые знания в биологии и доступ к мощной языковой модели, которая подскажет, какие гены редактировать. Это меняет всё».
Он также предупредил о рисках, связанных с автономными системами вооружений, которые могут принимать решения об уничтожении целей без участия человека. «Если мы позволим машинам решать, кого убивать, мы потеряем контроль над собственной судьбой. Это не сценарий научной фантастики — это вопрос ближайших десятилетий».
Представители крупнейших технологических компаний отреагировали на слова Гейтса неоднозначно. Некоторые поддержали его призыв к регулированию, другие указали, что чрезмерные ограничения могут замедлить инновации и передать преимущество авторитарным режимам. «Мы должны найти баланс между безопасностью и прогрессом, — заявил представитель одной из ведущих ИИ-лабораторий. — Но мы не можем игнорировать риски, о которых говорит Гейтс. Это не паника, это трезвая оценка».
В Конгрессе США уже обсуждаются несколько законопроектов, направленных на регулирование ИИ. Один из них, предложенный двухпартийной группой сенаторов, предусматривает обязательную сертификацию моделей, способных к автономному обучению, и создание федерального агентства по надзору за ИИ. Однако судьба этих инициатив остаётся неясной — технологическое лобби активно сопротивляется новым ограничениям.
Международные организации также пытаются выработать общие правила. В ООН создана рабочая группа по ИИ, которая должна представить рекомендации к концу 2027 года. Однако многие эксперты сомневаются, что международное сообщество сможет договориться о чём-то большем, чем декларации о намерениях. «Геополитические противоречия слишком велики, — говорит бывший дипломат, участвовавший в переговорах по климату. — Если страны не могут договориться о выбросах углерода, как они договорятся о контроле над ИИ, который даёт военное преимущество?»
Сам Гейтс, несмотря на мрачные прогнозы, призвал не впадать в отчаяние. «Я не говорю, что мы обречены. Я говорю, что мы должны действовать. У нас есть окно возможностей, но оно закрывается. Если мы не начнём регулировать ИИ сейчас, через десять лет будет слишком поздно».
Он также отметил, что его фонд продолжает инвестировать в исследования безопасности ИИ и в разработку международных стандартов. «Это не вопрос технологий. Это вопрос политической воли. И я надеюсь, что мой голос, как и голоса других, поможет её сформировать».
Источники: NBC News, «Meet the Press», заявления Билла Гейтса, Конгресс США, ООН.
В нашем Telegram‑канале, вы найдёте новости о непознанном, НЛО, мистике, научных открытиях, неизвестных исторических фактах. Подписывайтесь, чтобы ничего не пропустить.
Поделитесь:
Оставьте Комментарий