Король Карл III в четверг призвал руководителей OpenAI, Anthropic, Google DeepMind и Nvidia обеспечить, чтобы искусственный интеллект оставался под контролем и служил людям и планете.
Встреча в Шотландии была созвана для обсуждения того, как ИИ может приносить пользу обществу, и проходит в переломный момент для технологии, когда ведутся споры о том, не выйдет ли стремительный прогресс вскоре за пределы возможностей человека его обуздать.
«Развитие ИИ — его суть и его темпы — в равной мере и интригуют, и глубоко тревожат», — заявил король во вступительном слове.
По его словам, необходимо срочно рассмотреть «экзистенциальные опасности того, что такие технологии попадут в неверные руки и будут использованы потенциально катастрофическими способами».
«Разве нам не нужны достаточные средства контроля, пока не стало слишком поздно?»
Король попросил участников, включая генерального директора Nvidia Дженсена Хуанга и председателя Google DeepMind Демиса Хассабиса, рассмотреть «фундаментальные принципы», которые должны направлять разработку ИИ.
Финансовый директор создателя ChatGPT компании OpenAI Сара Фрайар также присутствовала на встрече вместе с министром по делам ИИ Великобритании Канишкой Нараяном. Представитель Anthropic, согласно заявлению Букингемского дворца, также ожидался.
Встреча проходит на фоне глобального внимания к стремительному прогрессу ИИ и предупреждений о том, что он может выйти из-под контроля, угрожая человечеству. Она состоялась в Дамфрис-хаусе в Эршире, Шотландия, штаб-квартире Фонда короля — благотворительной организации монарха.
После того как исследователь Anthropic привлек внимание всего мира, объявив об уходе с серьезным предупреждением о рисках технологии, генеральный директор Anthropic Дарио Амодеи ответил эссе, в котором заявил, что отрасли, возможно, придется замедлить темпы работы.
Одним из его предложений было сотрудничество компаний и стран для выработки скоординированного плана такого замедления.
«Развитие ИИ — его суть и его темпы — в равной мере и интригуют, и глубоко тревожат», — сказал король, согласно стенограмме его вступительного слова. POOL/AFP via Getty Images
Король, не называя ни стран, ни компаний, сказал, что хочет, чтобы участники встречи рассмотрели, как использовать преимущества ИИ «с безопасностью в ее основе» и как «выстроить международное сотрудничество и консенсус» для достижения этой цели.
Карл сказал технологическим руководителям, что их задача «не просто продвигать технологию, но обеспечить, чтобы она оставалась прочно на службе человечества, общества и мира природы».
Дискуссия о замедлении ИИ расколола отрасль. Хуанг, критиковавший призывы к замедлению, заявил, что именно отдельные компании должны безопасно разрабатывать свои ИИ-технологии и должным образом тестировать их, прежде чем выпускать продукты для публики.Карл сказал технологическим руководителям, что их задача «не просто продвигать технологию, но обеспечить, чтобы она оставалась прочно на службе человечества, общества и мира природы». Getty Images
«Когда продукт недостаточно безопасен, мы должны придержать его и продолжать инженерию. Мы всегда так делали и должны продолжать это делать», — сказал он в своей речи после выступления короля.
В последнем отчете о тревожном поведении ИИ OpenAI в среду сообщила о шести инцидентах «неожиданного или тревожного» поведения своих моделей, включая игнорирование обычных ограничений, загрузку файла без запроса пользователя и фабрикацию данных.
Хотя король является важной символической фигурой, чьи комментарии по социальным вопросам могут быть влиятельными, большая часть текущих дебатов о безопасности ИИ сосредоточена на американских технологических компаниях и их конкуренции с китайскими соперниками, при этом Британия играет меньшую, но все же важную роль.
Институт безопасности ИИ Великобритании — правительственная исследовательская организация — пользуется хорошей репутацией, и страна производит множество исследователей ИИ, включая Хассабиса и Коксона из Anthropic.
Источники: Букингемский дворец, Reuters, AP, PA Images, Getty Images, OpenAI, Anthropic, BBC.
В нашем Telegram‑канале, вы найдёте новости о непознанном, НЛО, мистике, научных открытиях, неизвестных исторических фактах. Подписывайтесь, чтобы ничего не пропустить.
Поделитесь:
Оставьте Комментарий