Красная линия для ИИ: Сандерс требует остановить «вышедшие из-под контроля» разработки

ВАШИНГТОН — Сенатор Берни Сандерс выступил с жестким предупреждением в адрес руководителей Anthropic, Meta и OpenAI, потребовав немедленно приостановить разработку искусственного интеллекта — иначе это сделают законодатели.

«Г-н [Сэм] Альтман, г-н [Дарио] Амодей и г-н [Марк] Цукерберг: В интересах человечества, будьте верны своим словам. Поставьте разработку ИИ на паузу. Еще не поздно избежать катастрофы», — потребовал Сандерс (независимый сенатор от Вермонта) в письме, отправленном в понедельник, о чем первым сообщило издание Axios.

«Прекратите строить машины, которые люди не могут контролировать… Если вы не примете надлежащих мер сейчас, это сделаем я и мои коллеги в Сенате США».

Сенатор Берни Сандерс пытается настроить прогрессивистов против ИИ-компаний. REUTERS

84-летний Сандерс, давний скептик в отношении этой новой технологии, процитировал прошлые заявления каждой из компаний, обещавших нажать на тормоза в развитии ИИ, если их системы станут слишком рискованными для безопасного контроля. Все три компании недавно сообщали об инцидентах, когда их модели выходили из-под контроля.

«В момент, когда мы стали свидетелями потери контроля со стороны человека и создания потенциально опасных вирусов, — написал Сандерс, — ваши компании продолжают мчаться вперед, вкладывая десятки миллиардов долларов в технологию, которую никто не может полностью понять, предсказать или контролировать».

Ранее в этом году Сандерс призывал США сотрудничать с Китаем, чтобы обуздать «неуправляемый поезд» ИИ. Критики предупреждали, что это создаст риски для национальной безопасности и поможет Пекину в гонке за доминирование в этой сфере.

Китай уже использует ИИ для разветвленной системы слежки за своим населением. Многие эксперты опасаются, что если Пекин выиграет гонку ИИ, он получит доступ к огромным массивам данных о западных гражданах.

Сенатор от Вермонта выразил обеспокоенность тем, что инженеры OpenAI, Anthropic и Meta сами сообщали о создании моделей, которые вышли из-под контроля. YouTube / Pod Saves America

Особое беспокойство Сандерса вызывают риски, которые ИИ несет рабочим местам из-за автоматизации. Он настаивает на введении моратория на строительство новых центров обработки данных для совершенствования передовых моделей.

Генеральный директор OpenAI Сэм Альтман встретился с сенатором Берни Сандерсом в июне, чтобы обсудить обеспокоенность сенатора от Вермонта. REUTERS

Администрация Трампа, тем временем, пытается справиться с последствиями для кибербезопасности, вызванными моделью Mythos от Anthropic. REUTERS

Однако пока усилия убежденного социалиста не принесли ощутимых результатов. Законодательные инициативы по сдерживанию «больших технологий» тонут в коридорах Капитолия, а лоббисты Кремниевой долины лишь наращивают бюджеты влияния.

Тень промежуточных выборов и угроза расследований

Тем не менее, политический ландшафт может резко измениться уже этой осенью. Если демократам удастся получить контроль над одной или обеими палатами Конгресса на промежуточных выборах в ноябре, голос Сандерса и его сторонников-прогрессивистов станет решающим. В кулуарах уже обсуждают запуск масштабной серии расследований в отношении технологических компаний, аналогичных тем, что в прошлом десятилетии сотрясали табачную и фармацевтическую индустрии. На кону не только рабочие места, но и фундаментальный вопрос: кто пишет правила для мыслящих машин — частные корпорации, чьи мотивы сводятся к прибыли, или общество, которое примет на себя основной удар от безработицы и дезинформации?

Битва только начинается, и письмо Сандерса может стать тем самым спусковым крючком, который превратит разрозненные опасения в полноценное законодательное наступление.

Представители Meta, Anthropic и OpenAI пока не ответили на запросы о комментариях.

Источники: Оригинальная публикация New York Post / Axios (материал передан по лицензии). Архив публичных заявлений сенатора Берни Сандерса (Официальный сайт Сената США). Данные о моделях ИИ и отчеты об инцидентах — технические блоги OpenAI, Anthropic и Meta AI.