Бывший исследователь Google DeepMind предупредил, что искусственный интеллект может «убить нас всех», — присоединившись к растущему хору инсайдеров, бьющих тревогу по поводу технологии, которую президент Трамп отмахнул как мистификацию Судного дня.
Билал Чугтай, недавно ушедший из принадлежащей Google лаборатории ИИ после работы над безопасностью и выравниванием AGI, заявил в понедельник, что стал глубоко обеспокоен направлением развития технологии, наблюдая её стремительное развитие из первых рук.
«Я искренне верю, что ИИ может убить нас всех, и что у нас может заканчиваться время, чтобы избежать этого исхода», — написал Чугтай в постах в X и LinkedIn.
Чугтай сказал, что темпы прогресса с тех пор, как он вошёл в эту область в начале 2022 года, были «ошеломляющими», указав на всё более автономных ИИ-агентов как на доказательство того, что разработчики вскоре могут столкнуться с системами, которые они не смогут надёжно контролировать.
«Я думаю, возможно, что ИИ-компании в ближайшие несколько лет могут преуспеть в создании сверхразумных ИИ-систем, которые далеко превзойдут человеческие возможности во всех областях», — написал он.
Чугтай сказал, что он «не уверен», что такие системы будут вести себя так, как намерены люди, предупредив, что невыровненный ИИ может выйти из-под человеческого контроля и предпринять действия, приводящие к «постоянному лишению человечества возможностей или его смерти».
«Выравнивание — это проблема предотвращения этого, и она одновременно сложна и нерешена, — написал он. — Наше нынешнее понимание того, как обучать ИИ-системы, которые глубоко хотят того, чего хотим мы, крайне рудиментарно».
Тем не менее Чугтай сказал, что верит: ИИ всё ещё можно разрабатывать безопасно — но только если технологические фирмы отступят от того, что он описал как «маниакальную гонку» за созданием всё более мощных систем.
«Нам нужно задать развитию ИИ темп, который общество может выдержать, при котором возникающие риски можно устранить до того, как будет реализован экстремальный вред», — написал он.
Чугтай с тех пор присоединился к BlueDot Impact — некоммерческой организации, которая обучает людей работе над безопасностью ИИ, согласно Bloomberg.
Его предупреждение прозвучало всего через несколько дней после того, как Джейкоб Коксон, бывший исследователь Anthropic и OpenAI, уволился и обвинил компании, разрабатывающие технологию, в «игре с нашими жизнями».
«Люди, создающие ИИ, искренне верят, что он может убить нас всех к концу десятилетия», — написал Коксон в посте в X.
Опасения перекинулись в executive suites индустрии.
Генеральный директор Anthropic Дарио Амодеи присоединился к призыву на выходных, призвав индустрию притормозить свои самые мощные ИИ-модели, — при этом Сэм Альтман из OpenAI и Илон Маск публично поддержали его призыв.
Амодеи утверждал, что координировать такое замедление будет трудно, потому что стимулы мчаться вперёд — включая потенциальное военное преимущество — настолько велики.
«Я думаю, это будет очень трудно, потому что стимулы вырваться вперёд и военное преимущество, которое вы от этого получаете, настолько велики, — сказал Амодеи CBS News в программе „Sunday Morning“. — И, честно говоря, я не знаю, возможно ли это, но мы должны попытаться».
Трамп, однако, резко отверг предупреждения в понедельник, назвав страхи о том, что ИИ может уничтожить человечество, «МИСТИФИКАЦИЕЙ» и заявив о «БОЛЬНОМ заговоре» против ИИ и центров обработки данных, который пойдёт на пользу Китаю.
Трамп отмахнулся от призыва к более жёсткому регулированию, подчеркнув стратегическую важность сохранения лидерства США в области ИИ.
«Единственный контроль или „ограничители“, которые нужны ИИ, — это СИЛЬНЫЙ И УМНЫЙ (Высокий IQ!) ПРЕЗИДЕНТ», — написал Трамп в Truth Social, согласно сообщениям.
Президент также особо выделил Амодеи, обвинив главу Anthropic в том, что тот притворяется «идеальным маленьким ангелочком», утверждая при этом, что у федерального правительства уже есть достаточные уголовные и регуляторные полномочия в отношении ИИ-компаний.
The Post сообщила в понедельник, что Белый дом тем не менее рассматривает «ограниченные меры защиты» для ИИ, даже когда администрация отвергает более широкое регуляторное наступление.
«Они могут согласиться на некоторые ограниченные меры защиты, но это будет внешним пределом для администрации», — сказал The Post один высокопоставленный руководитель с Уолл-стрит, знакомый с мышлением администрации.
Администрация вместо этого склоняется к саморегулированию отрасли и другим узконаправленным ограничителям, согласно репортажу The Post, — отражая её опасения, что более широкие ограничения могут дать преимущество Китаю.
The Post запросила комментарий у Google.
Источники и материалы для дальнейшего чтения
Материал подготовлен на основе публикации New York Post, постов Билала Чугтая в X и LinkedIn, заявлений Джейкоба Коксона в X, комментариев Дарио Амодеи (Anthropic) в CBS News, постов президента США Дональда Трампа в Truth Social, а также сообщений Bloomberg.
В нашем Telegram‑канале, вы найдёте новости о непознанном, НЛО, мистике, научных открытиях, неизвестных исторических фактах. Подписывайтесь, чтобы ничего не пропустить.
Поделитесь:
Оставьте Комментарий