Компания Anthropic заявила, что искусственный интеллект развивается настолько стремительно, что необходима общеотраслевая пауза, дабы замедлить темпы разработки и дать компаниям возможность оценить потенциальные риски для общества.
В четверг этот ИИ-гигант опубликовал в блоге пост, в котором предупредил: системы искусственного интеллекта вскоре могут обрести способность улучшать себя без вмешательства человека, что приведет к хаосу. Подобные заявления от Anthropic — которая в прошлом месяце свергла OpenAI с пьедестала самой дорогой ИИ-компании — критики и конкуренты и раньше воспринимали как попытку затормозить соперников в жаркой гонке по созданию продвинутого искусственного интеллекта.
Генеральный директор Anthropic Дарио Амодеи давно предупреждает о потенциальных опасностях ИИ. Он месяцами враждовал с Белым домом по вопросам безопасности, связанной с использованием систем компании в военных целях.
Anthropic призвала ведущие ИИ-лаборатории всерьез задуматься о замедлении темпов разработки и предоставила внутренние данные, свидетельствующие о стремительном совершенствовании ее собственных моделей. «Мы считаем, что для мира было бы благом иметь возможность замедлить или временно приостановить передовые разработки ИИ, чтобы позволить общественным структурам и исследованиям в области согласованности поспевать за прогрессом технологий», — говорится в публикации.
Авторами поста выступили глава внутренних исследований Anthropic Марина Фаваро и руководитель политического направления Джек Кларк. Они добавили, что способность замедлить глобальное развитие ИИ «скорее всего, была бы благом».
Генеральный директор OpenAI Сэм Альтман ранее обвинял Anthropic в «маркетинге, основанном на страхе». «Это просто потрясающий маркетинг — заявить: "Мы создали бомбу и вот-вот сбросим ее вам на голову. Мы продадим вам бомбоубежище за 100 миллионов долларов"», — сыронизировал он в прошлом месяце.
В публикации Anthropic описывается, как прогресс моделей, по-видимому, движется к «рекурсивному самоулучшению» — то есть к ИИ-системам, способным совершенствоваться самостоятельно, без участия человека. Эксперты предупреждают, что этот феномен может посеять хаос в обществе. «Это произвело бы революцию в интеллектуальном труде и государственных услугах, но также могло бы быть обращено во вредные цели: от авторитарной слежки за целыми популяциями до операций влияния, подстраивающих манипуляцию под каждого отдельного человека и проводимых в масштабах, с которыми не сравнится ни одна команда людей», — говорится в посте.
Скепсис, маркетинг и политический подтекст
При этом в Anthropic признают, что самоулучшающийся ИИ пока не появился и его возникновение не является неизбежным. Тем не менее компания пошла настолько далеко, что предложила заключить глобальное соглашение о замедлении разработок, а также продумать механизмы проверки его соблюдения.
Призыв к мировой паузе был встречен со скептицизмом. Некоторые эксперты раскритиковали череду предупреждений лаборатории об опасности ее собственных инструментов, назвав это маркетинговой тактикой. Профессор Школы Уортона при Пенсильванском университете Итан Моллик написал в соцсети X: «Здесь есть немного самокопания, толика маркетинга и уйма очень искренних убеждений о том, что, по мнению Anthropic, вероятно в ближайшем будущем ИИ».
Руководители Anthropic настаивают, что ставят безопасность ИИ выше роста и хотят способствовать более широкому обсуждению рисков. Однако у скепсиса есть и финансовое измерение: в прошлом месяце оценка Anthropic достигла ошеломляющих 965 миллиардов долларов в рамках раунда финансирования серии H на 65 миллиардов. Компанию долгое время считали дерзким новичком, пытающимся догнать раннее доминирование OpenAI, — и теперь, оказавшись на вершине, она, по мнению критиков, пытается зафиксировать свое преимущество, призывая опустить шлагбаум перед остальными.
Один из онлайн-критиков придал заявлению лаборатории политический окрас, написав в X: «Они пытаются поставить всё на паузу, пока в Белый дом не вернется демократ». В любом случае, дебаты о добровольном или принудительном замедлении гонки ИИ, похоже, станут одним из центральных технологических сюжетов ближайших лет.
Источник: по материалам New York Post и публикации в блоге Anthropic.
В нашем Telegram‑канале, вы найдёте новости о непознанном, НЛО, мистике, научных открытиях, неизвестных исторических фактах. Подписывайтесь, чтобы ничего не пропустить.
Поделитесь:
Оставьте Комментарий