Ирония судьбы для Anthropic: предупреждали о катастрофе, а получили санкции за халатность

Руководители компании Anthropic пообещали работать в более тесном контакте с Белым домом. Соответствующее предложение было передано министру торговли Говарду Латнику на фоне лихорадочных попыток компании урегулировать проблемы безопасности, которые спровоцировали репрессивные меры против её мощных ИИ-моделей «Mythos» и «Fable», выяснило издание The Post.

Текущие переговоры о мерах по исправлению ситуации включают обязательство Anthropic улучшить коммуникацию с администрацией Трампа и впредь оперативнее решать любые вопросы безопасности, сообщил в четверг источник, знакомый с ситуацией. По его словам, диалог между сторонами продвигается хорошо, хотя точные сроки окончательного урегулирования остаются неясными.

По состоянию на четверг ведущую роль в переговорах с чиновниками взяли на себя сооснователь Anthropic и директор по вычислениям Том Браун, а также глава отдела публичной политики Сара Хек, рассказал второй осведомлённый источник.

Представители Anthropic и Министерства торговли пока не ответили на запросы о комментариях.

Хроника падения: от предупреждения конкурента до изъятия моделей

Компания впервые направила нескольких топ-менеджеров в Вашингтон в конце прошлой недели, сразу после того, как администрация наложила экспортный контроль на «Mythos» и «Fable». Репрессивные меры были приняты после того, как генеральный директор Amazon Энди Джесси предупредил администрацию: исследователи нашли доказательства того, что «защитные перила» безопасности алгоритмов можно обойти.

В ответ Anthropic предпочла полностью отозвать модели, заявив, что это единственный способ соблюсти экспортные ограничения.

Спор всплыл в качестве одной из ключевых тем на саммите «Большой семёрки» во Франции. Президент Трамп заявил, что переговоры с Anthropic «идут нормально», но не стал вдаваться в подробности. Глава компании Дарио Амодеи тем временем призвал мировых лидеров «не поддаваться искушению дробить» подходы к регулированию искусственного интеллекта.

«Обе стороны работают быстро, чтобы урегулировать ситуацию, — заявил ранее на этой неделе представитель Anthropic. — Это часть нашей неизменной приверженности сотрудничеству с администрацией ради общей цели — защиты критической инфраструктуры США и американского лидерства в киберобороне».

Особая ирония заключается в том, что репрессивные меры Белого дома против Anthropic были приняты всего через несколько дней после того, как сам Амодеи публично доказывал, что американское правительство должно иметь право принудительно отключать новейшие модели ИИ, если сочтёт их чрезмерно опасными. Теперь его собственная компания оказалась по ту сторону этой логики.

Как сообщило The Post ранее на этой неделе, чиновников Белого дома разозлило, что Anthropic и лично Амодеи преуменьшили значение проблемы безопасности, назвав её «узкой», хотя на протяжении последних нескольких лет сами предупреждали о потенциальной катастрофе, связанной с ИИ.

Высокопоставленный представитель администрации заявил, что, прежде чем принять меры, Белый дом получил предостережения «почти от полудюжины» компаний, не считая Amazon.

«Если бы Anthropic восприняла проблему всерьёз и вместо того, чтобы отмахнуться от неё как от единичного случая, немедленно исправила или приостановила доступ, ничего этого бы не произошло», — резюмировал американский чиновник.

Материал подготовлен на основе публикации в The Post и заявлений участников переговоров.