Мифы под замком: как правительство США решает, кому доверить сверхразумный ИИ

ВАШИНГТОН — Компания Anthropic сообщила в пятницу, что правительство США разрешило ей предоставить доступ к своей мощной модели искусственного интеллекта Claude Mythos 5 ограниченному кругу «доверенных» американских организаций. Это решение частично отменяет приказ двухнедельной давности, приостановивший использование модели из-за рисков для национальной безопасности.

По словам источника, знакомого с новой директивой, теперь доступ к Mythos 5 получат более ста компаний и учреждений, включая многие из списка Fortune 500. Источник пожелал остаться неназванным из-за деликатности вопроса.

Опасения, что передовые ИИ-системы могут быть использованы военной разведкой Китая, России или других недружественных стран, заставили администрацию президента Дональда Трампа занять агрессивную позицию в отношении надзора за выпуском флагманских моделей как Anthropic, так и её конкурента OpenAI. Ранее в тот же день OpenAI объявила, что по просьбе правительства откладывает полноценный публичный запуск GPT-5.6, ограничив доступ к ней небольшой группой проверенных партнеров, данные о которых были переданы властям.

Сама Anthropic 12 июня, сразу после введения правительственного распоряжения об экспортном контроле, экстренно отключила свои самые продвинутые модели — Mythos 5 и Fable 5 — для всех пользователей.

«Сегодня правительство уведомило нас, что Mythos 5, наша сильнейшая модель в сфере кибербезопасности, может быть вновь развернута для ряда организаций США, которые управляют критической инфраструктурой и защищают ее», — говорится в пятничном заявлении Anthropic. «Мы оперативно восстанавливаем доступ для этих организаций и продолжаем работу с правительством над расширением доступа к Mythos 5 и возвращением Fable 5 в общее пользование».

Практика правительственного отбора компаний, допущенных к Mythos, вызвала острую критику. «Никто не знает, как выбирают эти компании и почему все остальные исключены, — заявил Джон Коулман, юрисконсульт базирующейся в Филадельфии внепартийной организации по защите свободы слова Foundation for Individual Rights and Expression. — Это отдает слишком много власти в руки правительства. Прозрачность минимальна, и это вызывает вопросы о верховенстве закона».

Глава OpenAI Сэм Альтман в посте в соцсети X выразил солидарность с этой обеспокоенностью, написав, что всестороннее тестирование безопасности — «неплохая идея. Мне просто не нравится идея, что правительство выбирает клиентов».

Эксперты предупреждают: в чужих руках модели Mythos способны резко ускорить проведение сложных кибератак, особенно в таких секторах, как банковское дело, полагающееся на запутанные, взаимосвязанные и зачастую созданные десятилетия назад технологические системы.

В письме министра торговли США Говарда Латника в адрес Anthropic говорится о «значительном прогрессе», достигнутом компанией в совместной работе с правительством для устранения «рисков, связанных с охваченными моделями». Какие именно меры защиты были приняты, пока неясно. Ранее в этом месяце Anthropic сообщала, что правительство, по-видимому, обнаружило метод обхода, или «взлома», защиты, которая должна была помешать Fable 5 выявлять программные уязвимости.

Латник отметил в письме, что для передачи Mythos 5 доверенным компаниям и их сотрудникам, не являющимся гражданами США, а также сотрудникам Anthropic без американского гражданства, экспортная лицензия больше не понадобится. Однако лицензионные ограничения сохранятся для компаний, не попавших в утвержденный список. Источник добавил, что многие из одобренных компаний входят в проект Glasswing от Anthropic, объединяющий около сотни известных технологических фирм и учреждений.

Кроме того, по словам источника, правительство движется к тому, чтобы вскоре разрешить Anthropic выпустить и модель Fable, хотя сроки пока остаются неопределенными. Fable 5 и Mythos построены на одной базовой ИИ-модели, но Fable 5 предназначена для широкой публики, тогда как с Mythos часть ограничений безопасности снята.

Обе компании, и Anthropic, и OpenAI, планируют выход на биржу. Однако отношения Anthropic с американским правительством складывались особенно непросто: компания отказалась разрешить военным использовать свои модели для внутреннего наблюдения и полностью автономных систем вооружения, в ответ на что правительство внесло ее в «черный список» национальной безопасности.

Нынешние ограничения в отношении Anthropic и OpenAI последовали за подписанием Трампом в этом месяце указа, устанавливающего добровольный механизм, при котором разработчики ИИ предоставляют «охваченные флагманские модели» правительству США на срок до 30 дней до их передачи доверенным партнерам.

«Последний приказ администрации — практический временный шаг, но он оставляет нерешенной более масштабную проблему: как компании смогут широко выпускать обновленные модели, — считает Кейт Корен, аналитик Центра стратегических и международных исследований в Вашингтоне и бывшая сотрудница Министерства торговли. — Чем дольше не будет работающей системы, позволяющей американским компаниям массово выпускать новые модели, тем выше вероятность, что Китай сможет их догнать».

Источники: Anthropic, OpenAI, Министерство торговли США, Foundation for Individual Rights and Expression (FIRE), Центр стратегических и международных исследований (CSIS).