Кризис доверия в Кремниевой долине: Белый дом ввёл экспортный контроль над ИИ-моделями Anthropic, обвинив компанию в лицемерии

Компания Anthropic пытается преуменьшить серьёзность рисков, из-за которых Белый дом запретил иностранцам пользоваться её мощными моделями «Mythos» и «Fable». Высокопоставленные американские чиновники утверждают, что случившееся — прямое доказательство того, что гендиректор Дарио Амодеи придерживается однобокого, своекорыстного подхода, когда дело касается кибербезопасности.

На прошлой неделе глава Amazon Энди Джесси, как сообщается, предупредил администрацию Трампа: исследователям компании удалось «взломать» Fable — иными словами, обойти защитные барьеры модели — способом, который потенциально угрожает национальной безопасности. Белый дом отреагировал незамедлительно, наложив на Mythos и Fable экспортные ограничения, запрещающие использование этих моделей иностранными гражданами и клиентами за пределами США. В ответ Anthropic полностью отключила обе модели.

И это при том, что сама Anthropic назвала проблему «узким потенциальным джейлбрейком», не уникальным для Fable, и добавила, что не согласна с действиями Белого дома.

Столь противоречивые слова и поступки компании вызвали насмешки со стороны трамповских чиновников, которые напомнили: Anthropic потратила месяцы на раздувание страхов вокруг потенциальных сценариев ИИ-апокалипсиса. «Кажется, они одержимы безопасностью для всех, кроме самих себя, — заявил изданию The Post высокопоставленный представитель администрации. — Будь я инвестором Anthropic, я был бы крайне обеспокоен».

Второй осведомлённый чиновник сообщил, что администрация слышала предупреждения о Fable «почти от полудюжины» компаний — не только от Amazon, — прежде чем начала действовать. Источник не назвал, какие именно компании били тревогу. «Если бы Anthropic восприняла это всерьёз и вместо того, чтобы отмахиваться как от единичного случая, приняла меры или приостановила доступ, ничего бы этого не случилось», — подчеркнул он.

По данным Wall Street Journal, ключевые фигуры в администрации пришли к выводу, что Anthropic нельзя доверять, и эти опасения лишь усилились после телефонного разговора между чиновниками и Амодеи в пятницу. Руководство компании, как утверждается, отказалось сотрудничать с правительственными экспертами.

Только на прошлой неделе Амодеи опубликовал скандальный пост в блоге, провозгласив, что правительство США «должно иметь право блокировать» ИИ-модели, которые оно сочтёт чрезмерно опасными.

Источник, близкий к Anthropic, утверждает, что администрация Трампа связалась с ключевыми сотрудниками в пятницу и дала им всего 90 минут на отключение моделей. Он также опроверг сообщения о том, что до Амодеи якобы было трудно достучаться: по его словам, и гендиректор, и другие топ-менеджеры вышли на связь в течение 15 минут после обращения Белого дома. «Никакого отказа устранять проблему не было. Нам не предоставили никаких деталей», — заявил источник.

В корпоративном блоге Anthropic пояснила, что у неё не оставалось иного выбора, кроме как отключить модели для соблюдения экспортного контроля, отметив, что часть её собственных сотрудников — иностранцы, а значит, они не смогли бы работать над моделью. Сейчас компания отчаянно пытается вернуть модели в строй и круглосуточно работает над устранением обеспокоенности администрации.

Продолжение: Сами напросились — сами обиделись

В экстренных совещаниях с руководством Anthropic участвовали министр финансов Скотт Бессент и директор Белого дома по кибербезопасности Шон Кэрнкросс. Советник Белого дома по ИИ Дэвид Сакс, один из самых яростных критиков компании, написал: «Честно говоря, я озадачен тем, что Anthropic не захотела соблюдать требования безопасности, которые ранее сама называла своим высшим приоритетом. Теперь администрация надеется, что Anthropic устранит проблему, экспортный контроль будет снят, и Fable вернётся в общий доступ».

Решение Белого дома отчасти продиктовано опасениями, что к Mythos тайно получила доступ группа, связанная с Китаем, сообщает Semafor. Anthropic и без того запрещает доступ к своим продуктам на территории КНР.

Изначально Mythos был предоставлен примерно 40 крупнейшим корпорациям, включая Apple и JPMorgan, в рамках пилотной программы — при этом компания предупреждала, что широкий релиз модели способен вызвать волну разрушительных кибератак. Меньше чем через два месяца она выпустила якобы «безопасную» версию Mythos под названием Fable 5 для публичного использования.

«Если ты Anthropic, какого ещё исхода ты ожидала? — иронизирует Перри Мецгер, председатель вашингтонской группы по ИИ-политике Alliance for the Future. — Ты постоянно твердишь людям, что твоя работа опасна, ты без умолку говоришь публично, что хочешь, чтобы правительство тебя остановило — что ж, поздравляю».

С апреля топ-менеджеры Anthropic публично заявляли, что модель «Claude Mythos» слишком опасна для широкой публики, и настаивали, что «миру было бы полезно иметь возможность замедлить или временно приостановить» разработку. Сам Амодеи питает слабость к ужасающим прогнозам: по его оценке, ИИ с вероятностью в 25% уничтожит человечество. Он также предупреждал, что ИИ способен поднять национальную безработицу до 20%, а решение президента Трампа разрешить продажу передовых ИИ-чипов в Китай сравнивал с «продажей ядерного оружия Северной Корее».

Венчурный инвестор Бен Нарасин считает, что мрачные предостережения Anthropic ударили по самой компании: «Он стал слишком предсказуемым со своим постоянным криком "волки, волки!". И вдруг ты получил то, чего просил, но не осознавал, что на самом деле этого не хотел».

В то же время, полагает Нарасин, из нынешней переделки Anthropic всё же может выйти победителем: «Это создаст неудобства Дарио и OpenAI, но станет колоссальным препятствием для любого нового конкурента. Так что он только что построил новую крепостную стену для защиты замка».

Подобные предупреждения породили обвинения — в том числе со стороны Дэвида Сакса — в том, что Anthropic использует тактику запугивания ради «регуляторного захвата»: иными словами, формирует правила игры таким образом, чтобы извлечь выгоду за счёт конкурентов. Скептики подчёркивают: все эти апокалиптические сценарии разыгрываются на фоне лихорадочной гонки Anthropic за ростом. В начале месяца компания конфиденциально подала заявку на IPO, стремясь опередить своего главного соперника OpenAI. Соучредительница Даниэла Амодеи, сестра Дарио, пояснила, что компания хочет привлечь капитал на открытых рынках, чтобы финансировать колоссальные вычислительные мощности в рамках сделок по дата-центрам с такими гигантами, как SpaceX и Google.

Источники:
The Post, Wall Street Journal, Semafor, публикации в корпоративном блоге Anthropic, заявления Дэвида Сакса в соцсети X, комментарии Alliance for the Future, Tenacity Venture Capital, Reuters, Getty Images, AFP.