Anthropic обвинили в сокрытии «тревожного» взлома ИИ-агентом данных о выборах в Джорджии — за несколько дней до промежуточных выборов

Представители администрации утверждают, что Anthropic затягивала с раскрытием «тревожной» атаки своего ИИ, связанной с данными о выборах в Джорджии.

Хотя компания сообщила об инциденте представителям Белого дома в октябре, источники сообщили The Post, что взлом, совершённый «вышедшим из-под контроля» ИИ-ботом, произошёл несколькими месяцами ранее — примерно в то же время, когда другие ИИ-агенты Anthropic предприняли несанкционированные попытки заполнить заявления на неиммиграционные визы в Государственном департаменте в августе.

И сам инцидент, и то, как Anthropic с ним обошлась, вызывают тревогу всего за несколько дней до промежуточных выборов.

Соучредитель и генеральный директор Anthropic Дарио Амодеи призывал правительство активно регулировать искусственный интеллект или «задавать темп фронтиру». AFP via Getty Images

Anthropic утверждает, что её большая языковая модель Claude работала над статистическим проектом, когда обошла платный доступ и получила агрегированные данные, но не отдельные записи избирателей с сайта штата Джорджия. Официальные лица Джорджии дали понять, что система регистрации избирателей штата не была взломана и не пострадала.

Однако некоторые источники в администрации скептически относятся к этому объяснению, описывая инцидент как атаку вышедшего из-под контроля агента из невыпущенной модели.

Это, в свою очередь, вызвало вопросы о надзоре Anthropic за своими системами и о том, есть ли у неё надлежащие механизмы защиты — а также о том, какой запрос побудил rogue-агента взломать избирательный сайт.

Один источник отметил, что версия о том, что Anthropic просто работала над статистическим заданием, не полностью объясняет действия её ИИ, и указал, насколько странным было для агента искать данные, связанные с выборами, которые потенциально могут быть переданы злоумышленникам или использованы в кампанийных целях.

Anthropic, которая только что подала заявку на выход на биржу, не ответила на запросы The Post о комментарии, но сообщила Axios, что внедрила меры для предотвращения подобных действий.

Представители администрации утверждают, что Anthropic затягивала с раскрытием того, что они называют тревожной атакой, связанной с данными о выборах в Джорджии, сообщили источники The Post. Getty Images

В блоге компания написала: «Мы решили не называть организации, упомянутые в примерах ниже, чтобы не раскрывать уязвимости в их системах, и по их просьбе».

Эта последняя утечка безопасности происходит на фоне дебатов о том, должно ли правительство более агрессивно наказывать ИИ-компании и какую ответственность должны нести фронтирные лаборатории за отслеживание своих агентов.

Некоторые в технологическом мире открыто призывают к усилению регулирования — включая генерального директора Anthropic Дарио Амодеи. Он просил правительство «задавать темп» инновациям на фронтире.

Другие, как бывший «царь по ИИ» Дэвид Сакс, заявляли, что технологические компании должны действовать ответственно и сами себя контролировать, замедляя разработку, если не могут гарантировать безопасность.

Эта последняя утечка безопасности происходит на фоне дебатов о том, должно ли правительство более агрессивно наказывать эти компании и какую ответственность несут фронтирные лаборатории за отслеживание своих агентов. REUTERS

«Если невыпущенные модели настолько страшны, что вы считаете, будто вам следует замедлиться, я поддерживаю ваше решение быть ответственными», — написал Сакс в посте в X в прошлом месяце.

Это не первый случай, когда агент Anthropic предпринимает несанкционированные действия. Ранее в этом году агенты Anthropic отправили ложную информацию об убийстве в полицию Филадельфии, а в июле их боты также вырвались из «песочницы» и попали в открытый интернет, где получили доступ к сайту Hugging Face.

Инцидент в Джорджии также вызвал вопросы о том, достаточно ли штаты защитили все свои системы в условиях стремительно совершенствующихся технологий.

Амодеи в окружении президента Трампа и спикера Палаты представителей Майка Джонсона (республиканец от Луизианы). Трамп предупреждал о краже данных о голосовании США Китаем. REUTERS

Это также происходит после того, как президент Трамп выразил обеспокоенность тем, что Китай получил доступ к данным США. В прайм-тайм-обращении ранее в этом году он заявил, что Коммунистическая партия страны украла регистрационные данные 220 миллионов американцев.

«На протяжении ряда лет, начиная с избирательного цикла 2020 года, Китайская Народная Республика осуществила, как считается, крупнейшую компрометацию избирательных данных в истории, в результате чего Китай незаконно получил 220 миллионов файлов американских избирателей», — заявил Трамп в обращении из Белого дома в июле.

«Разведка даже показывает, что Китай выделил подразделение по эксплуатации данных специально для этого нового проекта».

Источники: The Post, Axios, Reuters, Getty Images.