Meta Muse: «ИИ-агент хаоса» — как утекли чужие тайны

Это ИИ-агент хаоса.

AI-ассистент Meta Muse, который якобы должен был стать эталоном надёжности, вызвал тревогу из-за конфиденциальности: его уличили в раскрытии чувствительной личной и деловой информации пользователей.

Перед релизом Muse в прошлом месяце глава Meta Марк Цукерберг подчёркивал «приватность и безопасность» кибер-секретаря, который выполняет задачи от имени пользователей — от отправки писем до бронирования поездок, сообщает Futurism.

Однако расследование фирмы по безопасности Claroc показало, что якобы герметичная технология таковой не является. Следователи компании, как сообщает Ars Technica, обнаружили сбой, позволивший им получить доступ к страницам по более чем 6 800 ссылкам, созданным Muse, чтобы пользователи могли делиться страницами друг с другом.

Среди них были заявки на кредит с указанием запрошенной суммы, детали банковских транзакций, внутренний отчёт о результатах работы инвестора в недвижимость и корпоративный документ о выручке, предназначенный для CEO.

Был даже годовой график отпусков компании со списком дат оплачиваемого отпуска десятков сотрудников.

Хуже всего то, что эти секреты раскрывались нажатием одной кнопки. «Если бы вы спросили нас заранее, мы бы предположили, что сбор этих данных потребует реальных усилий», — писали исследователи. «Потребовался один запрос».

Чтобы получить доступ к этой интимной информации, следователи, как сообщается, воспользовались функцией Share в Muse, которая позволяет пользователям делиться поисковыми запросами, беседами, изображениями и другим контентом друг с другом.

Доступ к этому контенту осуществляется через сгенерированные ИИ веб-ссылки, которые обычно содержат длинную загадочную строку символов, теоретически затрудняющую взлом.

Однако команда Claroc обнаружила, что URL-адреса Muse очевидны: все они использовали доменное имя cf.metaaiusercontent.com, а также сгенерированное ИИ название беседы вместе с текстовой последовательностью.

«Если бы вы спросили нас заранее, мы бы предположили, что сбор этих данных потребует реальных усилий», — писали исследователи. «Потребовался один запрос».

Среди примеров — home-sale-budget-9f21c8a3.cf.metaaiusercontent.com и loan-application-draft-a4c9e2.cf.metaaiusercontent.com.

«Мы называем это GhostShares: страницы, которые открываются для людей, которым ссылку никогда не передавали, и которые эти люди могут найти сами», — писали в Claroc.

В свете этого упущения Meta отключила функцию. «Мы открыли программу bug bounty Muse, чтобы исследователи могли предлагать различные сценарии и помогать нам продолжать улучшать продукт», — заявили представители компании Post. «У людей есть возможность делиться определёнными артефактами Muse, что создаёт страницу, доступную тем, у кого есть ссылка. Однако мы приостановили эту функцию, пока изучаем этот отчёт и рассматриваем изменения в том, как эти ссылки могут быть обнаружены».

Однако это не первый случай, когда кто-то якобы обнаружил нарушающий приватность сбой в Meta-verse.

На прошлой неделе владельцы очков Meta заявили, что передовые технические очки слушали их даже в спящем режиме.

«Meta AI мне не отвечает, и я никогда намеренно его не активировал», — сетовал один пользователь Reddit. «Я заметил, что белый индикатор уведомлений включается, когда я говорю обычным образом».

Источники: Futurism, Ars Technica, New York Post, Reddit.