Внутренняя тревога: Исследователь Meta предупреждала о 500 000 случаев сексуальной эксплуатации в день

Согласно обнародованным накануне исторического судебного разбирательства взрывным документам, ведущий исследователь Meta предупредила руководство компании, что на Facebook и Instagram может происходить до 500 000 случаев онлайн-сексуальной эксплуатации ежедневно.

В понедельник в суде штата Нью-Мексико начинаются вступительные речи по иску генерального прокурора Рауля Торреса. В нём социальный гигант Марка Цукерберга обвиняется в том, что он подвергает детей «двойной опасности сексуальной эксплуатации и вреда для психического здоровья» через навязчивые сообщения, схемы «сексторшена» и торговли людьми. По утверждению штата, результатом стал кризис подросткового взаимодействия с соцсетями, ведущий к тревожности, депрессии, членовредительству и растущему числу суицидов.

Накануне процесса юристы штата сослались на внутреннее письмо Малии Андрус, занимавшей в Meta с августа 2017 по октябрь 2024 года должности, связанные с безопасностью детей. В нём она писала, что злоумышленники нацеливаются на «~500 тыс. жертв в день только на англоязычных рынках» с помощью сексуально неприемлемых сообщений. «Мы полагаем, что реальная ситуация хуже», — заявила Андрус в июне 2020 года, согласно судебным материалам.

В другом тревожном сообщении Андрус отметила, что огромная пользовательская база Facebook и Instagram по сути предоставила хищникам инструмент для таргетирования детей в ранее немыслимых масштабах. «Я просто думаю: нигде в истории человечества нельзя было бы тайно поговорить с 1000 людей, — писала она. — Меня действительно пугают последствия здесь».

Иск Нью-Мексико — лишь одно из нескольких судебных сражений, с которыми Meta столкнётся в этом году. Он призван пролить свет на провалы в безопасности, уже привлекшие внимание американских законодателей в Конгрессе. На прошлой неделе в Калифорнии начался показательный процесс, обвиняющий Meta и принадлежащий Google YouTube в формировании зависимости от соцсетей у молодых пользователей; истцами выступают сотни семей жертв и школьные округа. Кроме того, FTC обжаловал проигрыш в крупном антимонопольном деле, где требовался раздел Meta.

Множественные суды, обвиняющие Meta в причинении вреда детям, представляют собой, по выражению Саши Ховарт, исполнительного директора надзорной группы Tech Oversight Project, «разделённый экран кошмаров Марка Цукерберга». «Это суды поколения; подобно тому, как мир наблюдал, как суды привлекают к ответственности Big Tobacco и Big Pharma, мы впервые увидим, как такие CEO Big Tech, как Цук, предстанут перед судом, — сказала Ховарт. — Мир наблюдает, расплата Meta наступила, и последствия только начинаются».

Дело Нью-Мексико привлекло пристальное внимание отчасти из-за шокирующих подробностей, всплывших в ходе расследования практик Meta. По утверждению иска, тестовые аккаунты, созданные следователями штата, подвергались массированной атаке контентом сексуального характера для взрослых и предложениями от предполагаемых охотников на детей, включая «изображения и видео гениталий» и предложение шестизначной оплаты за съёмки в порновидео.

В других электронных письмах, подробно изложенных в предсудебных документах, Андрус, как утверждается, раскритиковала инструменты проверки возраста, призванные не допустить несовершеннолетних пользователей в Instagram, предупредив, что их легко обмануть. «Наши следователи сообщают, что почти каждый раз, когда они сталкиваются с лжецом о возрасте в IG (в контексте безопасности детей), прогноз возраста неверен (совпадает с возрастом, который они ложно утверждают)», — писала Андрус согласно судебным документам.

Представитель Meta заявил, что внутренние обсуждения, процитированные в документах, происходили в рамках активных усилий компании по защите детей. «В то время как Нью-Мексико выдвигает сенсационные, нерелевантные и отвлекающие аргументы, мы сосредоточены на демонстрации нашей давней приверженности поддержке молодых людей, — говорится в заявлении представителя. — Более десяти лет мы прислушиваемся к родителям, работаем с экспертами и правоохранительными органами, а также проводим углубленные исследования, чтобы понять наиболее важные проблемы».

Андрус, покинувшая Meta в 2024 году и ныне работающая в сфере онлайн-безопасности в OpenAI, не ответила на запрос о комментарии.

Штат настаивал, что Андрус обладает глубокими знаниями о том, как Meta решает проблему онлайн-сексуальных злоупотреблений, поскольку она активно участвовала во внутренних исследованиях, в том числе была членом «Целевой группы по борьбе с грумерами», изучавшей взрослых хищников, домогающихся несовершеннолетних. «Г-жа Андрус также комментировала недостаточные инвестиции Meta в безопасность детей, вводящий характер некоторых её публично отчитываемых метрик безопасности детей и (нераскрытую) незрелость мер безопасности для детей в Instagram», — говорилось в документе штата.

Накануне суда адвокаты Meta пытались заблокировать упоминание ряда敏感ных тем, включая ИИ-чат-ботов компании, исследовательские опросы, детально описывающие вредное влияние её продуктов на психическое здоровье, и подробности громкой тайной операции следователей Нью-Мексико, выявившей случаи онлайн-сексуальных злоупотреблений. Судья Бидшайд в итоге отклонил эти запросы в ходе предварительных слушаний.

В других внутренних документах, как ранее сообщало Reuters, было показано, что Цукерберг одобрил разрешение несовершеннолетним использовать ИИ-компаньонов Meta даже после предупреждений сотрудников по безопасности, что те могут использоваться для романтических или сексуализированных бесед.

Торрес активно критиковал Цукерберга перед процессом. Как сообщала The Post в декабре, он назвал внедрение Instagram системы рейтинга PG-13 для защиты детей от неприемлемого контента «опасным рекламным трюком, который усыпляет бдительность родителей, создавая ложное чувство безопасности».

Meta парировала, обвинив Торреса в утверждениях, «переполненных фактическими ошибками и искажениями» и игнорирующих прогресс компании в усилении защитных мер для детей.