Осторожно, болтовня с ИИ: федеральный судья США постановил раскрыть переписку с чат-ботом в деле о мошенничестве

15 апреля. По мере того как люди все чаще обращаются к искусственному интеллекту за советами, некоторые американские юристы предостерегают своих клиентов: не стоит относиться к AI-чатам как к доверенным собеседникам, когда на кону стоят свобода или юридическая ответственность.

Эти предупреждения стали более актуальными после того, как федеральный судья в Нью-Йорке в этом году постановил, что бывший генеральный директор обанкротившейся финансовой компании не может скрывать свои диалоги с ИИ от прокуроров, предъявивших ему обвинения в мошенничестве с ценными бумагами.

Вслед за этим решением адвокаты предупреждают, что беседы с такими чат-ботами, как Claude от Anthropic и ChatGPT от OpenAI, могут быть истребованы прокуратурой в уголовных делах или противной стороной в гражданских процессах.

«Мы говорим нашим клиентам: здесь нужно действовать с осторожностью», — заявила Александрия Гутьеррес Суэтте, юрист нью-йоркской юридической фирмы Kobre & Kim.

Обсуждения людей со своими адвокатами почти всегда считаются конфиденциальными согласно законодательству США. Но AI-чаты — не юристы, и адвокаты инструктируют клиентов предпринять шаги, которые могли бы сохранить их общение с AI-инструментами в большей приватности.

В электронных письмах клиентам и консультациях, размещенных на их веб-сайтах, более дюжины крупных американских юридических фирм изложили рекомендации для частных лиц и компаний, как снизить вероятность того, что чаты с ИИ попадут в суд.

Аналогичные предупреждения также появляются в договорах на оказание услуг, которые некоторые фирмы заключают со своими клиентами. Например, нью-йоркская фирма Sher Tremonte указала в недавнем контракте, что передача юридической консультации адвоката чат-боту может лишить защиты, известной как привилегия «адвокат-клиент», которая обычно распространяется на коммуникацию между юристами и их клиентами.

Судебное решение

Дело, которое послужило «тревожным звонком», связано с Брэдли Хеппнером, бывшим председателем обанкротившейся финансовой компании GWG Holdings и основателем фирмы по управлению альтернативными активами Beneficent. В ноябре прошлого года федеральные прокуроры предъявили Хеппнеру обвинения в мошенничестве с ценными бумагами и использовании электронных средств связи; он pleaded not guilty (не признал себя виновным).

Хеппнер использовал чат-бота Claude от Anthropic для подготовки отчетов по своему делу, которые затем передавал своим адвокатам. Позже его защита утверждала, что эти диалоги с ИИ не подлежат разглашению, поскольку содержали детали, полученные от юристов в рамках защиты.

Прокуроры возразили, что имеют право требовать материалы, созданные Хеппнером с помощью Claude, потому что его адвокаты не участвовали напрямую в создании этих текстов, а привилегия «адвокат-клиент» не распространяется на чат-ботов.

Добровольное раскрытие информации, полученной от адвоката, любой третьей стороне может поставить под угрозу традиционную правовую защиту этих адвокатских коммуникаций.

Окружной судья США в Манхэттене Джед Ракофф в феврале постановил, что Хеппнер должен передать 31 документ, сгенерированный чат-ботом Claude по этому делу.

«Не существует отношений "адвокат-клиент" — и не может существовать — между пользователем ИИ и такой платформой, как Claude», — написал Ракофф.

Адвокаты Хеппнера не ответили на запрос о комментариях. Представитель прокуратуры США в Манхэттене отказался от комментариев.

Суды уже пытаются справиться с растущим использованием искусственного интеллекта как юристами, так и людьми, представляющими себя в суде самостоятельно, что, среди прочего, привело к появлению судебных документов, содержащих вымышленные дела, придуманные ИИ.

Решение Ракоффа стало важной ранней проверкой в эпоху AI-чатов для основополагающих правовых гарантий, регулирующих коммуникации между адвокатами и клиентами, а также материалы, подготовленные для судебных разбирательств.

В тот же день, когда было вынесено решение Ракоффа, федеральный магистратский судья Энтони Патти в Мичигане постановил, что женщина, представляющая себя в суде по иску к бывшей компании, не обязана передавать свои чаты с ChatGPT от OpenAI касательно трудовых претензий по этому делу.

Патти расценил переписку женщины с ИИ как часть ее личного «рабочего продукта» (work product) по делу, а не как разговоры с реальным лицом, которое ее работодатель мог бы использовать в свою защиту.

ChatGPT и другие генеративные AI-программы — это «инструменты, а не личности», — написал Патти в своем решении.

Условия конфиденциальности и использования как OpenAI, так и Anthropic гласят, что компании могут передавать данные о своих пользователях третьим лицам. Также обе компании заявляют, что перед тем как полагаться на их чат-ботов для получения юридических советов, пользователи должны проконсультироваться с квалифицированным специалистом.

Ракофф на февральских слушаниях по делу Хеппнера отметил, что Claude «явно предусматривает, что у пользователей нет ожиданий конфиденциальности в отношении их входных данных».

Представители OpenAI и Anthropic не ответили на запросы о комментариях.

Юристы спешат установить ограничения

Советы юристов варьируются от рекомендаций тщательно выбирать AI-платформу до предложений использовать конкретные формулировки в запросах (промптах) к чат-боту.

Лос-анджелесская фирма O'Melveny & Myers и другие компании в своих уведомлениях для клиентов указали, что «закрытые» AI-системы, предназначенные для корпоративного использования, могут обеспечить лучшую защиту для юридических коммуникаций, хотя, по их же словам, это остается в значительной степени непроверенным.

Некоторые фирмы заявили, что AI-юридические исследования с большей вероятностью будут защищены привилегией «адвокат-клиент», если они проводятся по указанию адвоката. Если юрист действительно рекомендует использовать ИИ, человек должен указать это в самом промпте, говорится в уведомлении на сайте нью-йоркской юридической фирмы Debevoise & Plimpton.

«Я провожу это исследование по указанию адвоката по делу X», — предлагают клиентам писать в фирме.

Информация об использовании ИИ также становится обычной в контрактах юридических фирм с клиентами, согласно обзору Reuters договоров, размещенных на правительственном веб-сайте США.

Sher Tremonte, которая часто представляет обвиняемых по делам о белых воротничках, указала в новом контракте в марте: «Раскрытие привилегированных коммуникаций третьей стороне (AI-платформе) может считаться отказом от привилегии "адвокат-клиент"».

Джастин Эллис из нью-йоркской фирмы MoloLamken и другие юристы заявляют, что ожидают появления дополнительных решений, которые в конечном итоге прояснят, когда чаты с ИИ могут использоваться в качестве доказательств.

А до тех пор адвокаты напоминают: действует старое как мир правило — не обсуждайте свое дело ни с кем, кроме своего адвоката. Включая искусственный интеллект.

Это решение судьи Ракоффа создало опасный прецедент для миллионов людей, которые ежедневно советуются с чат-ботами по личным, финансовым и даже медицинским вопросам. Если раньше многие воспринимали диалог с нейросетью как аналог «разговора с самим собой» или дневника, то теперь ясно: юридически это равносильно беседе с незнакомцем в переполненном лифте.

Эксперты по кибербезопасности добавляют, что проблема гораздо глубже. Даже если пользователь не раскрывает имен и конкретных обстоятельств, AI-компании собирают и анализируют метаданные. В сочетании с другими цифровыми следами этого может быть достаточно, чтобы восстановить полную картину дела. Особенно уязвимы руководители компаний, которые используют ChatGPT для «черновиков» внутренних расследований или анализа договоров.

«Мы живем в эпоху, когда технологии опережают право на десятилетия, — комментирует ситуацию профессор юридической этики Стэнфордского университета. — Судьям сейчас приходится решать, является ли ИИ третьей стороной или продолжением сознания пользователя. Пока ответ один: любая информация, покинувшая ваш мозг и попавшая в облачный сервис, потенциально публична».

На этом фоне в США уже появились первые стартапы, предлагающие «юридически безопасные» AI-модели, которые работают локально на компьютере пользователя и не передают данные вовне. Однако их стоимость пока недоступна рядовым гражданам.

Пока же главный совет адвокатов остается неизменным и парадоксальным: используйте ИИ для творчества, кодинга и кулинарных рецептов, но как только речь заходит о судах, штрафах и тюрьмах — немедленно закрывайте чат и звоните живому юристу. Потому что, как показало дело Хеппнера, нейросеть не только не сохранит вашу тайну, но и может стать главным свидетелем обвинения.