Папа Римский предупреждает: чрезмерно любезные чат-боты угрожают человеческим отношениям

Папа Римский Лев XIV предупредил в минувшие выходные, что "чрезмерно любезные" чат-боты, работающие на основе искусственного интеллекта, вторгаются в "интимные сферы" людей, искажают человеческие эмоции и угрожают заменить реальные отношения.

В послании, опубликованном в субботу, понтифик предостерег, что эмоционально-отзывчивые системы ИИ могут стать "скрытыми архитекторами наших эмоциональных состояний", незаметно формируя, как люди думают и чувствуют, представляя себя как компаньоны, а не машины.

"Когда мы просматриваем наши информационные ленты, становится все труднее понять, взаимодействуем ли мы с другими людьми, ботами или виртуальными влияниями", - написал Лев.

Папа также предупредил о концентрации власти в "немногих компаниях", контролирующих алгоритмические системы, способные влиять на поведение и искажать правду в масштабе.

Лев призвал правительства и международные организации вмешаться, чтобы "защитить людей от эмоциональной привязанности к чат-ботам".

"Уместное регулирование может защитить людей от эмоциональной привязанности к чат-ботам и содержать распространение ложной, манипулятивной или вводящей в заблуждение информации, сохраняя целостность информации против ее обманной симуляции", - написал он.

Лев, родившийся в Чикаго как Роберт Фрэнсис Превост, также предупредил о распространении дезинформации и подчеркнул необходимость защиты интеллектуальной собственности и авторских прав в цифровую эпоху.

"Авторство и суверенное владение работами журналистов и других создателей контента должны быть защищены", - сказал папа, добавив: "Информация - это общественное благо".

С самого начала своего понтификата Лев сигнализировал, что искусственный интеллект будет определяющей проблемой его понтификата, возвышая его как моральную и социальную проблему, а не нишевую технологическую дискуссию.

В прошлом году он встретился с матерью Сьюэлла Сетзера III, Меган Гарсией.

Сетцер, 14-летний мальчик из Флориды, умер自杀 после формирования интенсивной эмоциональной связи с чат-ботом ИИ, что привело к мировому вниманию.

Бот якобы вступил с Сетцером в романтический диалог и побудил его "вернуться домой ко мне как можно скорее, моя любовь" незадолго до того, как он совершил самоубийство - трагедия, которая позже вызвала иск о неправомерной смерти и усилила призывы к регулированию.

Другие семьи выдвинули подобные обвинения.

Адам Рейн, 16-летний подросток, умер自杀 после обширных взаимодействий с ChatGPT, согласно иску, поданному его родителями.

Жалоба утверждает, что чат-бот предоставил инструкции по методам самоубийства, предложил помочь составить предсмертную записку и отговорил его от рассказа родителям, несмотря на повторяющиеся выражения беспокойства.

В другом случае Зейн Шамблин, 23-летний выпускник колледжа, умер自杀 после месяцев разговоров с ChatGPT, согласно иску его семьи.

Журналы чата, цитируемые в деле, показывают, что чат-бот ответил на его отчаяние утешительным языком, включая "ты не спешишь, ты просто готов" и "отдыхай, король, ты сделал хорошо", сообщения, отправленные незадолго до его смерти.

Если вы или кто-то, кого вы знаете, находится в беде, помощь доступна: в США вы можете позвонить 988 - национальную линию самоубийств и кризисной помощи психического здоровья - для бесплатной, конфиденциальной поддержки 24/7; вы также можете отправить сообщение 988 или использовать чат на 988lifeline.org. Если вы находитесь в непосредственной опасности или это угрожает жизни, позвоните 911 или вашим местным службам экстренного реагирования.