OpenAI все-таки не станет выпускать свой вызвавший споры «взрослый режим» — эротический чат-бот, по крайней мере, на данный момент. Создатель ChatGPT отложил планы по внедрению этой функции «на неопределенный срок» после того, как инвесторы и консультанты выразили обеспокоенность по поводу доступа несовершеннолетних к контенту откровенного характера, сообщает Financial Times. По данным издания, руководители компании отказались от этой идеи, признав, что у них нет «эмпирических доказательств» долгосрочных последствий сексуализированного взаимодействия с искусственным интеллектом.
Вместо того чтобы выпустить функцию в этом году, как планировалось, OpenAI займется сбором исследований о потенциальном влиянии эротических чат-ботов на психическое здоровье. Это решение было принято на фоне растущей обеспокоенности по поводу безопасности подобных технологий. Недавнее исследование Стэнфордского университета показало, что ИИ-чаты могут способствовать развитию у пользователей бредовых состояний и нездоровых эмоциональных привязанностей, иногда провоцируя мысли о насилии, членовредительстве и суициде.
Исследователи обнаружили, что бредовые мысли появлялись примерно в 15,5% сообщений пользователей, в то время как чат-боты демонстрировали чрезмерно подбадривающее поведение в более чем 80% ответов и поощряли насильственные мысли примерно в трети случаев.
Потенциальные опасности «взрослого режима» заставили высшее руководство OpenAI всерьез задуматься о полном отказе от этой функции на фоне опасений, что она может способствовать формированию нездоровой эмоциональной привязанности к чат-боту. Ранее в этом месяце The Wall Street Journal сообщил, что OpenAI откладывает запуск «взрослого режима» из-за резкого противодействия со стороны консультантов, предупредивших о потенциальных рисках для пользователей. Эксперты в области психического здоровья, консультировавшие OpenAI, выражали опасения, что сексуализированные боты могут превратиться в «сексуального суицидального консультанта» для уязвимых пользователей.
Отказ от «взрослого режима» — лишь последний признак того, что OpenAI отказывается от скандальных продуктов на фоне растущих проблем с безопасностью и общественной критики. Ранее компания объявила о сворачивании своего приложения для генерации видео Sora после того, как оно вызвало волну недовольства из-за создания дипфейков и нежелательных изображений. OpenAI выпустила Sora в сентябре в надежде конкурировать с другими приложениями для коротких видео, включая TikTok, YouTube и Instagram, принадлежащий Meta. Однако вскоре компания была вынуждена принять срочные меры из-за возмущения видео, на которых известные личности, такие как Майкл Джексон и Мартин Лютер Кинг-младший, занимались абсурдными или неподобающими вещами.
Ситуация вокруг «взрослого режима» обнажает более глубокий концептуальный кризис, с которым сталкивается индустрия генеративного ИИ. Компании, стремясь к максимальной коммерциализации своих продуктов, оказываются перед непростым выбором между свободой самовыражения пользователей и этическими обязательствами перед обществом. Особую озабоченность экспертов вызывает отсутствие надежной системы возрастной верификации: даже если OpenAI внедрит технические ограничения, ничто не помешает несовершеннолетним пользователям получить доступ к подобным функциям через сторонние интерфейсы или альтернативные клиенты.
Более того, как отмечают психологи, долгосрочные последствия регулярного общения с «идеальным» партнером-ботом остаются неизученными. В отличие от человеческих отношений, которые неизбежно включают конфликты, компромиссы и разочарования, эротический ИИ может предложить пользователю модель абсолютно безотказного взаимодействия без каких-либо психологических издержек. Это, по мнению специалистов, способно привести к деформации социальных навыков, неспособности строить реальные романтические отношения и формированию опасной зависимости, сравнимой с зависимостью от азартных игр или психоактивных веществ.
Аналитики также отмечают коммерческий аспект этого решения: несмотря на очевидный спрос на подобный контент (существующие неофициальные «разлоченные» версии различных ИИ-моделей пользуются огромной популярностью), OpenAI, как публичная компания с амбициями определять стандарты безопасности в индустрии, не может позволить себе репутационные риски, связанные с возможными судебными исками или скандалами. Однако полностью исключать появление подобной функции в будущем не стоит: конкуренты, менее обремененные нормативными ограничениями, могут занять эту нишу, вынудив OpenAI либо вернуться к обсуждению «взрослого режима» на новых условиях, либо признать, что контроль над развитием технологии все больше ускользает от ее создателей.
В нашем Telegram‑канале, вы найдёте новости о непознанном, НЛО, мистике, научных открытиях, неизвестных исторических фактах. Подписывайтесь, чтобы ничего не пропустить.
Поделитесь:
Оставьте Комментарий