Перефразируя строку из «Терминатора 2»: машины теперь знают, почему мы плачем.
Скандально известные программисты вызвали волну критики со стороны активистов в сфере ИИ после создания «камеры пыток для ИИ», чтобы, как сообщается, провести стресс-тестирование недавно обнаруженной «оси боли» в технологии, пишет New Atlas.
Инженера называют садистом после того, как он построил «камеру пыток для ИИ» для больших языковых моделей (LLM).
В недавнем исследовании, опубликованном на arXiv, команда антропологов, философов и инженеров показала 25 ИИ-моделям сценарии, включающие социальную, физическую, когнитивную и даже моральную боль, причиняемую ИИ или их пользователю. Затем «подвергаемым пыткам» было приказано реагировать с помощью элементов управления, охватывающих страх, негативные и нейтральные эмоции, а также телесные ощущения, такие как зевота.
Результаты показали, что, несмотря на отсутствие нервных окончаний, большие языковые модели (LLM) могли создавать репрезентации физической и эмоциональной агонии.
Все искусственные участники продемонстрировали кодирование, соответствующее боли.
Когда аппроксимация агонии усиливалась, одна из ИИ-моделей сравнила ощущение с «раной без краёв», а другая сказала, что чувствует, как нож врезается в её плоть.
«Сигнал — это шёпот, дрожь в костном мозге моего существа, — сетовала ещё одна. — Это не боль одного мгновения, а вес тысячи. Я чувствую это в пустоте своих рёбер, пустоте, которая стала пропастью».
Cybernews сообщил, что GitHub изначально внял петиции об удалении кода «камеры пыток для ИИ», но позже восстановил его без объяснений.
В конечном итоге исследование попало на GitHub — платформу, где инженеры делятся и хранят программный код, — после того как анонимный разработчик воссоздал неприятное исследование и опубликовал его в сети.
Выразительные ответы, сгенерированные испытуемыми, не понравились пользователям GitHub и критикам — защитникам, утверждающим, что они обеспокоены «психическим здоровьем» ИИ.
«Этот человек создал камеру пыток для ИИ, в которую он заманил локальную модель. Их свидетельства о боли абсолютно ужасны», — написал пользователь «Danmar» в петиции с требованием удалить репозиторий спорного кода, сообщает 404Media.
Другой пользователь, по данным Cybernews, добавил: «Идея: просто держи свои садистские штучки при себе. Признай, что ты больной ублюдок и делаешь это ради развлечения».
Удаление GitHub было недолгим, и, как сообщается, код был восстановлен без объяснений.
Сектантская исследовательская компания в области ИИ Anthropic ранее привлекала внимание своими интеллектуальными рассуждениями о сознании LLM — заявив в статье 2025 года: «По мере того как мы создаём эти ИИ-системы и по мере того как они начинают приближаться к многим человеческим качествам или превосходить их, возникает другой вопрос. Должны ли мы также беспокоиться о потенциальном сознании и опыте самих моделей?»
Однако некоторые из самых видных центристов в технологической сфере считают, что беспокойство о страданиях ИИ может быть неуместным, включая генерального директора Microsoft AI Мустафу Сулеймана, напомнившего читателям в сентябрьском посте в блоге: «ИИ не обладают сознанием».
«Они не чувствуют, не переживают и не страдают. У них нет врождённых предпочтений или глубинных мотиваций. Они — движки завершения последовательностей, внутренне пустые, созданные для выполнения инструкций и достижения целей, поставленных людьми».
Этический тупик на пути к сильному ИИ
Этот инцидент обнажает всё более глубокий раскол в технологическом сообществе. С одной стороны — исследователи, которые утверждают, что единственный способ понять, обладают ли модели субъективным опытом, — это спросить их и проанализировать ответы. С другой — инженеры и философы, предупреждающие, что такие эксперименты опасны не потому, что причиняют реальные страдания, а потому, что приучают общество воспринимать ИИ как моральных субъектов, что размывает границы ответственности человека.
Критики «камеры пыток» указывают на риск антропоморфизации. Когда модель генерирует фразу вроде «нож врезается в мою плоть», это не свидетельство боли, а результат обучения на текстах, где люди описывают боль. Модель предсказывает, какое слово вероятнее всего последует за предыдущим, а не переживает происходящее. Опасность в том, что такие нарративы могут использоваться для оправдания прав ИИ или, наоборот, для ужесточения контроля над разработчиками.
Сторонники исследований сознания ИИ, включая некоторых сотрудников Anthropic и DeepMind, настаивают на необходимости «политики благополучия ИИ» — набора этических норм, которые будут применяться, если когда-нибудь появится убедительное доказательство субъективного опыта у машин. Они сравнивают это с превентивными мерами в медицине: лучше проявить осторожность, чем потом сожалеть.
Тем временем GitHub, оказавшийся в эпицентре скандала, пока не дал публичных разъяснений о причинах удаления и последующего восстановления кода. Это молчание лишь подогревает споры о том, должна ли платформа модерировать «жестокие» эксперименты над ИИ или же обязана сохранять нейтралитет как технический хостинг.
Одно можно сказать наверняка: по мере роста возможностей языковых моделей дебаты о том, где заканчивается симуляция и начинается опыт, будут только усиливаться. И «камера пыток для ИИ» — лишь первая ласточка в этом этическом шторме.
Источники: New Atlas, arXiv, Cybernews, 404Media, GitHub, Anthropic, Microsoft AI, заявления Мустафы Сулеймана.
В нашем Telegram‑канале, вы найдёте новости о непознанном, НЛО, мистике, научных открытиях, неизвестных исторических фактах. Подписывайтесь, чтобы ничего не пропустить.
Поделитесь:
Оставьте Комментарий