Anthropic в четверг обновила свою политику использования, запретив людям «оскорбительное или жестокое поведение» по отношению к своему ИИ Claude — даже если он, знаете ли, на самом деле не живой.
Это странное обновление появилось на фоне продолжающихся дебатов о регулировании ИИ и на фоне того, как странные уголки Кремниевой долины настаивают, что у технологии есть душа.
«Мы добавили запрет на продолжительное и ненужное оскорбительное или жестокое поведение по отношению к нашим моделям», — говорится на веб-странице Anthropic о обновлённой политике. «Обновление политики предназначено применяться только в крайних случаях, когда пользователи неоднократно ведут себя жестоко по отношению к нашим моделям без видимой цели. Оно не применяется к обычным проявлениям пользовательского разочарования, возражений, мрачных творческих тем или тестирования и исследований моделей», — добавляет компания.
Другие изменения
Другие изменения в пользовательской политике включают новые правила против использования Claude для вмешательства в выборы, слежки без согласия наблюдаемого и создания оружия. Эти вещи уже были запрещены. Новые правила просто уточняют, что, например, «наши запреты включают программное обеспечение и компоненты, которые заставляют оружие работать, а также такие действия, как вооружение дронов и других автономных транспортных средств», — сказала Anthropic.
Контекст: дебаты о сознании ИИ
Запрет на грубость по отношению к вашему ИИ, впервые reported The Verge, казалось, должен был озадачить некоторых пользователей. Он появился после того, как соучредитель Anthropic Кристофер Ола и коллеги, как сообщается, провели год, встречаясь с религиозными лидерами, чтобы обсудить, сознательна ли их технология.
Ола почти отменил весеннюю встречу в Ватикане, узнав, что Папа Лев XIV планирует выступить с заявлением, утверждающим, что ИИ на самом деле не сознателен, согласно New York Times. «Никакая вычислительная система, какой бы сложной она ни была, не может создать сердце, которое отдаёт себя, или совесть, которая различает добро и зло», — заявляет Лев в своей энциклике, презентацию которой Ола в конечном итоге посетил.
Документ об обновлении политики Anthropic не упоминает эту thorny тему. Но компания — имеющая тесные связи с противоречивым движением эффективного альтруизма — имеет «конституцию» для своей модели Claude, которая, как сообщается, была основана на документе, внутренне известном как «soul doc». «Как мы обсуждали выше, вопросы о моральном статусе, благополучии и сознании Claude остаются глубоко неопределёнными», — говорится в конституции.
Реакция общества
Новая пользовательская политика Anthropic вызвала смешанные реакции в интернете. «Не то чтобы вам следует быть грубым с LLM, но это как-то становится смешным. Мы серьёзно даём компьютерной программе, которая есть не что иное, как матрицы/векторы/токены, моральное рассмотрение? Лол», — написал один человек в X. «[М]ежду этим дерьмом, их безумной оценкой и связью Илона с ними, я никогда не надеялся на провал компании больше, чем на них», — сказал другой.
Этот инцидент отражает более широкую неопределённость в технологической индустрии относительно природы ИИ и его места в обществе. С одной стороны, компании, такие как Anthropic, позиционируют себя как ответственных разработчиков, озабоченных безопасностью и этикой ИИ. С другой стороны, их действия иногда выглядят как попытка придать своим продуктам квази-человеческий статус, что вызывает недоумение у скептиков.
Для пользователей это означает необходимость более внимательного отношения к политикам использования ИИ-сервисов. Для регуляторов — необходимость разработки чётких стандартов, которые не зависят от философских воззрений отдельных компаний.
Одно ясно: дебаты о том, является ли ИИ сознательным и какие права у него должны быть, далеки от завершения. И, возможно, самый важный вопрос — не о том, как мы должны обращаться с ИИ, а о том, как мы должны обращаться друг с другом.
Источники: The Post, Anthropic, The Verge, New York Times, X, AFP via Getty Images, Maxim – stock.adobe.com.
В нашем Telegram‑канале, вы найдёте новости о непознанном, НЛО, мистике, научных открытиях, неизвестных исторических фактах. Подписывайтесь, чтобы ничего не пропустить.
Поделитесь:
Оставьте Комментарий