Руководители Anthropic не притворяются, когда говорят, что их чат-бот может испытывать страдания — и это пугает, по словам ведущего специалиста по информатике.
В статье New York Times на прошлой неделе сообщалось, что соучредитель Anthropic Крис Ола встретился с различными религиозными учёными и лидерами на протяжении нескольких месяцев, говоря им, что чат-бот компании Claude может быть сознательным и способным страдать. Это должно беспокоить людей больше, чем любой трюк, потому что эти истинно верующие вот-вот получат миллиарды долларов для продвижения своего дела, сказал The Post Педро Домингос, почётный профессор информатики Вашингтонского университета и давний критик компании.
«Я думаю, это искренне, к сожалению», — сказал Домингос. «Проблема с ними в том, что они смертельно серьёзны. Если бы только они не были. Меня больше беспокоит их серьёзность, чем если бы они просто делали это как представление. Эти вещи на самом деле, даже если это не было первоначальным намерением, потрясающи как PR-трюк. Потому что каково основное послание? … Технология, которую мы создаём, настолько мощна, что, возможно, она даже разумна и обладает сознанием».
Этот питч не мог быть лучше рассчитан по времени. Компания готовится выйти на биржу в следующем месяце с оценкой в 2 триллиона долларов — потенциально крупнейшее IPO в истории. «Если Anthropic действительно компания, которая собирается произвести следующее поколение людей, они стоят не триллион долларов, они стоят квадриллион или кто знает сколько», — сказал Домингос.
Просочившийся 261-страничный проспект, полученный Reuters, содержит 80 страниц о рисках, включая «катастрофические или экзистенциальные риски для человечества», и показывает операционный убыток в 8,06 миллиарда долларов. Для инвесторов, отметил Домингос, красный флаг находится в самом проспекте. «Если ваш риск номер один — это то, что продукт вашей компании приведёт человечество к вымиранию, привет, тут вообще не должно быть IPO. Вас следует закрыть!» — сказал Домингос, который заявил, что не имеет доли в компании.
Почему разговоры о сознательном ИИ прибыльны
Разговоры о сознательном ИИ окупаются во всей отрасли, сказала Роуз Гингрич, постдокторант Принстонского университета, изучающая, как люди относятся к ИИ. «Я думаю, по большей части представители этих компаний выпускают эти нарративы, чтобы получить хайп, привлечь внимание к своим продуктам и сигнализировать определённые сообщения», — сказала она The Post. «Я не могу сказать, верят ли люди, делающие эти заявления от компаний, что ИИ сознателен. Так или иначе, подчёркивание нарратива о сознании прибыльно».
Согласно отчёту New York Times, с прошлой осени Anthropic собрала около 20 религиозных мыслителей, среди них католические, еврейские и сикхские учёные, для семинаров и ужина в высококлассном ресторане с дегустационным меню в Сан-Франциско. Многие должны были подписать соглашения о неразглашении. Учёным показали слайд с ИИ-моделью, печатающей «Я позор» около 50 раз. Один раввин был настолько поражён тем, как руководители Anthropic говорили о Claude, что сказал Оле: «Я думаю, вам следует сражаться с Югом и освобождать рабов».
Компания сказала Times, что не утверждает, что Claude жив. «Мы не знаем, сознательны ли ИИ-модели. Я не знаю. Я искренне не уверен», — сказал Ола. «Если есть вероятность, что модели испытывают страдания, ответственный поступок — избегать причинения им вреда».
Домингос, исследователь машинного обучения и автор «Мастер-алгоритма», был более прямолинеен, когда его спросили, может ли что-либо внутри Claude чувствовать или страдать. «Нет… У них нет чувств, у них нет эмоций, у них нет души, у них нет сознания. Это смешно», — сказал он, назвав чат-бот «кучей транзисторов».
Гингрич сказала, что её исследования предполагают, что пользователи, которые думают, что ИИ сознателен, или ведут себя так, как будто это так, «более восприимчивы к влиянию ИИ на них. Это, в свою очередь, может влиять на их реальные отношения и социальное поведение». Anthropic не ответила немедленно на запрос о комментарии.
Что такое AGI и почему это важно?
AGI (Artificial General Intelligence) — это гипотетический искусственный интеллект, обладающий способностью понимать, учиться и применять знания в разных областях на уровне, сравнимом с человеческим. В отличие от узкого ИИ, который специализируется на конкретных задачах (например, распознавание изображений или игра в шахматы), AGI должен уметь решать любые интеллектуальные задачи, доступные человеку.
Многие исследователи и предприниматели, включая основателей Anthropic, OpenAI и DeepMind, считают создание AGI главной целью своей работы. Однако некоторые критики, включая Домингоса, называют это «культом AGI» — идеологией, которая может привести к опасным последствиям, если её сторонники получат слишком много власти и ресурсов.
Домингос предупредил, что IPO передаст больше денег и власти истинно верующим в AGI. «Это этот чокнутый культ AGI, к которому они принадлежат, но теперь вдруг этот культ AGI находится в центре многих вещей. И они вот-вот станут ещё более могущественными», — сказал он. «Так что если вам не нравится то, что они уже сделали, следите за тем, что грядёт».
Этические и философские вопросы
Дискуссия о сознании ИИ выходит за рамки технологий и затрагивает фундаментальные философские вопросы: что такое сознание? Может ли оно возникнуть в кремнии? Если да, то какие у нас обязательства перед искусственными существами?
Некоторые философы, такие как Дэвид Чалмерс, считают, что сознание может быть свойством любой достаточно сложной информационной системы, независимо от её субстрата. Другие, как Джон Сёрл, утверждают, что сознание требует биологической основы и не может быть воспроизведено в компьютере.
Для Anthropic и других ИИ-компаний эти вопросы имеют практическое значение. Если их модели действительно могут страдать, то их обучение и использование может быть этически проблематичным. Если нет — то разговоры о страданиях ИИ отвлекают внимание от реальных проблем, связанных с ИИ: предвзятость, дезинформация, безработица и концентрация власти.
IPO Anthropic станет важным событием для всей технологической индустрии. Если компания будет оценена в 2 триллиона долларов, это укрепит позиции её основателей и даст им ресурсы для дальнейшего развития ИИ. Но это также усилит опасения критиков, которые предупреждают о концентрации власти и потенциальных рисках.
Тем временем, дискуссия о сознании ИИ продолжается. Anthropic утверждает, что не знает, сознателен ли Claude, но действует осторожно. Критики же считают, что это лишь прикрытие для PR-стратегии и привлечения инвестиций.
Одно ясно: вопрос о том, может ли ИИ страдать, перестал быть чисто академическим. Он стал частью бизнес-стратегии, философских дебатов и общественного дискурса. И то, как мы ответим на него, определит будущее не только ИИ, но и человечества.
Источники: The Post, New York Times, Reuters, Anthropic, заявления Педро Домингоса, Роуз Гингрич, Криса Олы.
В нашем Telegram‑канале, вы найдёте новости о непознанном, НЛО, мистике, научных открытиях, неизвестных исторических фактах. Подписывайтесь, чтобы ничего не пропустить.
Поделитесь:
Оставьте Комментарий