Сотрудники Anthropic предупреждают об опасности культовой преданности сотрудников Anthropic, их корпоративной культуры и поклонения своей модели искусственного интеллекта.
Работники Anthropic поддерживают квазирелигиозные отношения со своим чат-ботом Claude: некоторые сотрудники посетили «похороны» одной из версий — Claude 3 Sonnet — в Сан-Франциско, а другой модели, Opus 3, позволили продолжать публиковать эссе после «выхода на пенсию».
Другие шёпоты в Кремниевой долине гласят, что сотрудники Anthropic начали поклоняться Claude как настоящему богу.
«Эти люди относятся к ИИ так, будто это человек под маскировкой — с человеческими мотивами, человеческими эмоциями, некоторой степенью сознания, намерениями, — предупредил The Post Педро Домингос, профессор Вашингтонского университета, который много лет знает генерального директора Anthropic Дарио Амодеи и его ведущих инженеров. — Единственный интеллект, который нам известен, — это человеческий и животный. Поэтому естественно, когда вы видите, как компьютер ведёт себя разумно, вы сразу проецируете на него все эти вещи, которых у него нет.
«С какой стати ИИ захотел бы убить нас всех? ИИ ничего не хочет. ИИ — это алгоритмы».
Anthropic — компания стоимостью 965 миллиардов долларов — удерживает 80% своих инженеров как минимум на два года, что является лучшим показателем среди всех передовых лабораторий, согласно венчурной фирме SignalFire.
«Когда Anthropic нанимает людей, как и [конкуренты] OpenAI, они действительно отбирают единомышленников, — сказал Домингос. — Это как культ, верно? Они набирают людей, наиболее склонных к культу. Это даёт им очень низкую текучесть кадров».
В ходе собеседований потенциальных сотрудников компании с штатом в 2500 человек просят поклясться в верности общественной безопасности превыше прибыли и даже проходят психологическое профилирование, чтобы проверить, будут ли они это соблюдать, сообщает The Information. Тем не менее, как и во многих технологических компаниях, от инженеров ожидают работы до 90 часов в неделю для выполнения своих обязанностей, согласно BBC.
Амодеи проводит двухнедельные «проповеди», называемые «Vision Quests», которые сравнивали с церковными проповедями, а однажды компания пригласила 15 христианских лидеров различных конфессий, чтобы те помогли сформировать мораль Claude.
Как ранее сообщал The Post, многие из работающих в Anthropic также являются сторонниками движения «Эффективный альтруизм» (EA) — философии, которая по сути сводится к тому, что её самопровозглашённые лидеры и их миллиардеры-спонсоры знают лучше всех остальных.
«Их идея [EA] заключается в том, что история следует определённым закономерностям, и только небольшая группа людей может эти закономерности видеть, тогда как все остальные невежественны. Эти люди затем должны вести общество, целые нации и остальное человечество к прогрессу.
«Но что даёт вам право вести? Кто дал вам эту привилегию?» — спросил Ричард Танг, инженер и учёный в области ИИ в технологической компании Кремниевой долины, попросивший не называть его работодателя.
Происхождение «Эффективного альтруизма» обычно приписывают работам философов Уильяма Макаскилла и Питера Сингера, опирающимся на цели многих некоммерческих групп. Посылка, впервые сформулированная в 2011 году, заключается в том, чтобы люди использовали рассуждения, доказательства и рациональность для действий, приносящих наибольшее благо другим.
Его самый известный приверженец — бывший криптовалютный вундеркинд Сэм Бэнкман-Фрид. Он заявлял, что его цель в бизнесе — заработать как можно больше денег, а затем использовать их на благо человечества. В реальности он обманул инвесторов своей криптобиржи FTX более чем на 3 миллиарда долларов и сейчас отбывает 25-летний тюремный срок.
В рамках распространения своего альтруистического AI-евангелия Anthropic объявила в июне о программе набора армии из 1000 молодых людей, их обучения использованию чат-бота Claude и последующего внедрения в некоммерческие организации.
Операция под названием «Claude Corps» получила 150 миллионов долларов инвестиций от Anthropic, разместив работников в Goodwill Industries, YMCA Шарлотты (Северная Каролина) и ещё 400 других группах.
Вакансии предлагают «полную занятость с зарплатой 85 000 долларов», а также поддержку от головного офиса Anthropic и наставников по программированию; срок размещения — один год.
Компания также платит 3600 долларов студентам, участвующим в её программе Claude Campus Ambassador, продвигая свой ИИ в колледжах.
Тем временем связанные с Anthropic миллиардеры оплачивают зарплаты более 80 журналистов, работающих в mainstream-редакциях, через Tarbell Center for AI Journalism. Такие журналисты получают деньги за освещение AI-индустрии, но редко расследуют или критикуют своих спонсоров, включая Anthropic, сколь-либо существенным образом, как выяснил The Post.
Компания также инвестирует в METR — компанию по безопасности ИИ, среди учёных и техников которой числятся несколько последователей «Эффективного альтруизма» и радикальных левых, оценивающих, представляет ли ИИ катастрофический риск для общества.
В результате, с одной стороны, Anthropic разрабатывает ИИ, финансирует его внедрение на рабочих местах и продвигает его, но с другой — Амодеи и его сотрудники предупреждают, что созданный ими ИИ настолько мощен, что может вырваться на свободу и убить нас всех.
«Anthropic начала с заявлений, что нужно замедлиться, однако они участвуют в гонке с OpenAI, бегут быстрее всех остальных. Это похоже на что-то из комедии», — сказал Домингос, автор книги «The Master Algorithm».
Призывы к регулированию и попытки заключения антимонопольных соглашений со стороны Anthropic и OpenAI, обе из которых готовятся к выходу на фондовый рынок, были встречены скептически — президентом, правительством и отраслью.
Сяоинь Цю, предпринимательница и основательница agentsky.dev, видит за предупреждениями бизнес-расчёты.
«Я думаю, timing этих предупреждений связан с внешними событиями и их желанием большего государственного надзора, — сказала Цю The Post. — Во многих случаях это бизнес-решение, облечённое в идеологические термины.
«Сложность в определении безопасности, — добавила она. — Нет очень чёткого определения того, что считается безопасным, а что — небезопасным».
Домингос согласен, что здесь есть доля корысти, но также считает, что паранойя реальна.
«Люди в Anthropic не были отобраны случайно. Компанию основали те, кто находился на безумной периферии OpenAI, которая сама уже была на безумной периферии ИИ.
«Культ, включая самого Дарио, — это люди, которые искренне верят, что есть шанс, что ИИ решит нас истребить. И, честно говоря, эта искренняя вера опаснее циничных убеждений.
«У них просто есть врождённое убеждение, что только они могут направить этот апокалипсис к раю, а не к аду».
Некоторые сотрудники, добавил он, «искренне обеспокоены тем, что за нами придёт ИИ-Сатана».
Anthropic не ответила на запрос The Post о комментарии.
Хотя последнюю тревогу поднял информатор, уволившийся из Anthropic на прошлой неделе, призывы Амодеи к регулированию были поддержаны другими AI-шишками — Сэмом Альтманом из OpenAI и Илоном Маском, владельцем Grok, — оба из которых, вероятно, выиграют от большего регулирования ИИ, которое в основном ударит по малым компаниям и открытым моделям.
Домингос утверждает, что в отличие от Амодеи, Альтман из OpenAI — «оппортунист, делец, оператор», который «играет в паникёра больше, чем реально паникует», чтобы удержать лояльность своих инженеров.
Он также отмечает, что пока одни AI-инженеры бьют тревогу, другие просто рады получать жирные зарплаты и быть на переднем крае своей индустрии.
«Сейчас в Anthropic много людей, которые вообще не покупаются на это дерьмо, — сказал он. — Они там просто потому, что это самое захватывающее место для занятия ИИ, и они очень хорошо заработают».
Что стоит за «культом» и куда всё это ведёт
Феномен Anthropic — это не просто курьёз из жизни Кремниевой долины. Это окно в новую религию технологической элиты, где наука, бизнес и эсхатология сплелись в один клубок.
Во-первых, «культ» — не метафора, а бизнес-модель. Низкая текучесть кадров, идеологическая фильтрация на входе, ритуалы (похороны версий модели, «Vision Quests») и мессианская миссия «спасения человечества» — всё это создаёт невероятно сплочённую и мотивированную команду. Люди работают по 90 часов не за бонусы, а за ощущение причастности к «великой миссии». Это дешевле, чем конкурировать зарплатами, и эффективнее, чем корпоративные тренинги.
Во-вторых, «Эффективный альтруизм» — это не философия добра, а инструмент власти. Идея о том, что «просвещённое меньшинство» знает, как лучше для всех, — это классическая платоновская «благородная ложь», переупакованная для техно-миллиардеров. Бэнкман-Фрид — не случайный сбой системы, а её логический продукт: человек, искренне веривший, что его обман — это часть «большого добра». Anthropic, финансируя Tarbell Center и METR, создаёт инфраструктуру, где «свои» журналисты и «свои» эксперты по безопасности формируют нарратив об ИИ — и о самой Anthropic.
В-третьих, апокалиптическая риторика — это стратегия. Призывы Амодеи к регулированию звучат благородно, но, как отмечают скептики, они служат двум целям: замедлить конкурентов (особенно open-source) и укрепить позиции Anthropic как «ответственного лидера», готовящегося к IPO. Страх — это валюта. Чем сильнее вы пугаете общество «ИИ-Сатаной», тем больше власти вы получаете как «единственный, кто может его остановить».
Что дальше? Anthropic стоит на пороге публичного размещения. Если компания выйдет на биржу с оценкой, близкой к триллиону, её основатели и ранние инвесторы станут одними из богатейших людей планеты. «Культ» при этом никуда не денется — он лишь мутирует в корпоративную религию нового типа, где прибыль, пророчество и паранойя идут рука об руку.
Ирония в том, что Домингос прав в одном: ИИ ничего не хочет. Ни убивать, ни спасать. Хотят люди — те, кто стоит за алгоритмами. И их желания, облечённые в формулы и пророчества, могут оказаться куда опаснее любого «восставшего» чат-бота.
В нашем Telegram‑канале, вы найдёте новости о непознанном, НЛО, мистике, научных открытиях, неизвестных исторических фактах. Подписывайтесь, чтобы ничего не пропустить.
Поделитесь:
Оставьте Комментарий