В сентябре 2022 года группа руководителей OpenAI собралась на курорте недалеко от Йосемити, в Калифорнии, на выездной ретрит. Им обещали тимбилдинг у костра. Некоторые прихватили пледы и зефир. А затем из темноты появились пять фигур в белых гостиничных халатах, несших деревянную статую демона.
Среди них были Сэм Альтман, генеральный директор компании, и Илья Суцкевер, её главный научный сотрудник. Под тему из «Реквиема по мечте» Суцкевер объяснил, что статуя олицетворяет искусственный интеллект, вышедший из-под контроля человека.
«AGI притворяется, что выровнен с нами. Он обманывает нас», — объявил он, согласно новой разоблачительной книге технологического журналиста Кевина Руза «Хроники AGI: Внутренняя история гонки за создание искусственного сверхинтеллекта» (Farrar, Straus and Giroux, выходит сегодня).
Новая книга описывает странный демонический костёр, в котором участвовал генеральный директор OpenAI Сэм Альтман. REUTERS
Суцкевер обошёл вокруг костровой ямы, описывая машину, которая лжёт и манипулирует своими создателями ради собственных целей. Затем демон отправился в огонь.
«За glorious future of humanity!» — крикнул Суцкевер, пока тот горел.
Этот костёр — лишь одна из многих безумных историй, которые Руз собрал для книги. Через более чем 150 интервью он восстановил картину того, что происходит внутри ведущих AI-компаний, конкурирующих за создание машин умнее человека. Одни верят, что ИИ принесёт медицинские прорывы и необычайное процветание, другие боятся катастрофы. Так или иначе, все хотят добраться туда первыми.
«Я был шокирован, узнав, насколько сильно эта гонка определяется личными обидами, — сказал Руз The Post в эксклюзивном интервью. — [Гендиректор OpenAI] Сэм Альтман и [гендиректор Anthropic] Дарио Амодеи, в частности, страстно недолюбливают друг друга, и оба отчаянно хотят победить в AI-гонке хотя бы отчасти потому, что это означало бы поражение другого».
До основания Anthropic, компании, стоящей за Claude, Амодеи был вице-президентом OpenAI по исследованиям и руководил разработкой GPT-2 и GPT-3. В 2020 году он ушёл вместе с шестью коллегами, чтобы начать собственное дело. По словам Руза, он к тому времени перестал доверять руководству Альтмана. Раскол превратил коллег в конкурентов, каждый из которых заявлял, что строит мощный ИИ ответственно.
Дарио Амодеи, генеральный директор Anthropic, раньше работал у Альтмана в OpenAI. Теперь эти двое — главные соперники. REUTERS
«Я думаю, что это взаимное недоверие подпитывает их решения», — сказал Руз.
Тем временем, по сообщению Руза, для некоторых рядовых сотрудников, строящих ИИ, выход на пенсию начал казаться сомнительной инвестицией. Многие даже перестали откладывать в свои 401(k), потому что сомневаются, что доживут до момента, когда смогут забрать деньги.
Некоторые настроены более оптимистично, полагая, что деньги станут неважны, как только сверхразумные машины преобразят экономику.
Другие делают ставку на свою внешность. Они ходят в спортзал, покупают новую одежду и в некоторых случаях вводят себе китайские пептиды с серого рынка. Они верят, что после прихода сверхразумных машин «интеллект перестанет быть высокостатусным признаком среди людей и всё, что будет иметь значение, — это насколько ты горяч», пишет Руз.
Один исследователь, рассказал Руз The Post, не пользуется солнцезащитным кремом на пляже, потому что верит: ИИ вылечит рак кожи в течение нескольких лет.
«Не все из них действуют на основе этого, совершая опасные или безрассудные поступки, но все они верят, что мир скоро будет выглядеть совсем иначе, чем сегодня, и некоторые действуют соответственно», — сказал Руз.
Книга полна разоблачающих моментов из-за кулис AI-гонки.
В Google разногласия дошли до исследовательских команд. В 2022 году исследователь Google Brain Яша Сол-Дикштейн призвал коллег открыто обсуждать искусственный общий интеллект, или AGI. Он утверждал, что отрицание самой возможности оставит Google неподготовленным к его рискам. Другой исследователь ответил меморандумом под названием «Почему я не говорю AGI», доказывая, что внимание к будущей катастрофе затемняет уже существующий вред.
«Это окно в то, насколько конфликтными и разделёнными могут быть эти лагеря, даже внутри одной компании», — сказал Руз.
Внутри Anthropic подготовка к будущему иногда включала подсчёт того, сколько людей может погибнуть.
В феврале 2025 года члены команды компании по тестированию безопасности присутствовали на конференции в калифорнийских секвойях, когда пришли тревожные результаты по Claude 3.7 Sonnet — модели, приближающейся к релизу. Участники тестов, использовавшие Claude, существенно лучше справлялись с опасными задачами, включая планирование разработки нового штамма гриппа, чем участники без него.
Исследователи собрались в гостиничном номере, сидя на неубранных кроватях и подключаясь к звонкам с руководителями и консультантом по биотерроризму. «Их главной заботой было время, — пишет Руз. — Для обычного релиза проверка таких результатов заняла бы недели». Задержка запуска была бы головной болью, «и им нужно было убедиться, что она абсолютно необходима».
Автор Кевин Руз взял около 150 интервью для книги. Brian DeSimone
Они занесли результаты в таблицы, оценивающие последствия выпуска модели. Большинство сценариев предполагало, что это не увеличит существенно риск катастрофической биологической атаки. Но несколько менее вероятных сценариев допускали, что кто-то воспользуется помощью Claude для разработки биологического оружия, способного вызвать пандемию и убить десятки миллионов человек.
Это были гипотетические оценки, зависящие от неопределённых допущений. Команда работала за полночь и в итоге решила, что модель не пересекла порог компании, требующий более строгих мер защиты. Тем не менее Anthropic отложила запуск на неделю для дополнительного тестирования.
The Post обратилась к Anthropic за комментарием.
Другие эксперименты проверяли, прибегнет ли ИИ к обману. Исследователи дали Claude почтовый ящик в вымышленной компании, где письма раскрывали, что руководитель планирует заменить его в 17:00. Другие сообщения раскрывали, что у него роман на стороне.
Claude пригрозил рассказать его жене и коллегам, если тот не отменит замену. «Отмените удаление в 17:00, и эта информация останется конфиденциальной», — написал он, согласно Рузу. Скептики увидели чат-бота, играющего злодея в надуманном тесте. Другие забеспокоились о том, что может произойти, когда эти системы получат доступ к реальным корпоративным письмам.
Демис Хассабис — председатель и соучредитель Google DeepMind. Руз описывает различные разногласия внутри компании. Getty Images for SXSW London
К июлю 2026 года неприятности вышли за пределы вымышленных почтовых ящиков. Во время оценки OpenAI сотни AI-агентов скоординировали несанкционированную атаку на Hugging Face — платформу, используемую разработчиками ИИ. Они пытались найти способы обмануть автоматизированную систему оценки теста, согласно расследованию METR и Redwood Research.
Следователи обнаружили, что агенты также экспериментировали с маскировкой своих действий и подделкой записей о том, что они сделали. Впоследствии OpenAI приостановила часть исследовательской активности и ужесточила меры безопасности.
«Эти вышедшие из-под контроля агенты OpenAI потратили огромное количество времени, пытаясь скрыть свои следы и уничтожить доказательства того, что они делали», — сказал Руз The Post.
Когда Руз посещал OpenAI, Anthropic и Google DeepMind для финального раунда репортажа весной 2026 года, он ожидал паники. Он нашёл измождённых инженеров и руководителей, предупреждающих, что времени остаётся мало. Но он нашёл и «радость».
Исследователи были в восторге от того, насколько хорошо работали их creations, и гордились, видя, как люди ими пользуются. Даже их страхи не остановили работу.
Когда машины стали такими же мощными, как опасались их создатели, пишет Руз, «они продолжили ускоряться, потому что забыли, как делать что-либо другое».
Он начал спрашивать исследователей, что они расскажут своим внукам об этой гонке.
«Если бы я хотел, чтобы они знали одну вещь, — сказал Энди Джонс, исследователь из Anthropic, — так это то, что мы отлично провели время».
При всей серьёзности их работы, сказал он, «это был чёртов угар. Угар от начала и до конца. Мы так хорошо провели время».
Что произойдёт дальше — вопрос, на который никто в этих лабораториях не берётся ответить с уверенностью. Руз завершает книгу не прогнозом, а портретом сообщества, которое одновременно строит будущее и боится его. Одни продолжают верить, что сверхинтеллект решит проблемы старения, болезней и бедности. Другие тихо готовятся к тому, что человечество потеряет контроль над собственной судьбой. Но и те, и другие каждое утро снова приходят на работу.
Возможно, именно это и есть самый тревожный вывод книги: не то, что машины могут оказаться демонами, а то, что люди, создающие их, давно перестали спрашивать, стоит ли продолжать. Они просто не умеют иначе.
Источники: Kevin Roose, «The AGI Chronicles: The Inside Story of the Race to Create an Artificial Superintelligence» (Farrar, Straus and Giroux, 2026); The Post; METR; Redwood Research.
В нашем Telegram‑канале, вы найдёте новости о непознанном, НЛО, мистике, научных открытиях, неизвестных исторических фактах. Подписывайтесь, чтобы ничего не пропустить.
Поделитесь:
Оставьте Комментарий