«Святой, да это же Дэн»: как подкастер случайно разговорил будущего поджигателя ОупенAI за несколько недель до покушения

В январе подкастер Энди Миллс взял интервью у AI-апокалиптика, который в Discord призывал убивать технических директоров. Однако когда на прошлой неделе разразилась новость, что 20-летний парень арестован за попытку убийства главы OpenAI Сэма Альтмана, Миллс был потрясён.

«Когда я увидел, что они опубликовали имя этого парня, — рассказал Миллс The Post, — я подумал: "Святой, да это же Дэн"».

В понедельник Дэниел Морено-Гама был арестован за то, что 10 апреля бросил коктейль Молотова в дом Альтмана в Сан-Франциско, а затем попытался сжечь штаб-квартиру OpenAI в четырёх милях оттуда. Следователи утверждают, что при нём был анти-AI манифест, в котором говорилось: «Если я призываю других убивать и совершать преступления, я должен показывать пример…». Минюст предъявил ему обвинения в покушении на убийство и поджоге.

Интервью под названием «Напавший на Сэма Альтмана — его собственными словами» вышло в четверг.

Миллс, ведущий подкаста «Последнее изобретение», посвящённого разным школам мысли об искусственном интеллекте, нашёл Морено-Гаму в Discord-канале Pause AI, где обсуждают опасности ИИ.

Прячась за ником Butlerian Jihadist (отсылка к роману из вселенной "Дюны"), студент колледжа из Спринг, Техас, анонимно флиртовал с идеей насилия над техно-лидерами.

«Будет ли меня забанят за разговоры о насилии?» — спросил он у модераторов.

«Я написал ему: "Слушай, что ты имел в виду, когда говорил о насилии?" — рассказывает Миллс. — А он ответил: "Как насчёт сделать с несколькими техно-директорами по-Луиджи?"» — отсылка к Луиджи Манджоне, обвиняемому в убийстве главы United Healthcare Брайана Томпсона в декабре 2024 года.

В ходе интервью, когда ведущий спросил, действительно ли студент Lone Star College считает, что насилие против AI-директоров — хорошая идея, Морено-Гама смягчился.

«Я не имел в виду это как угрозу или что-то такое, — сказал Морено-Гама. — Я думаю, что прежде чем думать о насилии, мы должны исчерпать все мирные средства. Протесты, распространение информации — это должно быть задолго до того, как мы вообще начнём рассматривать [насилие]».

Миллс настаивал: «Вы думаете, что если индустрия продолжит двигаться в том же направлении, то мы должны любой ценой остановить вымирание человеческой расы?»

Морено-Гама замолчал на несколько секунд, а затем ответил: «Без комментариев».

«Он казался искренним, умным и очень осведомлённым, — вспоминает Миллс. — Он был невероятно хорошо подкован в позиции AI-апокалиптика».

В их разговоре Морено-Гама дистанцировался от призывов к насилию и вместо этого выступал за политику регулирования размера и количества дата-центров.

«Я не считаю себя жестоким человеком, — сказал Морено-Гама. — Обычно я выступаю за насилие только как за абсолютно последнее средство. Не хочу говорить "окончательное решение", но вы понимаете, о чём я».

Морено-Гама рассказал, что впервые столкнулся с ИИ ещё в старшей школе.

«Когда вышел ChatGPT, я сначала подумал, что это величайшая вещь на Земле. Я думал: это круто, я могу списывать почти всё, — признался он. — Я тогда не думал о последствиях для обучения. Я был просто десятиклассником».

Но вскоре он наткнулся на YouTube на предупреждения таких людей, как Элиезер Юдковски — исследователь и автор, заявивший, что искусственный общий интеллект может угрожать человеческой жизни: «Если кто-то его создаст — все умрут».

«Если бы большинство людей были так же образованы в этой теме, как я, если бы они знали столько же информации и статистики, они бы, наверное, сильно склонились к моей позиции, — сказал Морено-Гама. — Как если бы инженер сказал, что мост рухнет с вероятностью 25%, большинство людей не стали бы по нему ходить».

Он также признался, что чувствовал необходимость «что-то сделать, чтобы [идеи AI-апокалипсиса] стали более заметны в общественном сознании, чем сейчас».

Тем не менее Миллс ушёл из интервью без ощущения, что Морено-Гама действительно воплотит фантазию о «сделать по-Луиджи».

«Я много раз в своей карьере разговаривал с преступниками, совершавшими насилие, — говорит ведущий. — Он не показался мне человеком на грани насилия… Люди в интернете говорят всякую фигню: "На хрен ICE, давайте их убьём". Но сколько людей реально это сделают?»

Однако он уловил в нём жажду известности.

«Парень не только согласился на интервью, он был, типа, в восторге от этого, — вспоминает Миллс. — Он так жаждал выйти в наш подкаст, что даже потом писал нам: "Когда выйдет? Когда выйдет?"»

Миллс также считает, что в Морено-Гаме была нотка мученичества.

«Я думаю, в его поведении есть элементы, напоминающие школьных стрелков — это желание "убедиться, что все знают: это был я, и я был воином"».

Этот случай поднимает тревожные вопросы о радикализации в технологических сообществах. Морено-Гама — не просто одинокий фанатик. Он продукт экосистемы, где страхи перед ИИ смешиваются с культурой заговора, отчаянием и викарной травмой от реальных нападений (как дело Манджоне). Парадокс в том, что сам Альтман не раз предупреждал об экзистенциальных рисках ИИ — но для радикалов такие предупреждения звучат не как повод к диалогу, а как лицензия на крайние меры.

Социальные сети, особенно анонимные чаты вроде Discord, становятся инкубаторами, где гипотетическое «что, если?» быстро превращается в «мы обязаны». Морено-Гама искренне верил, что его образование и статистика оправдывают насилие — и при этом жаждал славы. Его вопрос подкастеру («Когда выйдет интервью?») выдаёт не только нарциссизм, но и расчёт: он хотел, чтобы его идеи услышали до того, как он совершит действие. Или — чтобы само действие стало финальным аккордом в его послании.

Пока законодатели спорят о регулировании ИИ, а технологические компании нанимают保镖, остаётся без ответа главное: как отделить страстного дискусанта от будущего поджигателя, если сам дискусант не видит между ними разницы? Возможно, ответ лежит не в полиции мыслей, а в создании безопасных, но ответственных пространств для радикального несогласия — до того, как кто-то решит, что «нет комментариев» звучит убедительнее с коктейлем Молотова в руке.