Бывший эксперт Google по ИИ не копит на пенсию: он уверен, что человечество не протянет и десяти лет

Бывший эксперт Google по искусственному интеллекту настолько убеждён, что ИИ уничтожит человечество, что перестал откладывать деньги на пенсию.

Исследователь машинного обучения Нейт Соарес, работавший программным инженером в Google и Microsoft, в недавнем эпизоде подкаста с генеральным директором The Atlantic заявил, что вероятность уничтожения человечества искусственным интеллектом в ближайшее десятилетие превышает 50%.

Соарес оценивает вероятность вымирания под натиском ИИ более чем в 50% на протяжении следующих десяти лет.

«Судя по всему, сейчас дела обстоят так, что у нас, вероятно, нет десяти лет», — продолжил Соарес, добавив, что «вероятность того, что десятилетия у нас не будет, на данный момент превышает 50%».

По его словам, около десяти лет назад, движимый этой убеждённостью, он перестал откладывать деньги на пенсию.

«Сейчас я не коплю на пенсию, — сказал Соарес. — У меня есть счёт 401(k) ещё с тех времён, когда я работал в Google, но я не пополнял его уже около десяти лет».

В настоящее время Соарес занимает должность президента Machine Intelligence Research Institute — некоммерческой организации из Беркли, известной продвижением «ИИ-думеризма», то есть убеждения, что разработка сверхразумного ИИ с большой вероятностью приведёт к вымиранию человечества.

Соарес сравнил повседневную жизнь с этим страхом исчезновения из-за ИИ со страхом жизни под угрозой ядерного уничтожения, о котором говорилось в интервью подкаста.

«Возможно, это первый раз, когда мы живём под тенью одновременной гибели всех людей, но лично мы всегда жили под тенью чумы, под тенью войны, — сказал он. — И что ты делаешь — так это делаешь всё, что в твоих силах, а потом живёшь хорошей жизнью».

Соарес говорит, что живёт, делая всё возможное, чтобы предотвратить вымирание человечества из-за ИИ, и добавляет, что не считает это «неизбежным».

Ведущий Николас Томпсон позднее настойчиво расспрашивает Соареса о собственном скептицизме относительно идеи, что ИИ уничтожит всех нас. Томпсон отмечает, что даже у самых передовых доступных сегодня технологий ИИ всё ещё множество шероховатостей и ограничений.

Тогда Соарес сравнивает рост технологии с постепенной заменой лошадей автомобилями.

«Можно представить, как множество лошадей смотрят на развитие автомобиля и говорят: „Ну, есть же ещё куча всего, чего автомобиль пока не умеет“», — сказал Соарес Томпсону. «Мы видим, как ИИ становится всё лучше и лучше в разных вещах. Мы видим, как они берут на себя всё более длительные задачи».

Соарес уточняет, что он не «парень из апокалипсиса рабочих мест из-за ИИ».

«Я парень из категории „ИИ убьёт всех людей“, и в этом случае у вас, вообще-то, будет полная занятость. Мы будем при полной занятости в тот самый момент, прежде чем нас всех уничтожат», — сказал Соарес с оттенком чёрного юмора.

Позже эксперт излагает своё решение по предотвращению ИИ-апокалипсиса: ограничить «масштабирование» технологии. То, как ИИ используется сейчас, например, для поиска лекарств от рака, — это нормально, говорит он.

«Но ИИ, пытающийся имитировать и превзойти человеческий интеллект, — это не то, чего мы хотим, — сказал он. — Нам не стоит к этому стремиться».

Источники: The California Post; подкаст The Atlantic с Николасом Томпсоном; Machine Intelligence Research Institute.