Предупреждение Илона Маска о «Терминаторе» по поводу «технологии искусственного интеллекта» испытано на самолете-шпионе ВВС США
Илон Маск утверждает, что мозговой чип Neuralink исправит “ почти все ”
В переломный момент отделение вооруженных сил США использовало компьютерную программу в качестве второго пилота на борту самолета-разведчика U-2. Алгоритм ИИ, известный как ARTUµ, управлял U-2 Dragon Lady и выполнял в полете определенные задачи, которые в противном случае выполнял бы пилот. Доктор Уилл Ропер из ВВС США охарактеризовал это как «гигантский скачок для« компьютеров »в будущих военных операциях, добавив, что« алгоритмическая война началась ».
Но Илон Маск может быть не таким восторженным.
Технология, использованная во время теста, была разработана британской исследовательской компанией DeepMind, которая создала AlphaGo – компьютерную программу для игры в шахматы и настольную игру Go.
Он был адаптирован Федеральной лабораторией У2 для использования в военных целях.
Г-н Маск был одним из первых инвесторов DeepMind, который позже был приобретен Google, но не потому, что он хотел получить прибыль.
Ранее он сказал: «Мне нравится просто следить за тем, что происходит с искусственным интеллектом.
«Я думаю, что здесь есть потенциально опасный исход.
“Были фильмы об этом, знаете, как Терминатор.
«Есть несколько пугающих результатов. И мы должны постараться, чтобы результаты были хорошими, а не плохими».
И спустя годы оказалось, что его опасения не улеглись.
На технической конференции South by Southwest в Остине, штат Техас, в марте 2018 года докладчик заявил: «Многие эксперты не разделяют такой же уровень озабоченности, как вы. [about AI]. »
Г-н Маск ответил: «Знаменитые последние слова».
Он добавил: «Самая большая проблема с так называемыми экспертами по ИИ заключается в том, что они думают, что знают больше, чем они.
«Они думают, что они умнее, чем они есть на самом деле.
«В общем, мы все намного умнее, чем мы думаем, но намного глупее, чем мы думаем.
«Таким образом, это имеет тенденцию преследовать умных людей, они определяют себя по своему интеллекту, и им не нравится идея, что машина может быть намного умнее их».
Затем он сделал прямую ссылку на технологию, разрабатываемую DeepMind.
Он добавил: «Я действительно очень близок к передовым технологиям в области искусственного интеллекта, и это меня до чертиков пугает.
«Он способен на гораздо больше, чем кто-либо знает, и скорость его улучшения экспоненциальна.
«Вы можете увидеть это в таких вещах, как AlphaGo, которая за шесть-девять месяцев прошла путь от неспособности обыграть даже достаточно хорошего игрока до победы над чемпионом мира Европы.
«Потом обыграла действующего чемпиона мира, потом всех одновременно.
«Затем есть AlphaZero, которая сокрушила AlphaGo 100 до нуля и может играть в любую игру, которую вы ему дадите».
И похоже, что Маск все еще думает так же.
Выступая в июле, он сказал, что DeepMind – его «главная забота», когда дело доходит до ИИ.
Он добавил, что его страхи окружали «природу искусственного интеллекта, который они создают», поскольку он «сокрушает всех людей во всех играх».
Г-н Маск стал соучредителем исследовательской лаборатории OpenAI в Сан-Франциско в 2015 году, через год после того, как Google приобрела DeepMind.
OpenAI заявляет, что его миссия – гарантировать, что ИИ принесет пользу всему человечеству.
В феврале 2018 года Маск покинул правление OpenAI, но продолжает делать пожертвования и консультировать организацию.
Г-н Маск и соучредители DeepMind подписали обязательство не разрабатывать летальное автономное оружие вместе с тысячами других исследователей, инженеров, ученых и предпринимателей ИИ.
Обязательство, организованное исследовательской организацией из Бостона «Институт будущего жизни (FLI)», было опубликовано на Международной совместной конференции по искусственному интеллекту (IJCAI) в Стокгольме в 2018 году.
В нем говорится: «Мы, нижеподписавшиеся, согласны с тем, что решение о лишении жизни человека никогда не должно передаваться машине.
«Смертоносное автономное оружие, выбирающее и поражающее цели без вмешательства человека, было бы опасно дестабилизирующим для каждой страны и отдельного человека».
Подписав обязательство, подписавшие пообещали «не участвовать и не поддерживать разработку, производство, торговлю или использование летального автономного оружия».
В своем недавнем полете алгоритм ИИ успешно пилотировал самолет-шпион в учебной миссии над Калифорнией, но пилот на борту все еще имел общий контроль.
Система искусственного интеллекта «отвечала за использование сенсоров и тактическую навигацию».
В ВВС США пояснили: «Вместе они выполнили разведывательную миссию во время имитации ракетного удара.
«Основная ответственность ARTUµ заключалась в обнаружении вражеских пусковых установок, в то время как пилот высматривал угрожающие самолеты, оба использовали радар U-2».
Доктор Ропер, который работает помощником министра обороны США по закупкам, технологиям и логистике, сказал, что эта миссия была демонстрацией того, «насколько полностью наши военные должны использовать ИИ, чтобы сохранить преимущество принятия решений на поле боя».
Ранее в этом году Министерство обороны США объявило о планах принятия этических принципов, чтобы заложить основу для использования искусственного интеллекта в войне.
Принципы призывают к «надлежащему уровню осмотрительности и осторожности» при развертывании систем ИИ, а также делают их «отслеживаемыми» и «управляемыми».
Сторонники контроля над вооружениями предупредили, что необходимо сделать больше, чтобы ИИ не мог принимать «жизненно важные решения» на поле боя, и призвали к более жестким ограничениям на эту технологию.
Люси Сучман, антрополог, специализирующаяся на искусственном интеллекте в войне, добавила: «Меня беспокоит, что принципы – это своего рода проект по отмыванию этических норм.
«Слово« соответствующий »открыто для множества интерпретаций».
В открытом письме от ведущих исследователей искусственного интеллекта и робототехники в 2015 году говорилось, что «глобальная гонка вооружений практически неизбежна», если крупные военные державы продолжат продвигаться вперед в разработке оружия искусственного интеллекта.
Создание столь же умных, как люди, машин вызывает озабоченность у некоторых ученых, таких как Маск.
Но в прошлом году пионер ИИ Йошуа Бенжио сказал Би-би-си: «Мы очень далеки от сверхразумных систем ИИ, и могут быть даже фундаментальные препятствия на пути далеко за пределы человеческого интеллекта».
В нашем Telegram‑канале вы найдёте новости о непознанном, НЛО, мистике, научных открытиях, неизвестных исторических фактах. Подписывайтесь, чтобы ничего не пропустить.
