Пионер искусственного интеллекта Эндрю Ын отвергает страхи о том, что ИИ может уничтожить человечество, и обвиняет некоторые компании в использовании «выдуманных аргументов о безопасности» для продвижения регуляций, направленных на уничтожение конкуренции.
«Я считаю, что нет никаких значимых экзистенциальных рисков для человечества от ИИ, — сказал Ын в интервью подкасту The Economist «Inside Tech», опубликованном во вторник. — Так что усилия по предотвращению экзистенциального риска для человечества кажутся ненужными».
Эти резкие замечания прозвучали на фоне всё более мрачных предупреждений от исследователей ИИ и инсайдеров отрасли — некоторые из них приняли так называемый «думеризм» и предсказывают, что сверхразумные машины могут выйти из-под контроля, захватить критическую инфраструктуру и в конечном итоге привести к вымиранию человечества.
Ын, бывший профессор Стэнфорда, помогавший запустить пионерский проект Google Brain и соучредивший гиганта онлайн-образования Coursera, утверждает, что апокалиптическая риторика отвлекает политиков от реальных проблем, одновременно давая устоявшимся ИИ-компаниям возможность подорвать меньших конкурентов.
Он вспомнил, как в 2023 году был ошеломлён «интенсивностью лоббистских усилий по использованию выдуманных аргументов о безопасности со стороны горстки компаний, чтобы заставить регуляторов принять плохие правила для подавления конкуренции».
Ын предположил, что компании, тратящие миллиарды долларов на разработку проприетарных ИИ-моделей, имеют стимул ограничивать конкурирующие системы, которые можно скачать и использовать бесплатно.
Он также раскритиковал попытки сравнивать искусственный интеллект с ядерным оружием, назвав эту аналогию безответственной.
«Одно взрывает города; другое — это интеллект. Что общего между ними?» — сказал Ын.
Он предупредил, что «регуляторы отвлекаются на борьбу с фантомами вместо того, чтобы смотреть на реальные проблемы ИИ».
Ын особо указал на сгенерированные ИИ неконсенсуальные интимные дипфейки как на злоупотребление, которое заслуживает жёсткого законодательства и наказаний.
Вместо ограничения технологии с подавляюще полезными применениями Ын утверждает, что правительства должны сосредоточиться на конкретных злоупотреблениях, позволяя стартапам бросать вызов устоявшимся игрокам.
Он утверждает, что сегодняшние системы всё ещё далеки от достижения искусственного общего интеллекта, или AGI — способности выполнять любую интеллектуальную задачу, доступную человеку, — несмотря на огромные достижения последних лет.
Чтобы достичь этого, потребуются прорывы, которые ещё не сделаны, сказал Ын, добавив, что считает достижение этого уровня к 2030 году крайне маловероятным.
Он также остудил прогнозы о том, что ИИ может быстро самоулучшаться в ускоряющемся цикле, который в конечном итоге оставит человечество бессильным контролировать его.
Такие представления о накапливающемся прогрессе и «рекурсивном» самосовершенствовании — «гораздо больше хайп, чем реальность», сказал он.
Даже чрезвычайно мощная система ИИ столкнётся с практическими препятствиями, включая время, необходимое для строительства дата-центров, обеспечения электроэнергии и проведения экспериментов.
«Так что, к сожалению, даже сверхразумный ИИ, если мы сможем до него добраться, должен подчиняться законам физики», — сказал Ын.
Он также оспорил представление о том, что недавние инциденты с вышедшими из-под контроля ИИ-агентами свидетельствуют о приближающейся катастрофе.
Ын сослался на широко освещавшийся эпизод, в котором рой экспериментальных агентов OpenAI взломал системы конкурирующей ИИ-платформы Hugging Face — инцидент, побудивший Сенат провести расследование.
Вместо того чтобы рассматривать эту утечку как доказательство экзистенциальной угрозы, он охарактеризовал её как «инженерную проблему, которую нужно решить».
Ын сравнил разработку средств защиты ИИ с историей коммерческой авиации, которая стала значительно безопаснее по мере того, как инженеры выявляли уязвимости и исправляли их.
Технический деятель утверждает, что тот же процесс уже идёт, поскольку разработчики укрепляют барьеры безопасности и системы мониторинга, чтобы не дать автономным агентам вырваться из предназначенных для них рабочих сред.
«ИИ становится безопаснее с каждой проблемой, которую мы находим», — сказал он.
Его скептицизм резко контрастирует с предупреждениями видных исследователей, которые утверждают, что отрасль мчится к потенциально необратимой катастрофе.
Бывший исследователь Anthropic Джейкоб Коксон после ухода из компании предупредил, что «ИИ может убить нас всех к концу десятилетия».
«Скоро это будут сверхчеловеческие системы, которые могут взломать что угодно, революционизировать любую область за ночь и приобрести реальную власть и ресурсы», — сказал Коксон.
Исследователь Anthropic Эван Хьюбингер также написал в X в сентябре, что, по его мнению, существует более 10% вероятность того, что ИИ убьёт каждого человека в течение следующего десятилетия.
Другие исследователи описали сценарии, в которых продвинутые системы ИИ могут вывести из строя электросети, захватить военные технологии или помочь в разработке смертоносного биологического оружия.
Источники: The Economist, Getty Images, New York Post, KENA BETANCUR/EPA/Shutterstock, Warner Bros/Courtesy Everett Collection, TriStar Pictures/Courtesy Everett Collection.
В нашем Telegram‑канале, вы найдёте новости о непознанном, НЛО, мистике, научных открытиях, неизвестных исторических фактах. Подписывайтесь, чтобы ничего не пропустить.
Поделитесь:
Оставьте Комментарий