ИИ уже начал оказывать большое влияние на мир, и это пугает разработчиков

«Сообщество ИИ еще не привыкло к тому факту, что мы начали оказывать очень большое влияние на реальный мир», — сказал профессор Рассел.  На протяжении большей части истории индустрии этого не было — мы просто сидели в лабораториях, разрабатывали, пытались заставить это работать, чаще всего тщетно. Так что вопрос о реальном влиянии на мир был совершенно неуместным. И нам нужно было очень быстро расти, чтобы не отставать ».

Искусственный интеллект начал проникать во многие области жизни, от поисковых систем в Интернете до банков, а достижения в области распознавания изображений и машинного перевода являются одними из основных достижений последних лет. Стюарт Рассел, который прочтет цикл лекций под названием «Жизнь с искусственным интеллектом»На радио BBC в этом году, считает, что существует острая необходимость контролировать развитие сверхразумного ИИ.

По словам Рассела, ИИ, предназначенный для решения узких задач, слишком рискован для решения реальных проблем. Например, опасно просить ИИ как можно скорее решить проблему рака.

«В этом случае он, скорее всего, найдет способ пересадить раковые клетки всему человечеству, чтобы проводить миллионы экспериментов параллельно, используя всех нас в качестве подопытных кроликов», — сказал ученый. А все потому, что это решение проблемы, которое мы ему дали. Мы просто забыли уточнить, что нельзя проводить эксперименты на людях и использовать весь мировой ВВП для проведения экспериментов, и многое другое запрещено ».

 

Профессор считает, что все еще существует большая разница между существующим ИИ и тем, который показан в научно-фантастических фильмах, таких как Ex Machina, но вполне вероятно будущее, в котором машины умнее людей.

«Я думаю, что сроки колеблются от 10 лет при самом оптимистичном сценарии до нескольких сотен», — сказал он. «Но почти все исследователи искусственного интеллекта говорят, что это произойдет в этом столетии».

Проблема в том, что ИИ не обязательно должен быть умнее людей, чтобы представлять для них серьезную угрозу. За примерами далеко ходить не надо — достаточно посмотреть на алгоритмы социальных сетей, которые решают, что людям читать и смотреть. Они уже оказывают огромное влияние на восприятие людей. А разработчиков ИИ, по словам Рассела, пугает собственный успех.

«Это немного похоже на то, что произошло в физике, когда ученые осознали, что атомная энергия существует, что они могут измерить массу различных атомов и понять, сколько энергии будет выделено, если одни типы атомов превратятся в другие. А потом это случилось, и никто не был к этому готов », — объяснил Рассел.

Ученый убежден, что будущее ИИ лежит в разработке машин, которые, как хорошо обученные слуги, обращаются к людям по всем вопросам, не принимая решений самостоятельно. Следует предположить, что у разных людей могут быть разные, а иногда и противоречивые предпочтения, которые со временем меняются. Он призывает разработчиков и организации написать код, чтобы обеспечить беспристрастность ИИ. Кроме того, запрет ЕС на маскировку автомобилей под человека должен быть распространен на весь мир.

Через пять лет ИИ позволит алгоритмам «читать юридические документы» и «давать медицинские советы», — сказал Сэм Альтман, соучредитель и президент некоммерческой организации OpenAI. Через десять автомобили массово пойдут на конвейер и, возможно, даже станут компаниями. Даже позже ИИ будет делать почти все, включая научные открытия. В результате ИИ создаст «феноменальное изобилие», но в то же время стоимость рабочей силы упадет почти до нуля.