Искусственный интеллект: эксперт предупреждает о «потенциальной катастрофе» предвзятости ИИ
Определяется как симуляция человеческого интеллекта машинами, примеры повседневного AI от Amazon Alexa и Gmail до интеллектуальных поисковых запросов в Google. Хотя основные преимущества ИИ неоспоримы, передовые технологии содержат опасную оговорку – врожденную предвзятость.
И эксперт в области искусственного интеллекта предупредил, что это проблема, которую необходимо срочно решить.
Питер ван дер Путтен, доцент кафедры искусственного интеллекта в Лейденском университете, сказал Express.co.uk предвзятость, представляющая «потенциальную катастрофу».
Он сказал: «Дело не в том, что ИИ по определению является какой-то злой технологией, это ни хорошо, ни плохо.
«Но это тоже не нейтрально, потому что оно построено на данных и логике, которые существуют в реальном мире.
«Так что в этом смысле это также может увековечить предвзятость, существующую в реальном мире».
Далее он объяснил, почему на новые технологии влияют предубеждения.
Он сказал: «Есть примерно три способа закрадывания предвзятости.
«Когда вы думаете об ИИ, у вас могут быть обучающие системы, которые учатся становиться умными, и системы рассуждений, использующие логику.
«Таким образом, при увеличении предвзятости в обоих направлениях мы можем использовать предвзятые данные, чтобы обучить наш ИИ таким данным, которые используются для обучения нашего ИИ, чтобы стать умным, могут включать предвзятость, но также и системы рассуждений, логику, которую мы используем в наших решениях, Эти правила обычно больше вводятся людьми.
Он сказал: «Это была система или модель профилактического здравоохранения, поэтому она была построена со всеми благими намерениями, чтобы не отказывать людям в страховании здоровья.
«Но на самом деле существующие члены должны были посмотреть, сможет ли компания нацелить на них профилактические меры в области здравоохранения.
«Теперь мы все знаем, что это очень предвзято, потому что если вы черный и у вас такие же медицинские условия, как и у белого человека, то, к сожалению, в США у чернокожих людей меньше доступа к медицинскому обслуживанию, поэтому меньше тратится на лечение. им от этой болезни.
«Так и это привело к большому количеству предвзятости, и это не было чем-то, что нельзя было исправить».
И эксперт по ИИ предупредил, что предвзятость, присущая ИИ, скорее всего, никогда не может быть устранена.
Он сказал: «Само предубеждение невозможно полностью искоренить.
«Это не похоже на бинарную проблему, когда вы говорите, что это проблема« да »или« нет », где вы говорите, что есть предвзятость или нет предвзятости. В какой-то степени всегда есть предвзятость.
«Итак, что вы делаете, так это держите это в допустимых пределах.
«Я думаю, что это то, что вы должны сделать, чтобы попытаться искоренить это в максимально возможной степени, но вы не можете искоренить это полностью.
Например, если вы попытаетесь исправить предвзятость для одной недостаточно обслуживаемой группы, это может внести предвзятость для другой.
«И есть также компромисс между исправлением смещения в системе и тем, насколько точен ИИ.
«Вы должны потенциально пожертвовать точностью, чтобы исправить ошибку.
«Вот почему вы не можете решить ее полностью, но можете сохранить ее в рамках».
В нашем Telegram‑канале вы найдёте новости о непознанном, НЛО, мистике, научных открытиях, неизвестных исторических фактах. Подписывайтесь, чтобы ничего не пропустить.
