‘Приглушить голоса маргиналов’: Google увяз в скандале из-за предвзятости ИИ
Исследователь Тимнит Гебру, ныне бывший соруководитель отдела этики искусственного интеллекта Google, говорит, что ее уволили после того, как ее коллеги получили от нее электронное письмо, в котором она «выступала за недопредставленных людей» в исследованиях искусственного интеллекта и среди сотрудников компании в целом.
Google объяснил, почему ведущий исследователь искусственного интеллекта ушел из технологического гиганта после того, как он постановил, что публикация статьи по важному вопросу этики ИИ, соавтором которого она является, запрещена.
Джефф Дин, глава отдела искусственного интеллекта Google, защищал это решение во внутреннем электронном письме персоналу в четверг, цитируемом Financial Times, заявив, что газета «не соответствует нашему плану публикации», и отметив уход Тимнита Гебру, который была соруководителем группы по этике ИИ в Google, пришла в ответ на отказ компании Кремниевой долины выполнить некоторые неуказанные условия, которые она поставила, чтобы остаться на своей должности в компании.
В среду вечером Тимнит Гебру написала в Твиттере, что ее уволили из-за электронного письма, которое она отправила днем ранее сотрудникам компании.
Я был уволен @JeffDean для моего электронного письма Brain women and Allies. Мой корпоративный аккаунт отключен. Так что меня сразу уволили 🙂
- Тимнит Гебру (@timnitGebru) 3 декабря 2020 г.
В электронном письме, которое увидела The New York Times, она выразила разочарование реакцией Google на усилия ее и других сотрудников по увеличению найма меньшинств и привлечению внимания к предвзятости в искусственном интеллекте в целом.
«Ваша жизнь начинает ухудшаться, когда вы начинаете защищать недостаточно представленных людей. Вы начинаете расстраивать других лидеров», – говорится в письме. «Больше документов или больше разговоров ничего не добьются». “Заглушить маргинальные голоса”
Она продолжала сетовать на то, что внутри Google «нулевая подотчетность» за заявления компании о том, что она хочет увеличить долю женщин в своих рядах. В электронном письме, впервые опубликованном на платформе «Платформер», также изображено решение не давать зеленый свет ее статье как часть процесса «заглушить голоса маргиналов».
Как сообщает FT со ссылкой на одного из коллег Гебру, в прошлом уже были трения с руководством Google из-за ее стремления к большему разнообразию. Тем не менее, если оставить в стороне причины, причиной ее ухода якобы стало решение компании не разрешить публикацию исследовательской работы, в которой она была соавтором, сказал этот человек.
В рассматриваемой статье рассматривается потенциальная предвзятость в комплексных языковых моделях, действительно многообещающей области исследования естественного языка, когда такие системы, как OpenAI GPT-3 и собственная система Google, Bert, пытаются предсказать следующее слово в любом высказывании.
«Кто-то в Google решил, что это вредно для их интересов»
Этот подход лежит в основе эффективных автоматизированных систем письма и используется Google для лучшего понимания сложных поисковых запросов. Текстовые модели, основанные на лингвистике корпуса, вызвали опасения, что они могут автоматически поглощать расовые и другие предубеждения, содержащиеся в обучающих материалах, в основном взятых из Интернета.
По словам Эмили Бендер, профессора компьютерной лингвистики Вашингтонского университета, соавтора статьи, со стороны уход Гебру выглядит так, как будто «кто-то в Google решил, что это вредно для их интересов».
«Академическая свобода очень важна – есть риски, когда [research] происходит в местах, которые [do not] иметь академическую свободу », – продолжила она, возмущаясь тем, что это дает компаниям или правительствам право« закрывать »исследования, которые они не одобряют.
Бендер сказал, что в их конкретном случае авторы надеются и дальше обновить статью с помощью новых исследований, чтобы она была принята на конференции, которую они собирались посетить. Она добавила, что такая работа обычно заменяется новыми исследованиями, учитывая, насколько быстро работа в подобных областях продвигается вперед.
«В исследовательской литературе нет идеальной бумаги», – предположил исследователь.
Удар по надежности технологий
Точно так же и сама Гебру указала на основные причины своего «увольнения»:
«… С учетом того количества цензуры и запугивания, которое происходит в отношении людей в определенных группах, как кто-то может доверять возможности проведения реальных исследований в этой области?», – спросила 37-летняя исследовательница в одном из своих последних твитов.
Встроенное смещение
Уход Гебру из Google вызвал бурную реакцию, подчеркнув резкий всплеск напряженности между откровенными сотрудниками фирмы и ее высшим руководством, а также вызвав обеспокоенность по поводу усилий компании по устранению социальной несправедливости (включая обвинения в сексуальных домогательствах), а также честная и надежная техника.
В частности, высказывались опасения, что люди, разрабатывающие системы искусственного интеллекта, могут внедрять свои собственные предубеждения в высокие технологии.
The New York Times сообщила что за последние несколько лет множество публичных экспериментов показали, что системы искусственного интеллекта часто по-разному взаимодействуют с цветными людьми – что, как полагают, было вызвано их недостаточной представленностью среди технических специалистов.
Источник
В нашем Telegram‑канале вы найдёте новости о непознанном, НЛО, мистике, научных открытиях, неизвестных исторических фактах. Подписывайтесь, чтобы ничего не пропустить.
