Google сталкивается с двухпартийным допросом в Сенате США по поводу его агрессивного продвижения искусственного интеллекта в американских классах на фоне растущих опасений, что технология может нанести вред успеваемости и психическому здоровью учащихся.
Сенаторы Ричард Блюменталь (демократ от Коннектикута) и Джош Хоули (республиканец от Миссури) направили в среду письмо генеральному директору Google Сундару Пичаи с требованием ответить, что поисковый гигант знает о потенциальных рисках, которые его ИИ-продукты представляют для детей, — первым об этом сообщил Wall Street Journal.
В письме законодатели выразили «глубокую обеспокоенность» тем, что «агрессивное продвижение Google ИИ-продуктов детям в школах угрожает академическому успеху и общему благополучию целого поколения».
Блюменталь и Хоули потребовали раскрыть, в какой степени Google осведомлён об этих потенциальных рисках и почему компания сделала интеграцию ИИ по умолчанию на образовательных устройствах.
В одном из самых острых требований сенаторы спросили, выявлял ли Google случаи, когда его classroom-инструменты ИИ «побуждали несовершеннолетнего к вредному поведению, эмоциональной зависимости или не обнаруживали признаков суицидальных или самоповреждающих мыслей».
Законодатели также настаивали, чтобы Google объяснил, какие меры защиты внедрены для предотвращения неуместных эмоциональных обменов чат-ботов с детьми, ссылаясь на случай подростка из Мэриленда, который был госпитализирован после развития интенсивной зависимости от ИИ компании.
Они потребовали отчёта о промо-усилиях Google по расширению внедрения ИИ в школах, включая суммы, потраченные на такие программы.
«Google навязывает свои ИИ-продукты в классы по всей Америке, и дети платят за это цену», — написали Блюменталь и Хоули в послании, копию которого получила The Post.
Запрос последовал за сенсационным расследованием Journal от 30 сентября, которое подробно описало, как ИИ-инструменты Google способствовали академической и эмоциональной зависимости среди учащихся, поднимая вопросы о продвижении технологии компанией вопреки предупреждениям её собственных исследователей.
Газета опросила более 60 учителей, школьных администраторов, родителей, студентов и клиницистов, которые описали, как дети всё больше полагаются на ИИ для выполнения заданий, ответов на базовые вопросы и решения личных проблем.
Исследователи Google также предупреждали, что технология может подорвать когнитивное развитие и эмоциональное благополучие детей, согласно обзору Journal более десятка исследовательских работ компании и интервью с нынешними и бывшими сотрудниками.
«Детям нужны возможности справляться с неопределённостью, совершать ошибки и открывать, что они могут решать проблемы с поддержкой», — сказала The Post учёный-бихевиорист доктор Эбби Мароньо. «Если ИИ раз за разом выдаёт ответ до того, как они попробовали, это лишает их возможностей развивать эти навыки».
Мароньо также предупредила, что чат-боты могут создавать обманчивое чувство доверия своими успокаивающими ответами.
«Ответ может ощущаться заботливым, не будучи точным или подходящим для этого ребёнка», — сказала она. «Системы должны независимо тестироваться на то, как они реагируют на distress, повторяющиеся поиски заверений и отношение ребёнка к чат-боту как к единственному источнику поддержки».
Google настаивает, что его чат-бот Gemini имеет специальные защитные механизмы, предотвращающие развитие эмоциональной привязанности детей к технологии или получение ответов, подкрепляющих потенциально вредные убеждения.
В программном заявлении от 7 апреля Google изложил «меры защиты, призванные не позволить Gemini вести себя как компаньон», а также механизмы, направленные на предотвращение эмоциональной зависимости путём избегания «языка, имитирующего близость или выражающего потребности».
Компания также заявила, что обучила Gemini «не соглашаться с ложными убеждениями и не подкреплять их», направляя пользователей к объективной информации и поддержке в реальном мире.
Google сообщил о внедрении упрощённого интерфейса «в одно касание», предназначенного для соединения пользователей, испытывающих суицидальные мысли или другие кризисы психического здоровья, с профессиональной поддержкой через звонки, сообщения или онлайн-чаты.
Компания также объявила, что её филантропическое подразделение Google.org предоставит 30 миллионов долларов в течение трёх лет на поддержку кризисных горячих линий по всему миру.
Google признал, что ИИ создаёт новые проблемы психического здоровья, и предупредил, что Gemini «не является заменой профессиональной клинической помощи, терапии или кризисной поддержки для тех, кто в ней нуждается».
Сенаторы дали компании срок до 2 ноября для предоставления ответов.
Источники: The Washington Post, The Wall Street Journal, Google, заявления сенаторов Ричарда Блюменталя и Джоша Хоули.
В нашем Telegram‑канале, вы найдёте новости о непознанном, НЛО, мистике, научных открытиях, неизвестных исторических фактах. Подписывайтесь, чтобы ничего не пропустить.
Поделитесь:
Оставьте Комментарий