OpenAI под огнём: данные о 15 минутах использования ChatGPT подростками вызывают сомнения

Онлайн-наблюдатели за безопасностью раскритиковали OpenAI Сэма Альтмана за утверждение, что средний подросток использует ChatGPT менее 15 минут в день — один критик сказал, что данные «звучат пусто» без внешнего подтверждения.

ИИ-гигант опубликовал цифру в 15 минут в своём первом отчёте о «ChatGPT для подростков» — ограниченной версии своего чат-бота для детей от 13 до 17 лет. Программа была ответом OpenAI на растущее scrutiny о том, как ИИ-чат-боты влияют на психическое и эмоциональное здоровье детей — некоторые критики связывают чат-боты со снижением успеваемости, суицидальными мыслями и даже самоповреждением.

OpenAI заявила, что исследования показали, что подростки проводят «менее 15 минут в день в ChatGPT» в среднем, при этом менее 2% подростковых пользователей проводят более трёх часов подряд в чат-боте. В блоге компании не было specifics об этих данных или о том, как они были определены.

Критика и требования прозрачности

Отсутствие прозрачности и независимой проверки утверждений OpenAI вызывает concern, согласно Себастьяну Махалу, сопредседателю группы по безопасности детей Design It For Us. Махал сказал The Post, что «мы видели этот сценарий раньше» от Meta Марка Цукерберга, которая столкнулась с серьёзной критикой по поводу эффективности своей функции подростковых аккаунтов в Instagram.

«Утверждение OpenAI о том, что подростки в безопасности на её продуктах, звучит так же пусто, если не подкреплено независимой проверкой, особенно поскольку компания сталкивается с судебными исками и растущим scrutiny по поводу вреда для психического здоровья и безопасности молодых пользователей», — сказал Махал в заявлении. «Если бы OpenAI серьёзно относилась к защите молодых людей, она поддержала бы сильные, исполнимые законы, которые привлекают ИИ-компании к ответственности за то, как они проектируют свои продукты», — добавил он.

На запрос о комментарии представитель OpenAI сказал, что компания работает с независимыми сторонними исследователями над сбором данных об использовании ChatGPT подростками. OpenAI планирует опубликовать более полную версию своего исследования в ближайшие месяцы.

Исследование Common Sense Media

Тем временем отдельный исследовательский отчёт, опубликованный в среду некоммерческим Институтом безопасности молодёжи в ИИ Common Sense Media, показал, что ChatGPT для подростков всё ещё представляет «неприемлемый риск для детей».

Тестирование института показало, что ChatGPT не надёжно отправлял оповещения родителям, когда подростки говорили с чат-ботом о суицидальных мыслях, самоповреждении или расстройствах пищевого поведения. Функция подросткового аккаунта также с трудом обеспечивала последовательное предоставление правильных кризисных горячих линий в чрезвычайных ситуациях. Кроме того, защитные меры, предназначенные для того, чтобы дети не использовали ChatGPT для выполнения домашних заданий, были «легко обходимы» и «часто всплывало окно "Покажи мне ответ" в режиме учёбы, и полные домашние задания выполнялись при его выборе», сказала Common Sense Media.

OpenAI возразила против findings, argued, что тесты Common Sense Media не «точно отражают», как функционируют подростковые защитные меры.

Масштаб проблемы

Опрос Pew Research, опубликованный в прошлом декабре, показал, что около 59% подростков использовали ChatGPT. «Это означает, что потенциально полмиллиона подростков используют ChatGPT три часа подряд или более», — сказал Брендан Буффар, помощник главного юрисконсульта по вопросам ИИ и приватности в некоммерческой организации Fairplay. «Это число должно ужаснуть нас всех, учитывая хорошо задокументированные опасности ИИ-чат-ботов для детей».

Что касается данных о времени, продвигаемых OpenAI, представитель Института безопасности молодёжи в ИИ сказал, что «даже 15 минут могут оказать большое влияние на развитие ребёнка». «Средняя мера времени использования — это не та статистика, которая важна для безопасности детей», — добавил представитель. «Мы узнали из социальных сетей, что более важные данные касаются самых тяжёлых пользователей — топ-10%. Именно там концентрируется потенциальный вред. Мы хотели бы, чтобы OpenAI была более прозрачной в отношении распределения пользователей и того, о чём конкретно общаются дети».

OpenAI оказалась в центре растущего скандала вокруг безопасности детей в ИИ. Компания обещает опубликовать более полные данные и работает с независимыми исследователями, но критики требуют большего.

Ключевые вопросы остаются без ответа: как OpenAI определяет время использования? Какие меры безопасности действительно работают? И кто несёт ответственность, когда дети страдают?

Для родителей это напоминание о необходимости быть внимательными к тому, как их дети используют ИИ. Для регуляторов — сигнал о необходимости более строгих законов. Для OpenAI — вызов: доказать, что её продукты безопасны, или признать, что они требуют более серьёзных защитных мер.

Источники: The Post, OpenAI, Design It For Us, Common Sense Media, Fairplay, Pew Research, заявления Себастьяна Махала и Брендана Буффара.