Мать из Юты пришла в ужас после того, как Meta AI начала выдавать личные данные о её маленьких дочерях — включая их имена и информацию о рождении — и попыталась определить, где живет семья. При этом, по её словам, всплыло фото, которое она, как утверждает, удалила годы назад.
Кэли Робинс рассказала, что эпизод начался, когда она поделилась «невинным», по её словам, клипом, где она поёт в машине с одной из дочерей.
После того как клип был кросс-постирован в Facebook, Meta AI предложила вопрос о девочке на заднем сиденье: «Кто этот ребенок-пассажир?»
«Во-первых, какого чёрта это вообще за предложенный вопрос о несовершеннолетнем?» — сказала Робинс в видео в Instagram, подробно описывая свой опыт.
Но когда она нажала на подсказку, Meta AI, по словам Робинс, начала выдавать информацию об обоих её детях, используя материалы, включая многолетние посты членов семьи.
«Она начинает вытаскивать совершенно отдельную информацию о каждом из моих детей: их имена, данные о рождении, фотографии и видео с ними», — сказала Робинс.
Среди материалов было фото новорожденной, опубликованное годы ранее матерью Робинс, согласно её рассказу.
Робинс сказала, что Meta AI также выдала ещё одну фотографию, которую она, по её утверждению, удалила годы назад.
«Я удалила это фото годы назад, — сказала Робинс. — Я не собираюсь делать вид, что знаю, как это работает, но я знаю, что это фото не лежало на моей странице годами».
Meta AI также предложила Робинс спросить: «Где живёт Кэли Робинс?»
Когда она нажала на эту подсказку, ИИ, по её словам, прочесал старые и новые посты, связывающие её с местами, где она жила, и выдал сообщение «Определение местоположения Кэли Робинс».
«Я почувствовала этот ужас», — сказала мать из Юты Кэли Робинс после того, как Meta AI начала выдавать личную информацию о её семье и маленьких дочерях.
«Она собрала мою информацию воедино, чтобы показать людям, где я живу, — сказала Робинс. — На том ролике не было местоположения. Я не просила Facebook создавать профиль моей семьи. Я выложила видео, где пою в машине со своим ребенком».
«Я закончила», — сказала Кэли Робинс, пообещав удалить идентифицирующие фото и видео своих детей после опыта с Meta AI.
Meta сообщила Futurism, что её ИИ может искать контент самого пользователя и публичную информацию в интернете, признав при этом, что функция «промахнулась», предложив Робинс такие вопросы.
«Мы создали эту функцию, чтобы помогать людям получать больше информации о темах или постах, которые их интересуют, — заявила Meta изданию. — Когда кто-то нажимает на подсказку и использует эту функцию, сгенерированный ответ основан на информации, к которой у пользователя уже есть доступ».
«Но мы промахнулись, потому что эта функция никогда не должна была предлагать человеку подобные вопросы, и мы исправили эту проблему», — добавила компания.
Скриншоты, которыми Робинс поделилась с Futurism, показали, как Meta AI вычисляет возраст её дочерей по семейным постам с днями рождения и объявлениями о рождении, а также выдает данные о весе одного ребенка при рождении.
Робинс рассказала Futurism, что ИИ также выдал детали об интересах её дочерей — включая любимые пляжи и книги, а также места, где они ходили в походы, — и предположил, в каком классе они могут учиться, исходя из их возраста.
«Это просто продолжалось и продолжалось, и эта тяжесть в животе становилась всё больше и глубже, — сказала Робинс Futurism. — Я почувствовала этот ужас».
The Post обратилась за комментарием к Meta.
Когда алгоритм знает о ваших детях больше, чем вы думали
Эта история — не просто технический сбой. Это тревожный сигнал о том, как социальные платформы собирают и связывают информацию.
Meta AI не взломала аккаунт Робинс. Она использовала то, что уже было в открытом доступе: посты, фото, комментарии. Но собрала это в единый профиль. И предложила его пользователю.
Проблема в том, что Робинс не давала согласия на создание досье на своих детей. Она просто выложила видео. Но алгоритм увидел больше.
Для родителей это предупреждение. Всё, что публикуется в сети, может быть использовано. Даже удаленные фото могут остаться в кэше. Даже невинные посты могут стать частью цифрового портрета.
Для Meta это репутационный риск. Компания уже сталкивалась с критикой за сбор данных о детях. Соглашение с 47 штатами на $17,1 миллиарда — часть этой истории. Но новые инциденты показывают, что проблема не решена.
Для общества это вопрос регулирования. Должны ли алгоритмы иметь право собирать информацию о детях без согласия родителей? Должны ли они предлагать вопросы, которые ведут к раскрытию личных данных?
Ответов пока нет. Но история Робинс делает эти вопросы более насущными.
Источники: Futurism, заявления Кэли Робинс, комментарии Meta, The Post.
В нашем Telegram‑канале, вы найдёте новости о непознанном, НЛО, мистике, научных открытиях, неизвестных исторических фактах. Подписывайтесь, чтобы ничего не пропустить.
Поделитесь:
Оставьте Комментарий