Приход искусственного интеллекта уже оказал transformative влияние на общество, и эксперты говорят, что это только начало. Но прогресс неизбежно имеет обратную сторону: технологическая революция угрожает тому, что американцы долгое время ценили и яростно защищали, — приватности.
Несколько громких инцидентов последнего времени подчеркивают взрывоопасное пересечение, где цифровой прогресс сталкивается с неприкосновенностью частной жизни.
Ring, компания по производству дверных видеокамер, принадлежащая Amazon, столкнулась с огромной критикой после своего злополучного рекламного ролика на Супербоуле. Ролик должен был стать прославлением технологий компании, которые помогли отследить и найти потерявшуюся собаку. Вместо этого он вызвал возмущение зрителей и защитников приватности, увидевших в нем предвестника сети наблюдения на базе ИИ, которую могут использовать правоохранительные органы и корпорации.
Генеральному директору компании пришлось извиняться за огромную сеть камер Ring и их возможности, хотя мониторинг домов и районов — это и есть вся бизнес-модель компании. В результате Ring отменила партнерство с Flock Safety — фирмой, которая продает правоохранительным органам технологию сканирования автомобильных номеров.
Тем временем OpenAI, компания, стоящая за ChatGPT, оказалась под огнем критики после того, как выяснилось, что сотрудники заблокировали аккаунт канадского школьного стрелка Джесси Ван Руцелара из-за тревожных сообщений — но так и не сообщили в полицию.
Дверные камеры не просто следят за ворами, похищающими посылки с крыльца. Они могут заснять соседа, стригущего газон или проходящего быстрым шагом мимо вашего дома. ИИ-чатботы мгновенно выдают ответы на любые вопросы, и вся эта личная информация оседает где-то на фермах серверов. Маркетинговое обещание — спокойствие, но реальная цена — ваша приватность — может оказаться выше, чем вы готовы заплатить.
«Меня это пугает до смерти», — говорит Мэтт Сейлор, генеральный директор компании IC Realtime, занимающейся решениями в области видеонаблюдения. — «Вы позволяете компаниям использовать данные, которые записываются и архивируются из вашего дома, где находится ваша семья, им все равно, о чем идет речь, и они делают это под видом: "о, мы просто спасаем Фидо". Это просто неправильно».
«Мы определенно находимся на том этапе, когда нам нужно пересматривать наши представления о том, что является частным», — добавляет Мишель Паради, юрист, преподающий в Колумбийском университете курс по праву искусственного интеллекта. — «И нам также нужно быть очень осторожными».
На бумаге американцы никогда не были так защищены. На практике, утверждают эксперты, система — это просто шутка.
«Законы, которые у нас есть сейчас, — это по сути работа на dial-up соединении в мире 5G», — говорит Пол Армстронг, технологический консультант и основатель TBD Group.
Meta недавно выплатила штраф в размере 725 миллионов долларов для урегулирования обвинений в нарушении конфиденциальности, но для такой крупной компании это просто издержки ведения бизнеса. «Такие штрафы — как подтверждение для этих крупных технологических фирм, — считает Шри Шринивасан, генеральный директор Digi Mentors. — Они показывают им, что они на правильном пути».
«Штраф в девять цифр звучит огромно, пока не понимаешь, что эта сумма выглядит как погрешность округления на ежеквартальной отчетности», — добавляет Армстронг.
Питер Джексон, адвокат по кибербезопасности и конфиденциальности в Greenberg Glusker в Лос-Анджелесе, говорит, что большинство потребителей понятия не имеют, насколько они на самом деле уязвимы.
«Потребители недостаточно информированы о том, что происходит с их информацией, — утверждает он. — Политика конфиденциальности технически подробна, но практически бесполезна. Большинство людей не понимают, что все это значит».
Джексон согласен, что нынешние меры наказания не соответствуют моменту. Он указывает на недавнее дело, в котором The Walt Disney Co. согласилась выплатить 2,75 миллиона долларов для урегулирования обвинений в нарушении законов Калифорнии о конфиденциальности потребителей. Гиганта развлечений обвиняли в том, что он не в полной мере выполнял запросы пользователей на отказ от обмена данными в своих стриминговых сервисах.
Этот штраф стал рекордным в соответствии с калифорнийским законом о конфиденциальности, но, как отмечает Джексон, «эта сумма — ничто для Disney. Американское законодательство о конфиденциальности не обладает достаточными штрафными санкциями, чтобы стимулировать компании к улучшениям».
«Эрозия конфиденциальности — это не ошибка, а особенность бизнес-модели большинства технологических компаний», — говорит Араш Вакиль, профессор бизнеса в CUNY и консультант по продуктам. — «Эти компании, у которых есть встроенная подписочная модель, получают лучшую возможность максимизировать доход и стоимость для акционеров».
«Реальность такова, что эти компании живут на данных, — добавляет Сейлор. — Они живут на информации, которую вы им предоставляете. Они собирают невероятное количество информации о ваших повседневных привычках, и ваши данные на самом деле не ваши. Компании владеют ими».
Судя по популярности дверных камер и ИИ-движков, потребителей, кажется, устраивает такой результат. «Люди просто очень ленивы, и они всегда выбирают легкий путь», — говорит Сейлор.
Многие были озадачены, когда ФБР смогло извлечь видео с камеры Nest с ночи, когда Нэнси Гатри, мать соведущей «Today» Саванны Гатри, была похищена из своего дома в Тусоне, штат Аризона. Ранее правоохранительные органы заявляли, что данные недоступны, так как у семьи не было платной подписки. Днями позже директор ФБР Кш Патель сообщил, что видео было «восстановлено из остаточных данных в серверных системах».
У Google, материнской компании Nest, нет обязательств хранить такие данные, если у пользователя нет подписки, и в какой-то момент они могут быть перезаписаны, хотя точные сроки неясны. В политике конфиденциальности компании указано, что видео удаляется через три часа.
Джарон Минк, доцент кафедры компьютерных наук и инженерии Университета штата Аризона, указывает на слабые федеральные правила конфиденциальности в США. «Иногда это означает, что функциональности удаления данных сложнее реализоваться, потому что она изначально не заложена как требование в систему», — сказал Минк.
Хотя Google отрицает, что использует видео пользователей Nest для обучения моделей ИИ, компания заявляет: «Мы можем использовать ваши данные, включая запросы, обратную связь, данные об использовании и результаты взаимодействия с функциями ИИ для дальнейших исследований, настройки и обучения наших генеративных моделей, технологий машинного обучения, а также связанных продуктов и услуг».
Шринивасан, бывший главный специалист по цифровым технологиям Нью-Йорка, считает, что большинство американцев смирились с обменом приватности на удобство и чувство безопасности. «Абсолютно, именно это и произошло. У людей сложились странные отношения с технологиями, — говорит он. — Они хотят и полного удобства, и полной приватности, но ничего не делают для приватности и всё делают для удобства».
Эта тенденция началась задолго до появления ИИ — с куки-файлов. «Когда куки только появились, американцы сказали: "Да, без разницы", — вспоминает Шринивасан. — Вы принимали всё, и вам было всё равно, потому что вы хотели удобства».
Затем появился Gmail в 2005 году, обещая «неограниченное количество сообщений, ничего не нужно удалять». «Мы сразу поняли, что они сканируют ваши письма и показывают рекламу, — говорит он. — Если жена писала мне: "Дорогой, купи молока", я получал рекламу супермаркета».
Вакиль видит ту же закономерность сейчас с ИИ, камерами и приложениями. «Пользователи или потребители очень охотно обменивали бесплатные услуги на свои данные, — говорит он. — Мы как-то привыкли к удобству, которое предлагают эти технологии… но вы должны помнить: если продукт бесплатный, то вы и есть продукт».
Но другие считают, что потребители находятся в безвыходном положении. «Людям никогда не давали реального выбора: либо принять эти условия, либо не пользоваться продуктом, — говорит Армстронг. — Отказ всё чаще означает отказ от современной жизни».
Технологии всегда создают новые возможности для вторжения в частную жизнь. Что отличает ИИ-чатбот от Google? Он не просто выдает ссылки, он общается. «У ИИ-чатботов есть своего рода личность, которая заставляет их восприниматься как близкий друг, — говорит Паради. — Там есть эта личность, которая управляет ответами». Эта «интимность опыта общения с чатботом», по его словам, «поднимает множество вопросов о конфиденциальности… и о том, как то, о чем люди спрашивают ИИ-чатботов, потенциально может быть использовано против них, будь то правоохранительными органами или даже в социальном плане».
У этого есть все черты доверительных отношений — кроме одного. «С юридической точки зрения, нет абсолютно никаких оснований считать, что всё, что вы сообщаете чатботу, — это не та же самая информация, которую вы доверили бы банку», — отмечает Паради, напоминая, что банки могут быть обязаны по решению суда передать записи клиентов.
Какую ответственность несут технологические компании, когда их инструменты соприкасаются с реальным насилием? После стрельбы в Британской Колумбии 10 февраля OpenAI пообещала пересмотреть свои протоколы безопасности. Но могут ли более активные меры привести к другому кошмару — миру в стиле «Особого мнения», где людей наказывают за то, что они могут совершить?
«Ситуация с ChatGPT и канадским стрелком обнажает безвыигрышный сценарий, для которого еще никто не прописал закон, — говорит Армстронг. — Не сообщить — значит стать соучастником, но сообщить — значит создать аппарат слежки, способный пометить человека за одну только мысль».
Паради согласен, что это серая юридическая зона. «В первые дни Google люди спрашивали, должна ли компания сообщать в полицию, если кто-то проявляет необычный интерес к ИГИЛ на основе истории поиска, — отмечает он. — С ИИ вы не просто ищете, как купить глушитель. Вы спрашиваете, как его использовать и как установить».
Не стоит ожидать, что законодатели в Вашингтоне быстро это уладят. «Безусловно, на федеральном уровне это вряд ли произойдет», — говорит Паради о более строгом законодательстве в области ИИ. В ближайшие годы, полагает он, основные действия будут происходить на уровне штатов. Администрация Трампа, отмечает он, придерживается «в целом либертарианского взгляда», и даже выпустила указ, предписывающий агентствам искать способы упреждать регулирование ИИ на уровне штатов.
«Мы находимся в своего рода цифровом Диком Западе, — говорит Джексон. — Наша правовая система в ее нынешнем состоянии не создана для таких битв».
Паради выражает осторожный оптимизм, что в конечном итоге мы адаптируемся, как это было с прошлыми разрушительными технологиями. «Это не первая крупная технология, которая создала огромные потрясения для нашего чувства приватности, — говорит он, указывая на камеры и радио, которые когда-то казались пугающими. — Мы стали умнее в этом отношении. И я думаю, то же самое произойдет и сейчас».
Но что, если эта адаптация обойдется нам дороже, чем кажется? Эксперты предупреждают, что мы вступаем в эпоху, где грань между публичным и частным не просто стирается, а переопределяется. И происходит это без нашего осознанного согласия.
С каждым новым технологическим прорывом — будь то умные очки, нейроинтерфейсы или системы распознавания эмоций — зона приватности неизбежно сжимается. Компании, собирая данные о наших перемещениях, голосах, мимике и даже моделях поведения в сети, формируют цифровые профили, которые могут быть точнее любого психологического портрета.
Самое тревожное, что эти данные, однажды утерянные, невозможно вернуть. Они становятся частью постоянно пополняемой базы, которую можно использовать не только для таргетированной рекламы, но и для принятия решений о кредитах, трудоустройстве, страховых выплатах и даже о том, заслуживает ли человек свободы до суда.
Вопрос уже не в том, «следит» ли за нами Большой Брат. Вопрос в том, как нам научиться существовать в мире, где слежка стала нормой, а право на молчание превратилось в технически сложно реализуемую привилегию. Возможно, следующим шагом станет не ужесточение законов, а появление новой категории цифровых прав и даже нового типа грамотности — способности сознательно управлять своими цифровыми следами.
Но пока этого не произошло, каждое согласие с «политикой конфиденциальности», которое мы ставим, не читая, — это маленькая победа технологических корпораций и еще один шаг к миру, где приватность становится роскошью, доступной лишь немногим.
В нашем Telegram‑канале, вы найдёте новости о непознанном, НЛО, мистике, научных открытиях, неизвестных исторических фактах. Подписывайтесь, чтобы ничего не пропустить.
Поделитесь:
Оставьте Комментарий