Манипуляция, стресс и бессонница: как Европа защищает здоровье от ИИ и почему Америка пока нет

Все беспокоятся, что ИИ отнимет у них работу. Европа больше обеспокоена тем, что он может сказаться на нашем здоровье.

Пока в США по-прежнему отсутствуют всеобъемлющие федеральные правила, регулирующие искусственный интеллект, Европейский союз на этой неделе вводит масштабные нормативные акты, призванные защитить людей от ИИ-систем, которые манипулируют пользователями, эксплуатируют их или причиняют им вред.

Закон Европейского союза об искусственном интеллекте — первый в мире комплексный закон об ИИ — вводится поэтапно с 2024 года. А 2 августа вступило в силу важное положение, распространяющее правила на ИИ-системы высокого риска, используемые в регулируемых продуктах, таких как медицинские устройства, машины и игрушки.

Закон классифицирует ИИ по четырем категориям риска — недопустимый риск, высокий риск, ограниченный риск и минимальный риск, — причем защита здоровья и благополучия людей занимает центральное место в этом подходе.

«Закон об ИИ гарантирует, что европейцы могут доверять тому, что предлагает ИИ, — заявила Европейская комиссия на своем сайте. — Хотя большинство ИИ-систем представляют ограниченный или нулевой риск и могут способствовать решению многих общественных проблем, определенные ИИ-системы создают риски, которые мы должны устранять, чтобы избежать нежелательных последствий».

Среди практик, которые теперь фактически запрещены, — ИИ-системы, использующие манипуляцию, обман или эксплуатацию для воздействия на поведение людей таким образом, который может причинить значительный вред. Сюда входит ИИ, применяющий подсознательные или намеренно обманные техники, подрывающие автономию человека, а также системы, эксплуатирующие уязвимости, связанные с возрастом, инвалидностью или социально-экономическим статусом. ЕС заявляет, что эти запреты призваны не допустить превращения людей в «простые инструменты для достижения определенных целей» и лучше защитить тех, кто наиболее подвержен манипуляции.

Но как этот вред выглядит на практике?

«Риски депрессии, тревожности, телесной дисморфии, зависимости, самоповреждений и самоубийства — все это может быть усилено эксплуатацией уязвимых людей со стороны ИИ», — говорит доктор Натан Кэрролл.

Скрытые риски для здоровья

Некоторые эксперты утверждают, что опасности не всегда очевидны. Подсознательные сигналы могут активировать стрессовую реакцию организма еще до того, как сознание успеет осознать происходящее.

«Я наблюдал, как этот же путь кортизола и адреналина срабатывал в теле пациента во время сердечного приступа в приемном покое много лет назад», — рассказал The Post Александр Акоста. Врач с клиническим опытом работы в первичной медицине, неотложной помощи и интенсивной терапии в государственной системе здравоохранения Эквадора, Акоста отметил, что гормональная реакция, которую он видел у экстренных пациентов, отражает тот тип физического вреда, который призваны предотвращать положения ЕС, когда ИИ непрерывно манипулирует или перевозбуждает пользователей.

Натан Кэрролл, сертифицированный психиатр и национальный медицинский директор InSite Health, говорит, что манипуляция и обман относятся к числу наиболее тревожных рисков ИИ, «потому что вред здесь более распространен, скрыт и невидим».

«ИИ, поощряющий самоповреждения, — это прозрачный акт, — сказал Кэрролл The Post. — Но ИИ, который тонко манипулирует человеком — через предвзятые данные, эффект эхо-камеры или ослабление критического мышления, — также способен причинить огромный вред».

Он воочию наблюдал непреднамеренные последствия, особенно среди молодежи. Многие начинают с экспериментов с ИИ, впечатляются его отточенными ответами и все больше доверяют ему, не подвергая сомнению информацию, которую он выдает. Это неуместное доверие, пояснил Кэрролл, уже приводило к тому, что электронные письма, отправленные одноклассникам и школьной администрации, становились причиной оценки угроз, проверок благополучия и психиатрических освидетельствований.

«Использование ИИ для эксплуатации уязвимостей и уязвимых людей — это тот риск, который не дает мне спать по ночам», — добавил он. Кэрролл также опасается, что, подобно недавнему случаю «Rogue AI» с OpenAI, автономный ИИ может быть выпущен в социальные сети для мошенничества, преследования, запугивания и травли пользователей, особенно детей и подростков. «Такого рода токсичное воздействие способно усилить самые крайние психологические и физические риски, которые мы наблюдаем в социальных сетях, — сказал он. — Риски депрессии, тревожности, телесной дисморфии, зависимости, самоповреждений и самоубийства — все это может быть усилено эксплуатацией уязвимых людей со стороны ИИ».

Ущерб может разворачиваться медленно. Кэрролл утверждает, что манипуляция способна переформатировать мышление человека на протяжении многих лет, влияя на отношения и принятие решений еще долго после того, как он перестал пользоваться конкретным ИИ-инструментом. Акоста, в свою очередь, предупредил, что повторяющееся воздействие чрезвычайно стимулирующих ИИ-платформ может удерживать нервную систему в затяжном состоянии «бей или беги».

«Если активация хроническая, она обычно не заявляет о себе одним большим событием, — сказал он. — Она атакует организм малыми симптомами, которые накапливаются в течение недель, а затем, когда разрушается сон, растет воспаление и снижается иммунитет».

Должны ли США последовать примеру Европы?

Кэрролл назвал Закон об ИИ «продуманной попыткой» устранить возникающие риски, но сказал, что одного регулирования недостаточно. «Нам нужно вдвое усерднее учить людей этим рискам, — сказал Кэрролл. — Безопасность плавания с акулами не повышается одними лишь уговорами акул. Нужно учить и самих пловцов, как оставаться в безопасности».

Акоста отметил, что тот факт, что ЕС признает физический, а не только психологический вред от ИИ, имеет большое значение. Однако он заметил, что до сих пор не существует клинической системы, позволяющей врачам определить, когда воздействие ИИ может способствовать появлению симптомов у пациента. «Я могу распознать индикаторы повышенного давления и нарушения сна, связанные с воздействием ИИ, но нет общего стандарта, который связывал бы эти симптомы с воздействием ИИ», — сказал он. Разработка таких медицинских критериев, по его мнению, могла бы помочь клиницистам выявлять проблемы раньше, вместо того чтобы пытаться соединить точки уже после того, как ущерб причинен.

Кэрролл считает, что США пошли бы на пользу аналогичные меры предосторожности, особенно защита детей и более строгая подотчетность разработчиков ИИ. «США позиционируют себя как лидер в области ИИ, — сказал он. — Мы также должны быть лидерами в безопасности ИИ, иначе одной из издержек быстрого движения сейчас может стать замедление в будущем, когда проявятся непреднамеренные последствия».

Невидимый вред: почему стресс от ИИ трудно диагностировать

Ключевая проблема, которую поднимают врачи, — это отсутствие диагностического языка для описания вреда от искусственного интеллекта. В отличие от автомобильной аварии или пищевого отравления, где причина и следствие очевидны, ИИ-манипуляция работает на микроуровне: алгоритм подсовывает контент, который чуть-чуть смещает эмоциональное состояние, день за днем, месяц за месяцем. Пациент приходит к терапевту с гипертонией и бессонницей, но ни он сам, ни врач не связывают это с «умной лентой», которую тот листал последние полгода. Евросоюз своим законом фактически признает: ИИ может быть токсичным агентом, подобно загрязненному воздуху или некачественной воде, — то есть источником хронического, а не острого вреда. Отсюда и логика запрета: если вещество или технология способны причинять вред медленно и незаметно, их нужно регулировать до того, как появятся клинические протоколы, а не после.

Источники: Закон ЕС об искусственном интеллекте (EU AI Act); заявления Европейской комиссии; интервью The Post с доктором Александром Акостой и доктором Натаном Кэрроллом (InSite Health).