Цифровой поводок для ИИ: Калифорния требует «отпечатки пальцев» на каждом синтетическом файле

Калифорния надевает цифровой поводок на ИИ-подделки.

Новый эпохальный закон штата, вступающий в силу на этой неделе, потребует от компаний, занимающихся искусственным интеллектом, добавлять невидимые «цифровые отпечатки» к сгенерированным ИИ изображениям, видео и аудио, давая пользователям возможность определить, было ли увиденное ими создано человеком — или машиной.

Документ, написанный законодателями из области залива Сан-Франциско, обяжет AI-компании встраивать в свои творения трудноудаляемые данные, известные как «провенанс» — сведения о происхождении, — позволяя людям проверять истоки файла через инструменты верификации контента.

Цель — сделать интернет чуть менее похожим на Дикий Запад.

«Хотя у ИИ есть некоторые преимущества, мы видели, как сгенерированный искусственным интеллектом контент использовался для предвыборной дезинформации, мошенничества и оскорбительных дипфейков», — заявил недавно KQED сенатор штата Джош Беккер, демократ от Менло-Парк.

Обеспокоенность возникла на фоне того, что политический контент, созданный ИИ, уже начал будоражить «Золотой штат». Как ранее сообщала The Post, два калифорнийских демократа недавно призвали Конгресс принять жесткие меры против созданных ИИ предвыборных роликов, которые могут выдавать себя за кандидатов или политические организации, — по мере того как технология становится все более изощренной.

Сенатор США Адам Шифф и конгрессмен Ро Кханна, демократ от Фримонта, продвигают новое ужесточение правил, которое остановило бы фальшивые имитации кандидатов, захватывающие федеральные кампании. Этот толчок последовал за тем, как калифорнийские политические кампании embraced ИИ-рекламу.

В их числе — видео кандидата в губернаторы от республиканцев Стива Хилтона с нападками на губернатора Гэвина Ньюсома, бывшего вице-президента Камалу Харрис и кандидата от демократов Хавьера Бесерру, а также вирусный предвыборный ролик бывшего кандидата в мэры Лос-Анджелеса Спенсера Пратта «Pratt Man», собравший миллионы просмотров с помощью голливудской ИИ-пародии.

Шифф предупредил, что политический обман с использованием ИИ пересекает партийные границы. «Созданная ИИ мошенническая реклама, использующая образ или голоса кандидатов для искажения их позиций, кампаний или идей или иным образом искажающая точку зрения кандидата, — это не просто неправильно; она представляет серьезную угрозу нашей демократии, которая должна беспокоить всех американцев, независимо от их партийной принадлежности», — сказал он.

В то время как одни подделки нацелены на то, чтобы обмануть публику, эти вест-коустские предвыборные клипы носили свою цифровую ДНК напоказ, используя анимацию и сатиру в духе Тинсельтауна. Однако по мере того, как созданный машинами политический контент наводняет интернет, грань между фактом и фикцией становится для избирателей все более размытой.

Беккер объединился с членом Ассамблеи Баффи Уикс, демократом от Окленда, и Риком Чавесом Збуром, демократом от Лос-Анджелеса, в работе над законом, стремясь дать обычным интернет-пользователям шанс в мире, где ИИ-подделки могут выглядеть пугающе реально.

Начиная с этого воскресенья, 9 августа, пользователи смогут загрузить изображение, видео- или аудиофайл в верификатор контента — например, созданный Коалицией за происхождение и подлинность контента (C2PA), — чтобы проверить, был ли он создан ИИ.

Развертывание закона на этом не остановится. С 1 января 2027 года крупные технологические компании должны будут предоставить пользователям способ распознавать созданный ИИ контент, скрывающийся на виду. К 2028 году телефоны и камеры, произведенные в Калифорнии, также будут обязаны сохранять информацию о происхождении в момент захвата изображения, по сути, выдавая каждой фотографии собственное цифровое свидетельство о рождении.

Закон, возможно, был принят еще в 2024 году, но его запуск занял почти три года, пока законодатели пытались угнаться за стремительной эволюцией ИИ. Калифорнийские законодатели также тесно сотрудничали с чиновниками Европейского союза при разработке правил; закон вступает в силу в тот же день, что и новый Закон ЕС об ИИ.

Хотя первый этап закона в первую очередь нацелен на AI-компании, эксперты говорят, что самый большой эффект может наступить, когда правила дойдут до социальных сетей.

Стивен Шарп Квинер, академический исследователь из Starling Lab, предупредил, что требования к платформам могут изменить то, как люди потребляют информацию онлайн. Если эти правила будут исполняться, они «без сомнения окажут более масштабное воздействие на нашу информационную экономику», написал Квинер в недавнем посте на Substack.

По мере того как сгенерированный ИИ контент наводняет интернет, Калифорния делает ставку на то, что лучшая защита против цифрового обмана — это прозрачность: крошечный цифровой след за каждым синтетическим творением.

Потому что в эпоху ИИ видеть — не всегда значит верить.

Цифровой паспорт для пикселя: почему Калифорния и ЕС синхронизировали часы

Калифорнийский закон и европейский AI Act, вступающие в силу одновременно, — это не совпадение, а скоординированная попытка двух крупнейших регуляторных систем задать глобальный стандарт цифровой прозрачности. Технически механизм прост: каждый файл получает метку о происхождении, которую нельзя стереть, — нечто вроде паспорта для пикселя. Но настоящая интрига — в сроках. Требование к соцсетям встроить верификаторы к 2027 году означает, что платформы, которые сегодня живут за счет виральности, — а виральность часто питается именно фейками, — должны будут вшить проверку подлинности в пользовательский интерфейс. А требование к производителям камер с 2028 года и вовсе создает сквозную цепочку: от затвора камеры до ленты соцсети. Вопрос в том, как отреагируют Meta, X и TikTok: подчинятся ли они калифорнийскому закону, который формально не имеет юрисдикции за пределами штата, но фактически регулирует глобальный интернет, — или попытаются оспорить его как ограничение свободы слова.

Источники: заявления сенатора Джоша Беккера (KQED); интервью сенатора Адама Шиффа и конгрессмена Ро Кханны; публикация Стивена Шарпа Квинера (Starling Lab, Substack); текст закона штата Калифорния о цифровом провенансе (2024); материалы The California Post.