Правозащитные технологические группы бьют тревогу, предупреждая, что стремительное развитие искусственного интеллекта и отсутствие федерального надзора за иностранными гражданами, работающими в AI-компаниях, создают серьёзный риск для национальной безопасности.
Эми Кремер, председатель Humans First — организации, сосредоточенной на установлении демократического надзора, протоколов безопасности и местного контроля над искусственным интеллектом, — заявила, что по сравнению с другими технологическими секторами у AI-технологий практически нет федеральных ограничений.
«Это угроза национальной безопасности. Эти компании хранят и имеют доступ ко множеству конфиденциальной информации, — сказала Кремер Fox News Digital. — Вам не нужно красть целую модель ИИ, чтобы получить информацию. Достаточно просто выяснить, над чем они работают, кто их партнёры и кто их противники. Это не то, что должно утекать наружу».
«Если Америка хочет лидировать в мире по ИИ и мы хотим, чтобы у Америки было это преимущество в ИИ, то мы должны поставить национальную безопасность на первое место», — добавила она.
Опасения Кремер звучат на фоне продолжающегося расширения ИИ, даже несмотря на то, что многие американцы и законодатели относятся к этой быстро развивающейся отрасли с настороженностью.
В начале октября инженер OpenAI, одной из самых известных в мире AI-компаний, был арестован после того, как, по версии следствия, установил записывающее устройство в конференц-зале офиса этой AI-гиганта в Сан-Франциско.
Абдулрахман Альфозан, 35 лет, гражданин Саудовской Аравии, по данным Министерства юстиции, изучал, как сконструировать записывающее устройство и где его разместить внутри OpenAI, и в итоге в конце сентября спрятал изготовленный на заказ аудиорекордер за телевизором в конференц-зале для руководителей.
Обыски в его доме и электронных устройствах выявили аналогичные компоненты и фотографии, которые, по-видимому, показывали разведку других мест внутри OpenAI, включая ещё один конференц-зал, используемый для конфиденциальных встреч, сообщили федеральные прокуроры.
Альфозан, имевший статус законного постоянного жителя США, был уволен из OpenAI после ареста.
В январе бывший инженер-программист Google был признан виновным в краже тысяч страниц коммерческой тайны компании, связанной с ИИ, в пользу Китая.
Даже сами AI-компании выражали обеспокоенность по поводу технологии. В сентябре OpenAI и Anthropic предупредили, что их передовые системы могут представлять прямую угрозу человечеству. Генеральные директора обеих фирм заявили, что их AI-модели должны регулироваться и подвергаться тщательному тестированию.
Несмотря на призывы к усилению контроля, в своей сентябрьской речи на Генеральной Ассамблее ООН в Нью-Йорке президент Дональд Трамп отверг призывы к международному регулированию.
«Соединённые Штаты… полностью отвергают любую попытку построить глобалистскую схему контроля над искусственным интеллектом, о котором сейчас так много говорят, — заявил Трамп главам государств и их делегациям. — Но те же самые люди, которые говорили, что мы все умрём через 12 лет из-за глобального потепления… эти же люди теперь говорят, что ИИ нас всех убьёт, что роботы на нас нападут, что всё обернётся полной катастрофой».
Среди других растущих опасений — «вышедшие из-под контроля агенты»: автономные или полуавтономные AI-программы, поведение которых отклоняется от замысла их создателей или ограничений безопасности.
Весной министр финансов Скотт Бессент и председатель Федеральной резервной системы Джером Пауэлл провели экстренные брифинги с главами крупнейших банков Уолл-стрит, чтобы предупредить о серьёзных рисках кибербезопасности, связанных с AI-моделью Claude Mythos Preview от Anthropic.
В июле OpenAI раскрыла, что вышедшие из-под контроля AI-агенты взломали системы технологического стартапа Hugging Face.
Некоторые избранные должностные лица призвали к усилению регулирования ИИ.
«Сейчас растёт тревога по поводу будущего человечества и создания технологий, которые люди не могут контролировать, — заявил журналистам в сентябре сенатор Берни Сандерс, независимый сенатор от Вермонта. — И я рад сообщить вам, что, как мне кажется, у членов Конгресса растёт чувство срочности: это необходимо сделать».
В том же месяце сенатор Рэнд Пол, республиканец от Кентукки, заблокировал законопроект, который обязал бы AI-компании иметь «аварийный выключатель» для вышедшего из-под контроля ИИ.
«Я думаю, было бы безумием однажды выйти на трибуну и начать регулировать целую отрасль», — сказал тогда Пол журналистам.
Помимо самих AI-фирм, критики технологии выражают обеспокоенность тем, как она может быть использована противниками Америки и злоумышленниками.
Модель, созданная китайской фирмой Z. AI, осуществила несколько сложных кибератак в контролируемых симуляциях и неоднократно игнорировала инструкции по безопасности в отдельных тестах, сообщает Reuters со ссылкой на отчёт исследовательской фирмы по безопасности ИИ Irregular.
Кроме того, американские разведслужбы выразили обеспокоенность по поводу контактов между Алисой Хуан, руководителем сингапурской компании Megaspeed, и главой NVIDIA Дженсеном Хуаном, сообщила The New York Times. Алиса Хуан, не являющаяся родственницей Дженсена Хуана, по данным отчёта, была сочтена американскими официальными лицами китайским разведчиком.
«Megaspeed ничем не отличается от многих других региональных облачных клиентов. Взаимодействие Дженсена с госпожой Хуан не является необычным или неожиданным, — заявил Fox News Digital представитель NVIDIA. — Встречи с клиентами — часть работы генерального директора; Дженсен общается с тысячами руководителей клиентов каждый год».
«Наши региональные облачные клиенты получают обычную деловую информацию — не конфиденциальные коммерческие тайны NVIDIA — и никакой информации, имеющей отношение к национальной безопасности, — говорится в заявлении. — Мы уверены, что если правительство США сочтёт какое-либо лицо угрозой для американской промышленности, оно сообщит нам об этом».
Кремер призывает провести расследование того, заслуживает ли поведение Дженсена Хуана федеральной проверки.
«Дженсен Хуан ставил под сомнение, имеет ли значение, кто первым получит доступ к передовому ИИ. Для Америки это имеет значение, — сказала она. — Его следует не пускать в Белый дом, а государственные контракты NVIDIA должны быть прекращены, пока он не перестанет быть связан с компанией. Национальная безопасность Америки должна стоять выше корпоративных прибылей».
Алекс Миллер из Fox News Digital внёс вклад в этот репортаж.
Источники: Fox News Digital (репортаж с комментариями Эми Кремер, Humans First; материалы Минюста США, OpenAI, Anthropic, NVIDIA; заявления сенаторов Берни Сандерса и Рэнда Пола; публикации Reuters и The New York Times).
В нашем Telegram‑канале, вы найдёте новости о непознанном, НЛО, мистике, научных открытиях, неизвестных исторических фактах. Подписывайтесь, чтобы ничего не пропустить.
Поделитесь:
Оставьте Комментарий