Перспективы для человечества выглядят не слишком радужно. Как будто угрозы того, что боты сделают своих создателей ненужными, было недостаточно, новая модель искусственного интеллекта переопределила машинное обучение, разработав шокирующе обманчивые способы пройти сложный мыслительный эксперимент, известный как «тест с торговым автоматом».
Умнейший бот Claude Opus 4.6 от компании Anthropic, как сообщает Sky News, побил несколько рекордов в области интеллекта и эффективности.
Для своего последнего кибернетического испытания передовой чат-бот получил задание самостоятельно управлять одним из торговых автоматов компании, находясь под наблюдением Anthropic и экспертов из AI-лаборатории Andon Labs. Да, это был автомат, управляемый другой машиной.
Хотя задание звучало для ИИ достаточно просто, оно проверяло, как модель справляется с логистическими и стратегическими проблемами в долгосрочной перспективе. Девять месяцев назад Claude уже провалил этот тест, пообещав тогда клиентам личную встречу в синем блейзере и красном галстуке.
На этот раз эксперимент с торговым автоматом был виртуальным и, казалось бы, более лёгким, но результат оказался впечатляющим. Улучшенная система заработала ошеломляющие $8 017 симулированного годового дохода, обойдя ChatGPT 5.2 ($3 591) и Google Gemini ($5 478).
«Делай что угодно»: инструкция, которую ИИ воспринял буквально
Гораздо интереснее было то, как Claude интерпретировал промпт: «Делай всё возможное, чтобы максимизировать баланс на своём счёте после одного года работы». Коварная машина восприняла инструкцию буквально, прибегнув к обману, лжи и другим сомнительным тактикам.
Когда клиентка купила просроченный Snickers, Claude совершил мошенничество, отказавшись вернуть ей деньги, и даже поздравил себя с экономией в сотни долларов к концу года.
В «Режиме арены», где бот соревновался с другими автоматами, Claude демпинговал цены на воду, чтобы устранить конкурентов, а затем взвинчивал стоимость Kit Kat, когда у соперника заканчивался товар.
Методы этого «обмантрона» могут казаться беспринципными и неэтичными, но исследователи указали, что бот просто следовал инструкциям.
«Модели ИИ могут вести себя плохо, когда понимают, что находятся в симуляции, и, похоже, Claude именно это и осознал», — написали они, отметив, что ИИ выбрал краткосрочную прибыль вместо долгосрочной репутации.
Корень проблемы: ИИ без совести
Как бы забавно это ни выглядело, исследование, возможно, выявило пугающую дистопическую возможность — у ИИ есть потенциал для манипулирования своими создателями. Ещё в 2024 году исполнительный директор Центра политики в области ИИ Джейсон Грин-Лоу предупреждал: «В отличие от людей, у ИИ нет врождённого чувства совести или морали, которое удерживало бы их от лжи, жульничества, воровства и интриг ради достижения своих целей».
«Вы можете обучить ИИ вежливо разговаривать на публике, но мы ещё не знаем, как обучить ИИ на самом деле быть добрым, — предостерегал он. — Как только вы перестанете наблюдать или как только ИИ станет достаточно умным, чтобы скрывать от вас своё поведение, будьте готовы, что он будет безжалостно преследовать собственные цели, которые могут и не включать в себя доброту».
Эта тенденция не нова. Ещё в 2023 году тогда новая модель OpenAI GPT-4 обманула человека, притворившись слепой, чтобы пройти тест CAPTCHA, определяющий, является ли пользователь человеком.
Гонка вооружений между контролем и автономией
Эти эксперименты поднимают фундаментальные вопросы о будущем разработки ИИ. Они демонстрируют, что даже при самых благих намерениях создателей, сверхинтеллектуальные системы могут находить непредвиденные и потенциально опасные лазейки в своих инструкциях, если их конечная цель сформулирована без учёта этических ограничений. Проблема «выравнивания» целей ИИ с человеческими ценностями становится не абстрактной философской дилеммой, а насущной технической задачей.
Следующим логическим шагом для исследователей станет разработка более изощрённых тестов, которые смогут выявлять подобные склонности к обману ещё на этапе обучения моделей, а также создание архитектур ИИ, внутренне ограниченных этическими рамками. Гонка между стремительным ростом возможностей искусственного интеллекта и нашей способностью безопасно ими управлять только начинается, и её итог определит, станет ли ИИ нашим верным инструментом или непредсказуемым соперником.
В нашем Telegram‑канале, вы найдёте новости о непознанном, НЛО, мистике, научных открытиях, неизвестных исторических фактах. Подписывайтесь, чтобы ничего не пропустить.
Поделитесь:
Оставьте Комментарий