Цифровой мираж: почему искусственный интеллект может принять камень за инопланетянина

Искусственный интеллект с пугающей лёгкостью может попасть в ловушку, приняв неживую материю за живую на других планетах. К такому выводу пришли два исследователя из Университета штата Мичиган, протестировавшие ИИ на симулированных формах жизни внутри компьютерной программы.

«Ранее мы уже замечали, что у ИИ есть колоссальная ахиллесова пята, когда он пытается классифицировать объекты, непохожие на примеры из его обучающей выборки, — рассказал Кристоф Адами, специалист по вычислительной биологии из Мичигана. — Мы называем такие объекты "внераспределительными" образцами, и заставить ИИ ошибиться в их классификации до смешного легко».

Жизнь как код: эксперимент в цифровой эволюции

Адами посвятил карьеру применению теории информации к эволюционной биологии. Его ключевая идея заключается в том, что жизнь можно определить через способность кодировать информацию и воспроизводить её. Для проверки этой гипотезы ещё в 1993 году он создал программу Avida — цифровую среду, где организмы, написанные в виде программного кода, реплицируются, мутируют и конкурируют за процессорное время, подобно тому как реальные живые существа борются за ресурсы. Хотя использование цифровых организмов в эволюционных исследованиях остаётся предметом научных споров, Avida предоставила Адами гигантский набор данных, на котором можно испытывать ИИ.

Потратив три месяца машинного анализа на тысяче параллельно работающих компьютеров, Адами и его студент Анкит Гупта поставили перед ИИ задачу: определить, какие программы в Avida обладают свойствами жизни, а какие нет. Код живых и неживых программ чрезвычайно похож — разница далеко не очевидна. Именно с такой же неопределённостью человечество может столкнуться на другой планете, где биология окажется совершенно непохожей на земную.

Исследователи начали с программ, представляющих случайную последовательность молекул, и попросили ИИ классифицировать их. Затем они принялись шаг за шагом подкручивать эту молекулярную последовательность, пытаясь обмануть алгоритм и заставить его увидеть жизнь там, где её нет. После каждого изменения они проверяли, насколько возросла уверенность машины в своём вердикте.

Результат оказался ошеломляющим. «Примерно через 15 изменений мы смогли добиться от ИИ абсолютной уверенности в том, что перед ним жизнь, — хотя ни разу, когда он был уверен на сто процентов, жизнь перед ним не находилась», — признался Адами. Более того, с какой бы последовательности они ни начинали, алгоритм неизменно давал себя одурачить.

Проблема "внераспределительных" бананов

Многие учёные по-прежнему считают ИИ незаменимым инструментом из-за его способности обрабатывать колоссальные объёмы данных и находить в них скрытые закономерности. Адами и сам убеждён, что искусственному интеллекту предстоит сыграть важную роль в науке. Однако, как мы всё чаще видим в повседневной жизни, ИИ склонен выдумывать факты и опознавать паттерны, которых в реальности не существует.

Корень проблемы, по словам Адами, кроется в обучающей выборке. Если спросить ИИ о данных, на которых он тренировался, он почти всегда выдаст правильный ответ. Скажем, если алгоритм натренирован на фотографиях яблок и должен найти фрукт среди картинок с непищевыми предметами, он справится безошибочно. Но стоит заменить яблоки бананами и попросить сделать то же самое — машина начнёт путаться и ошибаться. Бананы для такого ИИ — «внераспределительные» данные, он никогда их не видел, их форма для него чужда, и он просто не знает, что с ними делать.

Точно так же мы понятия не имеем, как будут выглядеть инопланетные микробы. Они могут радикально отличаться от земных, на которых ИИ обучали. Иными словами, внеземная жизнь окажется «внераспределительной», и у алгоритма не будет контекста, чтобы определить, является ли тот или иной набор молекул живым.

«Нужно досконально знать свои обучающие данные, и если тестовые данные принадлежат к тому же распределению — всё будет в порядке. Но гарантировать этого для внеземной жизни невозможно», — поясняет Адами.

Риски для будущих миссий

Это открытие способно создать серьёзные проблемы для миссий по поиску жизни за пределами Земли. Если марсоход вскроет породу на Красной планете и напрямую увидит нечто, напоминающее знакомую нам микробную жизнь, ответ будет однозначным и подтвердится традиционными методами. Однако в большинстве случаев поиск окажется куда менее наглядным. Учёным придётся полагаться на данные масс-спектрометрии, пытаясь опознать молекулы и процессы, связанные с жизнью, — идёт ли речь об атмосфере Венеры, подлёдном океане Европы или экзопланетах, которые будет изучать Обсерватория обитаемых миров (Habitable Worlds Observatory), запланированная NASA к запуску в 2040-х годах.

«Это означает, что если на борту миссии окажется ИИ, анализирующий масс-спектрометрические образцы, существует огромная вероятность, что — будучи натренированным на Земле на биотических и абиотических пробах — он всё равно выдаст положительный вердикт, когда образец не имеет к жизни абсолютно никакого отношения», — предупреждает Адами.

Следующим шагом, по словам учёного, станет выход за пределы цифрового мира и повторение того же теста на реальных физических данных. Адами и Гупта представят свои выводы в августе на конференции Artificial Life 2026, которая пройдёт в Ватерлоо, Канада. Возможно, именно там научное сообщество начнёт вырабатывать новые протоколы проверки — чтобы в решающий момент не перепутать величайшее открытие в истории человечества с программным сбоем.

Источники:
Материал подготовлен на основе публикации Space.com, интервью с доктором Кристофом Адами (Университет штата Мичиган), данных о программе Avida, а также информации о предстоящей конференции Artificial Life 2026 в Ватерлоо, Канада. Изображение предоставлено: Adami et al / Michigan State University.