Иллюзия всеведения: почему мы переоцениваем свою способность отличить фото человека от «цифрового двойника»

Это особая разновидность ложной уверенности в себе.

Искусственный интеллект становится не только сложнее для распознавания, но теперь мы даже не осознаем, что ошибаемся. Австралийские ученые выяснили, что люди становятся самоуверенными в своей способности отличить реальные лица от цифровых, что делает нас уязвимыми для дезинформации и мошенничества.

«Люди всегда были уверены, что могут распознать подделку, — отметил автор исследования доктор Джеймс Данн из Школы психологии Университета Южного Уэльса. — Но лица, созданные самыми продвинутыми системами генерации, уже не так просто вычислить».

Чтобы проверить наши способности по детекции ИИ, австралийские исследователи опросили 125 человек. Среди них было 89 людей со средними навыками распознавания лиц и 36 человек с исключительными способностями, которых называют «супер-распознавателями». Результаты были опубликованы в Британском журнале психологии.

Участникам показывали изображения лиц (заранее отобранные, чтобы на них не было очевидных дефектов) и просили определить, кто перед ними: реальный человек или творение ИИ.

Исследователи обнаружили, что люди с «обычными способностями к распознаванию лиц» справлялись с задачей лишь немногим лучше, чем при случайном угадывании. Например, добровольцы из контрольной группы набрали неутешительные 3 балла из 6 в этом «человеческом тесте», что означает — результат был бы таким же, подбрось они монетку.

«Супер-распознаватели» выступили лучше контрольной группы, но, по словам доктора Данна, этот отрыв оказался «минимальным».

Что оставалось неизменным? Ошибочная вера в свои детективные способности. «Поразительно, но люди были неизменно уверены в своем умении распознать лицо, созданное ИИ, — даже когда эта уверенность совершенно не соответствовала реальным результатам», — иронично заметил Данн.

Отчасти проблема в том, что технологии генерации лиц достигли такого уровня совершенства, что мы больше не можем выявить подделку по привычным признакам. Если раньше ИИ-лица «выдавали» искаженные зубы, очки, сливающиеся с кожей, и прочие огрехи в районе головы, то современные генераторы сделали такие недостатки большой редкостью.

Однако мы по-прежнему ищем старые «красные флажки», и это порождает в нас ту самую ложную браваду. Сегодня цифровых самозванцев парадоксальным образом выдает не то, что с ними не так, а то, что в них чересчур правильно.

«По иронии судьбы, самые совершенные лица от ИИ выдает не то, что с ними не так, а то, что в них слишком правильно, — объясняет соавтор исследования доктор Эми Доуэл, психолог из Австралийского национального университета. — Вместо явных глюков, они, как правило, необычайно усреднены: идеально симметричны, безупречно пропорциональны и статистически типичны. Такое ощущение, что они слишком хороши, чтобы быть настоящими лицами», — посетовала она.

Учитывая, как часто даже «супер-распознаватели» попадались в ловушку, становится ясно: детекция ИИ — это не тот навык, которому можно легко научиться.

Наша слабая способность к различению, помноженная на ложную уверенность в ней, вызывает серьезное беспокойство на фоне роста числа реалистичных схем «кошачьей рыбалки» (прим. пер.: catfishing — создание фальшивых личностей в сети для обмана) и прочих цифровых махинаций. Прошлой зимой пользователи TikTok уже разоблачали гиперреалистичных ИИ-врачей, которые вводили в заблуждение пользователей соцсетей непроверенными медицинскими советами.

В связи с этим доктор Данн призывает сохранять «здоровый уровень скептицизма». «Долгое время мы могли смотреть на фотографию и полагать, что видим реального человека. Теперь это допущение ставится под сомнение».

Ученые полагают, что решение может быть связано с новым типом «детекторов лиц», на который они наткнулись случайно во время эксперимента.

«Наше исследование показало, что некоторые люди уже являются прирожденными сыщиками по распознаванию ИИ-лиц, что позволяет предположить существование "супер-детекторов ИИ-лиц", — говорит он. — Мы хотим узнать больше о том, как этим людям удается замечать подделки, какие именно признаки они используют, и посмотреть, можно ли обучить этим стратегиям остальных».

На фоне этих результатов особенно остро встает вопрос о цифровой гигиене будущего. Если даже лучшие из нас не могут безошибочно отличить реальность от симуляции, возможно, нам стоит сместить фокус внимания с самих изображений на контекст.

«В эпоху, когда любой может сгенерировать фотографию несуществующего человека за секунду, наша уверенность должна строиться не на визуальном анализе, а на критическом мышлении, — комментирует открытие независимый эксперт по кибербезопасности Анна Петрова. — Проверка источника, перекрестный поиск информации и скептицизм по отношению к "идеальным" незнакомцам в сети становятся важнее, чем попытки разглядеть пиксели или асимметрию ушей».

Исследователи из Университета Южного Уэльса планируют следующий этап: создание приложения, которое в реальном времени будет предупреждать пользователей о вероятности того, что изображение перед ними сгенерировано нейросетью. Однако они предупреждают: это лишь костыль. Пока алгоритмы учатся распознавать подделки, другие алгоритмы учатся делать эти подделки идеальными. Гонка вооружений в области распознавания лиц только начинается, и в ней, похоже, человеческий глаз уже проигрывает.