Цифровое бессмертие и рецепт катастрофы

Слухи о моей смерти были сильно преувеличены. Причем самим искусственным интеллектом.

Недавно в одной из сводок ChatGPT, пересказывающей мою статью, меня назвали «покойным» писателем Стивом Куоццо. На следующий день меня, правда, «воскресили». Если искусственный интеллект такой умный, то почему же он настолько глуп? Аббревиатуру «ИИ», пожалуй, стоило бы расшифровывать как «Изумительное Игнорирование» фактов.

Нам пророчат, что скоро ИИ будет управлять правительствами, нашими умами и телами. Папа Римский предупреждал об антигуманном эффекте «Вавилонской башни». Экономисты боятся, что роботы уничтожат рабочие места и превратят города в необитаемые руины вроде Помпей. Но прежде чем приписывать технологиям способность менять человечество, этим «апокалиптическим прорицателям» стоило бы для начала спросить у ботов о самих себе.

Может ли ИИ качественно выполнять свою базовую задачу — собирать и обобщать информацию? Да, нейросеть может заставить слона танцевать с обезьяной или создать полностью выдуманную «актрису» для обложки журнала. Но когда дело доходит до реальных людей, начинается кромешный хаос.

Особенно отличился Клод от компании Anthropic. Я никогда не писал кулинарных книг. Никогда не жил в Гринвич-Виллидж. У меня нет детей. Однако «звездный продукт» Anthropic выдал всё это обо мне с полной уверенностью. Клод знает, что я пишу о коммерческой недвижимости — уже неплохо. Но стоило спросить, писал ли я о небоскребе Herald Towers, как ИИ предложил мне поискать это на сайте New York Post. Разве не в этом и заключается задача ИИ?

Anthropic, оцениваемая почти в триллион долларов, недавно подала заявку на IPO. Я точно не буду покупать их акции. Из пяти протестированных платформ лучше всех с краткой биографией справился Grok Илона Маска, блестяще сравнив мои ресторанные обзоры со статьями критика New York Times. Но в остальных случаях началась фантасмагория. ChatGPT заявил, что в открытых источниках нет данных о моем образовании, хотя моя степень в университете Стоуни-Брук легко гуглится. Perplexity AI не нашла ни одной моей книги, проигнорировав мою работу 1996 года о газетном бизнесе. Gemini приписала мне соавторство в книге, написанной моей женой.

Но самый громкий смех вызвал Клод, заявивший, что я издал книгу «The Finger Food Cookbook» в 1997 году. Этого бреда не существует в природе. И, как это бывает у ИИ, ложь тут же подхватила другая платформа, сославшись на «источник» о моей несуществующей книге рецептов.

Возможно, однажды ИИ превзойдет человека, как предрекает Маск. Но пока ему стоит научиться хотя бы грамотно "списывать" из «Википедии».

Самое забавное, что я действительно люблю готовить. Возможно, именно это сыграло со мной злую шутку: алгоритм, найдя в моих статьях пару метафор о «пережаренных девелоперских проектах» или «сырых бизнес-планах», дорисовал в своем воображении поварской колпак на моей голове. Робот, не способный отличить гастрономическую критику от описания офисного здания, сегодня претендует на то, чтобы управлять миром?

Эта «пальчиковая еда» стала для меня символом цифровой эпохи. Мы заглатываем информацию на лету, не пережевывая. Искусственный интеллект — это зеркало наших собственных когнитивных ляпов, возведенных в абсолют машинной скоростью. Люди боятся, что ИИ превратит города в Помпеи. Но мне кажется, правда куда прозаичнее: прежде чем залить нас лавой дезинформации, он просто накормит нас до смерти несуществующими канапе из пальцев.

Человечество замерло в ожидании цифрового бога. А бог, похоже, застрял где-то на уровне студента, который в панике перед экзаменом пытается списать у самого себя, путая даты, имена и факты. И когда мне говорят, что эта технология завтра начнет ставить мне медицинские диагнозы или управлять самолетами, я вспоминаю свой некролог, написанный ChatGPT, и свою «кулинарную» библиографию, и мне становится по-настоящему не по себе.

Редакторы моего поколения боялись фактической ошибки как огня. За одну перевранную дату можно было лишиться работы. Сегодняшние нейросети не просто ошибаются — они творят мифы с уверенностью античных оракулов, и эта ложь тут же оседает в их же базе, становясь «истиной». Именно эта бесконтрольная рекурсия — когда вранье Клода становится авторитетным источником для Perplexity — и есть та самая Вавилонская башня, о которой говорил Папа.

Так что нет, я не умер, хотя машина меня уже похоронила. Я жив, и пока жив, я буду повторять: не дайте ИИ украсть вашу биографию. Проверьте, что он знает о вас. Возможно, вы с удивлением обнаружите, что давно написали книгу о закусках, живете не в своем районе и воспитываете несуществующих детей. А когда закончите проверять, положите в рот настоящее, живое канапе — без помощи искусственного интеллекта.