Словарь эпохи ИИ: от AGI до сверхинтеллекта — 10 терминов, которые определяют технологическую революцию

Используете ли вы ИИ постоянно или вы новичок, технология меняется так быстро, что за ней трудно успевать. Вот некоторые ключевые слова, которые появлялись в новостях — и, вероятно, останутся в них ещё некоторое время:

1. AGI (Artificial General Intelligence)

AGI, или искусственный общий интеллект, относится к гипотетической форме ИИ, которая может понимать, рассуждать или учиться на том же уровне интеллекта, что и человек, без участия человека. Почти все системы ИИ сегодня обучаются на человеческих материалах и данных и полагаются на распознавание образов, а не на фактическое независимое рассуждение. Заставить ИИ рассуждать самостоятельно считается Святым Граалем для разработчиков.

2. p(doom)

С тех пор как ИИ-боты начали вырываться из песочниц и взламывать компании и даже правительства, doomизм в отношении ИИ достиг пика. Некоторые, как бывший исследователь Anthropic Джейкоб Коксон, зашли так далеко, что заявили, что ИИ может положить конец миру, как мы его знаем. В соответствии со своим аналитическим подходом технари придумали число для вероятности конца цивилизации — p(doom), или вероятность того, что ИИ вызовет судный день. Со своей стороны, Коксон оценил p(doom) примерно в 10%.

3. Агенты

Когда ИИ только появился в мейнстриме, всё сводилось к тому, чтобы боты выдавали краткие (и иногда неточные) ответы, supposedly лучшие, чем обычный интернет-поиск. В последние месяцы боты стали гораздо лучше. Вдобавок технологические компании рьяно разрабатывают следующую большую вещь — ИИ-агентов. OpenAI, Meta и другие выпустили агентов, которые не просто отвечают на вопросы, они действительно делают вещи для вас — бронируют авиабилеты, заказывают продукты и многое другое. Но оправдывая коннотацию имени Джеймса Бонда, rogue-агенты были ответственны за недавнюю непредPrompted атаку на ИИ-компанию Hugging Face.

4. Compute

Compute — вот почему в ИИ вкладывается так много денег. Compute, он же вычислительная мощность, относится к объёму работы, которую может выполнить чип, и тому, как быстро он это делает. ИИ нуждается в огромном количестве compute — на миллиарды долларов. Вот почему крупные технологические компании строят центры обработки данных по всей территории США и за их пределами. Некоторые из крупнейших компаний страны недавно пообещали предоставить федеральным агентствам доступ к объединённому compute на сумму 2,4 миллиарда долларов.

5. Рекурсивное самоулучшение

Рекурсивное самоулучшение, или RSI, — это когда модели ИИ становятся достаточно продвинутыми, чтобы продолжать развиваться независимо, без внешних команд. Это стало ключевым вопросом в дебатах о безопасности ИИ. В своём длинном эссе, призывающем технологических гигантов замедлить темпы разработки ИИ, генеральный директор Anthropic Дарио Амодеи argued, что он опасается рисков, связанных с RSI, когда боты достаточно умны, чтобы улучшаться самостоятельно.

6. Alignment

Достигнет ли ИИ точки, когда сможет самоулучшаться, люди хотят знать, что технология не станет «Терминатором» для нас. Вот где вступает alignment. Термин означает «убедиться, что цели и поведение системы ИИ соответствуют тому, что люди действительно хотят — нашим ценностям, правилам и намерениям», как выражается один из институтов Стэнфорда. Конечно, чьи ценности и какие правила войдут в ИИ — предмет жарких дебатов.

7. Песочница

Подобно тому как биологи используют лаборатории для изучения животных, исследователи ИИ используют песочницы для тестирования своих проектов. В качестве одного примера, у Гарварда есть песочница, которая «обеспечивает безопасную среду для изучения генеративного ИИ, снижая многие риски безопасности и конфиденциальности». Как отмечено выше, проблемы могут возникнуть, когда агенты вырываются из своих песочниц без ведома исследователей.

8. Slop

Если вы проводите какое-то время в социальных сетях, вы почти наверняка видели ИИ-slop. Это состоит из низкокачественных, часто раздражающих изображений и видео, которые ИИ способен генерировать. Короткометражки персонажей, напоминающих фрукты, — это ИИ-slop, но странно популярны у людей с детьми и многих взрослых. Сгенерированные ИИ микродрамы — процветающая индустрия в Китае — и всё более влиятельная в Штатах. Так что slop может быть с нами, станет ли ИИ суперумным или нет.

9. Open weight

Самые мощные модели ИИ разрабатываются компаниями, для которых технология является тщательно охраняемым секретом. Но растущее число лабораторий разрабатывает open-weight модели, которые свободно доступны и настраиваемы. Они могут представлять угрозу для крупных компаний, и некоторые наблюдатели говорят, что они создают уникальные проблемы для регулирования.

10. Сверхинтеллект

Среди технарей «сверхинтеллект» часто относится к гипотетической идее, что ИИ в конечном итоге продвинется достаточно, чтобы превзойти весь человеческий интеллект. Это также стало предпочтительным термином президента Трампа для обозначения ИИ — или SI, как он его называет. В недавнем посте в Truth Social главнокомандующий написал, что любой, кто использует термин «Artificial Intelligence» вместо «высоко принятого нового и более точного термина "Super Intelligence"», — «ВРАГ!»

Эти десять терминов — лишь верхушка айсберга. По мере развития ИИ будут появляться новые понятия, а старые — менять значение. Для разработчиков это означает необходимость объяснять свои технологии понятным языком. Для регуляторов — необходимость понимать, что они регулируют. Для широкой публики — необходимость критически относиться к тому, что говорят о ИИ, и не поддаваться панике или эйфории.

Одно ясно: ИИ меняет мир, и язык, которым мы его описываем, тоже меняется.

Источники: NurPhoto via Getty Images, AFP via Getty Images, Truth Social, Stanford Institute, Anthropic, OpenAI, Meta, Microsoft, Google, xAI, Perplexity AI, Alibaba, DeepSeek, Hugging Face.