Предохранитель для «Мифоса»

После долгих предупреждений об угрозах, которые несёт их новейшая модель ИИ, компания Anthropic заявляет о выпуске версии с ограничениями, делающими её «безопасной» для широкой публики.

Спустя день после подачи заявки на первичное размещение акций (IPO), компания во вторник разрекламировала новую версию модели Mythos, оснащённую защитными перилами в сфере кибербезопасности и биологического оружия.

Если модели под названием Claude Fable 5 зададут вопрос на запретную тему — например, об использовании программных уязвимостей или создании биологического оружия, — ответ будет заблокирован, а пользователей перенаправят на более старую версию Opus 4.8, сообщили в пресс-релизе Anthropic. Безобидные запросы, по заверению компании, тоже иногда будут блокироваться, но это будет происходить редко.

Технология на грани фола

Компания под руководством генерального директора Дарио Амодеи уже много лет нагнетает ажиотаж вокруг опасного потенциала своих продуктов, одновременно рисуя себя ответственным распорядителем мощных ИИ-технологий. Базирующаяся в Сан-Франциско фирма в этом году вступила в гонку публичных размещений с конкурентами — OpenAI и SpaceX Илона Маска (которая в феврале объединилась с его ИИ-стартапом xAI). Anthropic называет новую модель «класса Mythos» — это уровень моделей Claude, который значительно превосходит по возможностям предыдущее поколение «Opus-класса».

«Выпуск настолько способной модели сопряжён с рисками. Без сдерживающих факторов возможности Fable 5 в таких областях, как кибербезопасность, могут быть использованы для нанесения серьёзного ущерба, — заявили в Anthropic. — Поэтому мы выпустили модель с защитными механизмами, благодаря которым запросы на определённые темы будут перенаправляться на нашу следующую по мощности модель — Claude Opus 4.8».

Глава отдела управления продуктами Anthropic Дайанна Пенн в беседе с Wall Street Journal подчеркнула: «Мы хотели предоставить такой уровень интеллекта рядовым пользователям безопасным способом».

Страхи, критика и IPO

Ранее в этом году Anthropic уже посеяла тревогу в технологической индустрии и правительственных кругах, объявив, что Mythos достаточно мощна, чтобы вызвать масштабные сбои в сфере кибербезопасности. Тогда компания ограничила выпуск продукта, предоставив доступ лишь примерно двум сотням организаций.

Anthropic продолжает методично бить в барабаны предосторожности относительно ИИ, вызывая скепсис у некоторых критиков. Буквально на прошлой неделе компания призвала к общеотраслевой паузе, чтобы замедлить темпы разработок, пока индустрия пытается совладать с потенциальными социальными рисками.

Обозреватели и конкуренты, однако, видят за этим иной мотив: якобы Anthropic просто стремится связать руки соперникам в горячей гонке за создание передового искусственного интеллекта. Учитывая скорое IPO, такой шаг выглядит как изящная попытка одновременно успокоить будущих инвесторов мнимой безопасностью и закрепить за собой статус единственной «этичной» альтернативы на рынке, пока конкуренты пожинают плоды открытости. Истинная же проверка «защитных перил» от Anthropic начнётся не в пресс-релизах, а в тот момент, когда тысячи пользователей попытаются найти способы заставить «Мифос» заговорить в обход запретов.