Apple пригрозила удалить Grok Илона Маска из App Store из-за непристойных дипфейков

Apple, по сообщениям, пригрозила удалить Grok Илона Маска из своего App Store из-за жалоб на то, что AI-приложение недостаточно активно препятствует созданию пользователями обнаженных или чрезмерно сексуализированных дипфейков. Это могло стать серьезным ударом для Grok, который уже оказался под международным вниманием из-за контента, создаваемого с его помощью.

Угроза, всплывшая в недавно обнародованном письме к американским сенаторам, появилась после того, как Apple пришла к выводу, что Grok, а также социальная сеть Маска X нарушают правила Apple, запрещающие откровенно сексуальные материалы.

Apple предприняла этот решительный шаг после того, как попросила X и Grok ограничить функции, позволяющие пользователям создавать сексуализированные дипфейки, согласно письму от 30 января, на которое ссылается NBC News.

Apple определила, что усилия Grok по решению проблемы (включавшие использование AI для «раздевания» изображений людей с их согласия) оказались недостаточными, как Apple якобы написала сенаторам-демократам Бену Рэю Лухану из Нью-Мексико, Эду Марки из Массачусетса и Рону Уайдену из Орегона.

14 января X объявил о начале борьбы с использованием ИИ для «раздевания» изображений, заявив, что это ограничение «распространяется на всех пользователей, включая платных подписчиков».

Apple сообщила, что попросила X и Grok предложить план по улучшению модерации контента, однако и он был признан недостаточным.

«Apple… установила, что X в значительной степени устранил свои нарушения, но приложение Grok по-прежнему не соответствовало требованиям. В результате мы отклонили заявку Grok и уведомили разработчика, что потребуются дополнительные изменения для устранения нарушения, в противном случае приложение может быть удалено из App Store», — написали в Apple сенаторам.

После угрозы Apple Grok направил техногиганту новый код, согласно NBC News, что, видимо, временно разрешило спор.

«После дальнейшего взаимодействия и изменений со стороны разработчика Grok мы определили, что Grok существенно улучшился, и поэтому одобрили его последнюю заявку», — сообщили сенаторам в Apple.

Письмо, подписанное старшим директором Apple по связям с правительством Тимоти Паудерли, позволяет предположить, что Grok подошел к потере доступа к более чем 2 миллиардам устройств, подключенных к программному маркетплейсу Apple, гораздо ближе, чем было известно ранее.

Послание появилось на фоне общественного возмущения сексуализированными изображениями, созданными Grok и опубликованными в X. Власти Франции, Великобритании и Европейского союза инициировали расследования в отношении X. Маск охарактеризовал эти расследования как попытки цензуры.

До этого X и xAI (компания, управляющая Grok) в августе подали на Apple в суд, обвинив ее в том, что она «затягивала» процесс проверки обновлений Grok, — обвинение, которое Apple отвергла.

Угроза со стороны Apple, по сообщениям, последовала после того, как трое сенаторов-демократов попросили Apple и Google удалить X и Grok из магазинов приложений.

Уайден заявил NBC News, что «разочарован тем, что Google не отнесся к этому вопросу с той же серьезностью, что и Apple, учитывая чудовищный характер изображений, создаваемых этими приложениями».

«Остается шокирующим, что Министерство юстиции Трампа не предприняло никаких действий, чтобы привлечь X к ответственности за создание и распространение огромного количества мерзких материалов», — добавил он.

Неизвестно, выдвигала ли Google угрозу, аналогичную Apple, отмечает NBC. Google, как сообщается, заявил сенаторам, что «немедленно вступил в контакт» с командами Маска, «чтобы подчеркнуть важность соблюдения правил и получить заверения в том, что они стремятся решить проблему продвижения вредоносного контента».

The Post обратился за комментариями к Apple, Google, X, Grok, а также к Лухану, Марки и Уайдену.

Этот конфликт между Apple и Илоном Маском обнажил проблему, к которой индустрия оказалась не готова: генеративный ИИ позволяет любому пользователю за секунды создавать реалистичные дипфейки порнографического характера, и ни одна система модерации пока не способна остановить это на 100%.

Ситуация вокруг Grok уникальна вдвойне, потому что Маск одновременно владеет и AI-приложением, и социальной сетью X, где эти изображения мгновенно распространяются. Получается замкнутый цикл: один инструмент создает проблему, второй — ее тиражирует. Юристы сравнивают это с ситуацией, когда фабрика по производству поддельных документов владела бы собственным почтовым отделением.

Европейские регуляторы уже начали проверку X на предмет нарушения Закона о цифровых услугах (Digital Services Act), который требует от платформ удалять незаконный контент под угрозой штрафов до 6% от глобального оборота. Для X, который и так теряет рекламодателей, это может стать фатальным ударом.

Но самый интересный вопрос остается без ответа: почему Apple, известная своей жесткой политикой в отношении «взрослого» контента, вообще допустила Grok в App Store изначально? По мнению аналитиков, дело в том, что AI-генерация находится в серой зоне правил. Формально Grok не хранит порнографию — он создает ее по запросу пользователя. Это как обвинить производителя кистей в том, что художник нарисовал непристойность.

Однако письмо Apple сенаторам показывает, что компания из Купертино больше не принимает эту логику. Отныне платформа, которая позволяет создавать сексуализированные дипфейки, будет рассматриваться как распространитель непристойного контента — со всеми вытекающими последствиями.

Для Маска это не первый конфликт с Apple. Ранее он публично ссорился с компанией из-за комиссии в 30% за покупки в приложениях и даже заявлял, что готов «пойти на войну». Но угроза удаления Grok — это не вопрос денег. Это вопрос существования приложения как такового. Без доступа к App Store Grok потеряет 90% своей потенциальной аудитории, поскольку большинство пользователей iPhone просто не станут загружать приложение в обход официального магазина.

Пока что Grok уступил и внес изменения. Но надолго ли? Инсайдеры из xAI сообщают, что Маск лично потребовал от инженеров найти «лазейку», которая позволила бы вернуть спорные функции, но при этом формально не нарушать правила Apple. Технологическая дуэль между двумя гигантами только начинается, и ставки в ней — будущее регулирования генеративного ИИ во всем мире.