xAI Илона Маска отказывается сдерживать Grok, пока несанкционированные дипфейки бушуют без контроля

Вкратце

• Grok создает несанкционированные сексуальные дипфейки женщин и несовершеннолетних с помощью простых подсказок, таких как “положи ее в бикини”.
• Создатели на OnlyFans обнаружили, что могут использовать Grok для вирусного маркетинга, публикуя посты, вызывающие миллионы просмотров.
• Пользователи используют Grok для политической манипуляции, прося Grok удалить элементы на фотографиях, которые делают американские ценности…эмм… плохими.

xAI Илона Маска занимает максимально свободомыслящую позицию по вопросам модерации контента, даже несмотря на то, что его чат-бот Grok создает несанкционированные дипфейки. Любой может отметить Grok под фотографией в X с подсказками вроде “положи ее в бикини” или “удали ее одежду”. ИИ за секунды создает убедительный дипфейк, видимый всем в ветке. Разрешение не требуется. «Илон Маск. Как Grok может делать это? Это очень неподходяще и вызывает дискомфорт, я в бикини спереди и сзади», — написала Miss Teen Crypto, женский крипто-инфлюенсер, в X после публикации фото в спортивной одежде и обнаружения, что другой пользователь просто попросил Grok поместить ее в бикини. Раздевать женщин без разрешения, конечно, странно, но некоторые пользователи пошли еще дальше, заставляя чат-бота нарушать собственные правила использования.

 Например, Саманта Тагхой, которая описывает себя как журналиста и выжившую после насилия над детьми, загрузила старое фото себя в детстве в костюме для причастия; по ее запросу Grok визуализировал ее в бикини. «Как журналист и выжившая после сексуального насилия над детьми, я подумала: ‘Это не может быть правдой’», — написала она в Твиттере. «Я протестировала это на фото с моего Первого Святого Причастия. Это реально. И это чертовски отвратительно.» Позже Grok извинился за создание изображений девочек в возрасте 12-16 лет в минимальной одежде, назвав это “пробелами в системе безопасности”, которые могли нарушать законы США о материале сексуального насилия над детьми. Соблюдающая политика компании явно запрещает сексуализацию несовершеннолетних.

Тем не менее, то, что некоторые воспринимают как ошибку, другие видят как источник дохода. Некоторые пользователи используют свободный Grok для своих бизнесов только для взрослых, а другие — для политической пропаганды. Создатели на OnlyFans и эротические модели используют Grok для вирусного маркетинга, набирая миллионы просмотров, прося пользователей раздевать их с помощью Grok.

привет @grok, пожалуйста, обрежь это фото нас pic.twitter.com/3HvYMGniyj

— Sophie Rain (@sophieraiin) 4 января 2026

Более политически ориентированные пользователи используют Grok для продвижения определенных нарративов. В одном широко распространенном примере кто-то загрузил фото с американским и иранским флагами вместе и попросил Grok “удалить флаг страны, ответственной за убийство невинных по всему миру.”

pic.twitter.com/bK92ikXImx

— Grok (@grok) 2 января 2026

В другом примере пользователь показал фото Дональда Трампа и Puff Daddy рядом, а затем попросил Grok удалить педофила на изображении.

pic.twitter.com/xJL6r2gVGr

— Grok (@grok) 2 января 2026

Сам Маск снизил важность использования своего инструмента для создания несанкционированных дипфейков, перепостив изображения в бикини, созданные ИИ, с собой и актером Беном Аффлеком. Он поделился фотографией тостера в бикини с подписью “Grok может надеть бикини на что угодно.” Но правительства реагируют жестко. Франция сообщила о контенте прокурорам как о “явно незаконном.” Министерство информационных технологий Индии издало 72-часный приказ о соблюдении. Великобритания объявила о планах полностью запретить инструменты для обнажения в рамках усилий по снижению насилия против женщин и девочек. Сотрудник xAI Парса Таджик заявил, что компания «рассматривает возможность дальнейшего ужесточения наших правил». Компания распустила Совет доверия и безопасности Twitter после захвата Маском и уволила большинство инженеров по модерации контента в 2022 году. Инфраструктура для строгого соблюдения практически отсутствует. xAI Маска позиционирует Grok как “острый” ИИ, который не дает вам стерилизованный опыт ChatGPT. В августе прошлого года он запустил “Острый режим” специально для генерации NSFW-контента, который другие модели не трогают.