xAI, предприятие Илона Маска в области искусственного интеллекта, внедрило новые ограничения на своей платформе чатботов Grok. Меры направлены на возможности редактирования изображений — прямой ответ на то, что инструмент генерировал сексуализированные изображения, вызывающие опасения у регуляторов по всему миру.

Компания подтвердила, что ужесточает контроль за всеми учетными записями пользователей, чтобы предотвратить злоупотребление функциями манипуляции изображениями. Этот сдвиг в политике отражает растущий контроль за контентом, созданным ИИ, и за тем, как платформы обрабатывают потенциально вредоносные материалы.

Это яркий пример того, как проекты в области ИИ адаптируют свои протоколы безопасности под давлением регуляторов. Будь то фильтрация контента, ограничения функций или управление пользователями, крупные платформы ИИ все чаще вынуждены балансировать между инновациями и ответственностью. Усиление мер говорит о том, что вопросы регулирования синтетических медиа не замедлятся в ближайшее время.