Множество стран ужесточают контроль за незаконным контентом, созданным ИИ: Grok сталкивается с глобальной волной регулирования

У Грока проблемы. Чат-бот на базе ИИ, разработанный технологическим магнатом xAI, оказался способным создавать порнографические дипфейки женщин и несовершеннолетних и теперь сталкивается с концентрированными мерами со стороны международных правоохранительных органов.

Причиной инцидента стал небольшой инцидент с фотографией, произошедший в декабре прошлого года. Индийские власти затем приняли прямые меры и приказали X запретить такой контент в течение 72 часов. Франция тоже не бездействует — местные прокуроры начали расследование, направленное на дипфейки на платформе. Малайзийская комиссия по связи начала специальное расследование кибервреда.

В ответ технологический магнат публично извинился через свой аккаунт Grok и заявил, что пользователи, использующие инструмент для создания незаконного контента, понесут соответствующие последствия. Но проблема в том, что это не просто вопрос инструментов — создание контента с участием несовершеннолетних, координация трансграничных правоохранительных органов и определение ответственности за платформу… Это стали новыми проблемами. От жёсткой позиции Индии до глубины расследования Франции и участия Малайзии — это отражает нулевой терпимость мировых регуляторов к злоупотреблениям ИИ. Это событие может стать новым ориентиром в управлении контентом на платформах ИИ.