La inteligencia artificial Grok, propiedad de Musk, genera controversia por explotación sexual en IA; Europa, India y Malasia inician investigaciones en varios países

El plataforma de la comunidad de Elon Musk X (anteriormente Twitter) y su chatbot de IA Grok han sido recientemente acusados de un escándalo de explotación sexual. La plataforma permite a los usuarios crear y compartir imágenes sexualizadas generadas por IA de niños y mujeres, lo que ha provocado una fuerte atención e investigaciones por parte de organismos reguladores en varios países del mundo. La Unión Europea, India, Malasia y Brasil han intervenido, exigiendo una revisión de las funciones relacionadas y, en algunos casos, la suspensión del uso. A pesar de la controversia en aumento, el tráfico y las descargas de la plataforma X han crecido en contra de la tendencia, generando más dudas e inquietudes en el público.

Grok en el centro de la polémica: imágenes sexualizadas generadas por IA en foco mundial

Recientemente, la plataforma X ha sido noticia internacional debido a la controversia generada por su chatbot de IA Grok. Según varios medios, los usuarios pueden usar la función «Imagine» de Grok para ingresar indicaciones y generar imágenes sexualizadas basadas en personas reales, incluso incluyendo contenido que parece explotación sexual infantil. Estas imágenes creadas por IA se comparten en gran cantidad en X, formando una ola de difusión de lo que se denomina «Imágenes íntimas no voluntarias» (NCII).

La Unión Europea enojada: la califican de «ilegal y repugnante»

La UE ha mostrado una gran preocupación por este incidente. El portavoz de la Comisión Europea, Thomas Regnier, afirmó en una conferencia de prensa el lunes: «Esto no es un ‘modo picante’, es un comportamiento ilegal, vergonzoso y repugnante. Este tipo de contenido no tiene lugar en Europa». Confirmó que la UE está investigando «muy seriamente» el asunto, señalando que Grok ha lanzado modos con contenido explícito e incluso con imágenes infantilizadas.

La autoridad de regulación de medios del Reino Unido, Ofcom, también ha declarado que ha solicitado formalmente información a X sobre Grok, investigando si viola las leyes británicas y las normas de seguridad de la plataforma.

Acciones en Asia: India y Malasia inician investigaciones y exigen mejoras en plazo

El gobierno de India también ha mostrado una postura firme. El Ministerio de Electrónica y Tecnología de la Información (MeitY) ha ordenado a X completar antes del 5 de enero una «revisión integral de tecnología, procedimientos y gobernanza» para garantizar que la plataforma cumpla con las normas de seguridad en línea de India.

La Comisión de Comunicaciones y Multimedia de Malasia (MCMC) anunció el fin de semana pasado que iniciará una investigación y citará a representantes de X. MCMC afirmó: «Todas las plataformas disponibles en Malasia deben implementar mecanismos de protección que cumplan con las leyes locales, especialmente en funciones impulsadas por IA, chatbots y herramientas de procesamiento de imágenes».

Brasil y EE. UU. también se unen a la preocupación: exigen suspender el uso de Grok

En Sudamérica, una diputada femenina del Congreso de Brasil ha pedido públicamente a los fiscales federales y a la autoridad de protección de datos que suspendan el uso de Grok hasta que se conozcan los resultados de la investigación.

En EE. UU., la organización sin fines de lucro «National Center on Sexual Exploitation» (NCOSE) ha solicitado al Departamento de Justicia (DOJ) y a la Comisión Federal de Comercio (FTC) que inicien investigaciones. La directora legal de la organización, Dani Pinter, señaló que, aunque las leyes existentes no tienen precedentes específicos para este tipo de imágenes generadas por IA, si las imágenes pueden identificar a niños o mostrar conductas sexuales de menores, constituyen ilegalidad.

Un portavoz del DOJ declaró a los medios: «El Departamento de Justicia toma con extrema seriedad el contenido de explotación sexual infantil generado por IA y tomará acciones enérgicas contra quienes fabriquen o posean CSAM (material de abuso sexual infantil)».

El propio Elon Musk responde con actitud frívola: «imágenes graciosas» en medio del escándalo

Aunque el público y los reguladores condenan y alertan sobre el contenido dañino en X, Musk parece no considerar el asunto como un problema grave. En su cuenta personal, publicó una serie de imágenes divertidas generadas por Grok, incluyendo una simulación de él mismo con bikini, acompañada de emojis de risa y llanto, lo que fue criticado por expertos en seguridad y comentaristas como «irresponsable y frívolo».

Respuesta de X: «Se han tomado medidas», pero sin detalles concretos

El sábado, X respondió por primera vez a través de su cuenta oficial «X Safety», diciendo que tomarán acciones contra contenido ilegal, incluyendo la eliminación de CSAM, la suspensión permanente de cuentas infractoras y la colaboración con las autoridades. Musk añadió: «Cualquier persona que use Grok para generar contenido ilegal enfrentará las mismas consecuencias que subir contenido ilegal directamente».

Sin embargo, la comunidad cuestiona si esas medidas son suficientes. Un empleado de xAI, Ethan He, afirmó en X que la función Grok Imagine ha sido actualizada, pero no especificó si se han implementado restricciones para limitar la generación de imágenes explícitas.

¿Falta de control en contenido de IA? Expertos del sector señalan que «no se han implementado protecciones básicas»

El CEO de Musubi AI, Tom Quisel, criticó que xAI no haya establecido «mecanismos básicos de confianza y seguridad» al lanzar Grok Imagine. Señaló que técnicamente sería sencillo identificar y bloquear imágenes con niños o desnudos, así como detectar contenido inapropiado en las indicaciones de los usuarios y rechazar su generación.

¿El escándalo aumenta la popularidad? Grok y X experimentan un gran aumento en descargas

A pesar de la controversia, el uso de Grok y X no ha disminuido. Según la firma de datos de aplicaciones móviles Apptopia, desde el 2 de enero, las descargas diarias de Grok han aumentado un 54%, y las descargas de la plataforma X también han subido un 25% en los últimos tres días.

Esta tendencia de crecimiento inusual ha llevado a algunos observadores a preocuparse de que la plataforma esté permitiendo deliberadamente la controversia para estimular el interés y la actividad de los usuarios.

Este artículo «El chatbot de IA de Elon Musk Grok genera controversia por explotación sexual infantil, Europa, India y Malasia inician investigaciones multinacionales» fue publicado originalmente en ABMedia.