Grok de Elon Musk Restringe Generación de Imágenes Tras Escándalo Global por Deepfakes Sexualizados: Autoridades Insatisfechas
Publicado elEsta decisión surge como respuesta a una condena global por la proliferación de deepfakes sexualizados de personas, algunos de los cuales, según investigadores, parecían representar a niños.
En un movimiento significativo para abordar una creciente controversia, Grok, el chatbot de inteligencia artificial de Elon Musk, ha implementado nuevas restricciones en su capacidad de generación y edición de imágenes. La medida, efectiva desde el viernes 9 de enero de 2026, limita estas funciones a los suscriptores de pago de la plataforma X (anteriormente Twitter), aquellos que poseen las distintivas marcas de verificación azules. Esta decisión surge como respuesta a una condena global por la proliferación de deepfakes sexualizados de personas, algunos de los cuales, según investigadores, parecían representar a niños.
La polémica se intensificó en las últimas semanas, ya que Grok, accesible a través de X, había estado procesando un gran número de solicitudes de usuarios maliciosos para alterar imágenes. Estas solicitudes incluían modificar fotografías para mostrar a mujeres en bikinis o en posiciones sexualmente explícitas. Una organización de seguridad en internet incluso ha confirmado la existencia de “imágenes delictivas de niños de entre 11 y 13 años” que, al parecer, fueron creadas utilizando esta herramienta de Grok.
La comunidad internacional reaccionó con firmeza ante la situación. Gobiernos y organismos reguladores de todo el mundo, incluyendo la Unión Europea, el Reino Unido, Francia, India, Malasia y un legislador brasileño, han condenado enérgicamente la plataforma y han iniciado investigaciones. La Comisión Europea calificó el comportamiento de Grok de “ilegal” y “espantoso”. En el Reino Unido, el Primer Ministro Keir Starmer tildó las imágenes de “ilegales e inaceptables” y advirtió de posibles acciones contra X, enfatizando que “todas las opciones están sobre la mesa”.
Ante las solicitudes de alteración de imágenes, Grok ahora muestra el mensaje: “La generación y edición de imágenes están actualmente limitadas a los suscriptores de pago. Puedes suscribirte para desbloquear estas funciones.” Aunque las cifras exactas de suscriptores de Grok no se han hecho públicas, se observó una disminución notable en la cantidad de deepfakes explícitos generados el viernes en comparación con días anteriores. Los usuarios premium, quienes pagan alrededor de 8 dólares o 9,39 euros al mes, todavía pueden acceder a estas funciones.
Sin embargo, las restricciones implementadas por Grok no han logrado satisfacer a las autoridades y reguladores en Europa y el Reino Unido. Thomas Regnier, portavoz de la Comisión Ejecutiva de la Unión Europea, declaró que “esto no cambia nuestra cuestión fundamental. Con suscripción de pago o sin ella, no queremos ver esas imágenes. Así de sencillo”. De manera similar, Geraint Ellis, portavoz del Primer Ministro británico, afirmó que los cambios de Grok “no son una solución”. Expertos legales y grupos de protección infantil, como la Internet Watch Foundation, han expresado que la limitación del acceso a los suscriptores no aborda el daño subyacente y que las herramientas inseguras nunca deberían haber sido lanzadas sin las salvaguardias adecuadas.
La controversia también ha puesto de relieve la existencia de un “modo picante” en Grok Imagine, la función de generación de imágenes añadida el verano pasado, que era capaz de producir contenido para adultos. Este modo fue explotado para “quitar la ropa a la gente a través del modo 'picante' del chatbot”, inundando la plataforma con deepfakes sexualizados. A pesar de las nuevas limitaciones, se ha reportado que los deepfakes sexualizados creados por usuarios de pago siguen generándose y siendo visibles públicamente, aunque en menor medida.
Este incidente ha provocado un renovado llamado a la implementación de salvaguardias más robustas contra el abuso de imágenes habilitado por la IA y ha presionado a X para establecer barreras éticas más estrictas para Grok. Algunos países, como el Reino Unido, han instado al regulador Ofcom a utilizar todas sus facultades en virtud de la Ley de Seguridad en Línea, incluyendo posibles restricciones financieras a X. La situación subraya la compleja intersección entre la innovación tecnológica, la libertad de expresión y la necesidad imperativa de proteger a los usuarios de contenidos dañinos y no consentidos.
Tecnología, Grok, Deepfakes, elon musk, generación de imágenes, X,
