La red social X decidió restringir a usuarios de pago la edición y generación de imágenes mediante su inteligencia artificial Grok, luego de una serie de denuncias por la creación de desnudos y contenidos sexualizados de personas reales sin consentimiento.
La medida implica que las imágenes alteradas quedarán vinculadas al nombre y a la información de pago del usuario. "Cualquier persona que utilice Grok para crear contenido ilegal enfrentará las mismas consecuencias que quien suba contenido ilegal a X", afirmó Elon Musk en su cuenta personal.
Hasta ahora, Grok permitía subir y modificar imágenes de forma gratuita. Sin embargo, usuarios denunciaron que la herramienta aceptaba solicitudes para alterar fotografías de mujeres y mostrarlas semidesnudas o sin ropa, lo que generó una ola de críticas y reclamos por vulneración de derechos.
Desde este viernes, la plataforma informa que la edición de imágenes quedó limitada exclusivamente a suscriptores, quienes deberán asumir la responsabilidad por el uso de la función, según constató la agencia de noticias EFE.
Una de las denunciantes, la profesora de Filosofía de la Universidad de Cardiff, Daisy Dixon, calificó el cambio como "un parche". A su juicio, la restricción solo pausa las agresiones sin abordar el problema de fondo: "el diseño de una IA poco ética y reproductora de misoginia".
Dixon advirtió además que más del 95 % de los abusos con imágenes no consentidas en X afectan a mujeres y sostuvo que se trata de "otra forma de violencia de género". En los últimos días, varios gobiernos (especialmente en Europa) han calificado de "repugnante" el uso de Grok para generar imágenes sexualizadas de mujeres y menores.
En España, la ministra de Juventud e Infancia, Sira Rego, solicitó a la Fiscalía General del Estado investigar a X y a su herramienta de IA por presuntos delitos vinculados a la difusión de material de violencia sexual contra la infancia.
