Reino Unido abre investigación a X por imágenes sexualizadas creadas con Grok

El regulador británico de seguridad en línea, Ofcom, anunció este lunes la apertura de una investigación formal contra X para determinar si ha cumplido sus obligaciones legales en el Reino Unido tras la circulación de imágenes sexualizadas, incluso de menores, creadas con su herramienta de inteligencia artificial Grok.

La investigación se inició tras recibir quejas de que la cuenta Grok AI en X se ha utilizado para crear y difundir imágenes de personas desnudas -lo que podría constituir "abuso de imágenes íntimas o pornografía"- así como contenido sexualizado de menores, que podría ser considerado "material de abuso sexual infantil".

Ofcom dijo en un comunicado que el 5 de enero contactó a X y fijó un plazo hasta el 9 de enero para que explicara las medidas adoptadas para proteger a sus usuarios en el Reino Unido.

Tras recibir una respuesta, el regulador decidió abrir la investigación para determinar si X ha evaluado los riesgos de exposición a contenido ilegal, tomado medidas para prevenirlos y protegido la privacidad de los ciudadanos.

En caso de incumplimiento, puede exigir medidas correctivas o imponer multas de hasta 18 millones de libras (más de 21 mil millones de pesos chilenos) o el 10 % de los ingresos mundiales -la cifra que sea mayor-, y en situaciones graves solicitar a un tribunal bloqueos de acceso o restricciones a anunciantes y proveedores de pago.

Un portavoz de Ofcom declaró que las denuncias de que Grok genera y comparte imágenes no consensuadas y material sexual infantil son "profundamente preocupantes" y aseguró que irá informado sobre el avance de la investigación, que podría llevar semanas.

La ministra británica de Tecnología, Liz Kendall, que se mostró muy crítica con la plataforma del multimillonario Elon Musk, comparecerá ante el Parlamento para exponer la posición del Gobierno.

Malasia bloqueó acceso a Grok

Una decisión similar se tomó en Malasia, donde las autoridades han bloqueado el acceso a Grok debido a la generación de "imágenes manipuladas obscenas, sexualmente explícitas," en este chatbot, propiedad del multimillonario Elon Musk.

La Comisión de Comunicaciones y Multimedia de Malasia (MCMC) anunció en un comunicado el domingo que restringiría de inmediato el acceso a la plataforma, sin que esto afecte el uso de X, utilizado por cinco millones de personas en el país de mayoría musulmana.

La medida, similar a la anunciada por Indonesia el sábado, obedece a la generación de imágenes "indecentes, groseramente ofensivas y no consensuadas, incluyendo contenido que involucra a mujeres y menores".

Según el escrito, Malasia había pedido a X implementar "salvaguardas técnicos y de moderación efectivas" para evitar contenido generado por IA que contravenga la legislación local, ante lo que la empresa de Musk respondió con mecanismos de denuncia iniciados por los usuarios.

Esta respuesta, a juicio de Kuala Lumpur, no soluciona el problema de raíz y es insuficiente para prevenir daños o garantizar el cumplimiento legal, por lo que optaron por el bloqueo temporal del chatbot, cuyo funcionamiento está siendo revisado en varios países, incluido Reino Unido.

Las suspensiones han entrado en vigor en Malasia e Indonesia, después de que X limitase el viernes a usuarios de pago el uso de Grok para editar imágenes, tras días de denuncias después de que accediera a peticiones de los internautas para alterar imágenes de otras personas y desnudarlas sin consentimiento.

"Cualquier persona que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si sube contenido ilegal", ha señalado Musk en X.

Grok es una herramienta gratuita que permitía a los usuarios subir y editar fotos, y que ha atendido peticiones de usuarios para editar imágenes de mujeres y de hombres y mostrarlos en bikini o sin ropa, lo que ha desatado una fuerte oleada de denuncias y quejas.