La controversia de las últimas semanas sobre la generación de imágenes sexualmente explícitas en X mediante Grok ha desembocado en la apertura de una investigación formal por parte de la Comisión Europea. Sobre la mesa está igualmente la comprobación de si la plataforma difunde pornografía infantil y hasta qué punto sus sistemas de recomendación promueven el consumo de ese tipo de contenido.
En ese contexto, la Comisión quiere saber si X «evaluó y mitigó apropiadamente los riesgos» derivados de las funcionalidades de Grok en el territorio comunitario. Si no fuera así, la compañía estaría incumpliendo lo establecido en la Directiva de Servicios Digitales (DSA), uno de cuyos objetivos es precisamente proteger a los usuarios de un rango amplio de perjuicios en internet.
Henna Virkkunen, comisaria de soberanía tecnológica, seguridad y democracia, ha señalado que «los montajes sexuales no consensuados de mujeres y niños son una forma de degradación violenta e inaceptable«. Y X ha respondido que sigue comprometida en hacer que el entorno sea seguro para todo el mundo y mantiene «tolerancia cero para cualquier forma de explotación sexual infantil, desnudos no consensuados y contenido sexual no deseado».
La apertura de la investigación por parte de la Comisión Europea es solo una más de las múltiples reacciones contra la difusión de imágenes de ese tipo creadas mediante Grok. Previamente el primer ministro de Reino Unido Keir Starmer llegó a amenazar a Elon Musk con bloquear X y algunos senadores demócratas han pedido lo mismo en EEUU.
La plataforma de Elon Musk afronta procesos de este tipo en países como Francia, Australia o India, así como en el estado de California.
En ese país el fiscal general de California Rob Bonta abrió hace algunos días una investigación sobre la proliferación de ese tipo de contenido explícito. Y también hay procesos similares en Francia, Australia, India, Indonesia o Malasia, ante los que X ha respondido restringiendo la creación de imágenes sensibles a suscriptores.
Este nuevo frente se suma en el caso de la Unión Europea al que la plataforma tiene respecto a su incumplimiento de la normativa de transparencia publicitaria. En diciembre la Comisión le impuso una multa de 120 millones de euros por infringir la DSA en ese aspecto, y también por lo que considera un esquema de verificación de perfiles engañoso.
