La Unión Europea alcanzó un acuerdo para prohibir los servicios de inteligencia artificial capaces de generar imágenes sexuales falsas o “desnudar” digitalmente a personas sin su consentimiento. La medida, aprobada por los Estados miembro y el Parlamento Europeo, entrará en vigencia el 2 de diciembre de 2026 y forma parte de la revisión del AI Act, la ley que regula el desarrollo y uso de estas tecnologías en el bloque.

La decisión surge tras una serie de polémicas vinculadas a montajes hiperrealistas creados con IA, entre ellos los generados por Grok, el asistente de la red social X, que permitía producir deepfakes de adultos y menores desnudos a partir de fotos reales. Según informó AFP, la prohibición alcanzará a los sistemas capaces de generar imágenes, videos o audios de carácter sexual sin consentimiento, incluyendo contenido pedopornográfico o representaciones de partes íntimas de personas identificables.

El debate tomó mayor visibilidad esta semana luego de que la primera ministra italiana, Giorgia Meloni, denunciara en Instagram la circulación de imágenes falsas en las que aparecía en ropa interior. Meloni advirtió sobre el impacto social de estas herramientas y pidió mayor responsabilidad en la verificación de contenidos. No es la primera vez que su imagen es manipulada: en 2024 también circuló un video adulterado en el que aparecía besando a Elon Musk.

La ola de denuncias se extendió en varios países europeos. En enero, la diputada belga Victoria Vandenberg exhibió en el Parlamento una imagen falsa generada con IA para alertar sobre la facilidad con la que estas herramientas pueden sexualizar a una persona sin su permiso. En Francia, la Alta Comisionada para la Infancia, Sarah El Haïry, llevó casos similares a la Justicia y a los organismos reguladores. En el Reino Unido, la secretaria de Estado Liz Kendall calificó estos contenidos como “ilegales y abyectos”.

Tras la presión internacional, Elon Musk anunció restricciones para impedir que Grok generara este tipo de imágenes en jurisdicciones donde la práctica es ilegal. Países como Indonesia y Malasia directamente bloquearon el acceso al asistente.

Además de la prohibición específica sobre deepfakes sexuales, la UE acordó postergar la entrada en vigor de nuevas normas para sistemas de IA considerados “de alto riesgo”, utilizados en áreas sensibles como seguridad, salud o derechos fundamentales.