La Unión Europea ha dado un paso más en la regulación de la inteligencia artificial con la aprobación del Reglamento (UE) 2026/1744, que modifica el Reglamento de IA (AI Act). Uno de los cambios más relevantes es la incorporación de una prohibición mucho más precisa sobre los sistemas de IA capaces de generar o manipular material íntimo no consentido (los conocidos deepfakes sexuales) y material de abusos sexuales de menores.
La norma no prohíbe el desarrollo de modelos de IA de propósito general ni las tecnologías de generación de imágenes, audio o vídeo. Lo que exige es que los proveedores adopten medidas técnicas razonables y adecuadas para impedir que sus sistemas puedan utilizarse para crear este tipo de contenidos cuando ese resultado sea razonablemente previsible.
Entre las medidas que el Reglamento considera adecuadas se encuentran:
- Depuración de los datos de entrenamiento.
- Entrenamiento específico para rechazar solicitudes ilícitas.
- Diseño seguro de prompts.
- Filtros y controles de salida.
- Barreras durante la ejecución.
- Sistemas de clasificación y filtrado de contenido.
- Mecanismos de detección de abusos.
- Procedimientos de notificación y respuesta ante usos indebidos.
Además, si estas medidas son eludidas, los proveedores deberán adoptar acciones correctoras siempre que sean razonables y proporcionadas al sistema desarrollado.
También se sanciona el uso
La responsabilidad no recae únicamente sobre los desarrolladores. El Reglamento prohíbe expresamente que los responsables del despliegue utilicen sistemas de IA para generar o manipular material íntimo sin consentimiento o material de abuso sexual infantil, incluso cuando el sistema haya sido diseñado para otros fines o cuando se hayan eludido deliberadamente sus mecanismos de seguridad.
¿Qué se entiende por material íntimo no consentido?
La regulación limita esta prohibición a representaciones realistas de personas identificables que muestren:
- genitales,
- zona púbica,
- ano,
- nalgas expuestas,
- pechos femeninos expuestos,
- o actividades sexualmente explícitas.
Quedan fuera de esta prohibición, entre otros supuestos:
- obras artísticas no realistas,
- caricaturas,
- desnudos parciales que no revelen partes íntimas,
- aplicaciones médicas,
- pruebas virtuales realizadas con consentimiento,
- y otros usos legítimos previstos por la legislación.
Asimismo, no toda modificación de una imagen constituye una infracción. Mejorar la calidad, cambiar el fondo o ajustar el contraste no entra dentro de la prohibición. En cambio, sí lo hace cualquier manipulación que aumente el grado de desnudez o la explicitud sexual de la persona representada.
Excepciones
El Reglamento mantiene excepciones para actuaciones legítimas de las autoridades públicas, como investigaciones penales, prevención de delitos o actividades de evaluación y pruebas de seguridad (red teaming), siempre dentro del marco legal aplicable.
Un equilibrio entre innovación y derechos fundamentales
La Unión Europea considera que estas restricciones son compatibles con la libertad de expresión y la libertad de empresa, ya que persiguen un objetivo de interés general: proteger la dignidad, la intimidad, la integridad de las personas y los derechos de los menores frente al uso abusivo de la inteligencia artificial.
En definitiva, el nuevo Reglamento no pretende frenar el desarrollo de la IA, sino exigir que quienes la diseñan y la utilizan incorporen mecanismos eficaces para evitar que esta tecnología se convierta en una herramienta para vulnerar derechos fundamentales.