La nueva Ley Orgánica para el Buen Uso y la Gobernanza de la Inteligencia Artificial, alineada con el Reglamento Europeo de IA, introduce la obligatoriedad de identificar los contenidos generados artificialmente para diferenciar entre realidad y ficción. Esta normativa, aprobada en segunda vuelta por el Consejo de Ministros, será remitida al Congreso para su debate.
El etiquetado de estos contenidos se enmarca en un código de buenas prácticas aún en desarrollo. Los textos creados con IA deberán llevar las letras 'AI', y la posición de estas marcas en imágenes dependerá del tipo de contenido. En los vídeos generados íntegramente con IA, se deberá señalar durante toda la duración del mismo que son producto de esta tecnología. Si el vídeo contiene solo algunas partes generadas artificialmente, la mención deberá realizarse al inicio, y en el caso de vídeos largos con segmentos distintos, se deberá advertir tanto al principio como durante la reproducción. Similar será el tratamiento para los audios.
Las prácticas prohibidas, que pueden ser objeto de denuncia por parte de los ciudadanos, incluyen la manipulación engañosa que anula la voluntad y causa daños físicos o psíquicos, el aprovechamiento de condiciones personales para distorsionar comportamientos, la clasificación biométrica y la evaluación de conductas para imponer discriminación o exclusión injustificada. También se prohíbe la evaluación del riesgo delictivo basada únicamente en perfiles personales, el reconocimiento de emociones en entornos laborales y educativos, y la extracción no selectiva de imágenes para bases de datos faciales. Asimismo, el uso de biometría remota en espacios públicos será restringido a excepciones críticas con mandato judicial. Los deepfakes sexuales y la pornografía infantil están particularmente señalados, en línea con el paquete Ómnibus de IA de la Unión Europea, impulsado por España.
Las prácticas prohibidas relacionadas con la inteligencia artificial podrían recibir sanciones de hasta 35 millones de euros o el 7% del volumen de negocio anual
En espera de la aprobación definitiva de la ley, la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) podrá emitir apercibimientos a infractores. Los cambios introducidos en la legislación también incluyen la creación de delegados de inteligencia artificial en la administración pública y una revisión del papel de la AESIA, que pasará a ser una autoridad más autónoma dentro de seis meses tras la aprobación de la ley. Según fuentes del Ministerio, los recursos humanos y la continuidad de la AESIA están garantizados.
