04/02/2025
Nuevo año, nuevas obligaciones en materia de inteligencia artificial
Mercedes Morán, Departamento Jurídico de CEDRO
Con el recién estrenado año 2025, algunos de los requisitos que el Reglamento de Inteligencia Artificial (RIA) impone, comienzan a ser exigibles.
Esta norma, que entró en vigor el 1 de agosto de 2024, no resulta aplicable, con carácter general, hasta que no hayan transcurrido dos años desde su entrada en vigor, es decir, el 2 de agosto de 2026. Sin embargo, a partir de este año, los proveedores y responsables del despliegue de sistemas de IA, deberán empezar a cumplir algunas obligaciones cuando introduzcan esta tecnología en el mercado de la Unión Europea o su uso afecte a su ciudadanía.
Primer hito: 2 de febrero de 2025
El 2 de febrero de 2025, los proveedores de sistemas de IA deben implementar medidas de alfabetización en materia de IA para sus empleados y quienes operen o utilicen su tecnología (artículo 4). Esta medida es clave para que tomen conciencia de los riesgos, perjuicios y oportunidades de la IA.
En nuestra opinión, esta formación debe ir más allá de las exigencias de la norma de la UE y los Estados miembros deben fomentar programas formativos que doten a la ciudadanía de las capacidades necesarias. Algunos estudios demuestran la relación negativa entre el uso frecuente de la IA y el desarrollo de las habilidades de pensamiento crítico 1. Por ello, programas formativos o iniciativas como Esdelibro, que fomentan estas capacidades entre la juventud, se vuelven imprescindibles.
En esta misma fecha, quedan prohibidas, por considerarse que entrañan un riesgo inaceptable, las prácticas de manipulación, explotación y control social mediante IA, enumeradas en el artículo 5 del Reglamento. Con carácter previo, la Comisión debería de haber publicado las directrices sobre la aplicación práctica de estas prohibiciones, que señala el artículo 96 RIA.
Segundo hito: 2 de agosto de 2025
El 2 de agosto comienzan a ser aplicables las obligaciones impuestas a los proveedores de modelos de IA de uso general2, que se comercialicen en la UE con posterioridad a esa fecha.
Dentro de estos modelos se encuentran los de Inteligencia Artificial Generativa (IAG), entrenados con grandes cantidades de textos, imágenes, grabaciones sonoras o audiovisuales para la generación de nuevo contenido. Entre las obligaciones que deben cumplir los proveedores de modelos de IAG, independientemente del riesgo que estos entrañen, exige el artículo 53 del RIA que estos pongan a disposición del público un resumen suficientemente detallado del contenido utilizado para el entrenamiento del modelo de IA de uso general, con arreglo al modelo que deberá facilitar previamente la Oficina de IA.
Debemos tener en cuenta que el suministro de este resumen del contenido (textos, vídeos, música, etc.) debe realizarse con el detalle suficiente que posibilite el cumplimiento de la finalidad para la que se adoptó esta medida, que no es otra que la de permitir a los autores, editores y otros titulares de derechos, conocer la utilización de sus obras y prestaciones para ejercitar y hacer valer sus derechos.
Además, estas empresas proveedoras de modelos de IAG deben establecer directrices que garanticen el cumplimiento del Derecho de la Unión en materia de propiedad intelectual, tanto en el entrenamiento como en la generación de nuevo contenido.
Para garantizar la fiabilidad de los sistemas de IA de alto riesgo sean fiables (como los empleados para la selección de personal, la admisión de estudiantes o la evaluación de riesgos) estos deben pasar una evaluación antes de salir al mercado.
Además, para esa fecha deben estar en marcha las medidas de gobernanza de la UE, como la Oficina Europea de IA, el Consejo Europeo de IA (con representantes de cada país) y un grupo de expertos. También deben establecerse las sanciones y medidas de aplicación del reglamento.
Sucesivas novedades
El 2 de agosto de 2026 es la fecha clave en la que el RIA se aplicará con carácter general, incluyendo los sistemas de alto riesgo puestos en el mercado de la UE o modificados sustancialmente con posterioridad a ese día. No obstante, algunos sistemas podrán tener plazos más largos, hasta 2027, dependiendo de cuándo se empezaron a comercializar.
Por último, debemos tener en cuenta que el RIA, no es la única norma en materia de Inteligencia Artificial que debemos seguir de cerca. Existen otras dos normas que complementarán el citado reglamento:
El 18 de noviembre de 2024 se publicó en el Diario Oficial de la UE, la Directiva 2024/2853 del Parlamento Europeo y del Consejo, de 23 de octubre de 2024, sobre responsabilidad por los daños causados por productos defectuosos, que deroga la Directiva 85/374/CEE del Consejo para adaptar la regulación a los avances relacionados con las nuevas tecnologías, incluyendo programas informáticos y sistemas de IA. El plazo para adoptar esta norma a nuestra es el 9 de diciembre de 2026.
Además, aunque en la actualidad sin excesivo impulso, está en tramitación la Propuesta de Directiva relativa a la adaptación de las normas de responsabilidad civil extracontractual a la inteligencia artificial (Directiva sobre responsabilidad en materia de IA). La principal novedad de esta norma es la inversión de la carga de la prueba en demandas por daños y perjuicios causados por sistemas de IA. Como prevé la propuesta, en determinados casos, tendría que ser el proveedor o desarrollador el que acredite que no actuó negligentemente o que el sistema de IA no generó un fallo del que derivó el daño.
En definitiva, a lo largo del año 2025 y sucesivos se producirán varias novedades en materia de IA, que CEDRO seguirá de cerca, con el objeto de que los derechos de autores y editores queden salvaguardados ante el avance de esta tecnología.
1 Así lo establece Gerlich, M. (2025). AI Tools in Society: Impacts on Cognitive Offloading and the Future of Critical Thinking. Societies, 15(1), 6. https://doi.org/10.3390/soc15010006
2 Define el apartado 63 del artículo 3 a los modelos de IA, como aquellos que ha sido entrenados con un gran volumen de datos utilizando autosupervisión a gran escala, que presenta un grado considerable de generalidad y es capaz de realizar de manera competente una gran variedad de tareas distintas, independientemente de la manera en que el modelo se introduzca en el mercado, y que puede integrarse en diversos sistemas o aplicaciones posteriores, excepto los modelos de IA que se utilizan para actividades de investigación, desarrollo o creación de prototipos antes de su introducción en el mercado.
© Shutterstock
Deja un comentarioOs invitamos a comentar las entradas de nuestro blog.
Los comentarios están moderados, no aparecen en el blog de forma inmediata.
Se publicarán todos los comentarios salvo los que no tengan que ver con los temas tratados o contengan insultos o descalificaciones.
De acuerdo con lo establecido en la legislación vigente, le informamosque los datos que facilite serán tratados por CEDRO para poder tramitar su comunicación. Sus datos no serán cedidos a terceros, salvo obligación legal.
Usted cuenta con los derechos de acceso, rectificación, supresión, oposición, limitación al tratamiento y portabilidad, respecto de sus datos de carácter personal, así como con la posibilidad de revocar su consentimiento, pudiéndolos ejercitar por escrito a la dirección cedro@cedro.org, donde haga mención a su nombre, apellidos y dirección de correo electrónico. Para más información pinche en la Política de Privacidad.
Acepto los términos y condiciones de uso y la Política de Privacidad