La sesión se desarrolló en español y congregó a una audiencia interesada en comprender los puntos claves de la normativa europea sobre Inteligencia Artificial. Para ello, contamos con la participación de Carlos Romero Duplá, consejero de Transformación Digital en la REPER de España en Bruselas (2013-2024). Durante la sesión, Carlos Romero presentó un análisis detallado del alcance del reciente Reglamento de Inteligencia Artificial (IA) de la Unión Europea.
Carlos Romero comenzó su intervención destacando el Reglamento de Inteligencia Artificial (IA) de la Unión Europea como un hito en la capacidad de la UE para responder de forma rápida y primigenia a una realidad tecnológica, política y económica que requiere atención urgente. La IA, como disrupción tecnológica, está afectando profundamente a la sociedad y lo hará aún más en el futuro. Consciente de esta situación, la Comisión de Úrsula von der Leyen propuso en 2020 legislar con prontitud sobre esta realidad. La iniciativa de reglamento se presentó en abril de 2021 y, tras un periodo de negociación interinstitucional récord, su negociación se concluyó en diciembre de 2023, reflejando la determinación europea por liderar en este ámbito.
Se trataba de un reglamento particularmente sensible, ya que la IA es una tecnología global con impacto en sectores estratégicos que van desde la defensa hasta la economía. De acuerdo con el ponente, la normativa combina principios éticos básicos con un enfoque en la seguridad de los productos, tomando como referencia la normativa europea en esta última materia. Esto dio lugar a una negociación compleja debido a la necesidad de equilibrar el impacto ético y socioeconómico, regulando sin perjudicar la competitividad ni la innovación. Además, algunos países, como Alemania y Francia, ejercieron presión política para influir en el contenido de la norma. A pesar de estas tensiones, había un interés político general en ser los primeros en establecer una regulación en la materia, dado que ello conferiría a la UE una ventaja estratégica en el escenario global.
El Reglamento se basa en una pirámide de riesgos que clasifica los sistemas de IA, colocando en la base aquellos sistemas prohibidos que pueden vulnerar los derechos fundamentales de los ciudadanos. La norma pone particular atención a los sistemas de reconocimiento biométrico en tiempo real en espacios públicos, una cuestión polémica por su carácter intrusivo. Aunque se permitió su uso en casos excepcionales, relacionados con la lucha contra el crimen, y con garantías estrictas, la norma evita caer en un modelo de vigilancia masiva a través de esos programas. En los sistemas de alto riesgo, como los utilizados en dispositivos médicos, maquinaria o servicios financieros, se establecieron requisitos detallados para garantizar la seguridad, incluyendo documentación técnica, certificaciones y estándares de calidad.
La adaptabilidad del Reglamento es otro de sus pilares fundamentales. Si bien se trata de una norma de aplicación directa, incluye mecanismos para poder ajustarla a la evolución tecnológica. Además, fomenta la innovación, permitiendo la creación de entornos controlados de prueba con el objetivo de que Europa sea un lugar atractivo para la inversión en sistemas de IA. En este contexto, también se permite probar sistemas en condiciones de mundo real, incentivando el desarrollo tecnológico dentro de la UE.
En un inicio, el Reglamento estaba enfocado en aplicaciones específicas de IA, dejando fuera a los sistemas de uso general, como la IA generativa. Sin embargo, rápidamente se identificó la necesidad de incluir normas básicas para este tipo de programas, ya que, al constituir la base para el desarrollo de otros sistemas, sus fallos pueden generar daños significativos. Aunque el Parlamento Europeo buscaba una regulación muy detallada, finalmente se optó por establecer principios mínimos mediante el uso de la capacidad adaptativa de la norma general. De esta forma, se sentaron principios básicos sobre transparencia, propiedad intelectual y seguridad. Además, se deja espacio a una regulación mayor mediante códigos de prácticas desarrollados en colaboración con la industria.
La gobernanza del reglamento establece un esquema europeo armonizado. Los modelos más relevantes serán supervisados por una nueva Oficina de IA en la Comisión Europea, dotada de autonomía funcional, mientras que los Estados Miembros deben designar autoridades nacionales para supervisar otros tipos de sistemas. Algunos países, como España, han optado por una entidad única, como la ESIA, para gestionar esta tarea.
El Reglamento entró en vigor en agosto de 2024, con periodos de implementación escalonados según las distintas disposiciones, debido a que es un reglamento en construcción que tiene que adaptarse a la realidad cambiante que supone la IA. La Comisión Europea, por su parte, ha comenzado a trabajar en una guía de interpretación de las prohibiciones y en un procedimiento para desarrollar códigos de prácticas en colaboración con la industria.
Finalmente, el ponente enmarca el reglamento en un contexto global donde otros actores, como Estados Unidos y China, también están desarrollando regulaciones según sus propios intereses. Carlos Romero concluye subrayando que, a pesar de los riesgos asociados a la IA, es necesario reconocer sus grandes oportunidades en sectores como la agricultura, la energía, la salud y los derechos ciudadanos, donde general grandes eficiencias socio-económicas cuando se emplea de manera adecuada.
La sesión concluyó con un debate donde los participantes pudieron plantear preguntas sobre los temas tratados. Este intercambio subrayó la importancia de la regulación de tecnologías pioneras como la IA para garantizar una innovación segura que proteja los derechos fundamentales.
Lucía Rodríguez