(Cinco Días, 14-03-2024) | Mercantil, civil y administrativo
El Parlamento ha aprobado la Ley de Inteligencia Artificial (AI Act) con una mayoría aplastante: 523 votos a favor, 46 en contra y 49 abstenciones. Este marco legal tiene como objetivo principal situar a Europa como líder en el campo de la inteligencia artificial, abordando los primeros desafíos que están surgiendo en relación con esta tecnología, al tiempo que protege los derechos fundamentales, la democracia, el Estado de derecho y la sostenibilidad frente a posibles riesgos asociados con la IA, sin sacrificar el impulso a la innovación.
En resumen, la nueva regulación europea busca establecer estándares de seguridad y protección de derechos fundamentales para prevenir el uso de inteligencia artificial con propósitos represivos, manipuladores o discriminatorios, sin caer en una sobre-regulación que pueda afectar la competitividad de la Unión Europea.
Entre las principales novedades del AI Act se destaca la inclusión de nuevas disposiciones sobre los modelos fundamentales de IA de propósito general de alto impacto, un sistema revisado de gobernanza, una ampliación de la lista de prohibiciones y la prohibición del uso de cámaras con identificación biométrica, excepto en casos autorizados por la policía y los jueces. Además, se fortalece la protección de los derechos fundamentales mediante la obligación de realizar evaluaciones de impacto antes de implementar sistemas de IA de alto riesgo.
Específicamente, la nueva normativa europea prohíbe ciertas aplicaciones de IA que vulneran los derechos de los ciudadanos, como la categorización biométrica basada en características sensibles, la recopilación indiscriminada de imágenes faciales de Internet o de cámaras de vigilancia para crear bases de datos de reconocimiento facial, el reconocimiento de emociones en el lugar de trabajo y en las escuelas, los sistemas de puntuación ciudadana, la actuación policial predictiva y la manipulación del comportamiento humano.
El uso de sistemas de identificación biométrica por parte de las fuerzas de seguridad está prohibido de manera general, excepto en circunstancias muy específicas y con salvaguardias estrictas, como la autorización judicial o administrativa previa. Además, se establecen obligaciones claras para otros sistemas de IA de alto riesgo, como la evaluación y reducción de riesgos, el mantenimiento de registros de uso, la transparencia y precisión, y la supervisión humana.
La Ley de Inteligencia Artificial también garantiza el derecho de los ciudadanos a presentar reclamaciones sobre los sistemas de IA y a recibir explicaciones sobre las decisiones basadas en ellos que afecten a sus derechos. Por otro lado, la IA de uso general deberá cumplir ciertos requisitos de transparencia y respetar la legislación de la Unión Europea sobre derechos de autor. Los modelos más potentes deberán cumplir requisitos adicionales, como realizar evaluaciones de riesgos sistémicos e informar sobre incidentes.
Aunque el reglamento aún está pendiente de una última revisión jurídica-lingüística, se espera su aprobación definitiva antes del final de la legislatura y su entrada en vigor está prevista para 2026.