(El Confidencial, 03-11-2025) | Mercantil, civil y administrativo
La sentencia del Tribunal Supremo del pasado 11 de septiembre marca un antes y un después en las relaciones electrónicas entre la Administración pública y la ciudadanía -incluidas las empresas que mantienen vínculos contractuales con el Estado-. El fallo obliga a los poderes públicos, en nombre de la transparencia, a informar sobre el uso creciente de la inteligencia artificial (IA) en sus actuaciones administrativas.
En la práctica, el Supremo, tras una reclamación presentada por la Fundación Civio, reconoce como derecho subjetivo el acceso a la información que posea la Administración cuando utiliza sistemas basados en IA. Es decir, los ciudadanos pueden exigir al Estado conocer cómo y con qué herramientas tecnológicas se toman determinadas decisiones: desde la concesión de una subvención o una licitación pública hasta la selección de tribunales de oposiciones. En el caso concreto de la sentencia, el sistema Bosco es el que determina quién puede beneficiarse del bono social eléctrico.
La resolución, que crea jurisprudencia, consagra el llamado "principio de transparencia algorítmica", lo que implica que la Administración tiene la obligación de revelar el código fuente de los programas utilizados para conceder ayudas, realizar inspecciones fiscales u otras tareas automatizadas. En definitiva, afecta a toda la Administración cuando recurre a herramientas que operan con la autonomía característica de la IA, basada en algoritmos capaces de "aprender" a partir de datos sin seguir instrucciones humanas directas.
Un ejemplo de ello es la Agencia Tributaria, que emplea la IA en sus asistentes virtuales y en la detección de errores en las declaraciones del IRPF, además de identificar a posibles contribuyentes que no han presentado su declaración. Para evitar abusos, la Agencia ha aprobado un código ético que garantiza la supervisión humana de las decisiones y predicciones generadas por los sistemas automatizados.
A raíz de este fallo, el Supremo ha aceptado también un nuevo recurso de casación interpuesto por el Consejo de Transparencia, después de que la Audiencia Nacional negara el acceso al código fuente de una aplicación informática usada por la Comunidad de Madrid para el sorteo de tribunales en oposiciones. El Consejo defiende que dicha información debe ser pública, ya que permite entender cómo se toman las decisiones y bajo qué criterios actúan las instituciones, sin que ello vulnere la propiedad intelectual.
Aunque el fallo se refiere directamente a la Administración pública, tiene implicaciones indirectas en el ámbito laboral, ya que refuerza el control sindical sobre los algoritmos utilizados por las empresas. Según el Estatuto de los Trabajadores, reformado en 2021, los representantes sindicales -no los empleados de forma individual- tienen derecho a recibir información sobre los sistemas de IA que influyen en las condiciones laborales o en la toma de decisiones empresariales. El V Acuerdo para el Empleo y la Negociación Colectiva (2023-2025) también subraya la importancia del principio de transparencia algorítmica.
La falta de transparencia, como advierte un informe de CCOO, puede ocultar sesgos en los datos o en los modelos de entrenamiento, generando decisiones injustas o discriminatorias. Esta opacidad aumenta la desigualdad entre empresas y trabajadores, quienes a menudo desconocen cómo se procesan sus datos y cómo influye ese análisis en su entorno laboral. Además, el riesgo de discriminación múltiple -por edad, género, origen o creencias- es especialmente alto cuando confluyen distintos prejuicios.
El Estatuto de los Trabajadores establece que los comités de empresa deben conocer, con la periodicidad que se determine, los parámetros y reglas sobre los que se basan los algoritmos o sistemas de IA que inciden en las condiciones de trabajo.
Aunque el sistema Bosco fue desarrollado por el Ministerio para la Transición Ecológica, la sentencia también impacta en la contratación pública. Según el experto Javier Vázquez Matilla, los nuevos pliegos de contratación deberán prever que el contratista entregue no solo el producto final, sino también el código fuente o los medios de acceso necesarios para garantizar el cumplimiento del derecho a la transparencia. Incluso si el proveedor conserva la titularidad del software, deberá incluir cláusulas que permitan al órgano público facilitar el algoritmo si un juez lo exige.
En la misma línea, un análisis del despacho Garrigues considera que la Sala Tercera del Supremo ha introducido un cambio interpretativo de gran alcance, al dejar claro que la digitalización de la Administración no puede convertirse en un espacio opaco, sino que debe estar sujeta al mismo control público y judicial que cualquier otro procedimiento administrativo.
En última instancia, la sentencia afirma que el derecho a la información prevalece sobre la reserva del Estado para mantener en secreto los algoritmos que sustentan sus decisiones. "Tanto la normativa europea como la española apuestan por la transparencia de los algoritmos públicos, lo que descarta la ocultación del código fuente como principio general de seguridad", señala el fallo, redactado por el magistrado Juan Pedro Quintana Carretero. En su conclusión, el Supremo reconoce el derecho de la Fundación Civio a acceder al código fuente de Bosco y ordena a la Administración a entregarlo.