El Tribunal Supremo obliga al Estado a hacer público el algoritmo que determina la distribución del bono social | Tecnología

El Tribunal Supremo ha dictaminado que el Gobierno debe facilitar el acceso al código fuente de Bosco, el algoritmo encargado de asignar el llamado bono social, que son las ayudas estatales para el pago de la factura eléctrica. Esta sentencia surge como respuesta a un recurso de casación presentado por la Fundación Ciudadana Civio, que había recibido previamente una negativa por parte de la Administración para abrir Bosco. Se trata de la primera vez en España que los tribunales ordenan la divulgación de los detalles de un algoritmo que maneja recursos públicos.

“El derecho de acceso a la información pública adquiere particular importancia ante los riesgos que presenta el uso de nuevas tecnologías en el ejercicio de las competencias públicas o en la prestación de servicios”, sostiene la sentencia, “especialmente cuando se relaciona con el reconocimiento de derechos sociales”.

El Ministerio de Transición Ecológica y Reto Demográfico había rechazado en múltiples ocasiones la solicitud de Civio. “No creemos que sea necesario proporcionar acceso al código fuente para exigir responsabilidades a la Administración”, argumentó el abogado del Estado que defendió al Gobierno durante la vista del Supremo celebrada en julio.

Sin embargo, el Supremo tiene una opinión diferente. En su sentencia aclara que Bosco “comprende un algoritmo o código fuente que busca ser una traducción a lenguaje informático de las disposiciones normativas que regulan los criterios que deben cumplir los consumidores para ser reconocidos como beneficiarios del bono social”. En consecuencia, “la Sala considera relevantes las características y la función que se asigna a la aplicación Bosco, así como el propósito que cumple, al evaluar la relevancia pública de la información solicitada por Civio”.

Una investigación de Civio reveló en 2018 que el bono social, un conjunto de ayudas estatales dirigidas a familias vulnerables que resultan en una reducción de la factura de la luz, no estaba llegando a quienes cumplían con todos los requisitos para recibirlo (entre los cuales se incluyen acreditar bajos ingresos o ser víctima de violencia de género o terrorismo). Los beneficiarios del programa eran seleccionados por un algoritmo llamado Bosco, que filtraba y cruzaba datos de las familias para asignar la ayuda. Bosco proporcionaba a las comercializadoras de energía una lista con los beneficiarios de la ayuda para que se aplicara el descuento financiado por el Gobierno.

Civio descubrió que el algoritmo había presentado fallos. Aunque la Administración admitió el error, no accedió a abrir el código fuente del algoritmo, es decir, a mostrar los entresijos del programa, lo que impidió averiguar el origen del error. Los activistas llevaron el caso al Tribunal de lo Contencioso Administrativo, que dictó que liberar el código infringiría el derecho a la propiedad intelectual que posee el Gobierno sobre el algoritmo y que su publicación podría afectar tanto a la seguridad pública como a la defensa nacional. Civio llevó la demanda a la Audiencia Nacional y, tras otro rechazo, al Supremo, que ahora les da la razón. El Ministerio a cargo de Sara Aagesen ha optado por no hacer comentarios a EL PAÍS sobre la sentencia.

Un paso hacia la transparencia algorítmica

Uno de los argumentos del Gobierno para no abrir el código fuente de Bosco era que ello podría comprometer el correcto funcionamiento del programa. El Supremo no está de acuerdo. En la sentencia, se indica que “la transparencia sobre el funcionamiento del algoritmo puede contribuir (…) a mejorar el código y reforzar su seguridad, ya que, por un lado, incentiva a la Administración a ser más cuidadosa en el diseño y control del programa informático y, por otro lado, su escrutinio por parte de actores diversos e independientes puede sacar a la luz vulnerabilidades previamente no detectadas y permitir su corrección temprana”.

El tribunal también desestima otro motivo presentado por el Gobierno para no abrir el algoritmo: que al hacerlo se podrían poner en riesgo los datos personales de los beneficiarios de las ayudas. “Se constata que, en el caso que nos ocupa, la información pública cuyo acceso se solicita [el código fuente de Bosco] no incluye datos personales de los solicitantes”, dado que el algoritmo es simplemente la fórmula que define las condiciones para recibir la ayuda (no contiene ninguna base de datos).

“Estamos muy contentos. No solo porque hoy culmina una lucha que comenzamos en 2018, sino también porque la sentencia establece un precedente y crea jurisprudencia para futuros casos”, señala Eva Belmonte, codirectora de Civio. “La Administración utiliza cada vez más sistemas automatizados o de inteligencia artificial que, actualmente, carecen de supervisión independiente. La única manera de garantizar que no haya arbitrariedades ni sesgos es acceder al código fuente”, añade.