A la espera de la aprobación definitiva de la propuesta de Reglamento UE sobre Inteligencia Artificial, España ha positivizado por primera vez esta controvertida materia por medio del artículo 23 de la Ley 15/2022, de 12 de julio, integral para …
La entrada Primera regulación (y primera controversia) de la inteligencia artificial para el Sector Público español se publicó primero en Legal Today.
Investigador predoctoral en Derecho administrativo (Universidad Pública de Navarra)
Las Administraciones Públicas que decidan integrar la inteligencia artificial (en adelante, IA) en los procedimientos administrativos de su competencia deberán atender las siguientes líneas de actuación:
1.
En el marco de la Estrategia Nacional de Inteligencia Artificial, de la Carta de Derechos Digitales y de las iniciativas europeas en torno a la Inteligencia Artificial, las administraciones públicas favorecerán la puesta en marcha de mecanismos para que los algoritmos involucrados en la toma de decisiones que se utilicen en las administraciones públicas tengan en cuenta criterios de minimización de sesgos, transparencia y rendición de cuentas, siempre que sea factible técnicamente.
En estos mecanismos se incluirán su diseño y datos de entrenamiento, y abordarán su potencial impacto discriminatorio.
Para lograr este fin, se promoverá la realización de evaluaciones de impacto que determinen el posible sesgo discriminatorio.
2.
Las administraciones públicas, en el marco de sus competencias en el ámbito de los algoritmos involucrados en procesos de toma de decisiones, priorizarán la transparencia en el diseño y la implementación y la capacidad de interpretación de las decisiones adoptadas por los mismos.
3.
Las administraciones públicas y las empresas promoverán el uso de una Inteligencia Artificial ética, confiable y respetuosa con los derechos fundamentales, siguiendo especialmente las recomendaciones de la Unión Europea en este sentido.
4.
Se promoverá un sello de calidad de los algoritmos».
Como puede observarse, la literalidad del precepto se caracteriza por su índole programática, no existiendo en ningún caso una formulación imperativa propia de la legislación positiva, dificultándose así el cumplimiento del artículo.
A ser sinceros, el precepto se asemeja más bien a un documento estratégico de programación o planificación que a una norma jurídicamente vinculante, no pareciendo idóneo de cara a la seguridad jurídica establecer una regulación tan susceptible a la voluntariedad sobre el cumplimiento de una materia como la IA, la cual de por sí supone un reto mayúsculo para el conjunto de la sociedad.
Por otra parte, destaca (para mal) la coletilla con la que el artículo citado cierra su primera frase: «[…]tengan en cuenta criterios de minimización de sesgos, transparencia y rendición de cuentas, siempre que sea factible técnicamente».
En tal contexto, surge la siguiente pregunta: ¿se estaría permitiendo la posibilidad de que las Administraciones Públicas pudieran utilizar sistemas IA basados en black boxes como el machine learning o su derivado, el deep learning?
Hay que aclarar que el concepto black boxes (cajas negras) hace referencia a sistemas IA de machine learning sobre los que resulta imposible (desde un punto de vista técnico) conocer las concretas razones por las que estos han llegado a una concreta solución o predicción.
Por todo ello, el precepto debería haber omitido la excusa de la imposibilidad técnica para justificar una posible vulneración de un derecho tan básico en el procedimiento administrativo, como es el de transparencia, ya que ello supone una carga desproporcional hacia el interesado, el cual ve truncado su derecho a recibir una resolución motivada como consecuencia de una imposibilidad técnica.
En definitiva, lo más coherente en aras a evitar confrontaciones con los derechos de los ciudadanos hubiera sido establecer la prohibición de uso por parte de las Administraciones Públicas de sistemas IA sustentados en black boxes.
Valora este contenido.
Sé el primero en puntuar este contenido.
No hay entradas relacionadas
Este sitio web utiliza cookies para mejorar tu experiencia mientras navegas por el sitio web.
De estas, las cookies que se clasifican como necesarias se almacenan en tu navegador, ya que son esenciales para el funcionamiento de las funcionalidades básicas del sitio web.
Estas cookies no requieren el consentimiento del usuario.
También utilizamos cookies de terceros: analíticas, que nos ayudan a analizar y comprender cómo utilizas este sitio web, y publicitarias, para generar audiencias y ofrecer publicidad personalizada a través de los hábitos de navegación de los usuarios.
Estas cookies se almacenarán en tu navegador solo con tu consentimiento.
También tienes la opción de optar por no recibir estas cookies.
La exclusión voluntaria de algunas de estas cookies puede afectar a tu experiencia de navegación.
Las cookies estrictamente necesarias tiene que estar siempre activadas para el correcto funcionamiento de la web.
No recogen ningún tipo de información personal.
