Innovación e Inteligencia Artificial. ¿(In)Necesarias regulaciones?

Entrada original publicada en concepcioncampos.org

 ¿Es necesaria una ley para regular la Innovación? ¿Y para la Inteligencia Artificial? Como buena gallega que soy, respondería que depende. En anteriores ocasiones me he ocupado de reflexionar sobre el posible papel de la Inteligencia Artificial y la Innovación en la administración pública (entre otras, 5 ejemplos de inteligencia artificial en la administración pública, Oportunidades para la Innovación desde el ordenamiento jurídicoInteligencia Artificial en el Sector Público: Oportunidades), en esta ocasión el análisis y la reflexión sobre esta cuestión es precisamente el objeto de mi contribución al magnífico monográfico de la RVOP sobre Innovación, dirigido por Mikel Gorriti y con un extraordinario listado de autores.

En el planteamiento del análisis pretendemos abordar una doble pregunta. Por un lado, si existe espacio en la gestión pública para la innovación y la inteligencia artificial, entendidas como vectores que conducen a una mayor eficacia y eficiencia, a una mejor prestación de los servicios públicos. Y, por otro, si la entrada de esos vectores supone un riesgo para el servicio público por su falta de configuración legal y en qué medida sería necesario dotarnos de un marco jurídico que garantizase el respeto a los principios que deben regir el funcionamiento de la administración pública y la protección de los derechos más elementales de las personas, de seguridad jurídica.

No cabe duda de que la innovación representa un valor añadido que la administración debe buscar frente a su posición tradicional, al tiempo que existe (también en la administración) la imperiosa necesidad de sumarse a la vanguardia de las tecnologías en clave de inteligencia artificial, en este caso, además, como motor de innovación. Aspectos que se enfocan desde un análisis en perspectiva jurídica, desde los retos que se plantean para garantizar no sólo el servicio público, sino el libre ejercicio de sus derechos por la ciudadanía y la no discriminación en su relación con la administración, ante los profundos debates éticos que aparecen.

Si echamos la vista atrás, ambos conceptos aparecen como realidades extrañas, ajenas a la propia noción de administración pública, claramente marcada por las esencias de un derecho administrativo francés, por un modelo cerrado, jerárquico y basado en el imperio de la ley y el derecho, que no encajaría bien con aquéllos. Sin embargo, la administración pública y los gobiernos se han visto obligados, en algunos casos, o impulsados por su propia dinámica, en otros, hacia la innovación pública, innovación que no se predica, por tanto, en exclusiva del sector privado, como veremos, y que tiene como uno de sus drivers fundamentales las nuevas tecnologías, y como agente muy cualificado, la inteligencia artificial.

Puede decirse que el derecho administrativo se ha visto forzado a asimilar nuevos conceptos, muy ajenos a la tradicional regulación administrativa, casi todos ellos relacionados con la aparición de las nuevas tecnologías, nociones metajurídicas, como metadatos, interoperabilidad y seguridad, todos ellos en clave tecnológica, ya arcaicos al lado de la IA, el Iot, machine learning o deep learning, sin contar con un marco legal propio, lo que produce intenso vértigo en los más resistentes y puede llegar a generar inseguridades en la protección de los derechos de las personas.

Porque a pesar de que la normativa sobre el funcionamiento electrónico de la administración pública es de reciente factura, año 2015, ni la Ley 39/2015, ni la Ley 40/2015 contienen prescripción alguna para conocer el procedimiento administrativo que genere el algoritmo y el código fuente de las Actuaciones Administrativas Automatizadas, ni explicación comprensible sobre ellos, sin que se contemple ningún tipo de previsión en relación a la utilización de la IA en el ámbito administrativo, remitiéndonos, como veremos, a silos aislados, como las actuaciones administrativas automatizadas o a la elaboración de perfiles que contempla el Reglamento Europeo de Protección de Datos.

Sobre esta cuestión se ha ocupado y preocupado la Unión Europea, en particular, en torno a las dimensiones éticas en la utilización de las técnicas de IA, pero sin perjuicio de ello, la Declaración de Tallín específicamente contempla la cualidad de la administración electrónica como vector para la innovación y la IA, y exige el planteamiento de un enfoque claro para aprovechar las oportunidades de innovación que se ofrecen desde la utilización de la IA en el sector público, utilización que debería estar presidida por la máxima garantía de los derechos de las personas, que evite nuevas discriminaciones, sesgos y otras limitaciones derivadas de las black boxes.

Nos encontramos ante un gran oportunidad que no podemos dejar pasar por la falta de regulación, oportunidad instrumental, pues lo importante en la innovación tecnológica o en la IA no es su finalidad en sí misma considerada, sino su carácter instrumental para la mejora de la calidad de vida de los ciudadanos y para fomentar una sociedad del aprendizaje, sin olvidar la necesidad de dotarnos del citado marco legal que mitigue las amenazas que un mal uso de la IA puede conllevar.

Por todo ello, y a modo de cierre del artículo proponemos un decálogo de fast-check de los pilares básicos que deben tomarse en consideración para asumir los nuevos retos para el adecuado desarrollo y utilización de la IA en el sector público, entre los que podemos destacar:

  1. Un marco jurídico básico que permita, con seguridad jurídica pero de un modo adaptativo, garantizar la protección de los derechos fundamentales de los ciudadanos, sin suponer un contrapeso a las oportunidades de innovación para la mejora de los servicios públicos.
  2. Un sistema de atribución de responsabilidad por los eventuales daños que se pudieran producir en el desarrollo de actividad pública basada en la IA, discriminando entre diseñadores, proveedores, y los propios usuarios
  3. (…) El resto puedes consultarlos en su integridad en el siguiente enlace

Todo sin olvidar que, las personas al servicio de la Administración son la pieza clave para conseguir ese cambio real, pero a su lado se presentan determinados factores que deben contribuir de un modo principal a este proceso transformador, y que de hecho lo están haciendo: la innovación y la inteligencia artificial.

 NOTA: Accede al contenido íntegro del monográfico en el siguiente enlace

Sin comentarios | Leído 43 veces

Puedes saltar al final y dejar una respuesta. Hacer ping no est? permitido.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *