Administración digital y Ética pública: una visión desde la IA

Entrada original publicada en concepcioncampos.org

Administración digital. Aún sin concluir de un modo satisfactorio el proceso de transformación digital de la gestión pública que requiere de un impulso definitivo para afrontar la situación actual generada por el Covid-19, la Administración se encuentra con los cambios tecnológicos que se están produciendo con la maduración de tecnologías disruptivas, los nuevos paradigmas de relación con las Administraciones y la reutilización eficiente de información, ámbito en el que alcanza un gran protagonismo la Inteligencia Artificial (IA), y tanto en Europa como en en España han comenzado a darse los primeros pasos para abordar los nuevos retos que se presenta como consecuencia de la aparición de la IA y las ventajas que ofrece para la gestión pública.

Para ello, es preciso impulsar la digitalización de servicios públicos y en esa línea es necesario contemplar la introducción de la IA en la articulación y ejecución de políticas públicas. El diseño de un marco para fomentar la digitalización inteligente de la Administración es clave para mantener el ritmo de la evolución que presenta la Sociedad Digital. El impulso a la aplicación de servicios de automatización, a a las capacidades de IA reutilizables y servicios de gestión inteligente facilitarán una transformación efectiva de los procesos de articulación y ejecución de las políticas públicas, simplificando y automatizando los procesos, alcanzando un mayor bienestar para la ciudadanía y una mayor eficiencia empresarial, así como un mayor protagonismo de la innovación pública (así lo contamos aquí).

La IA presenta numerosas oportunidades en la gestión pública como decíamos aquí, pero también amenazas (en el siguiente enlace). La extremada versatilidad de la IA es también una fuente potencial de riesgos (discriminación provocada por conjuntos de datos sesgados; decisiones automatizadas difíciles de entender; intrusión en la vida privada de las personas; o utilización con propósitos delictivos) si no se respetan determinadas reglas. Como ejemplo la noticia publicada en ABC “Así funcionan los sesgos de la Inteligencia Artificial” (la imagen que ilustra esta entrada), en la que  relata los resultados de un experimento que concluye que los principales algoritmos empleados por los sistemas de reconocimiento de imágenes de Amazon o Google etiquetan de una manera diferente a hombres y mujeres, apuntando cómo “a ojos de estos software, si en una imagen aparece una persona portando un martillo se relaciona automáticamente con comportamientos masculinos”.

El sector público no puede asumir estos riesgos. Pero en un mundo que se transforma a altas velocidades nos enfrentamos a nuevas realidades, como el machine learning o el deep learning, ante una IA que plantea retos éticos en sí mismos, sin que exista un marco legal vinculante en este momento, más allá de experiencias aisladas de autorregulación, por lo que no se puede demorar el enfoque desde la ética pública. Para ello, tal  y como reconoce la UE, es necesario desarrollar un marco ético y jurídico para la IA basado en valores compartidos y España comparte el convencimiento de que es necesario un marco ético y jurídico homogéneo para toda la Unión, basado en valores compartidos que ponga la IA al servicio de las personas.

Es preciso abordar, ya sin dilación, el diseño de un sistema de gobernanza del dato (como acertadamente reflexiona Carles Ramió aquí) para asegurar la ética en la utilización de la inteligencia artificial. No todo será tecnología, sino que será preciso adaptar las estructuras de gobernanza internas existentes, vencer las resistencias al cambio, capacitar en competencias digitales e incorporar valores, riesgos y responsabilidades relacionadas con la toma algorítmica de decisiones y  determinar el nivel de participación humana en la toma de decisiones aumentada por la  IA (Human In The Loop/Human Over The Loop). Sólo así podrá garantizarse un marco ético coherente con la misión de servicio público y el interés general que corresponde a las administraciones públicas. Y lo necesitamos ya, pues la tecnología no esperará a las decisiones del sector público, sino que continuará avanzando (según los valores del sector privado) a un ritmo difícil de seguir en una administración tradicional. Toca pues, como suele decir sabiamente Ignacio Criado, dejar atrás las lógicas del S XX y asumir las nuevas lógicas del S XXI. Y para ello, como siempre, el liderazgo será fundamental. Es tiempo de nuevos liderazgos.

NOTA: Esta entrada es un resumen del artículo «La administración digital y la ética en la gestión pública: una visión desde la Inteligencia Artificial», publicado en el monográfico «Una nueva Auditoría Pública digital», de El Consultor, magníficamente coordinado por Pilar Jiménez Rius, en el marco del Congreso de IX Congreso Nacional de Auditoría del Sector Público organizado por FIASEP con el lema La Administración Digital: un reto para la gestión y la auditoría del sector público, celebrado los pasados días 15, 16 y 17 de octubre.

Sin comentarios | Leído 26 veces
Puedes saltar al final y dejar una respuesta. Hacer ping no est? permitido.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *