Entrevista a Ott Velsberg, Chief Data Officer del Gobierno de Estonia: jueces robot, inteligencia artificial y el futuro de la digitalización

0

Pregunta: Estonia está desarrollando un proyecto para emitir fallos judiciales a través de jueces de IA. ¿Cómo está funcionando el proyecto piloto hasta ahora?

Respuesta: Los jueces de IA son parte de un amplio proceso de automatización que afecta a diferentes proyectos del Gobierno estonio. En particular, estos “jueces” se encuentran en fase piloto; liderados por el Ministerio de Justicia. Sin embargo, le puedo explicar cuáles son las próximas etapas del proceso de IA que está llevando a cabo el Gobierno.

Empezaré desde el principio. En este momento tenemos un equipo dedicado a la mejora de la IA en varios proyectos. Lo cierto es que en unas semanas presentaremos nuestra estrategia de IA, que está muy enfocada a lo práctico. Con práctico me refiero a que Estonia es uno de los países que lideran la IA aplicada en el sector público. En nuestro país tenemos 16 casos activos de IA en el sector público; números difícilmente alcanzables en otros países. Nuestro Gobierno tiene el ambicioso objetivo de poner en marcha 50 casos de uso y aplicación de inteligencia artificial para 2020.

A medida que avanzan los proyectos, nos hemos dado cuenta que la IA permite que los procesos sean más eficientes y efectivos. Por lo tanto, el Gobierno está muy interesado en aumentar el apoyo a este tipo de casos. La IA es parte de un enfoque mucho más amplio que persigue el Gobierno para tener servicios automatizados: – “eventos de la vida cotidiana”.

Por ejemplo, cuando nazca un niño en el futuro será registrado automáticamente en una lista de espera para una guardería, además de recibir subvenciones y beneficios del Gobierno sin solicitarlos de forma explícita. No será necesario, por tanto, realizar ningún papeleo ni pasar por ningún sistema manual en línea. Con este proceso conseguimos eliminar el factor humano.

En cuanto a la escena jurisdiccional, también estamos buscando un enfoque similar. El primer objetivo sería conseguir lo que comúnmente se ha llamado “jueces robot”. Desde mi punto de vista, yo no lo llamaría juez robot ya que se trata simplemente de un proceso de automatización a través de IA.

¿Cuál será el funcionamiento del proyecto de jueces a través de inteligencia artificial?

Ahora mismo, le puedo hablar de lo que nosotros (el Gobierno) estamos haciendo.

Creo que lo más importante es que estamos automatizando los procesos de pago. Los procesos de pago con IA permiten al acreedor obtener el documento de ejecución de manera más rápida, y con poca a ninguna evidencia. Estos procesos pueden variar según el país pero su funcionamiento sigue siendo el mismo.

Hablamos, por ejemplo, de multas de aparcamiento o casos de prestaciones por hijos en los que las reclamaciones no ascienden de 6.400€. Actualmente, en Estonia hay 32.000 casos cada año. Por ello necesitamos automatizar el proceso y facilitarlo para, por ejemplo, pequeñas y medianas empresas, familias monoparentales o reclamaciones por multas de aparcamiento. Automatizar el proceso es crucial; el elemento humano debe desaparecer. Sin embargo, para poder llegar a un punto óptimo tenemos un equipo de 30 personas que se dedica a ayudar a los jueces a tomar decisiones más rápidas. Creo que lo más importante es que los procesos estén basados en hechos; hechos que deben estar controlados.

¿Cómo planea el Gobierno tratar los errores en las resoluciones emitidas por los jueces de inteligencia artificial?

Los humanos siempre tienen la posibilidad de reclamar la decisión final. Todo el mundo tiene derecho a impugnar la reclamación recaída. Al final, realmente, no cambia el proceso. Si no se está de acuerdo con la decisión final, no hay problema: no es la decisión final.

Aunque el procedimiento de pago, por ejemplo, ya esté medio automatizado, queremos impulsar medidas para automatizarlo todavía más.

¿Y cómo se automatiza más?

Es importante destacar que nuestro Gobierno está extremadamente digitalizado. No tenemos que empezar de cero y podemos utilizar nuestros sistemas existentes.

Por lo tanto, si se completa el formulario de reclamación, podemos compararlo con los datos que hemos recibido y controlar si se cumplen los requisitos establecidos.

¿Se pueden aplicar las herramientas de inteligencia en procedimientos que no sean reclamaciones menores?

En este momento, estamos debatiéndolo. Comenzamos con los procesos de pago menores y eventualmente extenderemos la aplicación de las resoluciones de IA a los procedimientos con umbrales monetarios más altos. Creemos que es importante empezar con casos más pequeños y, dependiendo de la confianza que la gente nos dé, pensaremos en aplicarlo a los casos más grandes.

Si pregunta si este sistema se puede aplicar a otro tipo de casos: no lo hemos considerado. Sin embargo, estamos utilizando una especie de lógica similar en diferentes áreas; por ejemplo, en las decisiones de los agentes de desempleo.

Para ello, utilizamos nuestra experiencia previa como por ejemplo, cuánto tiempo han permanecido las personas en sus puestos de trabajo. Con esos datos, podemos dar recomendaciones con un índice de efectividad de un 13%. Es decir, incluso, más alto que el de una recomendación que hiciera un empleado del Gobierno (sin el análisis de datos). Para nosotros, efectividad significa tener un 72% de personas empleadas después de seis meses de la recomendación derivada de la aplicación de inteligencia artificial.

Esto, además, ayuda a mejorar nuestro entorno comercial y la economía en general: a medida que menos personas estén desempleadas y que las PYMES obtengan dinero más rápido de sus deudores.

¿Ha experimentado el Gobierno alguna reacción al implementar sistemas impulsados ​​por la inteligencia artificial, por ejemplo, con respecto al futuro de los empleos?

En realidad, lo interesante es que, en Estonia, en términos generales, no vemos que la gente tenga miedo de perder sus empleos. Y, al mismo tiempo, observamos que la inteligencia artificial puede ayudar a encontrar nuevos empleos y, simultáneamente, mejorar las habilidades actuales de las personas. Por ejemplo, en el futuro podríamos recomendar a las personas que estén bajo la amenaza de poder perder su trabajo para que puedan reeducarse.

La IA, definitivamente, reemplazará algunos trabajos, ya lo podemos observar actualmente en el Gobierno. Por ejemplo, en relación al trabajo de los agricultores, estamos usando principalmente imágenes satélites para detectar si las tierras de cultivo se han segado o no. En el primer año pudimos ahorrar 60.000€.

Centrándose en las herramientas legales que Estonia está desarrollando. ¿Cómo entrenan a los jueces de inteligencia artificial?

De entrada, tengo que precisar, como saben y como mencioné anteriormente, que aún no hemos comenzado.

Hemos hecho un análisis previo del proyecto de jueces con inteligencia artificial, y el sistema judicial ya está empezando a automatizarse.

En el ámbito legal, a diferencia de en cualquier otro sector (económico o científico), las reglas sobre las que se entrena un software están sujetas a cambios, lo que puede hacer inútiles los conjuntos de datos utilizados con fines de capacitación. ¿Qué ocurre entonces?

Creo que es importante que todo el sistema en sí no se base solo en el aprendizaje automático. Todavía tenemos detrás muchas reglas basadas en la toma de decisiones. Insisto mucho en decir a las partes implicadas que todo necesita un proceso; necesitamos un progreso constante. La IA no es un proyecto de implementación inmediata. En el Gobierno siempre decimos que es un trabajo continuo. Debemos asegurarnos de que las reglas del juego sigan siendo válidas y que no hay errores.

Hay tantos aspectos diferentes a considerar con cada proyecto. ¿Cómo se evalúa cada proyecto? ¿Cuál es el resultado? ¿Cómo puede asegurarse que el proyecto que se pensó inicialmente ha tenido éxito?

Necesitamos asegurarnos de que la calidad de nuestros datos refleje nuestras decisiones reales. La calidad de los datos es fundamental. De lo contrario, no estaremos seguros de que los resultados coincidan con lo que esperábamos.

Los sesgos son una de las variables más importantes que estamos estudiando en este momento. Por ejemplo, estamos mirando a nuestros socios canadienses que están generando evaluaciones algorítmicas de impacto. Cada vez que una organización desea implementar el aprendizaje automático, debe pasar por unas evaluaciones comparativas o cuestionarios que muestren si existen sesgos.

Nuestro Gobierno, por su parte, está tratando de apoyar cualquier progreso relacionado con la calidad de los datos porque creemos que es fundamental.

¿Cuál ha sido su mayor desafío al tratar de combinar estas herramientas de inteligencia artificial con un proceso legal?

En realidad, no estoy seguro de si ha habido grandes desafíos. Fuera de Estonia, estas preguntas han despertado la alarma mucho más que en nuestra población. Nuestros ciudadanos son muy receptivos a los procesos de automatización. Los estonios no temen perder sus trabajos y se sienten bastante cómodos con las TIC. Es más, están dispuestos a experimentar y ser parte de este gran cambio. Realmente, no puedo decir si han existido problemas. Piense, por ejemplo, que con el idioma estonio (aproximadamente un millón de personas hablan nuestro idioma) no tenemos tanto recursos disponibles como otros países. Las grandes empresas como Microsoft, Alphabet, o Google, no invierten en el idioma estonio. Por ello, nosotros lo sabemos y respondemos con inversiones.

Necesitamos invertir, por ejemplo, más que un país de habla inglesa o de habla hispana. Somos una nación pequeña y eso nos obliga a invertir mucho más que los demás.

¿Es la identidad digital la base de un sistema judicial impulsado por inteligencia artificial? O de lo contrario, ¿pueden los países que no han adoptado mecanismos de identidad digital seguir implementando con éxito jueces de inteligencia artificial?

Mi respuesta corta es: sí. Los países sin digitalización previa pueden hacer grandes saltos. Te diré por qué lo creo.

Podemos distinguir entre proyectos que necesitan datos pasados o en proyectos que necesitan tener algún sistema de información para recopilar datos electrónicamente. Cuando hablamos de, por ejemplo, el análisis de imágenes de satélite, el proceso es más sencillo. Nuestras tecnologías se pueden exportar a España, Portugal, Italia, Uruguay, etc. En algunos casos, no es necesario que haya ningún sistema de información instalado.

Utilizaríamos, por ejemplo, las imágenes de satélites que trazan información para que sea posible obtener los datos de estos procesos. En otros casos, desafortunadamente, sí es necesario digitalizarse. De lo contrario, en algún momento va a resultar demasiado complicado (incluso para nosotros) ya que para muchos proyectos la calidad de los datos es insuficiente.

Desde su perspectiva, ¿cuál es el impacto del RGPD en la inteligencia artificial y la innovación digital?

Desde la perspectiva del Gobierno, el RGPD podría presentar algunas dificultades. Si los ciudadanos entregan sus datos al Gobierno, creo que es ilícito usar sus datos para otros fines que no sean aquellos a los que el ciudadano ha dado su consentimiento. Verdaderamente, en Estonia abogamos mucho por la transparencia. Y el RGPD nos ha permitido dar un paso más.

Además, creo que esta transparencia debería moverse también hacia el sector privado. Como ciudadanos, deberíamos poder saber cuándo nuestros datos han sido utilizados en el sector privado. Las personas, en definitiva, darán sus datos si tienen un alto nivel de confianza. Si se es transparente y se explica cómo se utilizan los datos recopilados, las personas estarán más predispuestas a compartirlos. Ahora mismo estamos trabajando en una herramienta llamada «servicio de autorización» en la que un ciudadano puede autorizar a otra parte interesada a acceder a sus datos. Esta plataforma ayudará tanto al Gobierno como a los ciudadanos a tener un mejor control y gestión de los datos; más transparente y organizado.

Esta herramienta se utiliza, entre otras cosas, para fines científicos. La clave aquí es la transparencia. Sin embargo, si no confías en el sistema, puedes retirar tu autorización sin problema. Por ejemplo, si no deseas que tu médico acceda a tus datos de salud, puedes optar por no participar. A pesar de ello, puedo afirmar que tan solo unas pocas personas lo han hecho.

¿Qué piensa sobre el acceso a la justicia y la inteligencia artificial?

El objetivo es que la justicia se entienda como una cuestión importante para las población. Creo que si conseguimos tener éxito en el ámbito de la justicia, la IA se convertirá en algo realmente grande. La gente, definitivamente, confiaría en la inteligencia artificial.


Suscríbete a nuestro newsletter aquí.

Dejar respuesta

Please enter your comment!
Please enter your name here