En momentos como los actuales, en los que el debate sobre la responsabilidad algorítmica y la necesidad de su regulación por parte de los gobiernos está en la mente de todos, recordemos a los expertos computadores cuando dicen: no hay nada más obediente que un algoritmo; el algoritmo no decide, el algoritmo computa.
Teniendo en cuenta lo anterior, es imprescindible, cada día más, que las instituciones y organizaciones destinadas a trabajar con algoritmos en sus procesos de producción y comercialización, lo hagan respetando una serie de principios básicos. En el año 2017, la Association for Computing Machinery (ACM), en una primera aproximación, definió una suerte de 7 principios imprescindibles para la utilización transparente y responsable de los algoritmos (https://www.acm.org/).
Teniendo en cuenta estas pautas, así como las actuales propuestas de regulación de la responsabilidad algorítmica, los 5 principios que deben presidir el uso de algoritmos, cuando el mismo afecta a un número elevado de personas, podrían ser:
1.- Configuración ética: los creadores de los sistemas algorítmicos deben contemplar y establecer los mecanismos necesarios para evitar la aparición de sesgos en su diseño, implementación y posterior uso por parte del usuario. Por tanto, deben ser conscientes de que exista la posibilidad de sesgo y en caso de que se produzca erradicarlo.
2.- Validación: una vez tomada conciencia de la posibilidad de sesgos y antes de implementar el sistema algorítmico, se hace preciso el testeo a través de pruebas experimentales y sólo una vez comprobada la ausencia del riesgo de discriminaciones podría utilizarse. Los test rutinarios y periódicos son necesarios para esta validación.
3.- Información pública: todos los datos utilizados para el entrenamiento deben incorporarse a un informe en el que se detalle su origen y la forma en que han sido recolectados. De esta forma, los usuarios pueden saber a qué algoritmos son sometidos, con que efectos y con qué propósito, pues quedan registrados. Los algoritmos deberían ser de código abierto y tener una descripción de su contenido similar a los supuestos de alimentos y medicamentos.
4.- Accesibilidad: deben establecerse los mecanismos necesarios para que los usuarios perjudicados por la utilización de un sistema algorítmico puedan defenderse, solicitando la rectificación y resarcimiento. La aplicación de este principio podría llegar a contemplar incluso el llamado punic button, que en su máxima manifestación implicaría el cese del servicio.
5.- Auditoría: los procesos, modelos, datos y validaciones registrados, deben someterse a auditoría en el supuesto de que se presuma o constate algún daño resultante de la aplicación del sistema algorítmico. Las instituciones que incurran en estos supuestos deben rendir cuentas de su actuación. La rendición de cuentas será efectiva si las instituciones y organizaciones han cumplido su deber de registrar el informe completo de los datos.
Suscríbete a nuestro newsletter aquí.
¡Hola! Primero que nada, felicidades por este proyecto, tienen información muy oportuna y relevante. Estoy preparando un dictamen para un juicio laboral en donde explico varias conceptos vinculados con IA, algoritmos y demás. Como la información no abunda en español estoy retomando parte de la información presentada en este sitio pero leo que hay entradas como ésta que solo está suscrita por «la redacción», lo cual erosiona un poco su credibilidad o dificulta vincular el texto al profesional de legaltech autor del texto. Al utilizar la información en un juicio es muy diferente decir que alguien lo escribió (por ejemplo, Isabella Galeano) a decir que lo escribió algo etéreo como «la redacción», por lo que sugiero que en lugar de utilizar esta frase vaga siempre le den crédito a la o las personas autoras de una entrada.
Felicidades de nuevo por el trabajo, ¡gran sitio!