Automatizaciones

Reflexión sobre la automatización y la IA

A día de hoy nadie tiene dudas de las bondades del uso de las automatizaciones y los algoritmos en la toma de decisiones.

La finalidad de su uso es agilizar el trabajo, reducir tiempos de resolución y descargar de trabajo a los trabajadores en todas aquellas tareas que puedan ser realizadas de manera automatizada (sin intervención humana) para que dichos trabajadores puedan dedicarse a tareas que aporten valor humano. Es decir, aquellas en las que deben aplicarse las llamados soft skills (cualidades personales para tener éxito) ya que una máquina no dispone de ellas, por más que se trate de IA (Inteligencia Artificial).


Descubre herramientas y aplicaciones de inteligencia artificial para la Administración Pública

Ver ahora

Sin embargo, ¿hasta qué punto hay que aplicar estos sistemas de manera generalizada?

Debe tomarse en consideración muchos aspectos a la hora de definir los supuestos y mecanismos para la toma de decisiones para no vulnerar los derechos de la ciudadanía y caer en efectos no deseados como la discriminación en función de parámetros en los que no interviene el intelecto humano.

Muchas organizaciones se posicionan en contra del uso de este tipo de tecnología porque dicen que agrava los sesgos raciales. Y es que en el momento en que se usan algoritmos para la toma de decisiones, puede producirse un sesgo que conlleva a errores y lo que es peor, vulneración de derechos.

Por tanto, es importante no perder de vista la ética y sobre todo, más importante aún, es necesario una regulación al respecto para establecer requisitos, responsabilidades, garantizar derechos…

En caso contrario se corre el riesgo de caer en situaciones como la ocurrida en los Países Bajos, donde se usaba un algoritmo para determinar qué ciudadanos son supuestamente más proclives a defraudar al Estado y fue llevado ante el tribunal quien determinó que, efectivamente, su uso constituye un sesgo que vulnera derechos de los ciudadanos y que no respeta la privacidad.

Esta sentencia, completamente inédita en Europa contra el uso por un Gobierno de algoritmos predictivos, es una manera de frenar a las tecnologías en el proceso de toma de decisiones sobre las vidas de la ciudadanía. 

 

El uso de la Inteligencia Artificial a nivel mundial

A nivel europeo, en febrero de 2020, la Comisión Europea creó una estrategia de datos e Inteligencia Artificial para intentar regular estas nuevas tecnologías y garantizar que se usen y apliquen de forma segura. Europa pretende liderar los sistemas de Inteligencia Artificial con la creación de centros de investigación y avances en el sector de la robótica y ciberseguridad.

En América, estas nuevas tecnologías ya llevan años funcionando a servicio del gobierno. Según el CIPE (Centro de Información sobre Privacidad Electrónica), en Estados Unidos casi todos los estados han recurrido a este tipo de algoritmos de gobernanza.

¿Sabías qué en Filadelfia y en otras ciudades norteamericanas existe un algoritmo que lleva más de cinco años calculando posibilidades de reincidencia de los delincuentes?

Creado por un profesor de la Universidad de Pennsylvania, este algoritmo se usa para ayudar a determinar las penas de libertad condicional, identificando a las personas en alto riesgo de reincidencia.

A medida que estas prácticas de uso de Inteligencia Artificial y algoritmos se implantan, van generando resistencia por parte de la ciudadanía. Se han opuesto a estas desde investigadores de la ONU a líderes comunitarios y abogados de derechos civiles y sindicatos.

 

No cabe duda que, todo lo que rodea el mundo de los algoritmos predictivos, la Inteligencia Artificial y las automatizaciones, se convierte en un tema polémico que puede llevar controversia. Y tú, ¿qué opinas? ¿Estás a favor o en contra?

Si deseas conocer cómo la Inteligencia Artificial puede ayudar a tu entidad, envíanos un correo a hola@ecityclic.com y te contaremos como aplicarla a las plataformas de Administración Electrónica.

 

Publicado el 12 de Mayo 2021
Comparte en: