Automatizaciones

Reflexió sobre l’automatització i la IA

A dia d’avui ningú té dubtes de les bondats de l’ús de les automatitzacions i els algoritmes en la presa de decisions.

La finalitat del seu ús és agilitzar el treball, reduir temps de resolució i descarregar de feina als treballadors en totes aquelles tasques que puguin ser realitzades de manera automatitzada (sense intervenció humana) perquè aquests treballadors puguin dedicar-se a les tasques que aportin valor humà. És a dir, aquelles en les que s’han d’aplicar les anomenades soft skills (qualitats personals per a tenir èxit)ja que una màquina no disposa d’elles, per més que es tracti d’IA (Intel·ligència Artificial).


Descubre herramientas y aplicaciones de inteligencia artificial para la Administración Pública

Ver ahora

Tot i així, fins a quin punt s’han d’aplicar aquests sistemes de manera generalitzada?

S’han de prendre en consideració molts aspectes a l’hora de definir els suposats i mecanismes per a la presa de decisions per no vulnerar els drets de la ciutadania i caure en efectes no desitjats com la discriminació en funció de paràmetres en els que no intervé l’intel·lecte humà.

Moltes organitzacions es posicionen en contra de l’ús d’aquest tipus de tecnologia perquè diuen que empitjora els biaixos racials. I és que en el moment en que s’utilitzen algoritmes per a la presa de decisions, pot produir-se un biaix que comporta errors i el que és pitjor, vulneració dels drets.

Per tant, és important no perdre de vista l’ètica i sobretot, més important encara, és necessari una regulació al respecte per a establir requisits, responsabilitats, garantir drets...

En cas contrari es cor el risc de caure en situacions com la succeïda als Països Baixos, on s’utilitzava un algoritme per a determinar quins ciutadans són suposadament més propensos a desfalcar a l’Estat i fou dut davant el tribunal qui va determinar que, efectivament, el seu ús constitueix un biaix que vulnera drets de la ciutadania i que no respecte la privacitat.

Aquesta sentència, completament inèdita a Europa contra l’ús per un Govern d’algoritmes predictius, és una manera de frenar a les tecnologies en el procés de presa de decisions sobre les vides de la ciutadania.

 

L’ús de la Intel•ligència Artificial a nivell mundial

A nivell europeu, al febrer del 2020, la Comisió Europea va crear una estratègia de dades i Intel·ligència Artificial per a intentar regular aquestes noves tecnologies i garantir que s’utilitzin i apliquin de forma segura. Europa pretén liderar els sistemes d’Intel·ligència Artificial amb la creació de centres d’investigació i avanços en el sector de la robòtica i ciberseguretat.

A Amèrica, aquestes noves tecnologies ja duen anys funcionant a servei del govern. Segons el CIPE (Centre d’Informació sobre Privacitat Electrònica), a Estats Units gairebé tots els estats han utilitzat aquest tipus d’algoritmes de governança.

Sabies què a Filadelfia i en altres ciutats nord-americanes existeix un algoritme que duu més de cinc anys calculant possibilitats de reincidència dels delinqüents?

Creat per un professor de la Universitat de Pennsylvania, aquest algoritme s’utilitza per a ajudar a determinar les penes de llibertat condicional, identificant a les persones en alt risc de reincidència.

A mesura que aquestes pràctiques d’ús d’Intel·ligència Artificial i algoritmes s’implanten, van generant resistència per part de la ciutadania. S’han oposat a aquestes des d’investigadors de la ONU a líders comunitaris i advocats de drets civils i sindicats.

 

No hi ha dubte que, tot el que envolta el món dels algoritmes predictius, la Intel·ligència Artificial i les automatitzacions, es converteix en un tema polèmic que pot duu controvèrsia. I tu, què n’opines? Estàs a favor o en contra?

Si desitges conèixer com la Intel·ligència Artificial pot ajudar a la teva entitat, envia’ns un correu a hola@ecityclic.com i t’explicarem com aplicar-la a les plataformes d’Administració Electrònica.

 

Publicat el 12 de maig 2021
Comparteix a: