La Comissió Europea impulsa una regulació de la IA

També es vol donar una empenta a l’adopció de la intel·ligència artificial i a la inversió i innovació en aquest camp arreu de la Unió Europea.

Tot això acompanyat de noves normes referents a la maquinària (Proposal for a Regulation of the European Parliament and of the Council on machinery products) que adaptaran els requisits de seguretat per afavorir la confiança dels usuaris en la nova i versàtil generació de productes.

El pla coordinat exposa els canvis i la inversió que cal fer als estats membres per reforçar la posició de lideratge d’Europa en el desenvolupament d’una IA centrada en l’ésser humà, sostenible, segura, inclusiva i fiable.

Nivell de riscde la intel·ligència artificial a la UE

Les noves normes s’aplicaran directament i de la mateixa manera en tots els estats membres, partint d’una definició d’IA adaptada per al futur. Tindran un plantejament basat en el risc:

1. Risc inacceptable: quedaran prohibits els sistemes d’IA que es considerin una amenaça evident per a la seguretat, els mitjans de subsistència i els drets de les persones. S’hi inclouen els sistemes o les aplicacions d’intel·ligència artificial que manipulen el comportament humà per eludir la lliure voluntat dels usuaris (per exemple, les joguines que utilitzen assistència per veu que fomenta que els menors tinguin comportaments perillosos) i els sistemes que permeten als governs d’establir una «puntuació social».
2. Risc alt: els sistemes d’IA considerats d’alt risc abasten tecnologies d’intel·ligència artificial que es fan servir per a:

• Les infraestructures crítiques (com ara el transport) que podrien fer perillar la vida i la salut dels ciutadans.
• La formació educativa o professional que podria determinar l’accés a l’educació i la carrera professional d’una persona (per exemple, puntuació d’exàmens).
• Els components de seguretat dels productes (com ara l’aplicació de la intel·ligència artificial en la cirurgia assistida per robots).
• L’ocupació, la gestió de treballadors i l’accés al treball per compte propi (per exemple, programes informàtics de classificació de CV en processos de contractació).
• Els serveis públics i privats essencials (com ara una qualificació creditícia que impedeixi als ciutadans d’obtenir un préstec).
• L’aplicació de la llei que pugui afectar els drets fonamentals de les persones (per exemple, l’avaluació de la fiabilitat de les proves presentades);
• La gestió migratòria, d’asil i de controls fronterers (com ara la verificació de l’autenticitat de documents de viatge).
• L’administració de justícia i processos democràtics (per exemple, l’aplicació de la llei a un conjunt concret de fets).

3. Risc limitat, és a dir, sistemes d’IA amb requeriments específics de transparència: quan es facin servir sistemes d’intel·ligència artificial com ara bots de conversa, els usuaris hauran de ser conscients que estan interactuant amb una màquina per poder prendre una decisió fonamentada sobre si volen continuar o no.

4. Risc insignificant: la proposta jurídica permet que es facin servir gratuïtament aplicacions com ara videojocs basats en intel·ligència artificial o filtres de correu brossa. La immensa majoria dels sistemes d’IA s’inclouen en aquesta categoria. La proposta de reglament no s’endinsa en aquest apartat, ja que aquesta mena de sistemes d’intel·ligència artificial representa un risc insignificant o nul per als drets o la seguretat de la ciutadania.

Governança de la intel·ligència artificial a la Unió Europea

La Comissió proposa que les autoritats nacionals encarregades de vigilar el mercat supervisin les noves normes i, d’altra banda, la creació d’un Comitè europeu d’intel·ligència artificial n’afavorirà l’aplicació i impulsarà el desenvolupament de pautes de referència per a la IA.

A més, s’han proposat codis de conducta voluntaris per a la IA que no presenti un risc alt, així com espais controlats per a fer proves i afavorir la innovació responsable.

El Pla coordinat en matèria d’intel·ligència artificial presenta unes accions adreçades a accelerar les inversions en IA, cosa que pot beneficiar la recuperació. També busca promoure l’aplicació d’estratègies nacionals d’intel·ligència artificial, posar fi a la fragmentació i fer front als reptes mundials.

El pla coordinat actualitzat farà servir el finançament assignat mitjançant els programes Europa digital i Horitzó Europa, així com el Mecanisme de recuperació i resiliència, que preveu un objectiu de despeses digitals del 20 %, i programes de polítiques de cohesió amb els objectius següents:

• Crear les condicions adients per al desenvolupament i l’adopció d’intel·ligència artificial mitjançant l’intercanvi d’informació estratègica i de dades, i també la inversió en capacitats informàtiques fonamentals.
• Fomentar l’excel·lència en matèria d’intel·ligència artificial des del laboratori fins al mercat mitjançant la creació d’una associació publico privada; la creació i mobilització de capacitats de recerca, desenvolupament i innovació; i la possibilitat que les pimes i les administracions públiques facin servir instal·lacions d’assaig i experimentació, així com centres d’innovació digital.
• Garantir que la intel·ligència artificial beneficiï les persones, sigui un motor del benestar social, se situï a la avantguarda del desenvolupament i el desplegament d’una intel·ligència artificial fiable, fomenti talents i capacitats donant suport als períodes de pràctiques, les xarxes de doctorat i les beques post doctorals en àmbits digitals, pari atenció a la confiança en matèria d’intel·ligència artificial i promogui la visió europea d’una IA sostenible i fiable a nivell mundial.
• Fomentar el lideratge estratègic en sectors i tecnologies de gran repercussió, com ara el medi ambient, parant especial atenció a la contribució de la IA pel que fa a la producció sostenible, la salut per mitjà de l’intercanvi transfronterer d’informació, el sector públic, la mobilitat, els afers d’interior, l’agricultura i la robòtica.

Per a més informació consulta la web de la Comissió Europea i consulta habitualment la nostra web per a més novetats en Administració Pública Electrónica.