Un cop mossegats, els Països Baixos volen passar aviat a la supervisió de l’algoritme – EURACTIV.com

El govern holandès està previst que sigui un primer implementador de diverses disposicions crucials d’una propera legislació de la UE per regular la intel·ligència artificial (IA) com a part d’una ambiciosa agenda de treball per a la digitalització.

En els últims anys, els Països Baixos van ser l’escenari d’un escàndol a gran escala a causa d’un algorisme defectuós que va portar les autoritats fiscals a acusar falsament milers de fraus relacionats amb un règim de prestacions per a la cura de nens.

La Haia està ara tractant de liderar la verificació dels drets humans dels algorismes i la creació d’una base de dades nacional per fer un seguiment dels sistemes d’IA utilitzats pels organismes públics, anticipant dos aspectes de la Llei d’IA, la legislació insígnia per regular les aplicacions d’IA. en funció del seu potencial perjudicial.

“La Llei d’IA hauria de conduir a sistemes d’IA explicables que respectin els drets humans i condueixin a una transparència significativa que generi confiança, que és, per descomptat, un element fonamental per a un mercat d’IA en flor i també important en una democràcia”, Alexandra van. Huffelen, el ministre holandès de digitalització, va dir a EURACTIV.

L’agenda de treball adoptada pel govern també inclou noves iniciatives per fomentar les habilitats digitals i una cartera digital.

Registre públic i seguiment

Un nou òrgan de supervisió, a partir de l’1 de gener de 2023, farà complir un conjunt de noves normes que anticipen essencialment les properes normes de la UE sobre obligacions de transparència, marcatge de compliment i dret a reclamar.

De la mateixa manera, el mes vinent, el govern holandès introduirà un registre d’algorisme obligatori per a la IA utilitzat pels organismes públics, des de l’administració central fins a les autoritats locals. La idea és que els ciutadans no poden gaudir del dret a rectificar si no saben que s’està utilitzant una IA.

A la versió original de la Llei d’IA, només els proveïdors de sistemes d’IA d’alt risc estaven obligats a registrar-se en una base de dades de tota la UE. Tanmateix, arran de la pressió de països com els Països Baixos, l’obligació també es va estendre a les autoritats públiques que utilitzen un sistema d’IA.

Un dels plànols del registre de transparència de l’algorisme és el de la ciutat d’Amsterdam, que va ser creat voluntàriament per tres grups diferents: la població en general, els funcionaris i els tècnics.

“Hem de treballar conjuntament amb les empreses. En cas contrari, no podrem fer transparents els nostres algorismes. Els departaments informàtics estan definitivament interessats a obrir-se i mantenir un diàleg”, va dir un representant del municipi d’Amsterdam en un acte al Parlament Europeu la setmana passada.

Avaluació de l’impacte

A més, les autoritats públiques hauran d’avaluar l’impacte dels algorismes en els drets humans abans d’utilitzar-los.

Amb aquest propòsit, el govern holandès va desenvolupar una avaluació d’impacte de la IA per avaluar els riscos dels drets humans del sistema, aprovant la qual el sistema rebrà una marca d’avaluació de la conformitat.

“Avaluar la IA no és només mirar la tecnologia, sinó mirar el context on s’implementa aquesta tecnologia. No volem mirar a cegues una caixa negra. És important tenir en compte la forma en què s’utilitza la caixa negra”, va dir Mirko Schafer, professor associat de la Universitat d’Utrecht i co-desenvolupador de l’avaluació d’impacte, al mateix esdeveniment.

Schafer va explicar que l’avaluació es basa en el context i el valor afegit de l’ús dels algorismes, com s’han entrenat els models, les mesures de mitigació de riscos vigents, amb quina freqüència s’ha de revisar la IA i les possibles implicacions sobre els drets humans. .

El registre es fa públic perquè els òrgans de control jutgin el procés de deliberació, que les organitzacions de la societat civil i els periodistes també poden verificar. El registre serà obligatori per a les empreses privades un cop s’adopti la Llei d’IA.

Per a van Huffelen, l’avaluació d’impacte holandesa no va més enllà de la posició del Consell de la UE sobre la Llei d’IA, que en la seva revisió és prou sòlida. “Els Països Baixos es comprometen a garantir que això no es dilueixi durant les futures negociacions”, va afegir.

Competències digitals

Les autoritats holandeses calculen que el 20% de la població dels Països Baixos no té competències bàsiques. Aquest fenomen no es limita als sense estudis sinó també als que cal reciclar per assolir la competència digital necessària per a les professions actuals.

L’agenda també inclou nous currículums de competències digitals per ensenyar codificació des de primària i secundària, que noves ofertes formatives acompanyaran a nivell autonòmic amb llindars baixos destinats a reciclar o requalificar l’abandonament escolar amb competències digitals avançades.

La Haia també introduirà punts d’informació digital a les biblioteques públiques on els ciutadans poden obtenir ajuda per accedir als serveis públics essencials en línia. També en aquest sentit, el govern holandès està treballant en una cartera digital que preveu les properes normes a nivell de la UE.

La cartera inclourà no només el DNI, sinó tota la documentació pública com ara el carnet de conduir, l’assegurança mèdica i els títols educatius. Seguirà el principi de minimització de dades, de manera que, per exemple, si una botiga nocturna l’utilitza per verificar l’edat d’algú, no podrà accedir a cap altra informació, com ara una adreça personal.

S’espera una versió beta de la cartera durant les properes setmanes, amb el llançament oficial previst per al 2023.

[Edited by Zoran Radosavljevic]

Leave a Comment

Your email address will not be published. Required fields are marked *