#ÈticaDigital

L’Agència Espanyola de Protecció de Dades (AEPD) ha publicat una nota tècnica sobre la relació entre la qualitat de les dades, el principi d’exactitud del RGPD i l’ús de sistemes d’Intel·ligència Artificial. El document ofereix una interpretació especialment rellevant per a les organitzacions que desenvolupen, entrenen o utilitzen solucions d’IA, aclarint que la qualitat de les dades i l’exactitud requerida pel RGPD són conceptes relacionats, però no equivalents.

Un dels missatges principals de l’AEPD és la qualitat de les dades; aquestes, siguin personals o no, han de satisfer necessitats declarades i implícites quan s’utilitzen sota condicions específiques. Aquesta definició vincula el concepte de qualitat de les dades amb l’adequació de les dades per complir la finalitat en un context declarat.

De la mateixa manera, l’exactitud de les dades no s’ha d’interpretar només com a veracitat o actualització permanent de la informació. L’autoritat recorda que l’article 5 del RGPD vincula l’exactitud amb la finalitat del tractament. En conseqüència, les dades han de complir les característiques necessàries per complir adequadament aquest propòsit, i poden incloure aspectes com l’exactitud, la granularitat, la completitud o la freqüència d’actualització, sempre que siguin rellevants per a l’ús previst.

L’AEPD també destaca la relació estreta entre els principis d’exactitud i minimització. Ambdós actuen conjuntament per definir el nivell de qualitat requerit de les dades personals. Tot i que l’exactitud requereix que les dades siguin adequades per assolir l’objectiu perseguit, el principi de minimització impedeix la recopilació o ús d’informació amb un nivell de detall, precisió o freqüència superior al estrictament necessari. Des d’aquesta perspectiva, exigir un nivell de qualitat superior al requerit podria anar en contra del mateix RGPD, ja que implica un tractament excessiu de dades personals.

L’ús d’escales estàndard com l’ISO permet analitzar les característiques de qualitat de les dades dins d’un marc de referència comú; tot i així, aquest fet podria afectar com valorem les dades respecte a un context específic. Dit això, l’AEPD ens recorda evitar cometre errors, com ara aplicar tècniques de “caselles de verificació” on es fa una revisió abstracta del conjunt de dades sense context; establir que totes les característiques són igualment rellevants; o suposar que les característiques a avaluar en el marc són els únics i, que per tant s’esgoten amb aquesta anàlisi.

En aquest sentit, en l’àmbit de la Intel·ligència Artificial, l’AEPD subratlla que l’avaluació de la qualitat no es pot limitar a dades individuals. En molts processos d’aprenentatge automàtic, la qualitat del conjunt de dades adquireix una importància més gran que la del registre aïllat. Factors com la representativitat, l’absència de biaixos, les propietats estadístiques del conjunt o l’adequació al context d’ús poden ser decisius per garantir resultats fiables i compatibles amb la finalitat del processament.

Un altre aspecte rellevant és que la qualitat de les dades sempre s’ha d’analitzar des d’una perspectiva funcional. L’AEPD admet que certes tècniques utilitzades en ciència de dades, com l’anonimització, la generació de dades sintètiques, la reducció de biaix o la imputació de valors que falten, poden introduir elements que no reflecteixen amb precisió la realitat individual d’una persona. Tanmateix, això no implica necessàriament una violació del principi d’exactitud, sempre que el conjunt de dades sigui adequat per a l’objectiu perseguit i no generi efectes adversos sobre els drets de les persones implicades.

Cal recordar que, atès que les dades personals també poden incloure informació no personal que pot influir directament en el resultat obtingut, és necessari que els requisits de qualitat també s’estenen a aquelles dades no personals que condicionen l’idoneïtat del tractament o dels seus resultats.

El desenvolupament de sistemes d’IA és en si mateix un tractament diferent del propòsit o resultat que el sistema pot oferir. En aquest sentit, la qualitat de les dades s’ha d’avaluar en el context de l’ús previst que han de complir un cop desplegats.

De la mateixa manera,  la qualitat de les dades no s’ha d’entendre com una condició estàtica, sinó com un procés continu que requereix monitoratge, revisió i adaptació al llarg del cicle de vida del sistema i del tractament.

Els riscos més grans detectats per l’Agència es troben en dos extrems de la qualitat de les dades: un nivell insuficient compromet l’adequació del sistema i afecta negativament els drets dels subjectes de les dades; d’altra banda, un nivell desproporcionat pot violar el principi de minimització, augmentar innecessàriament els costos d’accés i gestió de dades i fins i tot dificultar la innovació i projectes legítims de recerca.

En conclusió, l’Agència defensa un enfocament basat en la finalitat, la proporcionalitat i l’evidència objectiva. Les dades s’han de definir sota un grau de qualitat que estigui d’acord amb la seva funció i el resultat que ha de produir. Pel que fa a la IA, aquesta definició ha de combinar criteris tècnics i legals, així com mètriques que permetin verificar l’adequació del resultat, el compliment de les normatives de protecció de dades i els requisits del cicle de vida de la IA (Reglament Europeu d’IA). En aquest sentit, la participació conjunta d’especialistes en protecció de dades i ciència de dades és un element clau.

Malgrat la pressió coordinada feta per endarrerir l’aplicació del Reglament (UE) 2024/1689, de 13 de juny, en matèria d’intel·ligència artificial (RIA) per part de més de 100 empreses tecnològiques (entre les que figuren Google i Meta), la Comissió Europea es manté ferma, i el 4 de juliol va manifestar de forma contundent “There is no stop the clock. There is no grace period. There is no pause”.

En efecte, després de mesos d’intenses negociacions, la Comissió va rebre el passat 10 de juliol la versió final del Codi de bones pràctiques d’IA d’ús general, una eina voluntària desenvolupada per tretze experts independents, amb aportacions de més de 1.000 parts interessades, inclosos proveïdors de models, petites i  mitjanes empreses, acadèmics, experts en seguretat de la intel·ligència artificial (IA), titulars de drets i organitzacions de la societat civil.

El Codi està dissenyat per ajudar a la indústria a complir les normes sobre IA d’ús  general del RIA, que entraran en vigor el 2 d’agost de 2025. Les normes passen a ser executables per l’Oficina d’IA de la Comissió un any després en el relatiu als nous models i dos anys després en el relatiu als models existents. Així es pretén garantir que els models d’IA d’ús general introduïts en el mercat europeu siguin segurs i transparents.

El Codi consta de tres capítols: Transparència i drets d’autor (art. 53 RIA), ambdós dirigits a tots els proveïdors de models d’IA d’ús general, i seguretat i protecció (art. 55 RIA), orientats només per a un número limitat de proveïdors dels models més avançats.

• El capítol de transparència del Codi ofereix un model de formulari que permet als proveïdors documentar fàcilment la informació tècnica necessària en un sol lloc i inclou atributs de metadades com temps d’entrenament i càlcul, consum d’energia i mètodes de recopilació i conservació de dades.
• El capítol sobre drets d’autor del Codi ofereix als proveïdors solucions pràctiques per a establir una política que compleixi la legislació de la UE en aquesta matèria, amb detall de llicències i excepcions de mineria de text i dades (TDM) tant per origen de dades (upstream) com per a ús final (downstream).
• Alguns models d’IA d’ús general podrien comportar riscos sistèmics (FLOPS >10^25), com riscos pels drets fonamentals i la seguretat, inclosa la reducció de les barreres pel desenvolupament d’armes químiques o biològiques, o riscos relacionats amb la pèrdua de control sobre el model. El capítol sobre seguretat i protecció conté les pràctiques més avançades per la gestió del risc sistèmic amb obligacions d’avaluació, mitigació de riscos, report d’incidents greus i mesures de ciberseguretat.

Una vegada que el Codi sigui referendat pels Estats membres i la Comissió, els proveïdors de models d’IA d’ús general que el firmin voluntàriament podran demostrar el compliment de les obligacions pertinents del RIA adherint-se al Codi. En fer-ho, els signataris del Codi es beneficiaran d’una menor càrrega administrativa i una major seguretat jurídica en comparació amb els proveïdors que demostrin el compliment d’altres maneres.

El Codi es complementarà amb directrius de la Comissió sobre la IA d’ús general que es publicaran abans de l’entrada en vigor de les obligacions en matèria d’IA d’ús general. Les directrius aclariran qui està dins i fora de l’àmbit d’aplicació de les normes d’IA d’ús general del RIA. 

L’avenç de la IA a la UE és imparable. Des de febrer de 2025 ja apliquen les prohibicions de pràctiques il·legals i l’alfabetització obligatòria en IA per a proveïdors. I ara, quins són els següents passos en el calendari?

• Tal i com s’ha exposat abans, a partir d’agost de 2025, els models d’IA d’ús general, inclosos els models fundacionals, els sistemes basats en API i els desenvolupaments de codi obert han de complir amb el nou marc regulador de la UE.
• L’agost de 2026 seran d’aplicació obligacions de sistemes d’alt risc en sectors com salut, recursos humans, educació i finances.

I amb aquest escenari, encara són moltes les organitzacions que: operen sense auditar els models d’IA, usen models entrenats amb dades opaques o no conformes, no tenen establertes estructures de governança per a la propietat, explicabilitat o seguiment del model, despleguen la IA sense supervisió legal ni responsabilitat formal, …

Davant d’això, cal recordar que el RIA no només regula l’ús, sinó que vincula el lideratge del risc mitjançant documentació, registre i mecanismes d’aplicació. Força similar als requeriments que deriven del RGPD però de forma més profunda, ja que aquest cop el sistema està prenent decisions.

Equip Serveis Jurídics