Opinion

La Intel·ligència Artificial (en endavant, IA) s’ha assentat en la nostra vida quotidiana amb l’objectiu de fer-nos la vida més fàcil i senzilla. Aprofitant els avenços en la tecnologia aspira a crear experiències cada cop més personalitzades de productes i serveis.

Sabies que el Google Maps és un dels sistemes d’IA més utilitzats en tot el món? Que la IA podria reduir el consum de llum? Podríem dir que hem normalitzat que un sistema automatitzat ens suggereixi la sèrie que ens ve de gust veure segons el moment del dia? La intel·ligència artificial no només s’aplica a petites tasques rutinàries i repetitives, sinó que des de fa anys la intel·ligència artificial s’explora en grans sectors com el de la salut o l’educació.

Actualment, en l’àmbit de la salut es presten serveis basats en IA, entre altres trobem: el diagnòstic basat en l’anàlisi d’imatge, els mapes sanitaris, els chatbots de salut mental, el processament de llenguatge natural d’històries clíniques, el desenvolupament de vacunes i medicaments, altres que utilitzen algorismes de decisió automatitzada (ADA) com el reconeixement facial per detectar el TDAH, o el detector de dolor exagerat.

En l’àmbit de l’educació s’utilitzen tecnologies amb IA per personalitzar el contingut i la formació a les necessitats de l’alumne, la correcció d’exàmens, la detecció del plagi o frau, i altres tecnologies que utilitzen algoritmes per agrupar a l’alumnat en funció de les seves personalitats, per tal de crear un equip amb les suficients competències per superar la tasca.

Davant el nou model de societat digital, les dues autoritats de control en matèria de protecció de dades han publicat el febrer de 2020 dos estudis analitzant la IA. L’Autoritat Catalana de Protecció de Dades ha volgut aportar claredat publicant l’Informe sobre l’aplicació de la intel·ligència artificial a Catalunya des de la perspectiva ètica i de protecció de dades, en el que analitza la IA i, en concret, els algorismes de decisió automatitzada (ADA). L’objectiu principal de l’informe és conscienciar la ciutadania i dotar-la del coneixement necessari perquè faci un ús responsable de les seves dades personals. La primera part de l’estudi es centra en un estudi de recerca sobre l’ús dels algorismes de decisió automatitzada a Catalunya, i la segona part, reflexiona sobre les principals friccions entre els algorismes de decisió automatitzada, la dissidència amb la protecció de dades, la vessant ètica i les possibles desviacions i discriminacions derivades de l’ús de les tecnologies.

D’altra banda, l’Agència Espanyola de Protecció de Dades ha publicat la Guia de “Adecuación al RGPD de tratamientos que incorporan Inteligencia Artificial. Una introducción”, una anàlisi des d’una visió més tècnica i jurídica de la implicació de la normativa de protecció de dades en la IA. La guia comença introduint el concepte i marc de la IA, realitza un repàs dels aspectes generals de la normativa de protecció de dades, identifica els rols de les parts involucrades en les diferents etapes del cicle de vida d’un component d’IA, i les seves relacions, continua analitzant els ítems de compliment normatiu: la legitimació del tractament de les dades i la limitació, el deure d’informació que el responsable del tractament ha de complir en el moment de la recollida de les dades, la gestió de l’exercici de drets en matèria de protecció de dades, també analitza la presa de decisions basada únicament en un tractament automatitzat, la gestió del risc, i entre d’altres, la implicació de les transferències internacionals de dades.

Dels diferents punts ampliats en les guies, ens agradaria destacar la importància de la gestió del risc. Considereu que estem llestos per afrontar la intel·ligència artificial? Quins són els límits a la intel·ligència artificial? És imprescindible realitzar un anàlisi de riscos o avaluació d’impacte en matèria de protecció de dades en les diferents fases en què s’utilitza la IA, per tal de determinar el nivell risc, establir les mesures apropiades per gestionar-lo, suprimir-lo o mitigar-lo.

Un altre dels discursos gira entorn dels biaixos. Com bé explica la investigadora Elisabeth Golobares: “L’algorisme com a tal no té cap biaix. Són les dades que s’introdueixen i l’objectiu pel qual ha estat dissenyat el que discrimina”. A  més, si el resultat d’un sistema automatitzat em discrimina o no estic conforme, puc preguntar com ha arribat a aquesta decisió?, o puc conèixer els motius perquè m’han denegat un ajut o un crèdit bancari? Conforme a l’article 13.2f) del Reglament Europeu 679/2016, de protecció de dades personals, el ciutadà té dret a demanar explicacions i a què l’informin sobre la lògica aplicada, la importància i les conseqüències previstes. 

Senyors/es, el debat està servit. Pensem que la IA és una gran oportunitat, però som conscients que pot comportar grans riscos que s’han de gestionar de tal manera que els nostres drets i llibertats es vegin limitats en la menor mesura possible. En aquest sentit, les dues autoritats de control de control en matèria de protecció de dades estan en línia en afirmar que cal dissenyar una IA segura i confiable, que integri els principis de transparència, d’explicabilitat, de seguretat, d’auditabilitat i de responsabilitat.