IA

El 12 de juliol es va publicar en el Diari Oficial de la Unió Europea el REGLAMENT (UE) 2024/1689 DEL PARLAMENT EUROPEU I DEL CONSELL de 13 de juny de 2024 pel que s’estableixen normes harmonitzades en matèria d’intel·ligència artificial i pel que es modifiquen els Reglaments (CE) núm. 300/2008, (UE) núm. 167/2013, (UE), núm. 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 i les Directives 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (Reglament d’Intel·ligència Artificial o RIA).

El RIA forma part de l’estratègia digital de la UE, i té com a objectiu que la intel·ligència artificial (IA) pugui garantir millors condicions de desenvolupament i ús d’aquesta tecnologia innovadora. És innegable que la IA pot aportar molts beneficis, com ho són una millor assistència sanitària, un transport més segur i net, una fabricació més eficient i una energia més barata i sostenible. No obstant, els recents avenços en la matèria s’han traduït en una intel·ligència artificial generativa cada vegada més potent i els denominats «models d’intel·ligència artificial d’ús general», que s’estan integrant en nombrosos sistemes d’intel·ligència artificial, s’estan tornant massa importants per a l’economia i la societat com per a no ser objecte de regulació. A la llum dels possibles riscos sistèmics, la UE estableix normes i mecanismes de supervisió eficaços. (more…)

Després de dures negociacions, el Parlament europeu ha aprovat finalment aquest passat dia 13 de març amb aclaparadora majoria un Reglament europeu sobre intel·ligència artificial (IA), el qual pretén ser un marc de regulació referent amb vocació internacional. Pendent encara de diversos tràmits, es preveu que entri en aplicació al cap de dos anys a partir de la seva pròxima publicació.

Entre altres qüestions, el Reglament prohibeix i regula un seguit de conductes que es podrien dur a terme mitjançant una IA, preveu un règim sancionador específic i conté també la previsió de la creació d’una agència de supervisió a cadascun dels Estats membres. En el cas de l’Estat espanyol, però, ja s’ha creat l’Agència Espanyola de Supervisió de la IA.

A partir de l’entrada en aplicació d’aquest Reglament, molts dispositius de vigilància biomètrica només es podran fer servir de forma temporal i en casos específics sota autorització judicial i supervisió de l’autoritat de protecció de dades.

Algunes de les conductes que el nou Reglament prohibeix de manera general i que podria dur a terme una IA són les següents:

• Categorització biomètrica de persones.
• Captura indiscriminada d’imatges facials d’internet.
• Gravació amb càmeres de videovigilància que permeti crear bases de dades de reconeixement facial.
• Reconeixement d’emocions al lloc de treball o a les escoles.
• Establir sistemes de puntuació ciutadana.
• Actuació policial prospectiva.
• IA que manipuli el comportament humà o exploti vulnerabilitats de persones.

Totes aquestes conductes que es plantegen prohibir no són evidentment supòsits de ciència-ficció en una societat futura i distòpica, sinó que són possibilitats reals que la tecnologia de la IA ja permet actualment. En qualsevol cas, tal com comentàvem anteriorment, encara haurem d’esperar com a mínim dos anys a què el Reglament entri en aplicació. Com sempre la tecnologia corre més que el legislador, i en dos anys encara poden passar moltes coses; en qualsevol cas, el Reglament sobre la IA és una bona notícia d’abast internacional.