Quin és el preu real de la comoditat que ens ofereix l’entorn digital? Cada interacció a les xarxes, cada "m’agrada" o cada cerca que fem implica l’intercanvi d’una part de la nostra privadesa en forma de perfils amb els nostres hàbits, preferències o característiques. Les grans quantitats de dades que generem en el nostre dia a dia, interrelacionades i analitzades, són l'element clau que permet preveure i anticipar “necessitats inesperades”, com la recomanació d’un llibre que feia temps que buscàvem, el robot de cuina del que tothom parla o la pel·lícula que més encaixa amb els nostres gustos. Si bé és cert que en alguns casos aquestes aplicacions de dades poden arribar a ser útils, la nostra privadesa es pot veure compromesa i les dades poden ser utilitzades de forma irresponsable pel camí.
A l’era digital, la recopilació, l'anàlisi i l'ús de les dades s’han convertit en elements centrals per a les organitzacions i institucions; tant per augmentar el seu ritme de vendes o conèixer millor els clients, en el cas de les empreses privades, com per poder plantejar serveis proactius a la ciutadania, per part de les administracions públiques. Per això, a banda dels riscos que poden comportar els tractaments massius de dades, sabem que aquestes tenen un potencial transformador immens que ens permet tenir una visió més precisa i completa dels reptes actuals, com per exemple en el cas de la investigació sobre el canvi climàtic o la lluita contra la desinformació.
Tanmateix, l’ús indiscriminat i sovint poc ètic de les dades com a actiu digital ja està tenint un impacte profund en la nostra societat. Fins a quin punt aquesta comoditat digital afecta la nostra llibertat o perpetua biaixos? Sabem quins són els requisits que haurien de complir les dades per garantir uns principis ètics? Existeix un marc normatiu comú? En un escenari com l’actual, l’ètica de les dades s’ha situat com una necessitat i una demanda creixent.
Aquest apunt vol explorar el concepte de l’ètica de les dades i com els valors morals i ètics es converteixen en pilars essencials per a una gestió de dades responsable. A partir d’un breu repàs a l’estat de la normativa relacionada amb aquesta disciplina, centraré l’anàlisi en com s’està abordant aquest gran repte des del nostre entorn més immediat; des de la Declaració de Barcelona per a l'adequat desenvolupament i utilització de la intel·ligència artificial (IA) a Europa, el 2017, la tasca de l’Observatori d’Ètica en Intel·ligència Artificial de Catalunya (OEIAC), la constitució del Comitè d’Ètica de les dades a la Generalitat de Catalunya, o els espais de debat i pensament tan necessaris en aquest àmbit que s’estableixen en institucions com el Centre de Cultura Contemporània de Barcelona (CCCB).
Comprendre l’ètica de les dades i el seu marc normatiu
L’ètica de les dades centra l'estudi en els principis i les pràctiques ètiques i morals relacionades amb la recopilació, l’emmagatzematge, el tractament, l’ús i l’anàlisi de les dades. Aquesta disciplina reflexiona al voltant dels efectes que pot tenir per a les persones i la societat fer un mal ús de les dades i, al seu torn, planteja bones pràctiques. Enmig d’una revolució digital en què les dades han adquirit un paper central, les aproximacions ètiques a les dades són fonamentals per protegir la privadesa i la privacitat de les persones, evitar discriminacions causades pels biaixos existents i assegurar que les decisions preses a partir de les dades siguin justes i transparents. Això implica establir normes i polítiques enfocades a garantir els drets humans a través de la regulació dels àmbits que afecten l’ètica de les dades, com el consentiment, la protecció de les dades personals, la transparència en la gestió de la informació o en l’ús d’algoritmes i sistemes d’IA i la traçabilitat de les dades.
Encara que l’ètica de les dades sigui una branca en evolució i revisió constants, que procura adaptar-se als nous dilemes al voltant dels reptes i riscos de les tecnologies emergents, no és nova i ja s’ha explorat des de moltes aproximacions, disciplines i perfils, tant en l’àmbit internacional com en el més local, com veurem més avall.
Des del punt de vista normatiu, l'ètica de les dades està regulada a través d'una sèrie de normes que aborden diversos aspectes relacionats amb la protecció, la privacitat i el tractament ètic de la informació. Un bon exemple n'és el Reglament general de protecció de dades (RGPD) de la Unió Europea, que va entrar en vigor el 25 de maig de 2018, juntament amb altres lleis de protecció de dades en l’esfera nacional i internacional, el qual estableix directrius per garantir la recopilació i un ús adequat de les dades personals, i protegeix els drets de les persones.
A banda d'aquesta normativa ja vigent, un dels reglaments que tindrà un gran impacte per abordar les implicacions ètiques legals i socials de la IA és el que s’està treballant actualment en el marc de la Unió Europea: l’EU AI Act. Aquesta estratègia, que vol ser un marc comú per als estats membres de la UE, té com a objectiu regular aquesta tecnologia, fa un especial èmfasi en els riscos associats a l’ètica i identifica fins i tot les pràctiques que quedarien al marge de la legalitat. En l’article “La regulació de la intel·ligència artificial a la Unió Europea”, de Dolors Priego, en aquest mateix espai temàtic, es tracta de forma molt detallada l’enfocament i l’articulació d’aquesta regulació.
L’actual projecte de reglament d’IA es troba en aquests moments en un procés de diàleg i negociació entre els estats membres al Parlament Europeu. Des del 2021 s’han debatut quatre versions i es preveu que s'apliqui el 2026, segons una nota de la presidència espanyola del Consell de la UE, del 22 d’octubre d’enguany. En aquest camí, Espanya, en col·laboració amb la Comissió Europea, tot just ha posat en marxa a principis del mes de novembre l'entorn controlat de proves (Sandbox, en anglès), que servirà com a pilot per comprovar la manera d’implementar els requisits aplicables als sistemes d’alt risc del reglament europeu d’IA.
La doctora Karina Gibert, catedràtica, directora del Centre de Recerca en Ciència de Dades Intel·ligents i en Intel·ligència Artificial (IDEAI) de la UPC i degana del Col·legi Oficial d’Enginyeria Informàtica de Catalunya (COEINF), és assessora de la Comissió Europea i ha participat en la redacció de recomanacions ètiques al voltant dels desafiaments que planteja actualment la IA i els seus efectes en aquest procés d’elaboració de la norma. En una entrevista en el marc de la sèrie ConviDades, impulsada per la Direcció General d’Administració Digital amb l’objectiu de difondre coneixement al voltant de les dades i la transformació digital, Gibert destaca que l’ètica no és quelcom senzill i d’aplicació immediata a les normes. De fet, l’ètica, diu, "surt de consensos entre comunitats i ecosistemes”, i aquests demanen diàleg entre les parts i la presa d’acords. Això ja mostra el gran repte que és establir criteris ètics consensuats i d’abast universal, i més en un àmbit en evolució constant, com és el de les dades i la IA. L’aprovació d’aquest reglament serà una fita molt rellevant per al sector i permetrà disposar d’un marc comú d’aplicació que identificarà els sistemes d’IA segons el risc i els requisits específics que hauran de complir els sistemes.
Tal com hem vist, el procés normatiu i regulador que acompanya els reptes de l’ètica no és quelcom senzill, ja que implica reflexions i debats profunds que necessiten temps i perspectiva. En l’àmbit català, els darrers anys s'han fet moltes aproximacions al voltant de l’ètica de les dades i els efectes de la IA des de diversos sectors.
Com s’està construint l’ètica de les dades a Catalunya?
A continuació procuraré relacionar algunes de les principals iniciatives i projectes del nostre entorn més proper que han estat reflexionant, sol·licitant i fins i tot aplicant perspectiva ètica al voltant de les dades.
- L’any 2017, es va proposar i consensuar la Declaració de Barcelona per a l’ús apropiat de la intel·ligència artificial en el marc d’una trobada d’experts internacionals en IA i impulsada pels líders del B·Debate Luc Steels, professor ICREA a l’Institut de Biologia Evolutiva de Barcelona, i Ramon López Mántaras, pioner de la IA a Catalunya i Europa i professor investigador emèrit del CSIC.
- Aprovada el 18 de febrer del 2020 per Acord de Govern, l’Estratègia d’Intel·ligència Srtificial de Catalunya, CATALONIA.AI desplega un programa d’actuacions per enfortir l’ecosistema d’IA de Catalunya. Aquesta estratègia, elaborada per un grup de treball d’experts molt ampli, ja situava l’ètica com un dels valors imprescindibles a l’hora de promoure el desenvolupament de la IA i va fer seus els valors de la Declaració de Barcelona del 2017.
- L’Observatori d’Ètica en Intel·ligència Artificial de Catalunya, OEIAC, dirigit pel doctor Albert Sabater, és un dels pilars de l’Estratègia CATALONIA.IA que es dedica a estudiar les conseqüències ètiques, socials i legals de la implementació generalitzada de la IA, fruit de la col·laboració de la Generalitat de Catalunya amb la Universitat de Girona. Un dels projectes més destacables de l’OEIAC és el model PIO (Principis, Indicadors, Observables), una proposta d’autoavaluació organitzativa sobre l’ús ètic de les dades i sistemes d’IA.
- L’Ajuntament de Barcelona va impulsar el 2021 l’Estratègia municipal d’algoritmes i dades per a l’impuls ètic de la intel·ligència artificial, marc que fixa els mecanismes de governança i d’impuls de la IA per respectar els drets de la ciutadania. Una de les accions previstes en aquesta estratègia és el registre d’algoritmes municipal, que tot just s’està posant en marxa aquest any. Aquest registre s’ha treballat conjuntament a través de la xarxa Eurocities amb diferents ciutats europees, com un model comú que garanteixi un ús responsable de les dades per millorar els serveis públics a través dels algoritmes. En el marc d'aquesta mateixa Estratègia, el maig d'aquest any s'ha constituït el Consell Asessor en Intel·ligència Artificial, Ètica i Drets Digitals amb la voluntat de garantir que l'impuls de les polítiques innovadores garanteixi els drets digitals de la ciutadania.
- La Generalitat de Catalunya, amb la seva voluntat de liderar una transformació digital basada en dades, ha aprovat per acord de Govern, el 25 de juliol d’aquest any, el Model de govern de les dades de l'Administració de la Generalitat i el seu sector públic, que té per objectiu garantir la qualitat i la confiança de les dades i assegurar-ne la fiabilitat, la disponibilitat i la seguretat al llarg de tot el seu cicle de vida. Aquest model considera l’ètica de les dades un dels àmbits transversals i alhora centrals per a una gestió responsable de les dades. El desplegament d’aquest model representarà un canvi en la manera com es gestionen les dades a tota l’Administració de la Generalitat i el seu sector públic.
- En aquest context, i a fi d’assegurar aquest objectiu, la Generalitat ha constituït recentment el Comitè d’Ètica de les Dades. El Comitè és un òrgan col·legiat de caràcter consultiu i transversal al servei de l’Administració de la Generalitat i del seu sector públic amb l’objectiu de garantir un espai de reflexió ètica en el desplegament del model de govern de les dades, generar coneixement i orientacions al voltant de l’ús de les dades i plantejar bones pràctiques en els usos avançats de les dades. Aquest Comitè està format per experts de renom en el sector, alguns mencionats en aquest article, i per representants de tots els departaments de la Generalitat. Al seu torn, el Comitè d’Ètica de les Dades forma part de la Xarxa de Comitès d'Ètica de Catalunya, un espai col·laboratiu d’intercanvi d’informació entre els comitès i les comissions d’ètica existents de diferents sectors, com el Comitè de Bioètica de Catalunya o el Comitè Ètic del Servei Públic d’Ocupació de Catalunya, per exemple.
No m’agradaria acabar aquest recull sense mencionar el paper que tenen institucions com el CCCB en la promoció de la reflexió i el debat al voltant de grans reptes com és el cas de l’ètica de les dades. En el marc de l’exposició IA: Intel·ligència artificial, disponible fins al 17 de març de 2024, el mes de novembre del 2023 es va organitzar un seminari amb el títol “Societats algorísmiques: Ètica i política en l’era de la intel·ligència artificial” on experts procedents d’àrees d’expertesa molt diverses, com la sociologia, la filosofia, el dret, el disseny o la geografia urbana, van reflexionar al voltant dels grans reptes relacionats amb l’ètica de les dades. Espais com aquests són cabdals per mantenir el debat viu i per repensar des de diversos angles les implicacions ètiques i morals de les aplicacions de la IA.
Apunts finals
A mesura que el paper de les dades ha esdevingut un eix central en la nostra societat, s’ha fet més palesa la necessitat d’abordar els aspectes i impactes ètics de les seves aplicacions. En aquest article hem vist algunes iniciatives que reflexionen al voltant de l’ètica de les dades i els seus usos i m’agradaria acabar amb alguns apunts finals a tall de resum:
- Disposar d’una regulació clara entorn dels impactes ètics de les dades i la IA serà important, però no suficient. Tenint en compte la velocitat en què avança la tecnologia, serà un repte incorporar noves consideracions a mesura que anem coneixent els nous impactes i efectes de l’evolució tecnològica.
- Es requereixen equips multidisciplinaris en el desenvolupament de projectes de dades i l’aplicabilitat de la IA, capaços d’abordar qüestions relacionades amb l’ètica de les dades des d’un punt de vista holístic.
- L’ètica de les dades cal tenir-la en compte en tot el cicle de vida de les dades: des de la recollida fins a l'ús i l'anàlisi de les dades. Per això serà imprescindible que les organitzacions i les administracions governin les seves dades per poder garantir-ho. En el cas de la Generalitat de Catalunya, el Model de govern de les dades és l’instrument que permetrà disposar d’aquesta visió transversal i el Comitè d’Ètica de les Dades, l’òrgan que permetrà garantir una reflexió ètica al voltant del desplegament del model.
