Ara que cada vegada més les organitzacions tant públiques com privades, els professionals i la societat civil estan integrant la reutilització de dades obertes com a eina imprescindible per informar sobre les seves activitats (polítiques, d’investigació, d’activisme social, etc.), i això ens ajuda a entendre millor les coses que passen al nostre voltant, es comença a sentir una remor de fons i aquells que recopilen, comparteixen i treballen amb dades s’enfronten a una crítica pública que qüestiona en alguns casos l’ètica de les seves pràctiques, sobretot quan gràcies a l’ús de les dades es destapen escàndols públics.
I què sabem sobre l’ètica en l’ús de les dades obertes? Si bé és cert que en els darrers temps s’ha fet algun intent d’identificar codis de conducta per a l’ús ètic de les dades, a la pràctica, aquests principis no són vinculants, i s’entén, en definitiva, que les persones que treballen amb dades assumeixen un compromís ètic respecte de l’ús que en fan.
Sense pretensió de ser exhaustiva, podem parlar d’algunes de les organitzacions que han treballat d’alguna manera els aspectes ètics en l’ús de les dades:
- L’Open Data Institute (ODI), que va ser cofundat el 2012 pel creador del web, Tim Berners-Lee, i l’expert en intel·ligència artificial Nigel Shadbolt, per mostrar el valor de les dades obertes i defensar-ne l’ús innovador, especialment pel que fa a la millora global del món.
- The Engine Room, un grup transversal format per 1.200 professionals que es defineixen com “un grup de nòmades divers i apassionat”, i té per objectiu fomentar l’ús de les dades i la tecnologia per provocar canvis socials a tot el món.
- Derechos digitales, una organització que té com a objectiu fonamental el desenvolupament, la defensa i la promoció dels drets humans en l’entorn digital.
- El Portal europeu de dades obertes, que recull les metadades de la informació del sector públic disponible als portals de dades públiques de tots els països europeus, i també inclou informació específica sobre el subministrament de dades i els avantatges de la seva reutilització.
- Grup de Treball GDPR i ús ètic de les dades del Big Data CoE, que té per objectiu generar consciència social sobre l’ús ètic de les dades. El Big Data CoE Barcelona és una iniciativa liderada pel centre tecnològic Eurecat, que neix amb el suport d’Oracle i de la Generalitat de Catalunya i l’Ajuntament de Barcelona per construir, evolucionar, aglutinar i posar a disposició de les empreses eines, sets de dades i infraestructures Big Data diferencials que els permetran definir, experimentar i validar els models de Big Data abans de fer la implantació final.
Intento explicar en poques paraules les principals línies i conclusions d’aquestes organitzacions en relació amb el tema que tractem.
L’ODI defineix l’ètica de les dades com una “branca de l’ètica que avalua les pràctiques de dades que poden afectar negativament les persones i la societat, tant en la recopilació, com en l’ús compartit i en la reutilització”. Per a l’ODI, l’ètica de les dades no s’hauria de centrar exclusivament en dades personals, sinó en tot tipus de dades.
Aquesta organització es proposa l’objectiu de facilitar que les persones que treballen amb dades creïn productes que tinguin un impacte positiu en la societat. En aquest sentit, l’ODI considera que l’ús ètic de les dades ajuda a enfortir la confiança i, per tant, que amb aquest ús ètic s’aconsegueixen millors resultats tant des del punt de vista econòmic com social.
Els principis ètics que estableix l’ODI es recullen en el seu Data Ethics Canvas, una eina útil per a qualsevol persona que reculli, comparteixi o reutilitzi dades, ja que ens ajuda a identificar i gestionar aspectes ètics a tenir en compte tant en el moment d’iniciar un projecte com durant el seu desenvolupament.
Basat en els valors com el compromís i la confiança, i amb l’objectiu de minimitzar els danys que es puguin causar, especialment a col·lectius vulnerables, Data Ethics Canvas defineix quatre punts d’enfocament:
- Saber quines dades s’han d’obtenir tenint en compte l’entorn i com s'adquireixen.
- Explorar els impactes que poden tenir aquestes dades, i enfocar-se en la compensació entre impactes positius i negatius tant a curt com a llarg termini.
- Comprometre’s a ser transparents, ja que la comunicació és clau per generar confiança i ajudar les persones a entendre el què, el perquè i el com d’un projecte.
- Incorporar pràctiques ètiques que garanteixen la integritat pel que fa als valors ètics.
The Engine Room introdueix un aspecte nou a aquests criteris anteriors, la importància de donar als usuaris la possibilitat de participar activament i dissenyar conjuntament el procés amb ells per garantir que no es vulnera cap col·lectiu ni cap persona a causa de la utilització de les dades o de la tecnologia. Com l’ODI, The Engine Room identifica una sèrie de factors que s’haurien de tenir en compte en totes les etapes d’un cicle de projectes basat en dades:
- Pensar inicialment les dinàmiques de poder o relacions que poden existir entre el tema i l’usuari de les dades.
- Avaluar de manera contínua els riscos per evitar imprevistos.
- Adoptar el principi de precaució per assegurar que hi ha prou elements que ens permetin avaluar els danys.
- Adoptar un esperit d’innovació reflexiva en lloc d’actuar de forma precipitada.
- Tenir sempre present la diversitat i el biaix per assegurar que es preveuen totes les possibles perspectives i punts de vista.
- Utilitzar bones pràctiques, ja que les dades no tenen una única interpretació, sinó que s’han de posar en relació amb el seu context.
El març de 2020, l’Organització Mundial de la Salut (OMS) va crear un grup de treball especial dins del seu grup preexistent que treballava en orientacions per a l’ús ètic de la intel·ligència artificial al sector de la salut, per determinar els principis de gestió ètica de dades covid-19. L’organització Derechos Digitales va formar part d’aquest grup, i en aquest marc va aportar dues consideracions clau per a l’adopció dels principis d’ètica de les dades en el sector de la salut:
- Sempre cal tenir en compte el context: la definició de criteris s’ha de fer sempre tenint en compte les dinàmiques normatives, socials i polítiques de l’entorn, ja que els principis canviaran en funció de la realitat dels beneficiaris i del tipus d’infraestructures de dades existents.
- Els detalls són importants, el nombre de principis a adoptar, el temps d’implementació i els criteris per avaluar com s’implementaran els principis són clau per a l’adopció amb èxit dels principis d’ètica de les dades.
Les recomanacions que fa aquesta organització en relació amb aquest tema són les següents:
- Restriccions d'ús: les dades només s'han d'utilitzar per a la finalitat comunicada.
- Increment del grau de responsabilitat: cal demanar als reutilitzadors de dades que proporcionin una informació que sigui comprensible per a qualsevol tipus d’usuari.
- Precisió: només s’han de recopilar i utilitzar dades que siguin rellevants per al que es necessita.
- Responsabilitat i supervisió: és imprescindible consultar i involucrar grups d'interès externs per cocrear els principis.
Pel que fa a l’European Data Portal, en fa esment de passada en alguna de les seves publicacions, com en el cas de l’assaig Appropriate use of data in public space, en què s’explica que els marcs legals més rellevants en relació amb l’ús de les dades són la privadesa i els drets humans, la protecció de dades personals i el dret administratiu (en particular, els principis generals d’una bona administració), mentre que els marcs ètics més rellevants són la deontologia, l’utilitarisme i l’ètica com a valor.
En aquest cas, també s’introdueix un nou punt de vista ja que, segons aquest assaig, els marcs legals existents ja permeten desenvolupar codis de conducta ètica. Aquest assaig infereix que l’observança dels marcs legals i ètics establerts garanteix molt probablement que les dades s’utilitzen i es reutilitzen de manera adequada i que, per tant, la manca d’observació d’aquests marcs ens portaria a un ús i reutilització inadequats.
A partir d’aquestes conclusions, l’assaig defineix algunes recomanacions, com ara que les administracions públiques s’han de comprometre a la reutilització adequada de les dades mitjançant associacions público-privades, implicar activament els ciutadans en les seves consideracions sobre quins factors són rellevants i garantir la transparència en qüestions relacionades amb les dades.
El cas del GDPR i ús ètic de les dades del Big Data CoE és una mica diferent dels anteriors, ja que ofereixen continguts en forma d’enllaços, documents, articles o llibres que analitzen els aspectes principals de l’ètica en el tractament de les dades, però crec que val la pena com a exemple pràctic on es poden trobar recomanacions concretes per àmbits, com ara:
En definitiva, tot i que des de punts de vista diferents, hi ha un consens general en què cal garantir, ara que cada vegada hi tenim més accés, un ús ètic de les dades. Cada organització aporta criteris complementaris, que es poden resumir en poques paraules: utilitza només les dades que necessitis, involucra en la definició dels projectes els actors implicats, pondera els efectes que pugui tenir sobre col·lectius vulnerables, fes una comunicació acurada del projecte i elabora productes que siguin comprensibles per tothom. En aquest sentit, la Unió Europea introdueix el concepte que si es té en compte el marc legal ja definit pel que fa la protecció de dades és molt probable que s’evitin males pràctiques en l’ús de les dades.
Per concloure, cal tenir present que les dades per si mateixes no són o deixen de ser ètiques. Les dades són un valor que cal interpretar i, per tant, l’ètica rau en l’ús que se’n faci. Tot i així, com a entusiastes de les dades, cal treballar per definir els principis ètics i promoure’n l’adopció per part dels que les reutilitzen, perquè és la manera de desactivar els corrents contraris a la recopilació, l’ús compartit i l’ús de dades.
En resum, recorrent el camí de l'ètica de les dades ajudem a mitigar l'impacte negatiu i els biaixos que s'han incorporat involuntàriament en sistemes, polítiques i serveis, per crear societats més justes. Aquí és on es troba el veritable poder de les dades. El gran repte és entendre el valor de les dades com a bé comú i retornar-ne el control als ciutadans.
Podeu trobar informació complementària als enllaços següents:
