En l’actualitat cada vegada hi ha més persones usuàries de serveis i aplicacions que incorporen sistemes d’intel·ligència artificial. La nostra societat ha normalitzat disposar d’assistents de veu, com l’Alexa o la Siri, utilitzar sistemes de geolocalització als vehicles, com Google Maps o Waze, o escoltar llistes de reproducció musical, en funció de les preferències que serveis, com Spotify o Youtube, han après a partir dels nostres gustos. Tanmateix, les comoditats que presenten aquestes aplicacions i serveis, sovint, no són “gratuïtes”, malgrat que es presentin com a tals.
L’internet de les coses (Internet of Things o IoT) és l’expressió que s’utilitza per fer referència al conjunt d’objectes físics connectats a la xarxa, amb la finalitat d’intercanviar informació. Aquests dispositius intel·ligents, d’ús quotidià, generen milions de dades, que processen ràpidament, perquè les empreses propietàries puguin oferir una experiència més personalitzada a l’usuari i, a canvi, n’obtinguin grans beneficis. Aquesta acumulació de dades massiva, també coneguda sota l’anglicisme big data es caracteritza pel volum d’informació que és capaç de generar; la velocitat amb què es recull informació; la varietat i la veracitat de les dades que permet analitzar i, en darrer terme, pel valor que pot generar.
Alguns experts ja han avançat que l’IoT ha quedat desfasat i superat per l’internet del tot (Internet of everything o IoE). Aquest nou concepte neix de la idea que les tècniques d’IA s’han estès a la vida de totes les persones, i són d’un ús tan generalitzat, que tot està connectat –màquines entre màquines, i persones amb màquines.
En aquest context, l’ús de serveis i productes que integren intel·ligència artificial és un fenomen creixent pels nombrosos beneficis relacionats amb aquesta tecnologia tan innovadora. A tall d’exemple, una de les tècniques d’IA més coneguda és la que empra algoritmes d’aprenentatge automàtic (machine learning), que permet que els sistemes d’IA aprenguin de manera autònoma els processos que han de realitzar, per poder arribar a la decisió per a la qual s’han dissenyat. Tanmateix, hi ha molts científics i experts que avancen que és una condició sine qua non la necessitat de concebre aquestes tècniques des de la protecció dels drets fonamentals, i des d’una ètica algorítmica, en l’era de l’automatització de les tasques més bàsiques.
Un dels molts casos en què es va evidenciar com n’és d’important dissenyar des de paràmetres ètics i humans, va tenir lloc l’any 2016 quan Microsoft va fer públic un bot de conversa de Twitter anomenat Ms Tay. Aquest bot partia d’un algoritme que li permetia aprendre a partir de la interacció amb altres usuaris de Twitter i participar en la conversa amb comentaris, sense la supervisió ni el control dels seus programadors. La comunitat de Twitter va interactuar amb Ms Tay i en va boicotejar el procés d’aprenentatge. Tant és així que la participació d’aquest bot va consistir a negar l’Holocaust i a fer comentaris homòfobs. Aquest exemple va mostrar que l’algoritme de Ms Tay podia aprendre de qualsevol font d’informació, sense límits ètics i sense tenir en compte el respecte als drets més fonamentals.
Els sistemes d’IA poden proporcionar informació molt valuosa i permeten avenços gegants en camps molt diversos (p. ex., el sanitari o l’educatiu). Tanmateix, també ens exposen a nous riscos i amenaces, que evidencien la necessitat de disposar d’un marc jurídic regulador.
El Llibre blanc sobre la intel·ligència artificial de la Comissió Europea, de 19 de febrer de 2020, ja anticipava que la intel·ligència artificial canviaria les nostres vides. Entre altres qüestions indicava que permetria augmentar el rendiment de l’agricultura, que incrementaria la precisió dels diagnòstics mèdics o que milloraria la seguretat dels estats membres. Paral·lelament, també advertia d’alguns dels riscos associats al seu ús, com ara, l'opacitat en la presa de decisions algorítmiques, la discriminació de gènere, la intromissió a les nostres vides privades o l’ús de la informació amb finalitats delictives.
Quant a la importància de dissenyar des d’una perspectiva ètica, el Parlament Europeu va aprovar la Resolució de 20 d'octubre de 2020, que conté un seguit de recomanacions adreçades a la Comissió –2020/2014 (INL)–, i aprova un Marc sobre els aspectes ètics de la IA, la robòtica i les tecnologies connexes. Aquest document és un exemple més que evidencia la importància d’incorporar estàndards ètics que tinguin en compte els drets fonamentals i minimitzin l’impacte de la IA en aquests drets.
Al seu torn, l’any 2021 l’Agència dels Drets Fonamentals de la Unió Europea (FRA) va publicar l’estudi “Construir correctament el futur - la intel·ligència artificial i els drets fonamentals” per mitjà del qual conclou que l’ús de sistemes d’IA comprometen una gran diversitat de drets fonamentals, que varien en funció de la tecnologia i l’àmbit d'aplicació. Així, a banda dels drets relacionats amb la privacitat i la protecció de dades personals, se’n poden veure compromesos d’altres, com ara, el dret a la igualtat i no-discriminació, el dret d’accés a la justícia, el dret a la dignitat humana, el dret a una bona administració o el dret a la seguretat social, entre d’altres.
Les eventuals afectacions d’aquesta tecnologia a les nostres vides no es poden tractar com a fets aïllats sinó que, tal com indica el professor Lorenzo Cotino Hueso, els riscos i les amenaces que suposa la IA per als drets fonamentals ho són respecte a cada individu, però afecten alhora grans col·lectius i poden arribar a incidir sobre el conjunt de la ciutadania i de la humanitat.
En aquest context, els estats membres de la Unió Europea es van fer ressò de la importància de regular les eines d’IA per tal d’oferir un nivell de protecció davant les ingerències que pot presentar aquesta tecnologia. Així, la imminent aprovació del Reglament d’intel·ligència artificial ofereix a la Unió Europea una oportunitat significativa per promoure els drets humans i situar-se com una regió pionera al món pel que fa a la regulació dels usos i sistemes d’IA.
La proposta de Reglament d’intel·ligència artificial, per la qual s’estableixen normes harmonitzades en matèria d’IA, té l’objectiu de garantir que els serveis i productes que emprin aquesta tecnologia i que es comercialitzin dins el mercat de la Unió siguin segurs i respectin els valors de la UE; que garanteixin la seguretat jurídica per facilitar la inversió i la innovació i que, en definitiva, millorin l’aplicació efectiva de la legislació vigent en matèria de seguretat i drets fonamentals. D’acord amb aquestes finalitats, el text estableix diferents obligacions als proveïdors de serveis d’IA, en funció de quina sigui la capacitat d’aquests sistemes de causar un dany a la societat. Així, com més gran sigui el risc, més estrictes són les normes.
Aquesta regulació també prohibeix la utilització dels sistemes d’IA que comportin un risc inacceptable per a les persones. A tall d’exemple, es prohibeix la categorització biomètrica per deduir dades sensibles –com l'orientació sexual o les creences religioses de les persones–, o bé el reconeixement d’emocions, en entorns laborals o en institucions educatives.
En canvi, als sistemes d’intel·ligència artificial que comporten un alt risc s’imposen obligacions, com ara, efectuar una avaluació de riscos per als drets fonamentals, disposar d’un seguit de documentació tècnica de suport, que acrediti els diferents requisits imposats per les autoritats competents, o garantir el principi de transparència, entre d’altres. Obligacions que es redueixen en el cas de sistemes d’IA amb risc limitat o nul.
D’acord amb el que s'ha exposat, l’aplicació del futur marc regulador dels sistemes d’IA ha d’assumir el difícil repte de conciliar la promoció d’un ambient idoni per a la innovació tecnològica, amb l’evident necessitat de protegir els drets fonamentals de la ciutadania en conjunt, i de cada persona considerada individualment. Tot això en un context en què la tecnologia evoluciona més ràpidament que les normes que la regulen.
