Estic ben convençuda que tots i cadascun de vosaltres ja heu usat les eines d’intel·ligència artificial (IA) en qualsevol dels àmbits de la vostra vida (ChatGPT d'OpenAI; Gemini de Google; Claude d’Anthropic; Jasper; Perplexity AI; Microsoft Copilot; Synthesia, entre d’altres), sigui per preparar un viatge, per buscar informació amb relació a un producte que voleu comprar, per preparar algun tema que no coneixeu, per estudis, etc., i -com calia esperar- per treballar, intentant desvirtuar la frase de William Faulkner: “El més trist és que l'única cosa que es pot fer durant vuit hores al dia és treballar.”
És molt temptador acudir a una eina que ens ofereix coneixements de forma fàcil i gratuïta i que ens ajuda i fa la feina per nosaltres. En aquests àmbits i en molts d'altres, pot semblar molt beneficiosa i també és desitjable optimitzar el nostre temps, fer-nos més eficients i eficaços i donar-nos confort. Ara bé, la clau és que la IA ens ajudi però que no faci la nostra feina. El factor humà no ha de ser substituïble.
És el regal del segle XXI que ha vingut per romandre entre nosaltres. Ha aparegut de forma silenciosa, sense grans titulars, i quan ens n’hem adonat ja està implantada en el nostre dia a dia. Però, si la desproveïm de l'embolcall de regal, podem observar-ne els riscos. El principal risc són les fonts que alimenten aquestes eines, que poden no ser fiables; en alguns casos no les revela o, quan les revela, veiem que es tracta de dades no contrastades o bé fruit d’una al·lucinació de l’eina que inventa la dada o la informació que ignora o bé la tracta com verídica. Un altre risc important és la precipitació en la implantació en determinats àmbits, que provoca emmascarar la comoditat amb el vel de l’optimització.
Una eina d’aquestes característiques ha de ser tractada amb prudència i amb la calma que mereix; cal estudiar-la, madurar-la, educar-la i entrenar-la en el rigor per tal que l'ús sigui beneficiós i no perniciós, de manera que els usuaris en siguem els controladors a través d’un bon entrenament que l’alimenti d’informació veraç i ben fonamentada i, és clar, mitjançant la formació en l'ús. Aquesta formació, però, és un camí de dues direccions, i per això és fonamental que tothom en conegui el funcionament -és destacable l’oferta formativa sobre l'IA de l’Escola d’Administració Pública.
La precipitació i la superficialitat són les malalties cròniques del segle, tal com va afirmar el premi Nobel Aleksandr Soljenitsin, i en l’àmbit de la IA poden comportar riscs i problemes de difícil solució.
El control de l’eina ha de consistir en la combinació de diverses accions. En primer lloc, cal contrastar les fonts; en segon lloc, cal educar-la i entrenar-la de forma racional i educar-nos a nosaltres mateixos; en tercer lloc, cal no oblidar l’actuació que està fent per nosaltres i, en darrer i quart lloc, però no per això el menys important, cal regular-la.
La necessitat de la regulació és el que marca la transcendència de tota matèria i en el cas de la IA s’ha observat ben clarament. A la Unió Europea, en un intent de trobar un equilibri entre la tutela i la protecció dels drets fonamentals i la llibertat en la recerca i el desenvolupament tecnològic, el Parlament Europeu ha publicat l'anomenat Reglament de la IA (RIA) Reglament (UE) 2024/1689 del Parlament Europeu i del Consell, de 13 de juny de 2024, pel qual s'estableixen normes harmonitzades en matèria d'intel·ligència artificial i pel qual es modifiquen els reglaments (CE) núm. 300/2008, (UE) núm. 167/20 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 i les directives 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828. Aquest Reglament es va començar a gestar l’any 2021 a proposta de la Comissió Europea i culmina tot un seguit d’actuacions de les institucions europees, com ara la creació de l’Oficina Europea d'Intel·ligència Artificial, que depèn de la Direcció General de Xarxes de Comunicació, Continguts i Tecnologia, per donar suport a l'aplicació d’aquesta norma. Tot i que va entrar en vigor el dia 1 d’agost de 2024, l'aplicació és gradual, d’acord amb el calendari previst. Una mostra més de la transcendència i l'impacte de la IA en tots els àmbits.
En l’àmbit intern, l’Administració general de l’Estat des de fa uns anys advoca per regular aquest àmbit i ha impulsat diverses accions de regulació i projectes normatius en matèria d’IA. Així la Llei 22/2021, de 28 de desembre, de pressupostos generals de l'Estat per a l'any 2022, en la disposició addicional 30, ja recollia l’autorització al Govern de l’Estat per a la creació de l'Agència Espanyola de Supervisió d'Intel·ligència Artificial, de què dona compliment la Llei 28/2022, de 21 de desembre, de foment de l'ecosistema de les empreses emergents.
La creació de l’Agència s’emmarca en el compliment de diversos àmbits d’obligacions, la primera de les quals és el compliment prematur d’una de les obligacions de l'aleshores proposta de RIA: que els estats membres supervisin l'aplicació i l'execució del RIA, actuïn com el punt de contacte únic per a la Comissió i els representi davant el Comitè Europeu d'Intel·ligència Artificial. El segon àmbit és el Pla de Recuperació, Transformació i Resiliència (PRTR), que inclou deu polítiques palanca que desenvolupen una agenda d'inversions i reformes estructurals que s'interrelacionen i es retroalimenten per assolir quatre objectius transversals; la sisena d'aquestes polítiques és el Pacte per la Ciència i la Innovació, en què s'insereix l'Estratègia Nacional d'Intel·ligència Artificial (component 16, reforma 1), que han donat lloc a subvencions que fomenten la IA.
En darrer lloc, cal destacar l’existència de l’Avantprojecte de llei per un ús ètic, inclusiu i beneficiós de la intel·ligència artificial aprovat pel Consell de Ministres d’11 de març de 2025, però que avui encara no ha passat per la resta d’aprovacions necessàries per ser publicat al BOE.
La Generalitat de Catalunya també ha fet bona feina emprenent una sèrie d’accions dins del seu àmbit competencial, una de les inicials és la que disposa l’ACORD GOV/24/2020, de 18 de febrer, pel qual s'aprova el document de base de l'Acord nacional per a l'Agenda 2030 a Catalunya, que va aprovar l'Estratègia d'intel·ligència artificial de Catalunya sota el nom de CATALONIA.AI, amb caràcter multisectorial, transversal i centrada en les persones, que prioritza el sector agroalimentari, la salut i el benestar, l'educació, el medi ambient, la mobilitat, el turisme, la cultura, la indústria i els serveis públics.
L'any 2024 l’ACORD GOV/45/2024, de 27 de febrer, crea la Comissió d'Intel·ligència Artificial i s'estableixen mesures en matèria d'intel·ligència artificial, consistents, entre d’altres, a impulsar la creació del Registre de sistemes d'intel·ligència artificial de l'Administració de la Generalitat i una solució tecnològica corporativa per catalogar els sistemes d'IA i altres algoritmes emprats per prestar serveis públics en l'àmbit de l'Administració de la Generalitat. Aquestes tasques s’han encarregat a la Direcció General d'Administració Digital i al Centre de Telecomunicacions i Tecnologies de la Informació (CTTI). El Registre té per objecte integrar la informació relativa als sistemes d'ús d'IA i altres algorismes emprats en els serveis públics de l'Administració de la Generalitat.
Posteriorment, l'Acord GOV/262/2025, d'11 de novembre, aprova l'Estratègia Catalunya IA 2030 i a partir d’aquest marc es van aprovar, entre d'altres, les anomenades subvencions RETECH per a l'impuls de la IA dins del PRTR per a projectes de transferència i innovació, generació de coneixement, comunitats d'empreses emergents, ètica i societat i espai de dades en el marc de la Xarxa territorial de hubs en intel·ligència artificial del programa Xarxes territorials d'especialització tecnològica del component 16, “Estratègia Nacional d’Intel·ligència Artificial”, i del component 12, “Política Industrial Espanya 2030”.
Així mateix, i en línia amb les actuacions referents a la IA, el Decret 105/2025, de 27 de maig, de reestructuració del Departament de la Presidència, va crear la Direcció General d'Intel·ligència Artificial, Eficiència i Dades a l'Administració, dotada de funcions amb vocació de lideratge en l’àmbit de la IA.
Pel que fa a la resta de comunitats autònomes, destaca la comunitat autònoma de Galícia, que ha aprovat la Llei 2/2025, de 2 d'abril, per al desenvolupament i l'impuls de la intel·ligència artificial a Galícia, i també Extremadura, amb el Decret llei 2/2023, de 8 de març, de mesures urgents d'impuls a la intel·ligència artificial a Extremadura.
Si traslladem la IA al món del procediment subvencional -que inclou les subvencions i els ajuts-, n'observem el gran potencial en tots els seus àmbits, perquè es puguin atorgar de forma ràpida i eficient, i doni un valor afegit al sistema clàssic del procediment subvencional. És destacable la tasca de la Intervenció General de la Generalitat de Catalunya que, en tenir atribuïda la funció de ser el centre directiu de la gestió de les subvencions (article 105.1.g del Decret 249/2025, de 18 de novembre, de reestructuració del Departament d'Economia i Finances), és instada pel Govern a implantar progressivament un nou tramitador corporatiu i transversal de gestió dels expedients de subvencions i ajuts de la Generalitat de Catalunya (Acord del Govern de 27 de maig de 2025, pel qual s’insta el Departament d’Economia i Finances i la Intervenció General a elaborar les mesures necessàries per actualitzar, homogeneïtzar i millorar els procediments subvencionals i d’atorgament d’ajuts, així com per fer el seguiment adequat de l’activitat de foment). Es tracta del Tramitador de subvencions i ajuts de Catalunya (TSCAT), creat per canviar la idea tradicional del procediment de concessió, tot optimitzant i racionalitzant tràmits, terminis, presentació de documentació, automatitzant determinades actuacions i aplicant la IA en molts d’aquests punts de la tramitació, que juntament amb la integració al sistema econòmic i financer de la Generalitat de Catalunya (GECAT) esdevindrà gradualment l’eina de futur en l’àmbit de les subvencions i els ajuts de la Generalitat de Catalunya. La implantació de la IA en aquest procediment compleix totes les pautes i els controls per a la viabilitat i el compliment normatiu d'aquest, de manera que atorga seguretat jurídica en l'ús.
Precisament en aquest àmbit, i especialment en el dels ajuts i prestacions, la IA ha de ser especialment controlada en tant que pot ser susceptible d’entrar en plena col·lisió amb drets d’especial protecció per als beneficiaris, com són els que integren la protecció de les dades de caràcter personal que es tracten en els procediments d’aquesta naturalesa. Per aquest motiu, esdevé cabdal coordinar l’aplicació de la IA amb la normativa en matèria de protecció de dades caràcter personal, com ara la Llei orgànica 3/2018, de 5 de desembre, de protecció de dades personals i garantia dels drets digitals, dictada en el marc del Reglament (UE) 2016/679 del Parlament Europeu i del Consell, de 27 d'abril del 2016, relatiu a la protecció de les persones físiques pel que fa al tractament de dades personals i a la lliure circulació d'aquestes dades i pel qual es deroga la Directiva 95/46/CE.
Els Principis d'intel·ligència artificial de l'OCDE, publicats el 2019 i actualitzats el 2024, destaca el principi que la tecnologia ha de respectar els drets humans i els valors democràtics, i inclou, a més, en el principi de responsabilitat en el desenvolupament de la IA, els aspectes lligats a la seguretat, la protecció i la privadesa, així com els drets laborals i de propietat intel·lectual.
Així mateix, les Directrius ètiques per a una IA Fiable (2019), emeses per la Comissió Europea, ja van treballar el concepte de la IA fiable. Fruit d’aquestes directrius també es va publicar el Llibre blanc de la intel·ligència artificial (2020), que determina el desenvolupament de la IA basat en dos pilars, l'excel·lència tècnica i la confiança en la IA, que s’ha de basar en instruments jurídics vinculants.
Espanya ha adoptat la Recomanació sobre l'ètica de la intel·ligència artificial, publicada per la UNESCO el 2021 -de què formen part 193 estats-, que analitza com la IA pot afectar els col·lectius vulnerables, la sostenibilitat mediambiental i l'alfabetització digital. Així mateix, l’any 2023 també es va crear l'Òrgan Assessor d'Alt Nivell sobre Intel·ligència Artificial de les Nacions Unides.
El Conveni marc del Consell d’Europa sobre intel·ligència artificial, drets humans, democràcia i estat de dret, signat el 5 de setembre de 2024, estableix un enfocament comú per garantir que els sistemes d'IA siguin compatibles amb els drets humans, la democràcia i l'estat de dret, que permet alhora la innovació i la confiança.
Tots aquests precedents són mostres de la magnitud de la IA i del seu impacte en tots els àmbits, no només en el de les subvencions i els ajuts. Per concloure l'apunt, cal invocar una frase aplicable a la IA del físic, matemàtic, enginyer elèctric, mecànic, inventor, visionari, precursor i inspirador de la IA, Nikola Tesla: "La ciència no és sinó una perversió de si mateixa si no té com a objectiu final el millorament de la humanitat."
