L'eina Magic Notes registra i analitza les reunions presencials i suggereix accions de seguiment.

Centenars de treballadors socials a Anglaterra han començat a utilitzar un sistema d'intel·ligència artificial que registra converses, redacta esborranys de cartes per als metges i proposa accions que els treballadors humans podrien no haver considerat.

Els ajuntaments de Swindon, Barnet i Kingston es troben entre els set que ara utilitzen l'eina d'intel·ligència artificial, instal·lada als telèfons dels treballadors socials, per gravar i analitzar les reunions cara a cara. L'eina Magic Notes AI escriu resums gairebé instantanis i suggereix accions de seguiment, incloent-hi la redacció d’esborranys de cartes adreçades als metges de capçalera. Dues dotzenes d'ajuntaments més ja la tenen o l'estan pilotant.

En reduir el temps que els treballadors socials passen prenent notes i emplenant informes, l'eina pot arribar a fer estalviar fins a dos mil milions de lliures a l'any, afirma Beam, l'empresa darrere del sistema, que ha reclutat personal de Meta i Microsoft.

Però l’aplicació d’aquesta tecnologia també és probable que augmenti la preocupació sobre com els atrafegats treballadors socials calibren les accions proposades pel sistema d'intel·ligència artificial, i com decideixen si ignoren una acció que els proposa el sistema d’AI.

L'Associació Britànica de Treballadors Socials ha donat la benvinguda als sistemes d'intel·ligència artificial que alliberen temps per a les feines presencials, però ha dit que "mai han de reemplaçar la pràctica de treball social basada en la relació i la presa de decisions".

Un dels ajuntaments pilot ha dit que necessita més proves per certificar que l'eina d'intel·ligència artificial resumeix amb precisió les reunions, ja que els informes poden incidir potencialment en decisions que canviïn les vides de les persones.

Segons una avaluació d'impacte realitzada per l'Ajuntament de Camden de Londres, un usuari va esmentar de passada que li costava una mica utilitzar el seu telèfon. La IA va generar un resum del cas que incloïa una possible acció per investigar la formació en tecnologia per a aquesta persona, però cap dels professionals que hi participaven no ho havia detectat.

Seb Barker, el director d'operacions de Beam, empresa proveïdora de Magic Notes, ha afirmat que cap de les opinions dels pilots ha indicat que els treballadors socials simplement seguirien el que els diu la Magic Note; els resums i les accions de seguiment han d'estar aprovats per un humà. Així mateix, ha afirmat que no hi ha cap evidència que els treballadors socials estiguessin desconnectant durant les reunions amb els clients i deixant que la IA elaborés un pla d'acció pel seu compte i risc.

Una de cada deu feines de treballador social adult a Anglaterra està vacant i el 2023 va tenir la segona taxa de vacants més alta per a treballadors socials infantils i familiars des del 2017, fet que va provocar que l'avaluació del govern del risc passés a ser de "crític".

L’Ajuntament de Swindon ha signat un contracte de sis mesos per utilitzar la tecnologia i afirma que ajuda, especialment, els treballadors socials amb dislèxia. Cllr Ray Ballman, membre del gabinet d'atenció social d'adults, va dir que havia estat "un factor de canvi per als nostres col·legues".

L'avaluació d'impacte d'igualtat de l’Ajuntament de Wiltshire diu: "L'eina no prendrà decisions ni emprendrà accions automatitzades completes pel que fa a l'escriptura de converses: el treballador social sempre ha de prendre la decisió final i aplicar controls de qualitat adequats i supervisió".

El districte londinenc de Barnet facilita l’eina a 300 treballadors d'atenció social d'adults, després que el personal "hagi cregut que els permetia comprometre's més plenament amb els residents", estalviar temps i "no s’hi han detectat problemes de biaix". Els resums de la IA són només un "punt de partida" per a l’edició per part dels treballadors socials i han de ser verificats pels directius abans de presentar-se com a registres formals, ha dit un portaveu.

El 70% de tots els departaments del govern del Regne Unit fan programes pilot o planegen utilitzar sistemes d'IA, segons una avaluació recent de l'Oficina Nacional d'Auditoria. Però el regulador de despesa ha dit que els sistemes informàtics envellits, la manca de competències i els problemes amb la qualitat de les dades podrien frenar el sector públic a l'hora de capitalitzar una tecnologia que avança ràpidament. No hi ha cap regulador central de la IA al Regne Unit, però el govern laborista planeja legislar per "imposar requisits a aquells que treballen per desenvolupar els models d'intel·ligència artificial més potents".

El sistema Magic Notes recull informació confidencial, incloent-hi condicions de salut, finances personals, adreces, dates de naixement, números de telèfon, orientació sexual, origen ètnic i creences religioses. Desplega algoritmes d'IA desenvolupats per les empreses de San Francisco Deepgram i OpenAI. Barker ha dit que les gravacions han estat emmagatzemades als servidors de Beam al Regne Unit i les dades no s’han fet servir per entrenar Magic Notes ni cap altre sistema d'intel·ligència artificial.

Un portaveu de l’Ajuntament de Croydon ha comentat: "Estem avaluant el programa pilot i en farem una valoració completa abans de procedir. Qualsevol ús de la IA estarà subjecte als controls i a la governança adequats.”

Maris Stratulis, directora nacional de l'Associació Britànica de Treballadors Socials d'Anglaterra, ha conclòs: "Demanem la regulació de la IA, un marc nacional de principis ètics per al seu ús i transparència sobre quan s'estan utilitzant aplicacions d'IA i per part de quines indústries per garantir la responsabilitat davant els ciutadans i respectar els drets humans."

Font: ©The Guardian, 28-09-2024

Traducció: Laia Martín i Marty