La digitalització de la societat i de la indústria planteja reptes i genera oportunitats per al sector industrial, que haurà d’adaptar els seus processos, productes i models de negoci. L’ús de la intel·ligència artificial i dels algorismes poden afectar la prevenció de riscos laborals, ja sigui per la implantació d’una nova tecnologia o com a nova forma d’organització. Els delegats i delegades de prevenció han de conèixer com els algorismes o les decisions automatitzades poden afectar les condicions de treball i com cal actuar.
Per poder entendre l’abast de les implicacions de la transformació digital en la gestió de la prevenció de riscos laborals, cal entendre prèviament una sèrie de conceptes associats a la digitalització tant de forma general com en l’àmbit de les empreses. És a dir, primer cal alfabetitzar-nos sobre els conceptes de la digitalització per poder entendre millor l’afectació de la implantació d’aquesta tecnologia a les empreses i a la seguretat i la salut dels treballadors i treballadores en particular.
Alfabetització digital: habilitat per localitzar, analitzar, organitzar, entendre i avaluar informació utilitzant tecnologia digital.
Algorisme: Procediment de càlcul que consisteix a acomplir un seguit ordenat i finit d’instruccions amb unes dades especificades per tal d’arribar a la solució del problema plantejat. Fora de l’àmbit de la informàtica, alguns dels exemples més habituals d’ús d’algorismes són els manuals d’instruccions o les receptes de cuina.
Big data: conjunts de dades o combinacions de conjunts de dades la grandària de les quals (volum), complexitat (variabilitat) i velocitat de creixement (velocitat) dificulten la seva captura, gestió, processament o anàlisi mitjançant tecnologies i eines convencionals, com ara bases de dades relacionals i estadístiques convencionals o paquets de visualització, dins del temps necessari perquè siguin útils. Avui dia, prop de 6.500 milions de dispositius connectats intercanvien informació a internet. El 2025, aquesta xifra s’elevarà fins als 20.000 milions. El big data analitza aquesta mar de dades per convertir-los en la informació i utilitzar-los per identificar noves oportunitats com ara reducció de costos, presa de decisions, nous productes i nous serveis.
Biaix algorítmic: ocorre quan un sistema informàtic reflecteix els valors dels humans que estan implicats en la codificació i recol·lecció de dades usades per entrenar l’algorisme. El biaix algorítmic es pot trobar a tot arreu, tant en els resultats dels motors de cerca com en les xarxes socials, i pot tenir un gran impacte en temes com la privacitat, o agreujar biaixos socials pel que fa a races, gènere, sexualitat o ètnies. L’estudi del biaix algorítmic s’enfoca, sobretot, als algorismes que reflecteixen «discriminació sistemàtica i injusta».
Intel·ligència artificial: Branca de la informàtica dedicada al desenvolupament d’algorismes que permeten a un ordinador percebre el seu entorn lògic i prendre decisions per maximitzar les seves possibilitats d’èxit en una o més tasques.
Les fons de dades del big data poden ser molt àmplies: dades d’internet o mòbils, dades de l’internet de les coses, dades sectorials per a empreses especialitzades, dades experimentals, etc.
Machine learning o aprenentatge automàtic: branca de la intel·ligència artificial que fa possible l’aprenentatge autònom de les màquines, sense necessitat de ser programades expressament per a això. A través d’algorismes, dota els ordinadors de la capacitat d’identificar patrons en dades massives i elaborar prediccions (anàlisi predictiva). Es fa servir en el reconeixement facial, en diagnòstics i investigació mèdica, per detectar contingut brossa (spam) dels correus electrònics, xatbots (robots que atenen els clients 24 hores i recullen dades), etc.
Transformació digital: canvi associat amb l’aplicació de tecnologies digitals en tots els aspectes de la societat. La transformació digital pot ser considerada com la tercera etapa o tercera fase de l’adopció de les tecnologies digitals (la competència digital → l’ús digital → la transformació digital), juntament amb la millora de la capacitat d’ús i d’aplicació que s’aconsegueix a través de l’alfabetització digital.
Variable proxy: En estadística, una variable proxy és una mesura que aïllada no té gran interès, però que permet obtenir-ne d’altres de més utilitat. Perquè això sigui possible, la variable proxy ha de tenir una forta correlació, però no necessàriament lineal o positiva, amb el valor inferit. No té cap valor si les dades no s’ajusten a alguna relació. Exemples: el producte intern brut per càpita sovint es fa servir com un proxy per mesurar el nivell de vida o la qualitat de vida. També, el país originari o lloc de naixement pot arribar a usar-se com un proxy en classificació d’humans o races.
La utilització de mitjans d’organització del treball digital està creixent exponencialment: assistents virtuals, anàlisi d’imatges, motors de recerca, sistemes de reconeixement de veu, sensors per fer seguiment de la productivitat o de l’estat d’ànim de la plantilla, intel·ligència artificial integrada en cobots, robots, drons, vehicles autònoms, internet de les coses, sensors corporals en la roba o equips de protecció individual, sistemes d’avaluació ergonòmics per a intel·ligència artificial i un molt llarg etcètera.
La gran quantitat d’informació acumulada pels nous dispositius i sensors disponibles a l’empresa o dades obtingudes pel big data fa poc probable que una persona pugui processar-la amb el propòsit de prendre decisions de gestió per a l’empresa. Per això, les empreses deleguen el tractament i posterior ús de la informació en la presa de decisions a algorismes o intel·ligència artificial. Tota aquesta informació recopilada permet la creació de perfils de treballadors i l’ús d’anàlisis de persones per optimitzar processos en les empreses. Aquests algorismes es poden fer servir per distribuir tasques, programar activitats, avaluar el compliment de la feina de les persones, contractar o, fins i tot, suggerir acomiadaments. I així, es pot arribar a la gestió automatitzada de la feina que gestiona i controla els treballadors i treballadores sense intervenció humana. Això no vol dir que el “cap” sigui l’algorisme, sinó que la direcció de l’empresa fa servir un algorisme per gestionar l’empresa.
Resumidament i simplificadament, existeixen dues modalitats de sistemes de decisió automatitzada. D’una banda, aquells que han estat programats de manera més o menys explícita, en què la persona programadora escriu una sèrie de regles explícites (algorismes) que el sistema seguirà per prendre decisions. D’altra banda, hi ha sistemes de decisió automatitzada (machine learning o aprenentatge automàtic) que aprenen aquestes regles de manera implícita a partir de l’anàlisi de dades extretes del big data per identificar patrons estadístics i prendre decisions automatitzades en atenció a aquests patrons. A aquestes regles o instruccions programades o apreses automàticament mitjançant tècniques d’intel·ligència artificial o estadística se les sol denominar models.
L’ús d’aquestes eines o noves formes d’organització relacionades amb la intel·ligència artificial pot ser beneficiosa per als treballadors i treballadores, com ara pel que fa a l’eliminació o reducció de moviments repetitius o postures forçades amb la utilització de cobots, la reducció d’accidents per caiguda per l’ús de drons, l’avaluació del risc ergonòmic mitjançant intel·ligència artificial, el monitoratge de la freqüència cardíaca per evitar una tensió o exercici físic que posi en perill la vida de la persona, l’estalvi de temps per a l’automatització en la presa de decisions, i un llarg etcètera.
FACTORS DE RISC
Com qualsevol implantació de nova tecnologia o nova forma d’organització del treball, l’ús d’eines d’intel·ligència artificial s’ha d’incloure en la gestió de la prevenció de riscos laborals. Per això, s’han d’identificar els factors de risc que comporta el seu ús, se n’ha d’avaluar el risc abans d’implantar-les i aplicar les mesures necessàries per prevenir aquests riscos identificats.
Tots els llocs de treball poden tenir factors de risc psicosocial que cal eliminar i, si no es pot, reduir-los o controlar-los mitjançant l’aplicació de mesures preventives. No obstant això, l’ús d’intel·ligència artificial com a comandament intermedi digital podria augmentar el factor de risc a causa de les seves capacitats omnipresents o la seva falta d’empatia.
A continuació es detallen alguns dels factors de riscos que poden donar-se quan es treballa amb intel·ligència artificial i algorismes.
Resistència al canvi
La implantació de controls per part de la intel·ligència artificial pot ser rebutjada a priori. Per exemple, una enquesta del 2017 realitzada per Pega i Maketforce afirmava que mentre el 88% dels treballadors enquestats se sentia còmode treballant amb robots, el 80% no s’hi sentia treballant amb la intel·ligència artificial com a supervisor o gerent.
Monitoratge constant
La sensació d’estar permanentment sota observació pot ser un factor de risc en si mateix. El control tecnològic i la falta de privacitat pot generar tecnoestrès. L’observació constant pot fer que els treballadors i treballadores es comportin de manera poc natural, com ara somrient sempre pel fet que hi hagi càmeres d’identificació facial que vigilin l’actitud dels empleats i empleades, o estant sempre actius perquè pel fet de portar sensors de moviment. Això pot provocar, entre d’altres, un gran esforç físic o psicològic per aconseguir objectius, no poder relacionar-se socialment amb els companys o fer descansos, i fins i tot sentir-se pressionat i arribar a actuar de forma perillosa, com ha passat en persones que treballen com a missatgers en plataformes digitals, que desenvolupen la feina en condicions climàtiques extremes.
Digital whip
Com hem dit abans, una de les possibles tasques dels algorismes és el monitoratge del desenvolupament de la feina de les persones mitjançant dispositius connectats a la xarxa; ja sigui la seva localització, temps de feina, etc. Quan la persona es demora més del que considera l’algorisme, rep un missatge d’advertiment com a mesura de pressió perquè treballin cada vegada m és ràpid i com a recordatori que vigilància del compliment de la feina continuo. Això rep el nom de digital whip (literalment, ‘flagell’ o ‘fuet’ digital), un sistema de control que incrementa la pressió de la feina, la càrrega mental i acaba derivant en estrès i ansietat.
Utilització del machine learning o aprenentatge automàtic en les empreses
Com hem vist a la definició, els sistemes “aprenen” sols. En les empreses, aquests algorismes poden adaptar-se a cada persona que hi treballa i exigir-les el màxim que cadascuna d’elles és capaç de donar. En els sistemes de productivitat anteriors a la intel·ligència artificial tots els treballadors i treballadores eren tradicionalment tractats per igual. No obstant això, sense requerir més recursos, la intel·ligència artificial és capaç de ‘descobrir’ (a través de prova i error) el màxim assolible per cada treballador o treballadora depenent de les seves característiques personals, i utilitzar la tècnica del digital whip per exigir-ho.
També pot crear diferents perfils de treballadors i treballadores i dividir-los en categories aplicant l’aprenentatge automàtic.
Impossibilitat d’impugnar decisions a un algorisme
La impossibilitat o dificultat d’impugnar una decisió presa per l’algorisme que ha pogut ser injusta o discriminatòria pot generar ansietat i frustració. Passa de la mateixa manera amb la impossibilitat d’explicar-se o justificar-se o qualsevol oportunitat de negociar o arribar a un acord sobre objectius raonables.
Falta de transparència
Un dels factors que contribueix en gran manera a generar ansietat i frustració entre la plantilla és no saber quines dades es recopilen, com es processen i quins criteris fa servir l’algorisme per arribar a la decisió concreta.
Comparació constant
Informar les treballadores i treballadors sobre el seu acompliment en relació amb els altres pot generar més pressió, estrès, ansietat i baixa autoestima, especialment si aquesta informació es presenta com a objectiu neutral, encara que no ho sigui.
Intensificació de la feina
La intensificació del treball es refereix al procés d’augmentar la càrrega de feina esperada d’un treballador o treballadora, augmentar la quantitat de tasques a dur a terme o escurçar el temps permès per completar les tasques. Una vegada que un algorisme assigna tasques i estableix terminis per complir-les, les persones poden necessitar incrementar la velocitat a la qual treballen per aconseguir el ritme establert per l’algorisme.
A més, com hem vist, els algorismes són capaços d’adaptar específicament el que es requereix de cada persona, sense un objectiu general fixat per a tothom. Els objectius poden ser modificats quan la persona compleix amb els terminis de treball, fins i tot sense aquesta percebi el canvi en els requeriments o nivell d’exigència.
Falta d’autonomia
L’algorisme, per la definició mateixa de la seva funció, decideix segons les seves dades i configuració quina és la millor manera (és a dir, la més productiva per a l’empresa) de fer una tasca i d’organitzar un treball. Aquesta ‘millor manera’ serà llavors l’exigida al treballador o treballadora. De fet, s’espera que els algorismes siguin capaços d’optimitzar el treball d’administració, i d’aquesta manera maximitzar la productivitat. Així, una vegada que s’ha triat la forma òptima de treballar establerta, se li imposarà al treballador o treballadora. Això suposarà reduir les possibilitats de les persones d’organitzar el seu treball de manera autònoma i decidir com realitzar-ho millor. En general, la pèrdua d’autonomia en el treball, juntament amb la falta de participació i autogestió, pot portar a la falta de motivació, descoratjament i baixa autoestima.
També pot generar que a llarg termini les persones no siguin capaces de prendre decisions.
Biaixos i discriminació
En la teoria, les empreses confien en la presa de decisions dels algorismes perquè seran més objectius i millors. Lamentablement, també es poden donar potencials riscos de delegar la presa de decisions en models automatitzats per causa dels biaixos digitals.
Els possibles biaixos es poden donar en les variables utilitzades pel model o l’algorisme, però també en la base de dades d’entrenament del sistema d’aprenentatge automàtic o en les correlacions o variables proxy.
No es tracta d’errors en els dissenyadors dels models i dels algorismes, ni programadors o programadores malèvols introduint dades esbiaixades de forma voluntària (cosa que també cal controlar). Un dels motius pels quals els algorismes reprodueixen situacions de discriminació, són les dades a partir de les quals s’han entrenat. Si aquestes dades contenen discriminacions, l’algorisme aprèn a discriminar. Exemple de baixos: Amazon va entrenar un algorisme de selecció de persones que finalment va descartar. Amb la finalitat d’identificar les millors persones candidates a un lloc de treball, Amazon analitzava els perfils de les persones contractades en els últims deu anys. No obstant això, com que la majoria dels candidats seleccionats eren homes, l’algorisme automàticament descartava els currículums de les dones dels processos de selecció. Un altre exemple: sistemes de qualificació per obtenir un crèdit que discriminen els codis postals de zones amb renda mitjana més baixa.
Tecnoestrès
El terme tecnoestrès es refereix a l’estrès específic derivat de la introducció i l’ús de noves tecnologies en el treball, que comporta efectes psicosocials negatius derivats de l’ús de les tecnologies de la informació i comunicació (TIC).
PREVENCIÓ DE RISCOS LABORALS
Lògicament, abans de la gestió de la prevenció de riscos laborals, el primer que s’ha de fer és revisar els models i algorismes perquè no provoquin els factors de risc abans esmentats. Per evitar els biaixos i identificar els processos que puguin donar lloc a la discriminació de persones, és necessari tenir accés als models i a les dades d’entrenament, i que la informació sigui transparent. Per comprovar-ho, s’ha de fer una auditoria algorítmica sobre ús d’algorismes d’alt risc en l’àmbit laboral, i abans d’implementar-los, fer una avaluació dels riscos potencials que puguin generar el tractament de dades. No es tracta de l’avaluació de riscos laborals, sinó de l’avaluació jurídica dels riscos que la implantació de l’algorisme o d’un model puguin afectar en els drets fonamentals de les persones, inclòs el dret a la salut. També, una vegada implantat el model o l’algorisme, s’ha d’avaluar els efectes de les decisions preses i, també, estudiar-ne l’impacte discriminatori.
Una vegada feta l’auditoria algorítmica, però abans d’implantar-la a l’empresa, s’ha d’incloure la utilització de la intel·ligència artificial ja sigui en la presa de decisions o en altres àmbits de l’empresa, en la gestió de la prevenció de riscos laborals. I, per tant, s’haurà de modificar la mateixa avaluació dels riscos, incloses les específiques, com ara l’avaluació psicosocial i, si fos necessari, aplicar noves mesures preventives.
També, si l’algorisme pren decisions respecte de la plantilla, ha d’avaluar tots els factors que suposin un risc per a la salut i la seguretat dels treballadors i treballadores. Per això, s’ha de programar de tal manera que recopili i processi tota la informació disponible sobre possibles riscos per als treballadors i treballadores. Igualment, dirigents i càrrecs empresarials ha de ser conscient dels riscos involucrats en el treball assignat a la plantilla i ha de programar un algorisme que tingui en compte aquests riscos. Si no hi ha aquesta premissa, no haurien de dirigir persones.
Aquests riscos específics han de ser els establerts per l’avaluació de riscos laborals preceptiva per a cada lloc de treball específic. Per exemple, l’algorisme o model que estableix la ruta a seguir per un missatger en bicicleta o patinet al nostre país, a l’estiu ha de tenir en consideració els camins amb més ombra, i no només el camí més ràpid, per protegir la seva plantilla del risc de cop de calor, deshidratació, disminuir la càrrega física, etc.
Per prevenir alguns dels factors psicosocials abans esmentats, es poden aplicar mesures de prevenció organitzacionals, com per exemple: augmentar les demandes de treball de forma progressiva per ajudar a l’adaptació de la persona, reduir càrrega de treball, incrementar recursos de suport tècnic o de formació, oferir respostes mitjançant persones, etc. També es pot definir estratègies dirigides individualment al treballador o treballadora com, per exemple, informació i formació eficient i suficient per poder desenvolupar la feina amb la interacció de la intel·ligència artificial, desenvolupament de la resiliència, adaptació al canvi i gestió d’estrès, entre moltes altres activitats.
LEGISLACIÓ
Actualment, a Espanya trobem diferents normes que regulen l’ús de la intel·ligència artificial i els algorismes.
Actualment, a Espanya trobem diferents normes que regulen l’ús de la intel·ligència artificial i els algorismes.
Reglament general de protecció de dades
L’article 22 del RGPD inclou una obligació d’informació en favor de les persones treballadores subjectes a decisions íntegrament automatitzades, incloent-hi l’elaboració de perfils, sense intervenció humana.
La transparència en l’ús d’algorismes i sistemes de decisió automatitzada es considera essencial en matèria de protecció de dades personals, la qual cosa exigeix que l’ús de tecnologia per prendre decisions empresarials es faci de manera transparent i informant dels mètodes usats i de les finalitats d’aquesta (article 6 RGPD).
En aquest context s’emmarca el dret individual a obtenir informació sobre les decisions íntegrament automatitzades sobre les treballadores i treballadors (articles 13.2.f, 14.2.g i 15.1.h RGPD, amb relació al seu article 22).
Dret col·lectiu d’informació Estatut dels treballadors (ET)
L’article 64.4.d ET incorpora obligacions d’informació en favor de la representació legal de la plantilla en matèria de l’ús d’”algorismes o sistemes d’intel·ligència artificial que afecten la presa de decisions que poden incidir en les condicions de treball, l’accés i manteniment de l’ocupació, inclosa l’elaboració de perfils”.
En aquest context s’emmarquen les obligacions d’informació de l’empresa a la representació legal de la plantilla sobre el funcionament de l’algorisme que afecti les persones treballadores (articles 64.4.d) ET).
Llei 31/1995, de prevenció de riscos laborals
L’article 33 de la Llei de prevenció de riscos laborals estableix el deure de l’empresa de consultar els treballadors i treballadores amb la deguda antelació, l’adopció de les decisions relatives a la planificació i l’organització de la feina a l’empresa i la introducció de noves tecnologies, en tot allò relacionat amb les conseqüències que aquestes puguin tenir per a la seguretat i la salut dels treballadors, derivades de l’elecció dels equips, la determinació i l’adequació de les condicions de treball i l’impacte dels factors ambientals en la feina. Evidentment, la implantació de la intel·ligència artificial en determinats aspectes de la feina o com a gestora de la plantilla, entra de ple en aquesta regulació.
I amb relació a les delegades i delegades de prevenció, l’article 36, sobre competències i facultats dels delegats de prevenció, estableix el dret de ser consultats per l’empresa sobre les decisions a què es refereix l’article 33 d’aquesta llei, abans que siguin executades, i el dret de tenir accés, amb les limitacions previstes a l’apartat 4 de l’article 22 d’aquesta llei (resultats de vigilància de la salut). També es recull el dret a la informació i la documentació referent a les condicions de treball que siguin necessàries per a l’exercici de les seves funcions.
Els representants dels treballadors i treballadores han d’aplicar el degut secret professional respecte de les informacions a què tinguessin accés a conseqüència de la seva actuació a l’empresa.
Llei 15/2022, de 12 de juliol, integral per a la igualtat de tracte i la no discriminació
L’article 23 estableix obligacions per a les administracions públiques en relació amb els algorismes d’intel·ligència artificial que aquestes utilitzin per a la presa de decisions.
Dret a la dignitat i a l’honor de la persona
Els drets a la dignitat i a l’honor són drets fonamentals recollits en la Constitució espanyola. S’han de fer servir per vetllar que les opinions i valoracions dels usuaris o clients sobre els treballadors i treballadores que puguin aparèixer no atemptin contra la dignitat i l’honor personals. També per possibilitar que el treballador o treballadora es pugui defensar en les informacions i opinions que surtin publicades sobre la seva persona i, fins i tot, perquè tingui la capacitat d’eliminar comentaris que vulnerin aquest dret.
Altres documents de referència
Pel que fa al control dels algorismes i la intel·ligència artificial, hi ha nombrosos documents considerats soft law o ‘lleis toves’. Es tracta de documents oficials que fan referència a pautes, declaracions de polítiques o codis de conducta que estableixen estàndards de conducta.
“Informació algorítmica en l’àmbit laboral. Guia pràctica i eines sobre l’obligació empresarial d’informació sobre l’ús d’algorismes en l’àmbit laboral” publicada aquest el 2022 pel Ministeri de Treball i Economia Social, on es pot trobar com es regula actualment la informació algorítmica. Ofereix informació molt rellevant sobre l’avaluació de l’impacte i les auditories algorísmiques, i una eina sobre les característiques i detalls tècnics més rellevants per entendre la lògica i funcionament de l’algorisme.
I, fora de l’àmbit laboral, és recomanable la consulta de l’Estratègia nacional d’intel·ligència artificial, la Carta de drets digitals.
Futures regulacions
La Unió Europea té com a objectiu crear un marc de referència per al desenvolupament d’una intel·ligència artificial inclusiva, sostenible, fiable, centrada en l’ésser humà i respectuosa amb els drets fonamentals. Arran de la proposta de la Comissió Europea sobre intel·ligència artificial, el Parlament Europeu ha decidit recollir el testimoni i aprovar el seu posicionament sobre l’Informe sobre intel·ligència artificial en l’era digital‘, que marcarà les línies mestres que tindrà aquesta legislació pionera.
També publicarà la Llei de serveis digitals. Aquesta legislació vol regular pràcticament tots els aspectes que afecten el contingut digital, des dels algorismes fins a la desinformació, passant per la publicitat i les botigues d’aplicacions, en què les empreses són molt més responsables del que reconeixen públicament. El primer esborrany es va anunciar a les acaballes de 2020 i ara la Comissió Europea ha arribat a un acord, encara que el text final no s’ha publicat. El pas següent serà el Parlament i el Consell Europeu, amb el calendari previst perquè entri en efecte aproximadament a principis de 2024.
En el ja publicat Reglament (UE) 2022/2065 del Parlament Europeu i del Consell, de 19 d’octubre de 2022, relatiu a un mercat únic de serveis digitals i pel qual es modifica la Directiva 2000/31/ce (reglament de serveis digitals) s’estableix l’obligatorietat de donar informació sobre diferents aspectes de l’ús dels algorismes com, per exemple, els emprats per a la presa de decisions a l’hora de moderar continguts.
Espanya també està treballant en la creació de l’Agència Espanyola de Supervisió de la Intel·ligència Artificial. Així, Espanya serà el primer país europeu amb una entitat de supervisió de la intel·ligència artificial, L’agència complirà les labors de supervisió i minimització de riscos i vol generar un ecosistema de recerca i empresarial d’intel·ligència artificial. També s’espera l’obertura del primer Centre Europeu per a la Transparència Algorítmica (ECAT), amb seu a Sevilla. Esperem que aquestes puguin ajudar en la labor dels representants dels treballadors i treballadores en aquesta difícil tasca.
PAPER DELS DELEGATS I DE LES DELEGADES DE PREVENCIÓ
Els delegats i delegades de prevenció han d’estar alerta i ser conscients si l’empresa delega qualsevol tractament i ús de la informació en la presa de decisions als algorismes o intel·ligència artificial que puguin afectar la seguretat i la salut dels treballadors i treballadores, i controlar aquest ús.
Com a delegades i delegats de prevenció, hem de demanar l’impacte del biaix algorítmic i, en el cas que pugui afectar la seguretat i la salut de les persones, sol·licitar-ne l’eliminació. Les possibles conseqüències dels biaixos no són problemes nous, sinó vells problemes amplificats: sistematització i amplificació de la discriminació.
La llei no diu que es reveli tot l’algorisme, sinó les bases del funcionament d’aquest, perquè la finalitat és que els comitès d’empresa coneguin quin impacte tenen aquests sistemes en les condicions laborals Per això, no necessita conèixer amb exactitud l’algorisme, però sí quina és la lògica d’aquest algorisme, saber com funciona i, sobretot, el seu impacte.
Negociació col·lectiva
La negociació col·lectiva també està avançant en el desenvolupament de clàusules per garantir els drets de les treballadores i treballadors en l’ús d’intel·ligència artificial, com per exemple, el conveni col·lectiu de la banca, que assenyala que el desenvolupament creixent de l’aportació de la tecnologia requereix una implantació acurada quan s’aplica en l’àmbit de les persones, i que les empleades i empleats tenen dret a no ser objecte de decisions basades exclusivament en variables automatitzades, així com el dret a la no discriminació en relació amb les decisions i processos, quan estiguin basats únicament en algorismes.
Fonts de consulta on ampliar informació
Instituto de estudios laborales LABORAlgorithm. ESADE. Jornada “Algoritmos, inteligencia artificial y relación laboral”. Barcelona 25/11
«Haciendo que los algoritmos sean seguros para los trabajadores: riesgos laborales asociados con el trabajo gestionado por inteligencia artificial» Adrián Todolí Signes. Universitat de València
Regulación de la IA, algoritmos y gestión de datos: nuevos desafíos. ESADE. David Murillo
La inteligencia artificial y el uso de algoritmos para dirigir el trabajo: la deshumanización del trabajador. Ana B. Muñoz . Universitat Carlos III de Madrid
