Recensión bibliográfica
Recensión al libro de Rodríguez Escanciano, Susana, El algoritmo como soporte de las decisiones empresariales: claves jurídico-laborales para una transición justa, Tirant lo Blanch, 2024
DOI: https://doi.org/10.69592/2952-1955-N6-JUNIO-2025-RECENSION-1
Olaya Martín Rodríguez
Profesora Titular de Derecho del Trabajo y de la Seguridad Social
Universidad a Distancia de Madrid (UDIMA)
Email: olayamr@gmail.com
https://orcid.org/0000-0002-0075-9426
En medio del debate abierto sobre los retos y desafíos legales y éticos a los que nos enfrentamos por el desarrollo imparable de la inteligencia artificial, la profesora Susana Rodríguez Escanciano ha publicado en la editorial Tirant lo Blanch la monografía El algoritmo como soporte de las decisiones empresariales: claves jurídico-laborales para una transición justa. Primeramente, hay que poner sobre la mesa que la tecnología forma parte del derecho del trabajo, precisamente, se justifica su nacimiento en un momento histórico en que comienza la industrialización de los procesos productivos y se ha ido adaptando conforme a los avances tecnológicos. En la actualidad, la inteligencia artificial (el big data y los algoritmos, dos elementos esenciales en las novedades tecnológicas que engloba la IA) ha sido recibida con éxito en la gestión empresarial por sus ventajas para la mejora y eficacia de los procesos y para la organización eficiente de la empresa. En tal sentido, la IA puede proporcionar análisis de datos más rápido y extenso que los humanos y lograr gran precisión en sus tareas, lo que permite recopilar y evaluar grandes cantidades de datos y superar, incluso, la capacidad analítica de las personas. No obstante, también plantea importantes retos y desafíos jurídicos, especialmente en el marco laboral.
En los primeros apartados (1-3) la autora aborda de una forma transversal las nuevas formas de organización laboral asistidas por la IA, así como el paso del empleo analógico al trabajo digital asistido por distintas herramientas que pretenden simplificar los procesos de predicción o toma de decisión; sistemas tecnológicos que se implantan prácticamente con la misma intensidad en todos los sectores (Agricultura, Industrial, Construcción y Servicios). Esto nos sitúa en una nueva revolución industrial que como recuerda la profesora Rodríguez Escanciano se caracteriza por avances en tres áreas, a saber: la tecnología del sofware, la robótica avanzada y los sensores y la interconexión de personas y máquinas automatizadas en el entorno de trabajo. Mientras que en las anteriores revoluciones industriales las máquinas reemplazaban el trabajo manual, en la actualidad los nuevos sistemas inteligentes son capaces de sustituir también el intelecto humano.
En los siguientes apartados (4-7) se estudia la aplicación de los algoritmos en el tejido empresarial, específicamente en la gestión de personas y el uso de los mismos en los departamentos de recursos humanos. Al mismo tiempo la profesora Rodríguez Escanciano identifica algunos claroscuros de la inteligencia artificial en las relaciones laborales. Al abrigo de lo señalado, cada vez es más habitual que las empresas usen algoritmos o sistemas de inteligencia artificial para tomar decisiones de forma automatizada que abarcan todos los momentos y aspectos de la relación laboral, desde el reclutamiento de las personas trabajadoras, pasando por la evaluación y control de las personas trabajadoras, hasta la extinción del vínculo contractual. Como señala la autora, pese a que estas herramientas llevan aparejadas grandes posibilidades de progreso en términos de rentabilidad para las empresas o liberar de actividades pesadas, peligrosas y repetitivas a las personas trabajadoras; también plantean importantes retos para los derechos de las personas trabajadoras y ello porque la programación y desarrollo del algoritmo puede condicionar de forma voluntaria o involuntaria posibles vulneraciones de derechos fundamentales, como el principio de igualdad y no discriminación. Además, el uso de sistemas de inteligencia artificial en el ámbito laboral genera riesgos psicosociales intrínsecos asociados al miedo de perder el trabajo, a sufrir discriminación algorítmica, a la invasión de espacios de intimidad por la monitorización constante, a la inseguridad que genera no conocer cómo funciona el algoritmo y, por tanto, cómo comportarse para obtener buenas valoraciones o, a la pérdida de la autonomía o capacidad para realizar el trabajo. A día de hoy no existe un listado de cuáles son los riesgos psicosociales típicos.
En los apartados 8, 9 y 10 se aborda el tema de la discriminación algorítmica en el ámbito laboral, específicamente desde una perspectiva de género. Uno de los aspectos que se analizan en la monografía es el impacto de la inteligencia artificial en los procesos de selección de personal y su efecto en el principio de igualdad y no discriminación por razón de género en el acceso al empleo. Uno de los principales problemas es que la opacidad de los algoritmos puede acarrear exclusiones automáticas de candidatas. Por ejemplo, si todos los datos utilizados para construir el algoritmo son de hombres, el sistema de IA puede llegar a razonar que el factor hombre es decisivo. La discriminación algorítmica también se manifiesta durante el transcurso de la prestación de servicios, pues es común que las empresas utilicen ciertos sistemas de IA que permiten nuevas formas de gestión de la fuerza de trabajo y con ello posibles sesgos discriminatorios que excluyen a determinados colectivos. Esta tendencia demuestra la necesidad de abordar esta transformación con las máximas cautelas desde la perspectiva de los derechos fundamentales y, en particular, de la igualdad, desde la perspectiva jurídica.
En los apartados 11, 12 y 13 la autora aborda los riesgos asociados al manejo del enorme volumen de información que las empresas tienen de las personas trabajadoras, pues puede provocar una «hiperdactificación» de las relaciones laborales y permitir a la empresa obtener información exhaustiva sobre rendimiento, cantidad y calidad de tareas realizadas, tiempo empleado, patrones de comportamiento, pero no solo eso, sino también sobre la personalidad de las personas trabajadoras, posibilitando al empleador conocer sus conductas presentes e, incluso, futuras. Es decir, la aplicación de la IA en la gestión de personal otorga a la empresa tener un conocimiento completo del perfil de las personas trabajadoras no solo de aspectos estrictamente profesionales sino también individuales pertenecientes al ámbito privado de la persona trabajadora. Al calor de lo señalado, la empresa puede acceder a información de las características personas de las personas trabajadoras con total ignorancia de aquellas, poniendo en riesgo su intimidad y privacidad. Ante este escenario, es primordial tejer una red de seguridad. Sin embargo, como apunta la autora, el problema deriva de la dificulta de formular los indicios de discriminación a partir de una evidencia estadística dada la complejidad técnica.
En los apartados 14, 15 y 16 se examina el marco normativo internacional, europeo e interno donde la autora proporciona al lector la información necesaria y suficiente de los instrumentos internacionales y normas nacionales que han abordado el tema de la IA en el marco de la gestión laboral. No es menester citar aquí cada una de ellas, pero podemos destacar algunas de las respuestas jurídicas que la autora recoge. En este sentido es menester citar el artículo 64.4 d) de nuestro Estatuto de los Trabajadores que recoge los derechos de información y consulta de los órganos de representación de los trabajadores en la empresa. Pues bien, este apartado incluye una nueva competencia para estos sujetos, de forma que a partir de la entrada en vigor de la norma también tienen derecho a «ser informado por la empresa de los parámetros, reglas e instrucciones en los que se basan los algoritmos o sistemas de inteligencia artificial que afectan a la toma de decisiones que pueden incidir en las condiciones de trabajo, el acceso y mantenimiento del empleo, incluida la elaboración de perfiles».
Asimismo, este deber de información colectivo se ve reforzado con un deber de carácter individual reconocido en el artículo 15 del Reglamento (UE) 2016/679, del Parlamento y del Consejo, de 27 de abril, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos, según el cual el interesado tendrá derecho a obtener del responsable del tratamiento confirmación de si se están tratando o no datos personales que le conciernen y, en tal caso, derecho de acceso a los datos personales, lo que incluirá la información sobre la existencia de decisiones automatizadas, incluida la elaboración de perfiles. El Reglamento (UE) 2016/679 establece como una primera garantía que «los datos deben ser adecuados, pertinentes y limitados a lo necesario en relación con los fines para los que son tratados». Esta garantía resulta más importante en los casos en los que se utilizan herramientas basadas en algorítmicos para los procesos de selección porque en el caso de la elaboración de perfiles, debido a que el algoritmo podrá aprender de un mayor número de datos, los responsables del tratamiento deben cumplir el principio de minimización de datos al recoger los datos personales y garantizar que conservan dichos datos durante no más tiempo del necesario y de forma proporcional a los fines del tratamiento de los datos personales.
De acuerdo con lo dicho, la gestión algorítmica resultaría admisible toda vez que uno de los supuestos exonerados de esta prohibición general es precisamente que la decisión sea necesaria para la celebración o la ejecución de un contrato entre el interesado y un responsable del tratamiento. En este caso, el Reglamento (UE) 2016/679 exige que el responsable del tratamiento adopte las medidas adecuadas para salvaguardar los derechos y libertades y los intereses legítimos del interesado, lo que como mínimo incluirá el derecho a obtener intervención humana por parte del responsable, a expresar su punto de vista y a impugnar la decisión.
A muy buen juicio, la autora trae a bien realizar un exhaustivo análisis de la regulación existente sobre la protección de datos personales pues los datos son el sustento de los algoritmos y de las decisiones automatizadas. Dentro del apartado 16 la profesora Rodríguez Escanciano recoge algunos de los avances sobre el reconocimiento del derecho a la protección de datos personales de la persona trabajadora, la desconexión digital, los límites a la grabación de imágenes y sonidos, los límites a la grabación de imágenes y sonidos, la utilización de herramientas de monitoreo y geolocalización, la analítica masiva de datos e IA en los procesos de toma de decisión en material de recursos humanos, que actúan como protección del derecho de privacidad a la vez que permiten limitar los poderes empresariales. Asimismo, este derecho de protección de datos de las personas trabajadoras viene acompañado por un deber de información a las personas trabajadoras de la existencia de canales de denuncia interna en los que debe quedar protegido el denunciante, de manera que la garantía de los derechos de acceso, rectificación, supresión y oposición del denunciado no debe implicar revelar la identidad del primero.
Especial mención merece la seguridad y salud de las personas trabajadoras que puede verse afectada por la aplicación de los sistemas de IA ya que la pérdida de funciones y autonomía por el uso de algoritmos que toman decisiones, así como la monitorización permanente de la producción pueden acarrear riesgos graves para el bienestar —fatiga tecnológica, acoso cibernético, etc.—. Por ello, la implementación de sistemas de IA en los procesos de trabajo debe ir acompañada del cumplimiento de todas las obligaciones en materia de prevención de riesgos laborales. En tal sentido, la autora manifiesta que es esperanzador el Convenio 190 de la Organización Internacional del Trabajo pues engloba como riesgo cualquier violencia o acoso que ocurra durante el trabajo, en relación con el trabajo o como resultado del mismo, y específicamente recoge las situaciones que estén relacionadas con el trabajo, incluidas las realizadas por medio de tecnologías de información y de la comunicación. Asimismo, también la Ley Orgánica 10/2022 arroja un grado de protección adicional ya que obliga a todas las empresas a diseñar procedimientos específicos para la prevención del acoso sexual y por razón de sexo, incluyendo las sufridas en el ámbito digital.
La autora también hace alusión a la Directiva (UE) 2024/2831 y al Reglamento (UE) 2024/1689 (aún propuestas en el momento de la publicación de la monografía). Uno de los elementos clave de la Directiva (UE) 2024/2831 en cuento a la gestión algorítmica y privacidad es que prohíbe el uso de datos sensibles como información emocional, biométrica o de conversaciones privadas en la toma de decisiones automatizadas. Las plataformas deberán informar de manera clara a las personas trabajadoras sobre el uso de sistemas de seguimiento y algoritmos que impacten en sus condiciones laborales, facilitando además la intervención humana en decisiones críticas, como la suspensión de cuentas o la terminación de servicios. Por su parte, el Reglamento (UE) 2024/1689 clasifica los riesgos de la inteligencia artificial en cuatro categorías diferentes, entre los que se encuentran los sistemas de «alto riesgo» (art. 6 y 7 y Anexos I y III del Reglamento de IA) porque pueden tener efectos perjudiciales para la salud, la seguridad o los derechos fundamentales de las personas pretende ofrecer un marco jurídico que garantice que los sistemas de inteligencia artificial son fiables y respetan los derechos fundamentales de la persona.
De conformidad con el artículo 6 del Reglamento de IA hay dos vías para la calificación de un sistema de IA como de alto riesgo, a partir del artículo 6.1 y anexo I del Reglamento; o a partir del artículo 6.2 y anexo III del Reglamento. Dentro de esta segunda vía se circunscriben los sistemas utilizados en el empleo, gestión de personas trabajadoras y acceso al autoempleo que incluyen los destinados a utilizarse para la contratación o selección de personas físicas, especialmente para anunciar vacantes, clasificar y filtrar solicitudes o evaluar a candidatos en el transcurso de entrevistas o pruebas; así como los sistemas destinados a utilizarse para la toma de decisiones relativas a la promoción y resolución de relaciones contractuales de índole laboral, a la asignación de tareas y al seguimiento y evaluación del rendimiento y la conducta de las personas en el mercado de dichas relaciones.
Finalmente, la autora finaliza la obra reflexionando sobre los horizontes de la regulación sobre la IA y la necesidad de juridificar la IA y establecer garantías en sus herramientas, sobre todo cuando atentan o menoscaban los derechos fundamentales en el marco laboral. En tal sentido, con buen criterio la profesora Rodríguez Escanciano afirma que los avances legales en esta materia van mucho más lentos que el desarrollo de los sistemas algorítmicos y considera que el Reglamento (UE) 2024/1698 se preocupa de la calidad de los datos, pero olvida garantizar condiciones de trabajo equitativas y justas y no resuelve todos los problemas jurídicos de la IA en el ámbito laboral; por tal motivo, considera que resulta necesario fortalecer la normativa y bajo ese prisma enumera una serie de exigencias que debería contemplar la norma para conseguir un algoritmo digital justo de aplicación a las relaciones laborales.
En resumen, nos encontramos ante una obra cuidada y un estudio muy necesario y actual para los iuslaboralistas y también, por qué no, para el legislador nacional, que aquí puede consultar y extraer de una manera sintética, amena y clara, pero con todo el rigor científico que presupone, los retos, horizontes y problemas jurídicos de la IA en el ámbito laboral. Sin duda alguna, la doctrina científica se enriquece con trabajos rigurosos y exhaustivos como éste, cuyo enfoque y esfuerzo es digno de reconocimiento. Así termino estas breves glosas con la invitación, tanto al gremio laboralista como a toda persona interesada en esta actual y apasionante temática, a realizar una lectura amena e inteligente de esta magnífica monografía.