by #mysisolove
La «gran delegación» en la era de la IA e impacto en la taxonomía empresarial
A diferencia de revoluciones tecnológicas pasadas, en las que la maquinación contribuyó a emancipar al ser humano de los trabajos físicos más duros y las tareas que requerían una inteligencia elevada quedaban reservas a la conciencia desarrollada, en la actualidad (HARARI, Homo Deus, 341), «estamos desarrollando nuevos tipos de inteligencia no consciente que pueden realizar tales tareas mucho mejor que los humanos». Dejando de lado los planteamientos transhumanistas que supeditan la supervivencia del homo sapiens en el futuro a su propio mejoramiento (mecánico y/o biológico), lo que no cabe duda es que estamos en el umbral de un proceso ubicuo de delegación o también denominado «la gran desconexión».
Aunque el ámbito empresarial ha estado históricamente a la vanguardia de este proceso (por ejemplo, la dirección y el control de los trabajadores ha sido asumida desde hace mucho tiempo por asistentes informacionales), todo indica que estamos a las puertas de su expansión acelerada. Algoritmos automatizados y sistemas de inteligencia artificial (IA) operan, cada vez, en más ámbitos y el entorno empresarial en su conjunto está en tránsito hacia lo que se conoce como (en términos de MERCADER UGUINA), la «gran delegación empresarial».
Esta expansión de sistemas de decisión automatizados, no obstante, ha sido objeto de contención a través de la exigencia por Ley de una reserva de supervisión humana (y que puede adoptar diversas manifestaciones [1]). En efecto, para los casos en los que, siendo su uso necesario [2], se implementen sistemas que afecten a la celebración o ejecución de un contrato y se empleen datos personales [3], así lo exige el art. 22.2 RGPD (y siempre que, a su vez, se cumplan los requisitos de los arts. 5 y 6) [4]. En cambio, para los casos en los que no se utilicen estos datos y se empleen sistemas de IA de alto riesgo [5], la reserva de supervisión humana está prevista en el art. 14 RIA, «al objeto de prevenir o reducir al mínimo los riesgos para la salud, la seguridad o los derechos fundamentales». Garantía que también es exigible en el contexto de la Directiva 2024/2831, relativa a la mejora de las condiciones laborales en el trabajo en plataformas [6].
Es obvio que la delegación en favor de estos instrumentos y las interconexiones entre ellos puede alterar la taxonomía del empresario (y, se corre el riesgo que, incluso, a resultas de una cadena de delegaciones e interconexiones complejas, la atribución de responsabilidad pueda llegar a confundirse y/o disiparse). Pues bien, incluso en los casos más extremos de delegación y al margen de qué sujeto acabe asumiendo la supervisión humana cuando sea exigible (el propio titular de la empresa, un delegado de este, o bien, un asalariado), no parece que esta intervención automatizada implique una alteración de los atributos o funciones que definen al empresario como tal. Especialmente si lo que, en realidad, lo caracteriza es otro concepto reflejo: el de trabajo subordinado. Así pues, en el marco del programa de prestación contractual, manteniéndose constante este último, cabe entender que también lo serán las características prototípicas asociadas a las de la otra parte contractual.
Centrado el debate en este marco conceptual, cabe plantearse si hay entornos económicos en los que estos atributos empresariales (y, por derivación, también asalariados) podrían estar sufriendo una mutación en paralelo al avance de la técnica. Sin perjuicio de que la expansión de sistemas de IA (hipotéticamente) podría acabar imponiendo un nuevo paradigma en la conformación de las partes del programa de prestación contractual, mientras esto no ocurra (si es que acaba sucediendo), sí puede afirmarse que la economía de las plataformas es, probablemente, el contexto que ha experimentado mayores tensiones al respecto en los últimos años. De hecho, se ha erigido en una especie de «sandbox» en el que las empresas han estado «flirteando» con nuevos límites de frontera.
La subordinación y la puesta a disposición en la economía de las plataformas
El mercado es muy eficiente a la hora de identificar y aprovecharse de los puntos ciegos del sistema jurídico. La economía de las plataformas, si bien no puede decirse que este sea su único propósito, sí es un medio propicio para explorar y explotar muchas vulnerabilidades legales (lo que se ha traducido, en muchas ocasiones, en una laminación de las conquistas sociolaborales alcanzadas a lo largo del Siglo XX).
En los últimos años, al albur de una lógica de ensayo y error y de una visión sesgada de las bondades del progreso tecnológico-informacional, se han multiplicado los intentos para deconstruir la columna vertebral del trabajo por cuenta ajena. Estas constantes iteraciones han tratado, precisamente, de abrir una brecha en el ordenamiento jurídico que legitime un modelo de negocio en el que el trabajo subordinado, si no puede suprimirse, quede cuando menos reducido a su mínima expresión. Como reacción refleja a las decisiones jurisdiccionales declarando la laboralidad del trabajo en estos entornos digitales, el uso de la externalización a través de contratas no deja de ser un nuevo intento para alcanzar este objetivo (en puridad, un second best).
Este empecinamiento – alimentado, en ocasiones, por los propios órganos jurisdiccionales (como lo ilustra la reciente CP formulada por la Sala de lo contencioso-administrativo de la AN – ver aquí) es, sin duda, ilustrativo de la entidad del jugoso botín que está en juego (obtenido a partir del drenaje del estatuto protector de las personas trabajadoras).
En este contexto tan amenazante, dos conceptos han adquirido una importancia creciente en aras a contener la precariedad de las personas trabajadoras: el de subordinación, por un lado [7]; y el de interposición empresarial a través de la puesta a disposición, por otro. Ambos se han convertido en verdaderos bastiones de resistencia (el último reducto) frente a los últimos embistes de la economía ultraliberal. Y, en el caso del segundo, esto es así desde que la jurisprudencia de la Sala IV, a partir de su configuración modular y modulable, ha optado por relajar los elementos definidores de la cesión ilegal (diluyendo notablemente las garantías que esta importante institución atesora).
La subordinación y este tipo de interposición comparten, no obstante, un mismo denominador común: son la manifestación refleja de un ejercicio del poder de dirección y de control empresarial. En ambos casos, además, este poder se proyecta de forma directa sobre las personas trabajadoras a las que se dirige. Los efectos de cada una, no obstante, difieren. En la primera, si el trabajo es subordinado, se despliega todo el haz de garantías del Derecho del Trabajo y de la Seguridad Social. En la segunda, si la cesión se constata, se aspira a diluir la precariedad que podría subyacer en el trabajo externalizado, dando acceso (a través de la equiparación de condiciones) a un estándar de protección iuslaboral, a priori, superior.
La metamorfosis del poder de dirección y control empresarial: la gestión por objetivos y la evaluación de su consecución por las personas trabajadoras
La particularidad del momento es que, mientras sus manifestaciones reflejas (subordinación y cesión de plantilla mediante interposición empresarial), últimamente, han sido objeto de sucesivos intentos de deconstrucción, en un contexto empresarial regido por la gestión por objetivos, el poder de dirección y control ha permanecido prácticamente incólume. Aunque los instrumentos a través de los cuales se materializa han ido transformándose, la idea esencial de organización dirigida de los medios de producción (con independencia de si estos se «encarnan» en átomos o en bytes) ha permanecido prácticamente intacta: su titularidad continúa otorgando capacidades preeminentes para definir metas y ejercer el mando sobre la organización del trabajo y, muy especialmente, sobre la evaluación de quienes participan en él.
Por estos motivos, el trabajo (directo o mediante interposición) en la economía de las plataformas no contiene ningún elemento que permita excepcionar las lógicas de protección recién descritas. Al contrario. Si algo caracteriza a lo que Alain SUPIOT denomina el «gobierno de los números» y que rige en estos hábitats digitales, es que la dirección y el control alcanzan, gracias a la parametrización que llevan a cabo, una intensidad y extensión sin parangón. En efecto, estos entornos empresariales «hiperinformacionales» (y, progresivamente, también los restantes) se articulan en torno a dos ejes vertebradores:
-En primer lugar (siguiendo con SUPIOT, La gouvernance par les nombres, 165 a 167), son sectores en los que la gestión por objetivos adquiere una entidad superlativa (o – según se mire – hipertrófica). Esto conlleva el reconocimiento de una amplia autonomía al asalariado en cuanto a los medios para alcanzarlos y transfiriéndole parte del riesgo económico, conforme a los planteamientos desarrollados en el marco de la teoría de la agencia. La fijación de estos objetivos tiene siempre como corolario el establecimiento de procedimientos de evaluación del desempeño del prestador del servicio.
En esta específica organización del trabajo, el autocontrol juega un papel preeminente: «en lugar de someter al trabajador al cumplimiento de reglas que definen su tarea de antemano, se le asocia a la definición de los objetivos asignados a esa tarea, objetivos en principio cuantificados, que desglosan a su nivel los fines comunes de la organización». De lo que se extrae que «cada trabajador así ‘objetivado’ está en condiciones de medir y reducir la brecha entre los objetivos fijados y su rendimiento real, según un proceso de autocontrol que (…), se identifica absolutamente con la libertad, puesto que satisface el ‘deseo de darse plenamente en lugar de contentarse con hacer justo lo que debe’». Al albur de esta realidad numérica, por lo tanto, no se pide a los trabajadores que obedezcan prescripciones, sino que alcancen objetivos cuyo logro se evalúa a partir de indicadores numéricos. Así pues, no es que las notas definidoras del trabajo asalariado queden «desnaturalizadas», sino que lo que sucede propiamente es que, en esta gestión por objetivos hipertrofiada, quedan «redefinidas» y, una vez asentadas, proyectan sobre las personas trabajadoras un nivel de subordinación más intenso si cabe.
En efecto (siguiendo con SUPIOT, 194), sometidos a una reactividad en «tiempo real», las personas trabajadoras son evaluadas a la luz de indicadores de rendimiento, sin relación con las condiciones de su ejecución, y exigiéndoles su aumento indefinido. Con la gobernanza por los números, «los resultados del trabajo son esencialmente medidos por indicadores cifrados, pero es necesario que el sujeto se apropie de esta evaluación para reaccionar positivamente ante la brecha que ella desvela entre su rendimiento y sus objetivos». Es obvio que la asimetría de poder entre las partes contratantes es enorme (y también lo es que tras el barniz de la libertad y voluntarieidad, en numerosas ocasiones, subyacen estados de necesidad severos).
-En segundo lugar, la normatividad se proyecta como un acto de programación -o de cómputo-, ajeno al arbitrio de la voluntad humana (cuya influencia se ve cada vez más relegada a los márgenes). Por este motivo, la irrupción de la IA en la economía de plataformas (y en el resto de los sectores) no altera, en puridad, los parámetros definidores del empleador: lo determinante no es el origen -humano o artificial- de la fijación de objetivos, la transmisión de instrucciones o la supervisión, sino que sigue siendo quién es el sujeto que los recibe y queda sometido a monitorización. Lo que sí acontece es un reequilibrio de pesos de las facultades intrínsecas del poder dirección y control (sin alterar, propiamente, su fisonomía), pues, tiende a focalizarse en la implacable evaluación del trabajo realizado (la efectiva consecución de los objetivos).
Estos dos vectores desvelan una específica realidad subyacente (SUPIOT, 164 y 167): la organización científica del trabajo, que perseguían por igual el capitalismo y el comunismo, ahora, simplemente ha cambiado de forma, pues, se manifiesta a través de algoritmos o, más recientemente, de la IA. En efecto, «la organización del trabajo ya no se concibe como un juego de pesos y fuerzas en el que el trabajador no sería más que un engranaje, sino como un sistema programable que hace comunicar entre sí unidades capaces de reaccionar a las señales que reciben en función de dicha programación». Este gobierno de los números, de hecho, esta suplantando al gobierno de las leyes. De modo que, ya no se trata de obedecer prescripciones normativas o contractuales, sino (y cada vez más) alcanzar objetivos cuya realización es evaluada mediante los citados indicadores cifrados. La particularidad del momento es que estamos a las puertas de la generalización exponencial del «data driven manufacture» (la empresa dirigida por los datos) y el trabajo en plataforma se encuentra, probablemente, a la vanguardia de esta transición. El principal eje de este modelo gravitará alrededor del «individuo programado» y la idea de que debe objetivarse a sí mismo a través de la alineación de su rendimiento a los patrones (fundamentalmente objetivos) dictados por las máquinas. En definitiva (BRIDLE, La nueva edad oscura, 146), del mismo modo que los objetos inanimados, se aspira a que el ser humano también sea objeto de actualización y optimización.
Una última reflexión
Llegados a este punto, permítanme una última reflexión para concluir:
Lejos de los cantos de sirena de quienes ensalzan acríticamente las supuestas bondades de la técnica, y considerando la magnitud de lo que está en juego, no cabe equívoco alguno. Si en este entorno digital (regido por una versión hipertrofiada de la gestión por objetivos) el poder de dirección y control es, en realidad, más intenso, la conceptualización de la subordinación y de la interposición mediante la puesta a disposición, así como las garantías que de ellas se derivan, no solo deben mantenerse ancladas en su configuración actual (sin retroceder ni un milímetro), sino que exigen, de forma ineludible, su refuerzo.
*La presente entrada es un fragmento de la ponencia que impartiré en el «II Congreso sobre IA y Digitalización del Trabajo, que tendrá lugar los días 25 y 26 de Junio en Valencia», que forma parte de las actividades del proyecto ALEXNE, «Algoritmos extractivos y neuroderechos. Retos regulatorios de la digitalización del trabajo» (ref. PID2022-139967NB-I00) y que dirijo conjuntamente con el Prof. Adrián Todolí.
Notas
[1] Una sintética descripción de los modelos «Human in the Loop (HITL)», «Human on the Loop (HOTL)» y «Human in Command (HIC)» aquí: https://datos.gob.es/es/blog/mecanismos-de-supervision-de-sistemas-de-inteligencia-artificial-human-loop-human-loop-y-human
[2] El uso debe estar justificado. Es decir, según las Directrices sobre decisiones individuales automatizadas y elaboración de perfiles a los efectos del Reglamento 2016/679 del GT29 (p. 26), al respecto debe entenderse «teniendo en cuenta si se puede adoptar un método menos invasivo para la intimidad». La justificación, no obstante, no debería circunscribe a los casos en los que el volumen de datos a procesar sea muy elevado (por ejemplo – como se indica en las citadas Directrices – en un proceso de selección masivo). En términos generales, pueden darse muchas situaciones en las que el uso de «fórmulas» (más o menos complejas) pueda ser oportuno (por el «ruido» existente o el riesgo a la concurrencia de sesgos humanos); o bien, sea un método con menos margen de error – que el humano – para alcanzar un juicio predictivo (por ejemplo, en el caso de plantearse un despido por «causas de empresa» preventivo).
[3] El carácter «personal» de los datos (según la STJUE 27 de febrero 2025, C‑203/22, Dun & Bradstreet Austria) es predicable de sistemas automatizados que han sido entrenados con datos de personas distintas a las que se les aplica.
[4] En términos generales, de acuerdo con la síntesis del contenido de las Directrices del GT29 sobre la intervención humana que lleva a cabo la Resolución PS/00324/2023 AEPD (caso BOSCO), cabe entender que el responsable del tratamiento garantiza esta supervisión si se cumplen cuatro requisitos: «primero, intervención humana por parte del responsable; segundo, la supervisión humana de la decisión ha de ser significativa y no un simple gesto simbólico; tercero, ha de llevarse a cabo por una persona autorizada, con competencia para modificar la decisión; y, cuarto, dicha revisión implica la necesidad de una evaluación completa de todos los datos pertinentes, incluida cualquier información adicional facilitada por el interesado». Regulación que debe complementarse con las directrices establecidas en el art. 9 del Convenio 108+ del Consejo de Europa, para la Protección de las Personas con respecto al Tratamiento de Datos Personales (una versión en castellano aquí: https://rm.coe.int/convnio-para-la-proteccion-de-las-personas-con-respecto-al-tratamient/1680968478).
Por otra parte, debe tenerse en cuenta que de acuerdo con la STJUE 7 de diciembre 2023 (C-634/21), SCHUFA Holding (Scoring), «la generación automatizada, por una agencia de información comercial, de un valor de probabilidad a partir de datos personales relativos a una persona y acerca de la capacidad de esta para hacer frente a compromisos de pago en el futuro constituye una «decisión individual automatizada», (…) cuando de ese valor de probabilidad dependa de manera determinante que un tercero, al que se comunica dicho valor, establezca, ejecute o ponga fin a una relación contractual con esa persona».
[5] De acuerdo con el ap. 4 del Anexo III del RIA reciben tal calificación: «(a) Sistemas de IA destinados a ser utilizados para la contratación o selección de personas físicas, en particular para publicar anuncios de empleo específicos, analizar y filtrar solicitudes de empleo y evaluar candidatos»; y «(b) Sistemas de IA destinados a ser utilizados para tomar decisiones que afecten a las condiciones de las relaciones laborales, la promoción o la finalización de relaciones contractuales laborales, para asignar tareas basadas en el comportamiento individual o en rasgos o características personales o para supervisar y evaluar el rendimiento y el comportamiento de las personas en dichas relaciones».
[6] El art. 10 establece: «Toda decisión de restringir, suspender o poner fin a la relación contractual o a la cuenta de una persona que realice trabajo en plataformas, o cualquier otra decisión que cause un perjuicio equivalente, será adoptada por un ser humano».
[7] Según la STJUE 20 de noviembre 2001 (C-268/99), Malgorzata Jany, el trabajo con una relación de subordinación se caracteriza por que el empresario determina la elección de la actividad y las condiciones de trabajo y de retribución. Obviamente, este concepto también debe ser complementado con lo apuntado por la STS\Pleno 25 de septiembre 2020 (rec. 4746/2019) – extensamente al respecto aquí.
#AIFree
#hechoporunhumanoparahumanos
