El uso de algoritmos para la toma de decisiones no está desprovisto de algunos riesgos, especialmente, porque (entre otro motivos) si los datos que los alimentan están sesgados, muy probablemente, esto contaminará la decisión final (es lo que se conoce como: «garbage in, garbage out» – GIGO).

Sin menoscabar el potencial dañino de esta circunstancia (y, especialmente, el impacto que se deriva de la escalabilidad de la herramienta) tendemos a olvidar que los algoritmos (o las fórmulas más o menos complejas) también pueden contribuir a desvelar los sesgos ocultos de las personas.

El cerebro humano es una «caja negra» biológica. De modo que (aunque su impacto normalmente no es escalable, o mucho menos), no sólo puede cobijar sesgos, sino que, además, si son sesgos conscientes, nuestra inteligencia nos permite esforzarnos para tratar de enmascararlos (aportando una sofisticada argumentación para justificar una decisión).

Por este motivo (como, de forma más extensa, expongo en el libro Inteligencia artificial y neuroderechos – espero que no se molesten por este «bombardeo publicitario» …), la delegación de ciertas funciones humanas a las máquinas puede ser percibida como una oportunidad. Podría contribuir a dar luz sobre juicios cuya explicabilidad se ve imposibilitada por la insondabilidad de nuestro cerebro.

La cuestión es que la SJS\5 Vigo 30 de noviembre 2022 (rec. 175/2022) describe un excelente ejemplo de esta cuestión. Permítanme que les exponga los detalles del caso y les sintetice la fundamentación (aunque, centrándome, fundamentalmente en la cuestión sobre el uso de algoritmos apuntada).

A. Detalles del caso y fundamentación

El caso se refiere a una trabajadora de la Autoridad Portuaria de Vigo (APV) que presta servicios como policía portuaria. Es miembro del Comité de Empresa, por el sindicato Confederación Intersindical Galega. Ante la convocatoria de un proceso para la cobertura temporal, mediante movilidad funcional, del puesto (superior) de Jefe de Servicio de Policía Portuaria por enfermedad de su titular, se presenta junto con 9 candidatos más.

Iniciado el procedimiento (que incluye una entrevista personal), se da la circunstancia de que la trabajadora es la que obtiene la mejor puntuación de acuerdo con los resultados obtenidos por un algoritmo (a partir de un parámetro de menor distancia al perfil del puesto). No obstante, no es la elegida, concediéndose a otro trabajador (porque la empresa otorga prevalencia a criterios de idoneidad extraídos de la entrevista personal en lugar de los que se extraen del algoritmo).

Solicita la trabajadora demandante (mediante la modalidad especial de tutela de la libertad sindical) la declaración de nulidad del trámite seguido en régimen de movilidad funcional brevemente descrito.

Debe tenerse en cuenta también que esta circunstancia que padece la actora (mejor puntuación y no selección) se repite en 2 procesos posteriores; y que, con anterioridad al proceso objeto de este litigio, el propio JS\5 de Vigo, ya había dictado una sentencia en la que se confirmaba que la condición de liberada sindical de la actora la había perjudicado en una movilidad anterior.

El JS de Vigo, a partir de la prueba practicada, entiende que puede inferirse datos datos indiciarios acerca de una relación causal entre la condición de representante legal de la actora en nombre de la CIG y su postergación en esos procesos de movilidad funcional para que los que se había perfilado como candidata.

Esa percepción no solo se extrae de tal condición de legal representante de los trabajadores, sino de los siguientes elementos de juicio:

1.- El criterio de la menor distancia al perfil del puesto era el modelo al que habitualmente acudía la empresa, sin que exista una explicación aparente acerca del motivo por el cual la APV se aparta del mismo en algunas ocasiones, la cual hace omiso a los requerimientos de todas las representaciones sociales de cara a articular algún método de valoración dotado de un mayor grado de transparencia u objetividad.

2.- Coincide que precisamente en todos aquellos procesos en los que la actora de manera objetiva ha obtenido la menor puntuación respecto al perfil de ocupación ha quedado retrasada tras la celebración de la entrevista, caracterizada por una mayor subjetividad que el algoritmo de distancia. Así se desprende, no solo del proceso de noviembre de 2017, declarado como nulo según sentencia firme con autoridad de cosa juzgada, como del de octubre de 2021 o incluso de otro posterior de enero-febrero de 2022 para el puesto de técnico de operaciones portuarias. Por tanto, nos encontramos que por ignotas razones detectadas en las entrevistas, su perfil no es el adecuado para puestos tan heterogéneos como el de técnico de recurso humanos (noviembre de 2017), jefe de servicio de policía portuaria (octubre de 2021) o técnico de operaciones portuarias (enero-febrero de 2022).

3.- Ya en el pasado la empresa había reconocido sin ambages que su condición de liberada sindical había constituido un factor que le había colocado en una situación de desventaja (Sentencia de este Juzgado).

4.- La empresa no ha justificado que en sede de movilidad funcional constituya una tónica habitual que no resulte elegido el candidato con menor distancia al puesto.

Y frente a ese escenario que abona esa relación causal entre su cualidad de representante sindical y su falta de selección en movilidades funcionales en las que según el algoritmo era la candidata con menor distancia al perfil del puesto, competía a la empresa, ex artículo 96 de la LRJS, aportar una justificación objetiva y razonable, suficientemente probada, de las medidas adoptadas y de su proporcionalidad, actividad que no ha despegado en esta litis (…)».

A la luz de todo lo anterior, entiende que la actuación empresarial conlleva una vulneración del derecho a la libertad sindical (reconociendo el derecho de la trabajadora a ocupar la citada plaza – que, tras la reincorporación del sustituido por alta médica, se ha mantenido como medida de refuerzo dado el incremento de la actividad portuaria).

B. Valoración final

A la luz de este caso, creo que es importante tener en cuenta lo siguiente (KAHNEMAN, SIBONY y SUNSTEIN, Ruido, 370 y 150): No deberíamos olvidar que «un algoritmo puede ser más transparente que los seres humanos». Pueden ser objeto de una cuidadosa evaluación para garantizar que «no consideren inputs inadmisibles y comprobar si discriminan de forma objetiva».

En cambio, la posibilidad de someter a las personas al mismo tipo de escrutinio es mucho más difícil: «las personas a veces discriminan inconscientemente y de maneras que los observadores externos, incluido el sistema jurídico, no pueden advertir fácilmente».

Además, con facilidad, a un algoritmo se le puede enseñar a reducir resultados que, por ejemplo, arrojaban un sesgo discriminador. Corrección, sin duda, más difícil (casi imposible) cuando se trata de personas adultas.

Soy consciente que la doctrina (y, en particular, la iuslaboralista) es particularmente recelosa con el uso de esta tecnología. Y estas reservas están justificadas, porque (como he apuntado) los riesgos son elevados. No obstante, valoramos la capacidad (limitada) de los instrumentos computacionales (que calificamos como sabio-idiotas) tomando como referencia el supremacismo humano. Y, al hacerlo, obviamos todas nuestras limitaciones cognitivas (que, por cierto, no son pocas).

En definitiva, creo que, si dejamos que nos complementen (y no que nos sustituyan), podremos aspirar a una menor oscuridad en la toma de decisiones humanas y, de este modo, combatir, por ejemplo, la arbitrariedad, la discriminación y/o la disparidad de criterios sin un motivo justificado.

Ahora bien, tenemos que aprender a hacerlo con inteligencia…