ALGORITMOS Y TRABAJO: EL DERECHO A LA TRANSPARENCIA

La Inteligencia Artificial y los algoritmos impactan fuertemente sobre el trabajo y políticos, legisladores, organizaciones de empleadores y sindicatos corren de atrás. La velocidad de los cambios puede más que la preocupación de la sociedad.

La expresión “algoritmo” es definida por la Real Academia Española como un “conjunto ordenado y finito de operaciones que permite hallar la solución de un problema”, es decir que es una “secuencia de operaciones” que nos da un producto o solución a un problema planteado. 

Hay distintas opiniones sobre el origen de la palabra, de indudable origen árabe como indica el prefijo “al”. La más conocida nos remite a una localidad cerca de Bagdad - Al-Khwārizmī , donde nació y vivió entre el 780 y el 840 d.C. el célebre matemático Ben Musa, apodado Al-Khwārizmī, quien contribuyó a difundir en occidente la matemática árabe.

Ejemplos comunes de algoritmos en matemática son una multiplicación o una división, el cálculo del mínimo común divisor o reglas para la solución de ecuaciones. En mi hábito de aterrizar conceptos abstractos a la vida cotidiana señalo que una receta de cocina “es” un algoritmo. En la receta tenemos determinados ingredientes (azúcar, harina, levadura, huevos, etc.), batimos todos ellos con la finalidad de preparar una torta de crema. 

Pero también es cierto que si modificamos los ingredientes (por ejemplo, agregamos cocoa), tendremos una torta de chocolate. La calidad de los ingredientes nos dirá también si la torta tiene excesos de grasas o grasas saturadas o azúcar.

            La sencillez del ejemplo de la torta nos permite entender que el producto final de un procedimiento algorítmico estará siempre vinculado a los ingredientes de la receta. Ello  significa que cualquier aplicación de algoritmos al mundo del trabajo podrá ser más o menos acertada, más justa o más discriminatoria, más legítima o arbitraria en virtud de los datos que introduzcamos en la computadora o procesador a los efectos de alcanzar la resolución de un problema: por ejemplo, seleccionar trabajadores, medir la productividad, establecer protocolos de seguridad, despedir a quienes no cumplan con los requisitos determinados por la lógica algorítmica.

            El autor español Mercader Uguina expresa que la incorporación de la Inteligencia Artificial (IA) en la empresa determina que cada vez más empresarios “están dispuestos a delegar o, si se prefiere, a descentralizar parte de sus poderes tradicionales trasladando un importante número de decisiones a la presunta objetividad y plena fiabilidad que proporciona el recurso a los algoritmos”. De ese modo el impacto de la IA y los algoritmos se proyecta sobre los diversos aspectos que componen la autonomía organizativa de la empresa, abarcando las más diversas áreas desde la selección del personal hasta la forma y modo de ejercicio del poder de dirección, incluyendo la dimensión disciplinaria. Importa también señalar - como lo hace el experto catalán de plataformas Albert Cañigueral - que hoy los algoritmos y la IA cuando intervienen en funciones laborales, lo hacen independientemente de cuanto más o menos tecnológica sea la empresa. Una empresa absolutamente tradicional, una fábrica metalúrgica viejo estilo puede disponer de los avances tecnológicos más avanzados para gestionar y controlar su área laboral.

            La IA y los algoritmos comienzan por lo tanto a operar en diversos sectores de las relaciones laborales, que obraban habitualmente bajo la gestión del departamento de personal y/o recursos humanos.

            Asumida esta realidad, entiendo que cualquier estudio o debate sobre la temática del impacto de los algoritmos sobre el trabajo deberá centrarse fundamentalmente en el conocimiento (o la posibilidad de conocimiento) de parte de todos los interesados sobre los datos que constituyen el punto de partida del algoritmo De ahí que uno de los aspectos más reclamados en este tema es el de la transparencia algorítmica, es decir el derecho de la persona cuyos datos se usen, a conocer los procedimientos de elaboración del algoritmo, cuestión no siempre visible.

            Paolo Zuddas, docente de la Universitá degli Studi dell’Insubria (Italia), define el deber de transparencia del algoritmo como “la obligación de las personas que adoptan decisiones con el auxilio de sistemas automatizados de tratamiento de datos, de brindar a los destinatarios una explicación comprensible de los procedimientos empleados y de justificar bajo este perfil las decisiones adoptadas”. Subrayamos el hecho que la explicación debe ser “comprensible”: no se cumple con la obligación simplemente con suministrar datos abstractos de imposible conocimiento para la persona común.

            El derecho a la transparencia del algoritmo ha sido recientemente reconocido en España por el Real Decreto legislativo N° 9/2021 de 11 de mayo de 2021, que lo define como el derecho a “ser informado por la empresa de los parámetros, reglas e instrucciones en los que se basan los algoritmos o sistemas de inteligencia artificial que afectan a la toma de decisiones que pueden incidir en las condiciones de trabajo, el acceso y mantenimiento del empleo, incluida la elaboración de perfiles”.

            En Uruguay, la “Agencia de Gobierno Electrónico y Sociedad de la Información y del Conocimiento” (AGESIC) - unidad ejecutora dependiente de la Presidencia pero con total independencia técnica - no es ajena al tema, que estudia en el marco de los temas y problemas que plantea Inteligencia Artificial (IA). La “transparencia” - según AGESIC - es uno de los principios centrales que debe guiar a la Inteligencia Artificial en los procedimientos de uso de datos y algoritmos. “Las soluciones de IA utilizadas en el ámbito público deben ser transparentes, cumpliendo con la normativa vigente de acceso a la información pública. Está transparencia debe: Poner a disposición los algoritmos y datos utilizados para el entrenamiento de la solución y su puesta en práctica, así como las pruebas y validaciones realizadas. Visibilizar explícitamente, a través de mecanismos de transparencia activa, todos aquellos procesos que utilicen IA, ya sea en la generación de servicios públicos o en el apoyo a la toma de decisiones”.    

            Al plantear el tema en el blog, expresamos también nuestra preocupación porque no vemos (ojalá por ignorancia propia) que el tema preocupe especialmente a los actores sociales a la hora de la negociación de las condiciones laborales. Cuestiones cuantitativas como el salario o primas vinculadas al teletrabajo parecen agotar el objetivo de la negociación, dejando de lado cuestiones que - como el derecho a la transparencia de los algoritmos y el eventual uso arbitrario de los mismos - nos parecen centrales en el debate actual. En la mayoría de los casos los recursos humanos están ya robotizados y ello puede ser un bien o un mal, pero mientras no profundicemos en el tema, estaremos cada vez más condenados al cybercontrol.

            De no reaccionar ante el poder algorítmico, descuidaremos así un derecho esencial: el de conocer los ingredientes de la torta, que ya estamos comiendo...